OpenAI está irritando um grupo de matemáticos – de novo

Em agosto, OpenAI convocado cerca de 40 matemáticos para discutir o que fazer se A IA ultrapassa as capacidades humanas no campo. A empresa deu a entender que seus modelos poderosos resolveram centenas de problemas matemáticos de longa data, dizem as pessoas presentes, mas os representantes da empresa garantiram aos participantes que não divulgariam as soluções todas de uma vez – uma garantia que Lindsay McCallum, porta-voz da OpenAI, disse que a empresa “não tem conhecimento” – e, preocupado com a forma como a comunidade poderia reagir, procurou conselhos sobre como publicar as descobertas.

Os participantes responderam com “uma mistura de entusiasmo e pavor”, mas a reunião foi um primeiro passo promissor, lembra a matemática da Northwestern University, Bryna Kra. O grupo, ela disse à WIRED, pediu à empresa que não apenas os publicasse em um blog ou tweet, como fizeram com 10 problemas no início daquele mês. Em vez disso, seria importante que a OpenAI publicasse artigos explicando o trabalho para que os matemáticos pudessem absorver, digerir e usar os resultados, segundo Kra. “Aparentemente, essa contribuição foi ignorada”, diz ela.

A OpenAI disse às pessoas que planeja despejar centenas dos resultados referenciados na reunião de agosto no GitHub na terça-feira, disseram pessoas familiarizadas com os planos à WIRED. O lançamento seria a mais recente de dezenas de milhares de soluções matemáticas geradas pela IA este ano, à medida que os modelos de fronteira se tornam cada vez mais capazes.

“Em 28 de agosto, começamos a treinar um novo modelo interno. Além de resolver o problema do Prêmio Navier-Stokes Millennium⁠, este modelo já resolveu mais de 100 problemas abertos de longa data na maioria das áreas da matemática”, diz McCallum. “Estamos trabalhando para divulgar de forma responsável os próximos resultados matemáticos do nosso modelo, com base em conselhos e recomendações públicas do Grupo Consultivo em Matemática e Inteligência Artificial do Instituto de Estudos Avançados para informar como divulgamos esses resultados. Não definimos um horário de lançamento.”

Mas para vários matemáticos importantes, o resultado iminente também é um sinal de que a empresa aprendeu pouco com o controvérsias em relação aos lançamentos anteriores.

Em conversas com a WIRED, os acadêmicos dizem sentir que o campo se tornou um playground para a OpenAI e sua rival Anthropic exibirem seus modelos enquanto ambas se preparam para ofertas públicas iniciais de grande sucesso. Na pressa de superar uns aos outros, dizem os matemáticos, os processos científicos tradicionais de divulgação e atribuição de resultados foram postos de lado.

O caso mais marcante até agora ocorreu em setembro. OpenAI implantado milhares de agentes para resolver um problema lendário do Prémio Milénio de um milhão de dólares depois de ouvir “rumores” de que outros estavam a aproximar-se de soluções. Tristan Buckmaster, matemático e professor da Universidade de Nova York, acusou a empresa de liderar o trabalho que ele havia feito para resolver um elemento do problema em colaboração pessoal com o funcionário da Anthropic, Levent Alpöge. A dupla não publicou seu trabalho, mas usou as ferramentas da OpenAI para ajudá-los.

Source link