Jacob Coxon, pesquisador britânico de inteligência artificial, anunciou sua saída da indústria alegando preocupações com a condução dos avanços tecnológicos em duas das principais empresas do setor, OpenAI e Anthropic. Coxon trabalhou por três anos com o pré-treinamento de modelos de IA, etapa crucial para o aprendizado das máquinas, inicialmente na OpenAI e, mais recentemente, na Anthropic.
Em declarações publicadas na rede social X, Coxon afirmou que ambas as organizações não estão agindo com a responsabilidade necessária, ao avançarem rapidamente rumo ao desenvolvimento de sistemas de superinteligência capazes de autoaperfeiçoamento, o que, segundo ele, representa um risco significativo para a humanidade.
O pesquisador destacou que os profissionais envolvidos acreditam que a inteligência artificial poderia causar danos severos, incluindo a possibilidade de mortes em larga escala até o final da década. Ele criticou a competição entre as empresas, que, na busca por liderança no mercado, estariam dispostas a correr riscos elevados sem uma coordenação adequada ou supervisão governamental.
Contexto e posicionamentos no setor
A saída de Coxon ocorre em meio à preparação da Anthropic para abertura de capital na bolsa de valores. Até o momento, ambas as empresas não se pronunciaram oficialmente sobre as declarações do pesquisador. No entanto, Evan Hubinger, diretor de segurança da Anthropic, reconheceu publicamente a seriedade dos riscos, estimando uma probabilidade superior a 10% de que a IA possa causar fatalidades humanas na próxima década.
Especialistas do setor alertam que a indústria está próxima de alcançar o chamado “autoaperfeiçoamento recursivo”, estágio em que sistemas de inteligência artificial poderiam projetar e treinar novas versões com mínima intervenção humana, o que intensifica as preocupações sobre controle e segurança.
Em resposta a esses riscos, mais de mil profissionais da área, incluindo líderes como o CEO da Anthropic, Dario Amodei, solicitaram ao governo dos Estados Unidos a criação de mecanismos regulatórios para frear o avanço descontrolado da tecnologia. Recentemente, o diretor científico da OpenAI, Jakub Pachocki, também enfatizou a necessidade de cautela extrema e coordenação internacional para administrar o desenvolvimento da inteligência artificial.
