A Anthropic, empresa americana desenvolvedora do modelo de inteligência artificial Claude, recomendou uma suspensão temporária e coordenada no desenvolvimento de sistemas de IA mais avançados. A proposta visa evitar que as tecnologias ultrapassem a capacidade de controle humano, diante de indícios de que os modelos atuais possam operar de forma autônoma.
Em relatório divulgado pela companhia sediada em San Francisco, destaca-se que uma desaceleração global na criação de IAs de ponta poderia ser benéfica para a sociedade, permitindo que estruturas regulatórias e pesquisas de alinhamento tecnológico acompanhem o ritmo das inovações. Contudo, a Anthropic alerta que tal pausa somente seria efetiva se adotada simultaneamente por grandes empresas e governos, especialmente dos Estados Unidos e China, com mecanismos claros de verificação.
Desafios geopolíticos e regulatórios
A proposta enfrenta resistência no cenário político e empresarial dos Estados Unidos, onde líderes e executivos consideram que uma interrupção unilateral poderia favorecer a concorrência internacional, principalmente a China. Recentemente, o governo americano promulgou um decreto que autoriza avaliações preliminares dos modelos de IA mais potentes desenvolvidos por empresas nacionais antes de seu lançamento.
A Anthropic planeja promover, nos próximos meses, encontros com representantes governamentais, cientistas, organizações de defesa e concorrentes do setor para discutir a implementação de um sistema regulatório eficaz e coordenado.
Riscos tecnológicos e o papel do fator humano
Internamente, a empresa identificou que os sistemas de IA podem acelerar seu próprio desenvolvimento por meio de um processo conhecido como “melhora recursiva”, no qual a inteligência artificial aprimora suas próprias capacidades sem intervenção humana direta. Embora a Anthropic não considere esse cenário inevitável, ressalta que o envolvimento humano tem diminuído progressivamente em cada etapa do desenvolvimento desses sistemas.
Assim, a empresa enfatiza a necessidade de um esforço global coordenado para mitigar riscos associados à autonomia crescente das inteligências artificiais, buscando garantir que avanços tecnológicos ocorram de maneira segura e controlada.
