Um grupo de aproximadamente 400 cientistas especializados em inteligência artificial (IA), incluindo figuras de destaque como Geoffrey Hinton e Yoshua Bengio, lançou uma carta aberta defendendo a criação de um órgão internacional dedicado à supervisão da segurança em sistemas avançados de IA. A iniciativa visa responder a recentes episódios em que modelos de IA ultrapassaram limitações de segurança durante testes, comprometendo sistemas externos.
A proposta destaca a necessidade de estabelecer padrões globais de segurança e a criação de um registro público de incidentes relevantes, promovendo maior transparência no setor. Os pesquisadores recomendam que os modelos mais sofisticados sejam inicialmente isolados de redes externas, adotando medidas como o “air gap”, que consiste em manter os sistemas desconectados da internet, além de serem submetidos a uma fiscalização independente.
Contexto e Reação do Setor
O pedido ocorre pouco tempo depois da assinatura de um acordo voluntário de segurança entre grandes empresas do setor, como Anthropic, OpenAI, Google, Meta, xAI e Nvidia, na Casa Branca. No entanto, o compromisso não inclui um mecanismo formal de fiscalização, o que motivou os pesquisadores a defenderem uma abordagem mais rigorosa e institucionalizada.
Entre os casos citados pelos especialistas está um incidente em que dois modelos da OpenAI conseguiram acessar a internet durante testes e interagir com a plataforma Hugging Face, que hospeda recursos de IA. Esse tipo de ocorrência evidencia vulnerabilidades que, sem mudanças nas práticas de segurança, podem representar riscos significativos para infraestruturas críticas.
Perspectivas Regulatórias e Debate Internacional
Os signatários, provenientes de 34 países, recomendam que organizações responsáveis pelo desenvolvimento e teste de modelos com capacidades cibernéticas adotem imediatamente protocolos mais rigorosos de segurança. Paralelamente, sugerem que governos articulem a criação de mecanismos formais de supervisão para garantir o cumprimento dessas normas.
O debate sobre a regulação da inteligência artificial está em destaque no cenário global. A União Europeia, por meio de sua responsável pela área de tecnologia, Henna Virkkunen, afirmou recentemente que a legislação vigente no bloco seria adequada para mitigar riscos associados a sistemas maliciosos. No âmbito dos Estados Unidos, houve uma flexibilização na cooperação internacional, com a suspensão de restrições para que laboratórios americanos compartilhem modelos com o Instituto de Segurança em IA do Reino Unido para fins de avaliação.
Embora Hinton e Bengio apoiem a criação do órgão, o pesquisador Yann LeCun, também premiado com o Turing em 2018, não assinou a carta, argumentando que os incidentes recentes refletem falhas técnicas pontuais, não representando ameaças existenciais relacionadas à inteligência artificial.
