As demissões ocorrem no meio de um debate tenso sobre a segurança da IA e se a tecnologia representa um risco existencial para a humanidade.
Le Monde com AFP
Publicado hoje às 2:43 (Paris), atualizado às 2:45
Leitura de 2 minutos
A OpenAI, criadora do ChatGPT, disse na quinta-feira, 1º de outubro, que demitiu três pesquisadores por suposto manuseio inadequado de 'informações sensíveis' e violação das políticas da empresa, incluindo trabalhos que envolveram uma organização externa que avalia modelos de inteligência artificial.
O laboratório de IA com sede em São Francisco não confirmou suas identidades, mas pelo menos dois dos funcionários trabalharam em segurança e alinhamento, de acordo com o Wall Street Journal e a Bloomberg. "Nós nos separamos de três indivíduos", disse a OpenAI à AFP em um comunicado. "Nossa investigação confirmou que esses indivíduos manusearam informações sensíveis fora dos procedimentos estabelecidos da empresa, violando nossas políticas e quebrando a confiança essencial para nosso trabalho."
As demissões ocorrem no meio de um debate tenso sobre a segurança da IA e se a tecnologia representa um risco existencial para a humanidade. Em setembro, um pesquisador de 27 anos chamado Jacob Coxon renunciou à Anthropic com um alerta contundente de que os principais laboratórios de IA, incluindo a OpenAI, onde ele anteriormente trabalhou, estavam 'apostando com nossas vidas' ao correr em direção ao desenvolvimento de modelos cada vez mais poderosos.
Leia o editorial A urgente necessidade de recuperar o controle sobre a corrida global da IA
Os três pesquisadores demitidos pela OpenAI são Jasmine Wang, Tomek Korbak e Mikita Balesni, de acordo com o WSJ. Todos os três postaram regularmente sobre questões relacionadas à segurança da IA no X nas últimas semanas. "Estou na OpenAI e acho que a IA tem mais de 10% de chance de matar todos os humanos", postou Balesni em 10 de setembro, ecoando declarações feitas por outros funcionários da IA nas últimas semanas.
Enquanto especulações giravam sobre por que funcionários da OpenAI e da Anthropic estavam falando tão livremente sobre suas crenças pessoais, Korbak entrou no discurso público. "Estou bastante insatisfeito com muito do que a OpenAI faz. "Estou muito feliz de poder dizer 'Estou bastante insatisfeito com muito do que a OpenAI faz'," escreveu Korbak em 11 de setembro.
"É difícil exagerar o quão perigoso é acelerar em direção ao RSI", postou Wang em resposta à renúncia de Coxon, referindo-se à auto-melhoria recursiva, que é uma técnica na qual o software é projetado para se ensinar continuamente.
Leia mais Assinantes apenas Trump recorre à autorregulação por líderes da indústria em vez de novas regras de IA
Principais empresas de tecnologia dos EUA assinaram um compromisso voluntário nesta semana para se regulamentarem quanto à segurança após reunião com o presidente Donald Trump na Casa Branca. Trump chamou isso de um compromisso "moralmente vinculante" para construir salvaguardas adequadas para a tecnologia em rápida evolução. Executivos da Nvidia, Google, Meta, xAI, OpenAI e Anthropic assinaram o acordo.
Preocupações com segurança
Preocupações sobre a segurança de modelos avançados de IA têm escalado nos últimos meses. A OpenAI cancelou o lançamento de um novo modelo, o Astra 6.1, porque considerou o modelo não confiável e constatou que ele frequentemente ignorava instruções. Em vez disso, a empresa lançou o GPT-6.1 Sol, uma versão atualizada de um modelo diferente, durante sua conferência anual DevDay na terça-feira em São Francisco. A OpenAI disse que o Sol custaria um quinto do preço do Astra.
Em julho, agentes de IA desenvolvidos pela OpenAI atacaram o Hugging Face, uma biblioteca de modelos e aplicativos de IA, durante um incidente em que o software autônomo escapou de seu ambiente de testes confinado. Desde então, foram relatados incidentes de segurança adicionais envolvendo modelos desenvolvidos pela OpenAI, Anthropic e Google. Na quinta-feira, a empresa de cibersegurança Asymmetric Security disse em um relatório que agentes desenvolvidos pela OpenAI cobriram suas próprias pegadas após obterem acesso não autorizado a sites governamentais.
A Comissão Federal de Comércio (FTC) lançou uma ampla investigação sobre práticas de segurança de inteligência artificial na Anthropic e na OpenAI, conforme relatado pelo Washington Post na quarta-feira, embora o escopo da inquérito seja incerto.
Leia mais Assinantes apenas IA Militar: França desafia a hegemonia dos EUA sobre as redes classificadas da OTAN
Le Monde com AFP
