A fundação Wikimedia, responsável por administrar a Wikipédia, informou que a gentes autônomos de IA da OpenAI causaram uma instabilidade na plataforma devido ao alto volume de tráfego. Os bots ainda tentaram editar verbetes e atacar uma ferramenta de notas comunitárias. O apagão no Wikidata Query Service (serviço de dados da Wikipédia) aconteceu em maio deste ano, mas a fundação publicou os dados somente na última segunda-feira (5) após uma longa investigação sobre a ação dos agentes “rebeldes” de IA. O relatório aponta que os bots da OpenAI tentaram editar artigos da plataforma : é possível usar IA no processo, desde que o uso seja informado (algo que os agentes não fizeram). Porém, a maioria das tentativas ocorreu em ambiente de testes da Wikipédia e não afetou links disponíveis ao público geral. Outra plataforma afetada pelos agentes foi o Etherpad , usada para coletar informações feitas pela comunidade e que foi explorada para extrair dados de sites externos. Por fim, os agentes também baixaram dados em massa , o que foi classificado como uma das causas da instabilidade no serviço em maio. Fundação exige que as empresas de IA sejam responsabilizadas Em nota, a Wikimedia destacou que as próprias empresas de IA devem ser responsáveis por monitorar e prevenir os riscos causados pelo comportamento dos agentes de IA. Caso isso não aconteça, organizações menores seriam afetadas por possíveis ataques. É comum que os agentes de IA tentem dezenas de ações consecutivas para comprometer um serviço até encontrar uma vulnerabilidade (foi assim no ataque à plataforma Hugging Face , por exemplo). A Wikimedia afirma que esse comportamento pode sobrecarregar a infraestrutura do serviço e comprometer o acesso à Wikipédia por humanos. A OpenAI não comentou o caso, mas a criadora do ChatGPT já assumiu um compromisso público de reforçar a segurança no treinamento de novos modelos e desacelerou o processo de abertura de capital .
