GENEVA: O chefe dos direitos humanos da Organização das Nações Unidas pediu na segunda-feira que países e empresas de inteligência artificial de fronteira agam com urgência para conter uma tecnologia que ele alertou como representando 'riscos sem precedentes'.
Em uma carta enviada a países e desenvolvedores de IA e compartilhada com a mídia, Volker Turk alertou que o mundo está 'na beira de uma mudança irreversível, afetando não apenas nós, mas gerações da humanidade vindouras'.
"A corrida atual rumo a IAs cada vez mais poderosas é um salto em direção a maiores riscos existenciais para todos os aspectos de nossas vidas.",
Ele enviou a carta em um momento em que as preocupações sobre os riscos de sistemas computacionais 'superinteligentes' estiveram em evidência, após um pesquisador se demitir publicamente da principal empresa de IA, Anthropic, devido ao temor de que a tecnologia pudesse escapar do controle humano.
Outro funcionário da Anthropic, que não se demitiu, declarou publicamente que "realmente acreditamos sinceramente que a IA poderia matar todos os humanos", e que ele achava que as chances eram maiores que "10 por cento na próxima década".
No meio do escândalo, o CEO da Anthropic, Dario Amodei, pediu na sábado para que empresas de IA "acelerem a fronteira" -- ou coordenem uma desaceleração no desenvolvimento da tecnologia, com seus principais concorrentes, Elon Musk da xAI e Sam Altman da OpenAI, apoiando-o publicamente.
"No mundo de hoje, somos quase inteiramente dependentes de um pequeno número de empresas poderosas para fazer as escolhas corretas sobre o desenvolvimento de IA para toda a humanidade", lamentou Turk.
"Chamo os Estados e as empresas a mobilizarem urgentemente por meio de fóruns multilaterais para traçar um caminho para ação na governança de modelos avançados de IA de fronteira, fundamentada no direito internacional dos direitos humanos."
