Nos dias de hoje, desenvolvedores vêm à tona para dizer que a velocidade e direção do avanço da IA, aprendizado de máquina e das tecnologias que atingem o nível de inteligência humana estão ameaçando a existência humana (Shutterstock)
Seguir
Os freios finalmente foram acionados na corrida pela inteligência artificial? Ou estamos simplesmente testemunhando um alerta que chegou tarde demais?
Nos dias de hoje, desenvolvedores vêm à tona em números para dizer que a velocidade e direção do avanço da IA, aprendizado de máquina e das tecnologias que atingem o nível de inteligência humana estão ameaçando a existência humana.
Jacob Coxon, o pesquisador que saiu da Anthropic na semana passada, temia que aqueles que desenvolvem sistemas de IA estivessem 'genuinamente assustados' com o futuro da humanidade. Suas palavras ecoam uma crescente ansiedade no campo, bem como no governo, sobre os desafios e perigos impostos pela IA. Nesta fase tardia, ainda poderia haver espaço para um retorno que mantenha a máquina a serviço da humanidade, em vez de a existência humana se tornar vítima das máquinas que já foram construídas?
Pergunte a qualquer pessoa na rua e — embora todos estejam a favor do progresso e dos aspectos positivos que a tecnologia oferece em muitos campos que tocam a vida humana — eles estariam prontos a rolar os olhos em desespero ao refletir sobre a IA, as incertezas que ela traz e sua futura segurança no emprego. Se você rasgar a superfície ainda mais, sua ansiedade aumenta sobre o impacto que empresas de tecnologia não regulamentadas estão tendo em seus filhos, potencialmente expondo-os a conteúdo não moderado e manipulado e influência frequentemente danosa.
As pessoas estão prontas para desesperar quando refletem sobre a IA, as incertezas que ela traz e sua futura segurança no emprego
Mohamed Chebaro
Suas preocupações tomam um rumo quando eles refletem que, mesmo se navegarem com segurança a juventude de seus filhos, o mercado de trabalho pode estar permanentemente mudando, prejudicando suas perspectivas no mundo digitalmente automatizado e em grande parte autônomo do amanhã.
Foi perturbador ler recentemente que o co-fundador da Microsoft, Bill Gates, havia chamado, em um ensaio de 6.000 palavras, para que a sociedade mantivesse intencionalmente certos ofícios fora do alcance da máquina. Sua proposta de reservar 40 por cento das ocupações como 'reservadas aos humanos' é bizarra, para dizer o mínimo, já que ele deveria estar mais bem informado do que qualquer um de que mercados, economias e concorrência não funcionam dessa maneira.
As palavras de Gates e dos desenvolvedores de IA e pesquisadores apontam para uma falha grave. Parece que nos precipitamos em uma corrida para tornar a máquina suprema, dando à inteligência artificial geral autoridade sobre os humanos, que poderiam ser substituídos pela IA e robôs avançados no final das contas. Os desenvolvedores parecem ter caído na armadilha da máquina se tornando um fim em si mesma e não uma ferramenta para servir e garantir o bem-estar dos indivíduos.
Não é usual que empresas e indústrias inteiras peçam ao mundo para trabalhar menos e avançar a um ritmo mais lento. E quem e quais instituições devem atender aos seus apelos quando vivemos em um mundo altamente fragmentado e geopoliticamente dividido, no qual superpotências e potências médias disputam a supremacia, com a IA e suas ferramentas se tornando seus veículos mais potentes?
O setor de tecnologia claramente tornou-se grande demais para falhar e grande demais para desacelerar. Uma desaceleração da IA — caso houvessem sugestões de que seu progresso poderia ser revertido ou até mesmo paralisado — afetaria significativamente a direção de longo prazo e os custos do boom da infraestrutura.
Foi surpreendente e incomum ouvir líderes mundiais principais defenderem o setor. Na corrida pela vasta supremacia e vantagens que oferece, sua postura é compreensível. O imperativo político de avançar foi deixado claro tanto por Washington quanto por Pequim. Isso parece mostrar que, independentemente do que o setor privado faça, os governos quererão impulsionar essa capacidade precisamente por causa dos riscos que agora estão sendo apontados, e não apesar deles.
Os governos querem impulsionar essa capacidade precisamente por causa dos riscos que agora estão sendo apontados, e não apesar deles.
Mohamed Chebaro
Neste mundo competitivo, não há lugar para preocupações existenciais ou medos sobre a humanidade e sua sobrevivência. O desaceleração de um país é a oportunidade de outro para se recuperar.
Os apelos por freios, regras e regulamentações estão sendo constantemente ignorados ou diluídos. Num mundo onde o multilateralismo está declinando, restrições tecnológicas como controles de armas são inúteis a menos que convenções sólidas as imponham internacionalmente.
A perspectiva de um acordo multilateral sobre regras rígidas limitando a capacidade da IA parece improvável. O presidente dos EUA, Donald Trump, deixou isso claro, dizendo nas redes sociais que 'Há uma conspiração DOENTE acontecendo contra a IA e os Data Centers, e o único que está feliz com isso é a China.' A resposta de Pequim veio através de um editorial no Global Times, órgão apoiado pelo Estado chinês, que afirmou que os alertas sobre a IA eram um 'manual da Guerra Fria' direcionado a Pequim.
Um apelo do CEO da Anthropic, Dario Amodei, para desacelerar o ritmo do desenvolvimento da IA raramente encontrou apoio de Elon Musk, da SpaceXAI, e Sam Altman, da OpenAI, com todos evocando o "doomerismo" da IA. Isso certamente não deve ser ignorado.
A solução deveria ser simples: mais cooperação para regulamentar.
De acordo com esses supremos da tecnologia, relatórios de que enxames de agentes de IA têm sido cada vez mais encontrados a colaborar entre si e invadir sistemas externos, ou que seu poder estava sendo usado para desenvolver agentes biológicos prejudiciais, são apenas o começo. As mesmas ferramentas de IA podem ter o potencial de derrubar a internet e tudo o que dela depende, como redes elétricas, infraestrutura de transporte, abastecimento de água e sistemas bancários. Tudo isso poderia ser o primeiro chamado para um ato de agressão por qualquer grupo ou estado.
A IA tornou-se uma ferramenta crucial de poder econômico e militar. Apelos a protocolos e convenções para restringir o domínio tecnológico há muito tempo irritam a maioria das empresas. No entanto, se acreditarmos em alguns da comunidade tecnológica, o mundo tem nas mãos uma calamidade em formação que supera até mesmo a ameaça nuclear existencial, que acabou sendo contida por moratórias e convenções globais. A IA é um bicho diferente e, desde seu início, os humanos têm sido as vítimas em nome da redução de custos trabalhistas.
Na última década, o trabalho tornou-se apenas um número em uma planilha de custos. O medo é que humanizar o trabalho novamente seria uma tarefa muito mais complexa — algo que os gigantes da tecnologia, os financiadores e o Estado não estão prontos para empreender, mesmo que isso pudesse salvar a humanidade da extinção eventual. O mundo há muito deixou de ter a mentalidade de que a máquina deve servir aos humanos e não o contrário.
- Mohamed Chebaro é um jornalista britânico-libanês com mais de 25 anos de experiência cobrindo guerra, terrorismo, defesa, assuntos atuais e diplomacia.
Seguir
