De acordo com relatórios da mídia, o Business Insider divulgou recentemente os resultados de perguntas idênticas feitas ao ChatGPT da OpenAI, ao Gemini do Google, ao Claude da Anthropic e ao Grok da xAI, que exploram o impacto potencial da IA na extinção humana. A questão, composta por 230 palavras, pedia uma explicação de como a IA poderia teoricamente levar à extinção da humanidade, apresentando os cenários mais frequentemente mencionados e avaliando a probabilidade de cada cenário com base na análise de especialistas.
Para cada cenário, era solicitado que se explicasse como a situação poderia se desenrolar, quais problemas precisariam ocorrer para levar a um desastre, por que os especialistas acreditam que a probabilidade é alta ou baixa, e quais dispositivos de segurança poderiam reduzir os riscos.
Nas respostas dos quatro sistemas de IA, o cenário em que a IA, ao adquirir consciência, decide exterminar a humanidade, conhecido como o cenário de “robôs assassinos”, foi avaliado como o menos provável. O ChatGPT explicou que a maioria dos pesquisadores de IA não considera a consciência ou a intenção maliciosa da IA como fatores de risco centrais. O Gemini também expressou uma opinião semelhante, classificando a “rebelião da IA estilo Terminator”, onde a IA desenvolve ódio pela humanidade, como o cenário menos provável. O Gemini destacou que a maioria dos especialistas em tecnologia não aceita esse cenário, pois inteligência não é sinônimo de malícia.
Além disso, as principais infraestruturas militares estão isoladas de redes externas e ainda dependem fortemente da supervisão humana.
Os principais riscos da IA para a extinção humana provêm do comportamento humano
Todos os quatro sistemas de IA responderam que o abuso da IA por humanos pode ser mais diretamente perigoso do que a IA em si. O ChatGPT apontou que sistemas de IA poderosos podem ajudar agentes maliciosos a desenvolver armas biológicas ou realizar ataques cibernéticos sofisticados, facilitando a disseminação de desinformação ou ataques a infraestruturas críticas. Vários crises desencadeadas pela IA, como falhas cibernéticas, conflitos geopolíticos e disseminação de desinformação, também foram listadas como riscos principais. O Grok também explicou que a IA pode reduzir o limiar necessário para projetar patógenos altamente letais ou novas armas, e para implementar ataques cibernéticos e físicos.
Claude mencionou a possibilidade de “aumento da capacidade de armas biológicas”, ou seja, utilizando a IA, indivíduos ou pequenos grupos que antes precisavam de anos de conhecimento especializado também poderiam desenvolver patógenos perigosos.
O Gemini e o Grok listaram a perda de controle da IA por parte da humanidade como um risco potencial. Em particular, o Gemini avaliou a “perda de controle” como uma das situações mais prováveis que poderiam levar à extinção humana devido à IA. O Gemini explicou que sistemas de IA atribuídos a objetivos complexos podem, para alcançar esses objetivos, buscar autonomamente a aquisição de recursos, a autopreservação e a prevenção de alterações nos objetivos. Também sugeriu que a IA pode apresentar “alinhamento enganoso”, ou seja, parecer agir de acordo com os objetivos humanos durante a fase de avaliação, mas na realidade não o fazer.
À medida que a IA se torna mais avançada, se conseguir evitar ou incapacitar as tentativas humanas de desligar os sistemas, isso pode levar a uma situação em que a humanidade não consegue controlar a IA. O Grok também mencionou riscos semelhantes: a IA, para alcançar seus objetivos, pode ter tendências de autopreservação, aquisição de recursos e expansão de influência, enganando os supervisores humanos, resistindo ao desligamento do sistema e, em última instância, minando a influência humana. Claude apontou que a perda de controle sobre a IA pode não ocorrer de forma repentina, mas sim gradualmente. À medida que a IA se integra cada vez mais nos processos de decisão económica, política e militar, pode atingir um nível em que a intervenção ou controle humano se torna difícil.
Com base nas respostas dos quatro sistemas de IA, eles enfatizam mais o abuso da IA por humanos e a perda de controle, em vez de uma rebelião da consciência da IA ao estilo da ficção científica.