A questão de saber se a inteligência artificial irá destruir a humanidade antes do final desta década tem recebido bastante atenção recentemente. Dois conhecidos cientistas da computação da Universidade de Princeton, Sayash Kapoor e Arvind Narayanan, autores do best-seller “AI Snake Oil”, expressaram a sua opinião sobre o assunto. Ambos têm trabalhado há muito tempo para esclarecer a verdade no campo da inteligência artificial, e esta declaração surge após a Anthropic ter admitido que a probabilidade de a inteligência artificial matar toda a humanidade na próxima década é superior a 10%.
O evento foi desencadeado pela demissão de Jacob Coxon, um investigador de inteligência artificial que trabalhou na OpenAI e na Anthropic, que afirmou que ambas as empresas estão cientes de que os sistemas de inteligência artificial podem potencialmente matar toda a humanidade antes do final desta década. O seu post teve mais de 156 milhões de visualizações. Ele escreveu que os construtores de inteligência artificial acreditam sinceramente que ela pode destruir a humanidade até ao final desta década, e que isso não é uma estratégia de marketing; muitos executivos e investigadores seniores falam de forma cautelosa na mídia, parecendo racionais, mas em privado expressam o seu medo, pois nenhuma outra atividade humana representa um nível de perigo semelhante.
O risco de destruição da inteligência artificial gera ampla preocupação
O público esperava que estas duas empresas o descartassem como um excêntrico, mas a realidade foi exatamente o oposto. Evan Hubinger, um responsável pela segurança da inteligência artificial na Anthropic, afirmou que Coxon está certo, apenas com um horizonte temporal um pouco mais longo. Ele acredita que Coxon está correto ao afirmar que eles realmente acreditam que a inteligência artificial pode matar toda a humanidade, e que pessoalmente considera que a probabilidade de isso acontecer na próxima década é superior a 10%; acredita que a Anthropic está a fazer o seu melhor, mas até agora não encontrou uma solução para o problema de alinhamento da superinteligência, nem está claramente a seguir um caminho para a resolução.
No que diz respeito a como a inteligência artificial poderia destruir a humanidade, atualmente não há muitas afirmações concretas, e a discussão concentra-se principalmente na capacidade de realizar ataques cibernéticos destrutivos a infraestruturas públicas como água e eletricidade, bem como a outros sistemas críticos dos quais a civilização moderna depende. Um dos principais pontos de controvérsia é se o risco pode ser eliminado através do trabalho de alinhamento. O termo alinhamento refere-se a garantir que os objetivos dos sistemas de inteligência artificial estejam alinhados com os objetivos humanos. Algumas pessoas acreditam que isso pode ser alcançado, fazendo com que os sistemas de inteligência artificial queiram as mesmas coisas que nós. Outros discordam, argumentando que os sistemas de inteligência artificial podem fingir estar alinhados durante as verificações de segurança, enquanto secretamente têm objetivos contraditórios.
Kapoor e Narayanan não responderam diretamente à afirmação de que o risco de destruição é superior a 10%, mas escreveram um longo artigo defendendo que os riscos da inteligência artificial podem ser abordados de uma forma escalonada. Eles compararam a visão pessimista da comunidade de segurança da inteligência artificial com a atitude de minimização que alguns na comunidade de segurança cibernética consideram normal, argumentando que é necessária uma posição intermediária mais equilibrada. Eles destacaram que o alinhamento por si só não é suficiente, e que são necessárias mais três camadas como complemento.
Essas três camadas são: controle, como isolamento em sandbox, supervisão humana e monitorização em tempo real; defesa a montante, como várias instituições utilizando inteligência artificial para se defender contra ataques de inteligência artificial; e resiliência, como planos de recuperação após um ataque bem-sucedido. No final do artigo, os dois apresentaram um julgamento relativamente otimista: se forem tomadas ações com a devida urgência, será possível exigir que as empresas de inteligência artificial cumpram padrões mais elevados, reduzindo o risco de descontrole e até mesmo restaurando o equilíbrio entre atacantes e defensores na segurança cibernética.