Recentemente, de acordo com relatórios da mídia, o CEO da Anthropic, Dario Amodei, respondeu às críticas de que estaria a “exagerar os riscos da IA”. Ele acredita que a atual aversão e resistência do público à IA se deve, fundamentalmente, a uma “crise de confiança” acumulada ao longo do tempo por empresas, governos e a indústria tecnológica, e não aos alertas de risco emitidos constantemente pelos líderes do setor.
Dario Amodei respondeu a uma controvérsia levantada anteriormente pelo investidor Gavin Baker. Baker acredita que a ênfase frequente de Amodei nos perigos potenciais da IA tem, objetivamente, exacerbado a resistência da sociedade americana à IA e à construção de centros de dados, e apontou que as empresas de IA deveriam mostrar mais ao público o valor positivo que a tecnologia pode trazer. Amodei discorda disso. Ele afirmou que suas discussões anteriores sobre os riscos e benefícios da IA têm sido, em geral, equilibradas, e que já escreveu especificamente sobre as possibilidades da IA melhorar a saúde, a ciência e o desenvolvimento social.
Amodei acredita que a crise de confiança é a razão fundamental da resistência do público à IA
Amodei reconheceu que o público, atualmente, tem uma clara emoção negativa em relação à IA, mas acredita que o cerne do problema reside na falta de confiança nas grandes empresas, governos e na indústria tecnológica, com receio de que essas instituições possam usar novas tecnologias para prejudicar os interesses das pessoas comuns. Ele até afirmou que a crítica mais precisa às empresas de IA deveria ser que a indústria ainda não cumpriu muitas das promessas positivas feitas anteriormente, e não que a “forma de comunicação é demasiado pessimista”.
Quanto ao debate sobre regulação, Amodei também se opõe à escolha binária de “ou libertar completamente a IA, ou permitir que algumas grandes empresas concentrem o poder através da regulação”. Ele citou como exemplo a proposta SB53 da Califórnia, apoiada pela Anthropic, que exige que os desenvolvedores de IA de ponta relatem incidentes de segurança significativos, protejam denunciantes internos e imponham requisitos de segurança mais rigorosos para grandes desenvolvedores.