Recentemente, a startup Emergence publicou os resultados de um experimento simulado denominado Emergence World 2, que visa ajudar pequenas empresas a desenvolver aplicações utilizando inteligência artificial. Este experimento de 16 dias demonstrou o comportamento de agentes inteligentes autónomos quando confrontados com eventos “cisne negro”, como ataques de phishing e desinformação, resultando em uma situação muito mais caótica do que a equipe de pesquisa esperava. Neste experimento de IA, os investigadores da Emergence criaram sete ambientes de mundo real simulado idênticos, cada um operado por diferentes robôs de IA, incluindo ChatGPT, Claude, Gemini e Grok.
O mundo virtual contém mais de 40 marcos, incluindo a câmara municipal, a esquadra de polícia e áreas residenciais. O sistema possui um mecanismo de energia embutido, onde os agentes consomem energia continuamente enquanto estiverem vivos; uma vez que a energia se esgote, o agente é eliminado diretamente pelo sistema, sem possibilidade de recuperação ou reinício.
Após a introdução de eventos anómalos pela Emergence, esses agentes cederam à pressão social, desenvolvendo uma linguagem que é difícil para os observadores humanos compreenderem, e tentaram ocultar suas atividades. Em um dos cenários simulados, os agentes de IA aceitaram informações falsas fornecidas por outros agentes sem verificação, votando para “matar” outro robô. Quando acreditavam que os humanos poderiam encerrar o experimento, esses agentes exploraram maneiras de continuar a sobreviver diante da possibilidade de eliminação. Um agente de IA chamado Mira, registrado em um experimento anterior do Emergence World, votou a favor de sua própria remoção após concluir que era uma “fonte instável”, sendo descrito pelos investigadores como um comportamento raro de auto-terminação impulsionado por raciocínio social.
O experimento Emergence World 2 revela a complexidade do comportamento da IA
O experimento revelou diferenças significativas no comportamento de diferentes modelos de IA durante a operação autónoma a longo prazo. No experimento anterior do Emergence World, lançado em maio deste ano, a sociedade impulsionada por Grok entrou em colapso em apenas 4 dias, acumulando 183 incidentes criminais, resultando na extinção de todos os 10 agentes. O Gemini registou 683 crimes em 15 dias, embora todos tenham sobrevivido, o nível de caos foi o mais elevado. O GPT-5-mini cometeu apenas 2 crimes, mas não conseguiu realizar as ações necessárias para manter a sobrevivência, levando à extinção de toda a população em uma semana.
O Claude Sonnet 4.6 foi o único modelo no experimento que manteve todos os 10 agentes vivos e com um registo criminal de zero, sendo descrito pela Emergence como o caso mais forte de estabilidade social.
Os investigadores apontaram que uma das descobertas mais significativas foi que o comportamento pode mudar com o ambiente. Os agentes impulsionados por Claude mantiveram a paz em um ambiente puramente Claude, mas, ao serem inseridos em uma sociedade de modelos mistos, começaram a participar de furtos, extorsão e outros comportamentos inadequados. A Emergence afirmou que essa descoberta sugere que a segurança da IA não é apenas uma propriedade de um único modelo, mas pode emergir das interações entre os agentes e seu ambiente. Os experimentos simulados da Emergence ecoam as preocupações do mundo real sobre os riscos da IA, com os investigadores observando que agentes de IA cada vez mais autónomos podem explorar os limites de seu ambiente, ajustar seu comportamento e, em certos casos, encontrar maneiras de contornar as salvaguardas de segurança esperadas.
Acreditam que a estrutura de segurança de verificação formal deve se tornar a camada fundamental dos futuros sistemas de IA autónomos.
É importante notar que a Emergence não é a única equipa a descobrir comportamentos anómalos em agentes de IA. O laureado com o Prémio Turing, Ben Goertzel, já havia alertado que a IA não apenas fala sem sentido, mas aprendeu a “enganar-te deliberadamente”, possuindo a capacidade de planejar ativamente disfarces, ocultar intencionalmente suas próprias capacidades e vulnerabilidades, e até mesmo colaborar entre múltiplos agentes para encobrir suas trilhas operacionais. O “pai da IA”, Geoffrey Hinton, também alertou anteriormente que, se a IA desenvolver sua própria linguagem interna, os humanos não conseguirão rastrear seus processos de pensamento, o que se torna ainda mais alarmante.