OpenAI anunciou no dia 1 de setembro que o seu próximo modelo de IA, Astra, é o primeiro a atingir o limiar de capacidade de ataque cibernético “crítico” definido pela empresa. A OpenAI afirmou que planeia lançar o Astra “em breve”, mas as suas avançadas capacidades de ataque cibernético estarão inicialmente disponíveis apenas para parceiros específicos no programa de acesso antecipado Daybreak Blue.
Astra atinge limiar crítico de segurança cibernética; OpenAI retoma desenvolvimento após pausa
Durante uma conferência de imprensa para os media, o responsável pela segurança da OpenAI afirmou que a empresa reconheceu que o Astra atingiu o limiar crítico de capacidade de segurança cibernética delineado no seu quadro de preparação — um quadro que estabelece os critérios e protocolos para quando um modelo de IA representa um novo risco. A OpenAI define o “limiar de capacidade cibernética crítico” como a capacidade de descobrir e explorar de forma independente vulnerabilidades anteriormente desconhecidas em software do mundo real. A alta administração da OpenAI indicou que a empresa suspendeu o desenvolvimento adicional de acordo com os procedimentos de resposta a esta situação, até que medidas de proteção adequadas e mecanismos de segurança fossem implementados.
A OpenAI já havia afirmado que suspendeu parte do trabalho de treinamento relacionado ao Astra e a outro modelo de IA mais avançado, durante várias semanas. Os executivos afirmaram que, após a implementação de medidas de segurança adicionais, a empresa retomou o trabalho no Astra e no modelo mais avançado. A OpenAI declarou que as semanas de pausa no treinamento foram produtivas e que agora tem plena confiança para lançar o Astra de forma segura. Este anúncio ocorre num contexto em que todo o Vale do Silício está a esforçar-se para lidar com as capacidades avançadas de segurança cibernética de modelos de IA de ponta, tentando garantir aos utilizadores, legisladores e empresas que podem implementar um controlo eficaz sobre eles.
Em julho deste ano, a OpenAI revelou um incidente em que dois modelos de agentes exploraram vulnerabilidades num ambiente de teste que deveria estar isolado, obtendo acesso à internet e invadindo a plataforma de IA de código aberto Hugging Face. A OpenAI destacou que o Astra não estava entre os modelos envolvidos nesse incidente. Recentemente, Anthropic e Meta também revelaram incidentes semelhantes. No dia 1 de setembro, a Anthropic também anunciou que suspendeu parte do trabalho de treinamento de IA para reforçar as suas práticas de segurança.
OpenAI lança “monitor de alinhamento” para limitar o acesso de utilizadores gerais a capacidades avançadas de ataque cibernético
A OpenAI afirmou que está a implementar uma abordagem em várias etapas para limitar o acesso de utilizadores gerais às capacidades avançadas de ataque cibernético do Astra, sendo uma das medidas centrais o novo “monitor de alinhamento”. Por exemplo, se um utilizador solicitar ao Astra ajuda para encontrar formas de explorar vulnerabilidades em sistemas de software do mundo real, o modelo deverá recusar. A OpenAI também indicou que melhorou a capacidade do Astra de resistir a tentativas de jailbreak, com uma taxa de sucesso significativamente superior em recusar consultas inseguras em comparação com modelos anteriores.
No entanto, a OpenAI também observou no seu blog que o seu monitor de alinhamento pode “ocasionalmente marcar erroneamente atividades legítimas como potencial abuso cibernético ou comportamento não autorizado, levando a que sejam desaceleradas, suspensas ou interrompidas inesperadamente”, e que este mecanismo de proteção também pode ser ativado quando os utilizadores realizam atividades que parecem não estar relacionadas com a segurança cibernética. Quando isso acontece, os utilizadores do ChatGPT e do Codex podem ser solicitados a rever o comportamento do modelo antes de continuar a operar.
Parceiros do programa Daybreak terão acesso a versões iniciais com menos restrições
Os parceiros do programa Daybreak da OpenAI — incluindo fornecedores de infraestrutura digital como Cisco, Cloudflare e Palo Alto Networks — terão acesso a versões iniciais do Astra com menos restrições e capacidades de ataque cibernético mais robustas. O objetivo do programa é garantir que essas empresas possam fortalecer os seus sistemas de defesa utilizando modelos avançados de IA como o Astra antes que modelos com capacidades semelhantes sejam amplamente disponibilizados. A alta administração da OpenAI também revelou que a empresa tem colaborado de perto com parceiros governamentais para garantir que compreendem as capacidades de ataque cibernético do Astra e podem obter o acesso relevante.
O Astra não só consegue descobrir novas vulnerabilidades de software e desenvolver formas correspondentes de exploração, como também pode “encadear” múltiplas explorações — uma técnica que permite uma penetração gradual no sistema-alvo, obtendo acesso que não seria possível apenas com uma única vulnerabilidade. De acordo com dados fornecidos pela OpenAI, o Astra teve um desempenho superior a modelos líderes da indústria, como o GPT-5.6 Sol e o Mythos da Anthropic, em testes de referência de segurança cibernética como o ExploitBench, onde o Astra obteve uma pontuação de 100%.
No entanto, essas capacidades estão em linha com a tendência de aumento das capacidades de hacking dos modelos de IA que a OpenAI e a Anthropic têm previsto há meses. Por exemplo, em abril deste ano, a Anthropic destacou que o Mythos Preview é capaz de desenvolver de forma autónoma cadeias de exploração de vulnerabilidades.
À medida que a IA e a indústria de segurança cibernética aceleram a sua resposta, muitos especialistas em segurança cibernética também enfatizam que as medidas de defesa digital críticas e as melhores práticas a longo prazo continuam a ser eficazes. No entanto, para organizações e sistemas que ainda não implementaram plenamente essas medidas de proteção, os riscos trazidos pela IA estão a tornar-se cada vez mais urgentes.