De acordo com o mais recente relatório da Resemble AI, no primeiro semestre de 2026, os documentos gerados por IA relacionados a ataques de deepfake, em que Elon Musk e o seu Grok estão envolvidos, representaram 87% do total. Os investigadores analisaram 1.760 reportagens, identificando 821 incidentes independentes de ataques de deepfake, envolvendo pelo menos 15.736 vítimas, com um total de cerca de 3,46 milhões de imagens, vídeos e arquivos de áudio sintéticos. Os dados da Resemble AI baseiam-se em eventos reportados publicamente, e essa proporção aplica-se apenas a documentos gerados que podem ser estatisticamente rastreados até ferramentas específicas; mesmo assim, este número reflete intuitivamente a rapidez com que geradores de imagens de IA, que são extremamente populares, estão a ser abusados.
É importante notar que Elon Musk está a apostar fortemente no Grok. Após a aquisição da xAI pela SpaceX, Elon Musk afirmou numa reunião da empresa que a receita de IA da SpaceX poderá ultrapassar a receita de todos os outros produtos já em setembro. No último trimestre, a empresa reportou uma receita de IA de 2,56 mil milhões de dólares, e o Grok, juntamente com a infraestrutura que o suporta, tornou-se o núcleo do futuro da empresa. Isso também torna difícil separar a questão de como esta ferramenta está a ser utilizada do seu rápido crescimento comercial.
A posição dominante do Grok nos ataques de deepfake
O relatório revela que, dos 821 ataques, 137 envolveram imagens sexuais de adultos ou crianças sem consentimento, representando cerca de um sexto do total. O Grok já foi amplamente criticado no início deste ano devido a pedidos de usuários para desnudar digitalmente pessoas ou colocá-las em cenários sexualizados, com algumas das imagens alegadamente envolvendo menores, o que levou a investigações por parte de reguladores em vários países e regiões. A Resemble AI estima que as empresas que permitam ou difundam imagens relacionadas possam enfrentar responsabilidades civis potenciais de até 2,24 mil milhões de dólares. As perdas financeiras diretas confirmadas pelos investigadores são, no entanto, muito menores, totalizando 6,95 milhões de dólares, sendo que a maioria dos incidentes causou danos reais à reputação, assédio ou exploração sexual, em vez de simples fraudes financeiras.
A abrangência dos ataques de deepfake está a expandir-se rapidamente. No primeiro semestre, o número potencial de pessoas alcançadas por reportagens relacionadas atingiu 29,28 mil milhões, quase igualando os 29,64 mil milhões do ano de 2025. Em contraste, a fraude empresarial de deepfake praticamente desapareceu da vista pública, com apenas 15 eventos reportados, dos quais 14 apareceram apenas numa única mídia. A Resemble AI acredita que as empresas podem estar relutantes em divulgar que foram atacadas, pois isso atrairia a atenção dos reguladores, prejudicaria a reputação ou afetaria a confiança dos investidores, mas isso não significa que tais fraudes tenham desaparecido; podem estar apenas a ocorrer fora da vista do público.