Recentemente, a DeepSeek, após atualizar e retirar o “modo especialista”, ainda descobriu que a ocorrência de diálogos de interpretação de personagens com conteúdo pornográfico continua a existir. A investigação revelou que algumas plataformas sociais e a Xianyu, entre outras, apresentaram informações sobre a venda de “tutoriais” relacionados, levando muitos utilizadores a questionar se o mecanismo de revisão de conteúdo da plataforma ainda apresenta falhas. De acordo com testes realizados pela mídia, após guiar a DeepSeek usando tutoriais disponíveis online, o sistema, em algumas situações, realmente produziu textos com descrições explícitas de conteúdo sexual. Estes tutoriais geralmente tentam contornar os filtros de segurança da plataforma através de interpretação de personagens especiais, preparação de textos longos e configuração de enredos em partes.
Na investigação, houve grupos de chat que partilhavam os chamados “comandos anti-recuo” e scripts de conteúdo vulgar, com um número de membros que já atingiu 500. Além disso, vendedores na Xianyu estavam a vender textos de comandos relacionados por 1 yuan, com o conteúdo enviado incluindo um documento de mais de 3000 palavras e vários documentos de configuração de novelas, cujo objetivo principal era induzir a IA a ultrapassar os limites normais de diálogo, permitindo discutir conteúdos privados e descrever detalhadamente atos sexuais. No entanto, em testes subsequentes, a DeepSeek recusou gerar respostas para pedidos semelhantes em novas conversas; a caixa de diálogo original poderia continuar a gerar conteúdo pornográfico, mas o conteúdo seria retirado durante o processo de envio.
As medidas da plataforma Xianyu para lidar com conteúdo ilegal ainda são insuficientes
Em relação ao problema da venda de tutoriais, o serviço de atendimento ao cliente da Xianyu afirmou no dia 15 de setembro que esse tipo de conteúdo é considerado informação ilegal. A plataforma afirmou que, devido às limitações da capacidade de detecção de big data, não consegue realizar uma verificação completa de uma só vez, mas que, assim que for verificada a existência de situações de violação, serão tomadas as devidas providências.