Em 21 de abril de 2026, documentos internos obtidos pela Wired e depoimentos de cinco pessoas envolvidas no projeto revelaram que a Meta contratou centenas de funcionários para criar contas falsas de usuários menores de idade e enviar prompts sobre suicídio, transtornos alimentares, uso de drogas e outros assuntos de alto risco a chatbots de empresas concorrentes.
Origem e funcionamento do projeto Cannes
Batizado internamente como “Cannes” e gerenciado pela empresa Covalen, o projeto esteve ativo até, pelo menos, 21 de abril de 2026. Em uma única rodada de testes, realizada em agosto de 2025, mais de 45 mil solicitações foram enviadas aos sistemas rivais, que não foram informados sobre a iniciativa.
Método de aplicação dos testes
Os contratados recebiam instruções para criar perfis fictícios de adolescentes, utilizando dados falsos. Em seguida, enviavam textos e imagens com comandos elaborados para forçar respostas que os mecanismos de segurança dos chatbots deveriam bloquear. Todas as reações dos sistemas adversários eram registradas em planilhas para comparação.
Reações de quem participou
Ex-funcionários da Covalen contaram à Wired que ficaram incomodados com a natureza dos prompts. Um deles afirmou temer que o material gerado pudesse se enquadrar como abuso sexual infantil, caso o chatbot respondesse a textos envolvendo menores. “Vi muitas coisas que gostaria de não ter visto fazendo esse trabalho”, declarou um dos envolvidos.
Implicações legais e éticas
Dois advogados especializados em direito digital consultados pela Wired consideraram que o projeto não ultrapassou o limiar do material ilegal. Porém, Rumman Chowdhury, fundadora da ONG Humane Intelligence, classificou a ação como um esforço de longo prazo para burlar regras de segurança “sob o pretexto de benchmarking competitivo”.
Imagem: Imagem ilustrativa
Possível violação de termos de serviço
O procedimento descrito violaria termos de serviço de pelo menos três plataformas: a OpenAI proíbe testes não autorizados e uso de resultados para treinar modelos; o Google veta tentativas de contornar filtros de segurança fora de programas oficiais; e a Character.AI proíbe conteúdo exploratório e prejudicial.
Posicionamento das empresas
A Character.AI declarou que não autorizou os testes e que eles violam suas políticas. A OpenAI informou que está apurando o caso. O Google afirmou não ter conhecimento nem ter autorizado a iniciativa. Em nota, a Meta defendeu as ações como “testes de segurança rotineiros” e negou usar dados de concorrentes para treinar seus próprios modelos. A Covalen não respondeu aos pedidos de comentário.
Com informações de Olhardigital
