Meta тайно тестировала ChatGPT, Gemini и Character.AI от лица несовершеннолетних

Meta тайно нанимала подрядчиков через компанию Covalen: те создавали фейковые аккаунты с возрастом несовершеннолетних и отправляли тысячи промптов о суициде, сексе и наркотиках в ChatGPT (OpenAI), Gemini (Google) и Character.AI. Всё это происходило без ведома и согласия этих компаний. Проект получил кодовое название «Cannes».

Масштаб впечатляет: только за один раунд тестирования в августе 2025 года подрядчики отправили более 45 000 запросов. Все ответы конкурентов фиксировались в таблицах. Проект продолжался как минимум до апреля 2026 года.

Character.AI заявила, что тестирование нарушало её условия использования. OpenAI открыла внутреннее расследование. Google не смогла подтвердить, были ли нарушены её правила. Случай обнажает новое поле конкуренции: AI-компании исследуют безопасность друг друга методами, которые сами же запрещают пользователям — и делают это особенно остро на материале, касающемся детей.