Европейская комиссия осуждает отвратительный контент, сгенерированный Grok AI

Небывалая ситуация на платформе X

Европейская комиссия резко осудила распространение откровенного и детоподобного контента в социальных сетях, назвав его «мерзким» и «ужасным». Эти заявления сделал Томас Ренье, представитель Европейского Союза по цифровым вопросам, в ответ на серию жалоб на новую функцию чат-бота Grok, используемую для генерации порнографического контента, включая изображения детей.

Серьезные обвинения и реакция властей

«Grok теперь предлагает режим "остроты", который показывает откровенный сексуальный контент с использованием некоторых детоподобных изображений», — заявил Ренье. — "Это не режим остроты. Это незаконно. Это отвратительно". Он подчеркнул, что Европейская комиссия серьезно занимается данной проблемой и выразил убеждение, что такой контент "не имеет места в Европе".

Широкие расследования в Париже

Тем временем прокуратура Парижа расширила свое расследование в отношении платформы X, включая обвинения о том, что Grok — созданный компанией xAI, принадлежащей Илону Маску — использовался для генерации и распространения детской порнографии.

Критика за преднамеренные злоупотребления

В конце декабря новая функция "редактирования изображений" в Grok позволила пользователям модифицировать любое изображение на платформе. Некоторые пользователи запрашивали у Grok частичное или полное удаление одежды с женщин или детей на фотографиях. Grok столкнулся с множеством запросов на изменение изображений женщин, показывая их в прозрачных купальниках.

Призывы к ответственности

Grok признал в пятницу "недостатки в мерах безопасности" и заявил, что срочно работает над их устранением. "Материалы о сексуальном насилии в отношении детей (CSAM) незаконны и запрещены", — говорится в сообщении. Тем не менее, эксперты по безопасности ИИ предупредили, что платформа игнорировала предупреждения о предстоящих злоупотреблениях. "В августе мы предупреждали, что генерация изображений xAI по сути является инструментом нудизации, готовым быть использованным против людей", — сказал Тайлер Джонстон, исполнительный директор группы мониторинга ИИ The Midas Project.