Малайзия блокирует Grok на фоне глобального скандала

Блокировка AI-модели Grok в Малайзии

Малайзия приняла решение заблокировать доступ к AI-модели Grok, разработанной компанией Elon Musk, в ответ на сильный международный протест относительно способности чат-бота создавать явные сексуальные изображения людей без их согласия. Малайзийская комиссия по связи и мультимедиа (MCMC) сообщила, что временно запретила использование Grok после исходящих запросов к разработчику xAI и социальной сети X внедрить защитные меры для соблюдения законодательства.

Реакция пользователей и необходимость регулирования

В ответ на уведомления о регулировании, направленные на прошлой неделе, платформа X «в основном сосредоточилась на механизмах отчетности, инициированных пользователями, и не учла внутренние риски, возникающие из дизайна и функционирования этого AI-инструмента», отметили в заявлении MCMC. "MCMC считает, что этого недостаточно, чтобы предотвратить вред или обеспечить юридическую соответствие." Заявление от малайзийских властей поступило на следующий день после того, как Индонезия стала первой страной в мире, официально запретившей этот чат-бот, который предлагается как в качестве независимой платформы, так и как интегрированная функция на X. Grok оказался в центре недавних скандалов из-за своей функции генерации изображений, показывающей реальных людей в минимальной одежде и сексуализированных позах без согласия. Распространение таких сексуализированных дипфейков, некоторые из которых затрагивают несовершеннолетних, вызвало осуждение и призывы к действиям со стороны официальных лиц в ряде стран, включая США, Великобританию, Германию, Францию и Австралию.

Ответ xAI

xAI первоначально ответила на запросы для комментариев от Al Jazeera автоматизированным ответом, в котором говорилось: "Традиционные СМИ лгут." Позже представитель компании направил Al Jazeera на ранее сделанное заявление от платформы X, в котором утверждается, что X принимает меры против незаконного контента, включая материалы, связанные с сексуальным насилием над детьми. "Каждый, кто использует или побуждает Grok создавать незаконный контент, понесет такие же последствия, как если бы он загрузил незаконный контент," подчеркивается в заявлении. На прошлой неделе Grok начала ограничивать свою функцию генерации изображений на X только для платных подписчиков, что, как кажется, является попыткой смягчить спорные вопросы. Европейские должностные лица и активисты отрицательно отреагировали на этот шаг, утверждая, что он не решает основную проблему, связанную с облегчением создания несанкционированных изображений.