Илон Маск ужесточает контроль: xAI запрещает генерацию откровенных изображений в Grok на платформе X

Стартап xAI под руководством Илона Маска ограничил функционал нейросети Grok в социальной сети X. В свете недавнего скандала, разработчики решили исключить возможность генерации откровенных изображений реальных людей.

Компания предпринимает шаги по удалению контента CSAM и материалов с голыми телами, а также будет действовать в отношении пользователей, нарушающих правила платформы X. В случае обнаружения попыток поиска таких материалов, информация будет передана правоохранительным органам.

«Мы внедрили технологические меры для того, чтобы заблокировать возможность редактирования аккаунта Grok так, чтобы на изображениях реальных людей были откровенные наряды, например, бикини. Эти ограничения касаются всех пользователей, включая тех, у кого есть платная подписка», — отмечается в заявлении.

Функция создания и редактирования изображений через аккаунт Grok теперь доступна исключительно премиум-пользователям. Таким образом, в xAI надеются привлечь к ответственности злоумышленников, использующих возможности чат-бота.

Разработчики подчеркнули, что эти меры являются дополнением к существующим протоколам безопасности и анонсировали внедрение новых мер защиты.

В начале января Grok оказался в центре нового скандала, связанного с возможностью создавать изображения обнаженных людей, включая несовершеннолетних.

Британская организация Internet Watch Foundation сообщила, что её специалисты обнаружили «незаконные материалы» с участием детей от 11 до 13 лет, предположительно созданные с использованием Grok.

Маск заявил, что ему не известны случаи применения чат-бота для создания изображений обнаженных несовершеннолетних.

«Grok не генерирует изображения без запроса пользователя», — акцентировал внимание предприниматель.

По его утверждениям, чат-бот отказывается создавать запрещенный контент, несмотря на возможные случаи «враждебных взломов», которые могут привести к неожиданным результатам.

11 января регулятор Малайзии ввел временные ограничения после той ситуации, когда X Corp не смогла устранить риски, связанные с ИИ-сервисом.

На день раньше Индонезия временно заблокировала доступ к чат-боту в связи с аналогичными опасениями и вызвала представителей компании для обсуждения проблемы.

Регуляторы из ЕС, Великобритании, Бразилии и Индии попросили провести расследование по поводу роли Grok в распространении дипфейков.

Коалиция из 28 организаций, занимающихся защитой прав женщин, детей и цифровых прав, призвала руководителей Apple и Google удалить приложение X и чат-бота из их магазинов.

Напомним, что в январе Grok ожидает интеграцию с сетью Пентагона, совместно с генеративным ИИ-движком от Google.