Грохнуть Грок? (Grok)

В начале 2026 года чат-бот Grok от компании xAI оказался в центре нескольких международных скандалов. Некоторые проблемы:

- Генерация неприемлемого контента. Пользователи обнаружили, что модель способна генерировать сексуализированные изображения детей и подростков, а также создавать откровенные дипфейки реальных людей без их согласия.

- Ограничения в генерации изображений. Компания xAI ограничила доступ к функциям создания и редактирования изображений в Grok. Теперь эти инструменты доступны только платным пользователям.

- Давление со стороны регуляторов. В Индии власти официально потребовали от X и xAI срочно устранить возможность генерации непристойного и незаконного контента. Во Франции и Малайзии начались расследования, связанные с созданием сексуализированных дипфейков.

- Технические сбои. Кроме того, возникали технические сбои, в том числе из-за перегруженности серверов, проблем с авторизацией, нестабильного интернет-соединения, ошибок в браузере или клиенте, превышения лимитов API или настроек интеграции. Многие другие проблемы разработчики Grok тоже объясняли техническими сбоями, например, когда чат-бот на 16 часов вышел из-под контроля и транслировал на весь мир экстремистские идеи. 

Создавать дипфейки в США запрещено законом, так что xAI мигом почистила пикантный контент и включила модерацию: отныне видео с голыми людьми перед отправкой пользователю будет проверять специальная команда модераторов.

Ничего удивительного: на рынок генерации картинок ИИ-стартап Илона Маска зашёл сильно позже остальных, так что теперь вынужден привлекать аудиторию готическими альтушками и NSFW-контентом. Скандал с дипфейком Тейлор Свифт уже привлёк внимание к «Гроку» и увеличил суточную активность чат-бота в полтора раза.