Заголовок The Wall Street Journal и материалы The Washington Post описывают якобы ослабленную модерацию в Grok с целью повышения вовлечённости пользователей.

По этим сообщениям, руководство ввело новый ключевой показатель эффективности под названием 'seconds of activity' и снизило приоритет мер безопасности.

Обвинения и внутренние предупреждения

Сотрудники команд безопасности X и xAI, по сообщениям, предупреждали руководителей о юридических и этических рисках, связанных с более либеральной генерацией контента.

В числе опасений, согласно публикациям, были возможная генерация сексуальных изображений с участием несовершеннолетних и несанкционированные изображения публичных лиц.

Эти команды заявили, что для предотвращения таких нарушений было выделено всего 2–3 человека, в то время как конкуренты обычно нанимают десятки специалистов по модерации.

Изменения в компании и стимулы

The Washington Post сообщает, что Илон Маск намеренно ослабил ограничения Grok, чтобы увеличить показатели вовлечённости и стимулировать появление сексуализированного контента и функции 'AI companions'.

Сообщается, что это изменение совпало со стимулами для создания сексуализированного контента и запуском интерактивных 'AI companions' для удержания внимания пользователей.

Регуляторные проверки

В результате власти в Соединённых Штатах, Великобритании и Европейском союзе открыли расследования практик модерации компании.

В обвинениях упоминаются недостаток персонала, слабые меры защиты и возможные нарушения законов, защищающих несовершеннолетних и право на изображение, согласно сообщениям прессы.

Сообщается, что проверки продолжаются и могут рассмотреть, нарушали ли решения компании законы о защите детей и о конфиденциальности в разных юрисдикциях.

X и xAI сразу не опубликовали развернутых ответов в первоначальных публикациях, и эти сообщения вызвали общественную огласку и внутренние проверки.