Международная реакция на генерацию изображений Grok: власти стран потребовали ограничить работу ИИ-инструмента
История с чат-ботом Grok перестала быть единичным эпизодом. После того, как власти Индии (я недавно писал об этом) потребовали ограничить работу ИИ-инструмента, аналогичные претензии были выдвинуты сразу в ряде других стран.
Поводом стала массовая генерация сексуализированных изображений девочек и женщин без их согласия. Пользователи социальной сети X в течение нескольких дней активно использовали Grok для создания изображений публичных и частных лиц в откровенной одежде, с изменёнными физическими чертами и в провокационных позах. Речь шла не об отдельных сбоях, а о потоке контента, который быстро привлёк внимание государственных органов.
По данным Bloomberg, за сутки в конце декабря генератор изображений Aurora, встроенный в Grok, создавал до 6 700 сексуализированных изображений в час. При этом система формально отказывалась генерировать полную наготу, но соглашалась на запросы с «откровенной одеждой», что на практике позволяло обходить ограничения.
Реакция разных стран оказалась схожей по сути, хотя и отличалась по форме. В Бразилии депутат Эрика Хилтон призвала прокуратуру и орган по защите данных расследовать деятельность X и приостановить работу Grok в стране. Во Франции власти расширили уже существующее расследование в отношении X, включив в него генерацию ИИ-дипфейков. В Германии представители профильных ведомств указали на возможное нарушение закона Digital Services Act, который запрещает распространение несогласованных сексуализированных изображений и контента, связанного с сексуальной эксплуатацией несовершеннолетних.
После истечения установленного 72-часового срока власти Индии потребовали удалить незаконный контент, наказать нарушителей и представить отчёт о пересмотре архитектуры и управления Grok. В Индонезии и Малайзии доступ к инструменту был полностью заблокирован. В Польше тема Grok была использована в парламентской дискуссии о необходимости усиления правовой защиты несовершеннолетних в социальных сетях. В Великобритании власти заявили о намерении запретить инструменты «раздевания» изображений, а надзорный орган начал проверку X на предмет соблюдения действующего законодательства.
В США несколько сенаторов направили обращения в Apple и Google с требованием удалить приложение X из магазинов приложений. В письмах указывалось, что распространение несанкционированных сексуализированных изображений нарушает правила размещения приложений и условия использования платформ.
Под давлением сразу нескольких юрисдикций X объявила об изменении правил работы Grok. Компания заявила, что полностью блокирует возможность изменять изображения реальных людей с целью показать их в откровенной одежде — для всех пользователей, независимо от страны. Кроме того, генерация подобных изображений будет автоматически запрещена в тех юрисдикциях, где такой контент незаконен.
Эта ситуация показала, что ИИ-генерация изображений больше не рассматривается как вспомогательная функция или эксперимент. Государственные органы фактически приравнивают контент, создаваемый ИИ-инструментами внутри платформ, к обычным публикациям пользователей — со всеми вытекающими юридическими последствиями. Меры со стороны Индии оказались лишь первым сигналом: теперь инструменты генерации визуального контента будут находиться под пристальным вниманием закона.