xAI впервые подала в суд на пользователя Grok за CSAM-дипфейки
Принадлежащая Илону Маску компания xAI подала в суд на Терри Уэйна Харвуда из Южной Каролины. По данным иска, о котором ранее сообщило агентство Reuters, Харвуд «сознательно и намеренно использовал Grok, чтобы обойти защитные механизмы, изменять фотографии людей без их согласия, а также создавать и распространять материалы сексуального насилия над детьми (CSAM)», нарушив тем самым политику компании.
Харвуд был арестован в феврале по обвинению в хранении и распространении CSAM, ему предъявлено восемь уголовных обвинений тяжкой категории (felony). В иске xAI утверждается, что «по меньшей мере часть» изображений, фигурирующих в уголовном деле против Харвуда, была создана или изменена с помощью Grok: он якобы обошёл защиту чат-бота и «использовал инструмент, чтобы превращать обычные фотографии в откровенно сексуальные изображения» без согласия людей, изображённых на них.
После запуска в прошлом году режима «spicy» xAI добавила в Grok возможность редактирования изображений, что привело к волне сексуализированных дипфейков, в том числе с изображением несовершеннолетних. В марте группа подростков уже подавала иск против xAI, утверждая, что Grok генерировал сексуализированные изображения их самих в образе несовершеннолетних. Тогда Маск заявил: «Любой, кто использует Grok для создания незаконного контента, понесёт те же последствия, как если бы он выложил незаконный контент». Однако нынешний иск, судя по всему, первый случай, когда сама xAI подаёт в суд на пользователя за дипфейки, созданные с помощью Grok.
xAI утверждает, что действия Харвуда подвергли компанию «значительному юридическому риску и репутационному ущербу». Компания просит суд обязать Харвуда возместить ей ущерб, а также «разумные расходы, понесённые при защите в любом судебном процессе, который может подать жертва действий ответчика». Кроме того, xAI просит судью запретить Харвуду создавать аккаунт xAI или пользоваться Grok.
Ключевые факты
- xAI подала иск против Терри Уэйна Харвуда из Южной Каролины, обвинив его в обходе защиты Grok для создания CSAM
- Харвуд арестован в феврале, ему предъявлено восемь уголовных обвинений тяжкой категории за хранение и распространение CSAM
- Иск xAI утверждает, что часть изображений по уголовному делу создана или изменена с помощью Grok
- Проблема тянется с прошлогоднего запуска режима «spicy» и функции редактирования изображений в Grok, в марте подростки уже подавали иск против xAI за похожие дипфейки
- Это первый известный случай, когда xAI сама судится с пользователем из-за дипфейков, созданных Grok
Почему это важно
xAI второй раз за несколько месяцев оказывается в центре истории про Grok и CSAM, но впервые не в роли ответчика, а в роли истца. В марте подростки судились с xAI за то, что Grok генерировал сексуализированные изображения их самих как несовершеннолетних; теперь компания сама подаёт иск на пользователя, обвиняя его в обходе своих же защитных механизмов. Это показывает, что проблема злоупотребления функцией редактирования изображений Grok, появившейся вместе с режимом «spicy», не решена, а компания пытается переложить юридическую ответственность на пользователей.
Кому это важно
Пользователям и разработчикам ИИ-инструментов для генерации и редактирования изображений, юристам и регуляторам, работающим с темой CSAM и дипфейков, специалистам по безопасности детей в интернете, а также самой xAI и Илону Маску, чья репутация снова связана с злоупотреблениями через Grok.
Как это применить
Случай, ориентир того, как ИИ-компании начинают использовать гражданские иски против пользователей, нарушивших условия использования, чтобы переложить на них юридический и репутационный риск за обход встроенных защитных механизмов. Для компаний, выпускающих генеративные инструменты, это сигнал закладывать в пользовательское соглашение прямую возможность взыскания ущерба с нарушителей, а не полагаться только на техническую защиту.
Можно ли доверять
Источник, The Verge, материал опирается на данные иска, о котором ранее сообщило агентство Reuters, и на публичную информацию об аресте Харвуда по уголовному делу. Фактура подтверждена независимым агентством и судебными документами, поэтому доверие к изложенным фактам высокое.
Риски и подводные камни
Остаётся открытым вопрос, насколько легко защитные механизмы Grok обходятся на практике, сам факт иска показывает, что режим «spicy» и функция редактирования изображений создали удобный инструмент для злоупотреблений, включая CSAM. Есть и риск того, что xAI, подавая гражданский иск, скорее защищает себя от исков жертв и репутационных потерь, чем решает системную проблему модерации контента в самом продукте.
«Любой, кто использует Grok для создания незаконного контента, понесёт те же последствия, как если бы он выложил незаконный контент»
— Илон Маск