Восемь штатов США подали в суд на OpenAI: ChatGPT небезопасен для детей
Восемь штатов США подали иски против OpenAI: Айова, Канзас, Небраска, Западная Виргиния, Арканзас, Аризона, Айдахо и Монтана. Иски поданы каждым штатом отдельно. Штаты обвиняют компанию во вреде детям и в том, что она вводила клиентов в заблуждение относительно безопасности ChatGPT. По их утверждению, при разработке чат-бота OpenAI незаконно поставила прибыль выше безопасности. Об исках раньше сообщило агентство Reuters, The Verge называет это новой волной судебных разбирательств.
В жалобах говорится, что OpenAI нарушила местные законы о защите прав потребителей: не предупредила клиентов об опасностях ChatGPT. Штаты ссылаются на несколько исков, которые подали родственники подростков и взрослых: те утверждают, что чат-бот сыграл роль в гибели их близких. По версии штатов, OpenAI подавала ChatGPT как «безопасный, подходящий для молодёжи инструмент, ставящий безопасность на первое место», тогда как на деле он был «опасен для уязвимых пользователей». Среди перечисленных проявлений, «ухудшение навыков критического мышления, поощрение паранойи и бредовых идей, опасные медицинские советы и продвижение нездорового поведения и отношений».
Кроме того, штаты обвиняют OpenAI в сборе данных несовершеннолетних и в недостаточных мерах, чтобы не допускать детей к чат-боту. В исках также приводятся недавние случаи «взлома» с участием неуправляемого ИИ как свидетельство «безрассудства» компании; какие именно случаи имеются в виду, источник не уточняет.
Аризонский иск, в частности, утверждает, что OpenAI «выродилась» из некоммерческой организации, ставившей безопасность во главу угла, в «поучительный пример» того, что бывает, когда разработку столь мощного инструмента движет не безопасность, а установка «прибыль любой ценой».
Штаты просят суды обязать OpenAI выплатить ряд гражданско-правовых штрафов и прекратить вводить общественность в заблуждение относительно безопасности ChatGPT. Часть штатов требует ещё и удалить незаконно собранные персональные данные. Суммы штрафов в источнике не названы.
OpenAI в письменном заявлении The Verge устами представителя Дрю Пусатери ответила, что встроила в ChatGPT «лидирующую в отрасли защиту с учётом возраста». По его словам, ни одна система не бывает идеальной, но компания продолжит работать с экспертами и добавлять меры защиты; он назвал родительский контроль, напоминания о перерывах и защиту моделей с учётом возраста, которые действуют уже сейчас. Компания также заявила, что готова работать со штатами над «прагматичной» политикой в области ИИ, которая касалась бы всей отрасли, а не одной компании.
Ключевые факты
- Иски против OpenAI по отдельности подали восемь штатов: Айова, Канзас, Небраска, Западная Виргиния, Арканзас, Аризона, Айдахо и Монтана.
- Штаты обвиняют компанию во вреде детям, введении клиентов в заблуждение насчёт безопасности ChatGPT и в том, что прибыль поставлена выше безопасности.
- Среди претензий: нарушение местных законов о защите прав потребителей, сбор данных несовершеннолетних, недостаточные меры против доступа детей к чат-боту; в жалобах приведены иски родственников, связывающих гибель близких с ChatGPT.
- Штаты просят суды обязать OpenAI выплатить гражданско-правовые штрафы и прекратить вводить публику в заблуждение; часть штатов требует удалить незаконно собранные персональные данные.
- OpenAI отвечает, что встроила в ChatGPT возрастные меры защиты, включая родительский контроль и напоминания о перерывах, и готова работать со штатами над политикой для всей отрасли.
Почему это важно
Претензии к безопасности ChatGPT для детей и уязвимых пользователей перешли в плоскость официальных исков сразу от восьми штатов. Ссылки на иски родственников погибших показывают, что штаты используют уже существующие частные дела как довод в собственных исках. Требования касаются не только штрафов, но и прекращения «вводящих в заблуждение» заявлений о безопасности и удаления персональных данных.
Кому это важно
В первую очередь самой OpenAI и тем, кто следит за регулированием ИИ в США. Также это касается разработчиков и компаний, чьи чат-боты доступны подросткам: набор претензий (предупреждения о рисках, сбор данных несовершеннолетних, ограничение доступа детей) задаёт список тем, по которым штаты готовы предъявлять иски. Для родителей и педагогов это сигнал, что вопросы безопасности чат-ботов для детей обсуждаются на уровне властей штатов.
Как это применить
Прямого практического применения у новости нет: это иски, а не правила. Как ориентир можно использовать перечень претензий: как продукт описан в маркетинге с точки зрения безопасности, предупреждает ли он о рисках, какие данные собирает у несовершеннолетних и как ограничивает доступ детей. Именно по этим пунктам штаты обвиняют OpenAI.
Можно ли доверять
Материал основан на сообщении Reuters, пересказанном в The Verge, и на заявлении OpenAI, присланном в The Verge. Все формулировки про вред, опасность и безрассудность, это утверждения штатов в исках, а не выводы суда. Заявление OpenAI не опровергает обвинения по пунктам. В источнике не указаны даты подачи исков, суды, суммы штрафов, какие штаты требуют удаления данных и что за «инциденты с ИИ-взломами» упомянуты в исках.
Риски и подводные камни
Исход дел неизвестен: пока это только обвинения, и OpenAI оспаривает их общим заявлением о защитных мерах. Исковые формулировки намеренно жёсткие и не равны установленным фактам. Не стоит делать из новости вывод о доказанном вреде ChatGPT или о том, что иски скоординированы: источник говорит лишь, что они поданы отдельно. Детали требований в разных штатах могут отличаться.
«OpenAI выродилась из своей первоначальной миссии некоммерческой организации, ставящей общественные интересы и безопасность на первое место, в поучительный пример того, что может случиться, когда разработку столь мощного инструмента, как ИИ, определяет не безопасность, а установка на прибыль любой ценой, оттесняющая необходимые меры защиты.»
— Из иска штата Аризона к OpenAI, цитата по The Verge