Снимок крокодила от Google Gemini закрыл водохранилище в Сингапуре: автору грозит до трёх лет
30-летний малайзиец Йе Лин (Ye Lin) отправил коллеге фото морского (гребнистого) крокодила, якобы затаившегося в водохранилище Пандан на западе Сингапура. Снимок целиком сгенерировал Google Gemini. По данным BBC, на которые ссылается Futurism, из-за этого крупнейшее в городе-государстве водохранилище закрыли на несколько дней.
Как именно снимок дошёл до национального агентства по водным ресурсам Сингапура, неизвестно: издание лишь пишет, что картинка, судя по всему, запустила цепочку «испорченного телефона». В итоге сотрудники агентства и персонал национальных парков прочёсывали воды в поисках несуществующего крокодила. Организации, чья деятельность связана с водохранилищем, Сингапурская федерация каноэ и Сингапурская ассоциация гребли, тоже приостановили работу на время поисков. Для масштаба издание отмечает: Пандан занимает 435 акров, а нью-йоркское водохранилище в Центральном парке, около четверти от этого, всего 106 акров.
Чиновники внимательно изучили изображение и пришли к выводу, что это очередная «ИИ-халтура» (AI slop), тот самый контент, который усиливает дезинформацию в интернете по всему миру. Йе предъявили обвинение в «отправке ложного сообщения»: по законам Сингапура за это грозит до трёх лет тюрьмы и штраф около $8000. Ситуацию ухудшило то, что Йе, как утверждается, стёр материалы со своего телефона, что выглядело как попытка скрыть улики, это принесло ему дополнительное обвинение в «воспрепятствовании отправлению правосудия».
По сообщению South China Morning Post, Йе сказал суду, что собирается признать вину. Полиция в заявлении, которое привела SCMP, подчеркнула: помимо страха и неудобств для людей, такая ложь приводит к тому, что государственные ресурсы тратятся на реагирование на подобные происшествия впустую. Приговора пока нет: три года и штраф, это максимум, предусмотренный за соответствующее преступление, а не вынесенное наказание.
Ключевые факты
- 30-летний малайзиец Йе Лин отправил коллеге фото крокодила в водохранилище Пандан, целиком созданное в Google Gemini.
- Водохранилище, крупнейшее в Сингапуре, закрыли на несколько дней: сотрудники водного агентства и национальных парков искали несуществующее животное; федерации каноэ и гребли приостановили работу.
- Йе обвинили в «отправке ложного сообщения» (до трёх лет тюрьмы и штраф около $8000) и в «воспрепятствовании отправлению правосудия», после того, как он, по утверждению, стёр материалы с телефона.
- По сообщению SCMP, Йе сказал суду, что намерен признать вину; приговора пока нет.
Почему это важно
Случай показывает, как сгенерированная нейросетью картинка, отправленная одному человеку, за несколько звеньев цепочки привела к закрытию крупнейшего в Сингапуре водохранилища на несколько дней и задействовала госслужбы. Дело примечательно и тем, что за подобную «ИИ-халтуру» человеку предъявлены уголовные обвинения, максимум по которым, до трёх лет тюрьмы.
Кому это важно
Тем, кто делится сгенерированными изображениями в мессенджерах, даже в шутку или внутри рабочего чата: картинка может уйти дальше первого адресата. Также случай интересен редакциям и модераторам, борющимся с дезинформацией, и тем, кого интересует, как государства реагируют на ложные ИИ-материалы.
Как это применить
Практический вывод из сюжета: перед пересылкой сомнительного изображения стоит проверить, не создано ли оно нейросетью, и не отправлять правдоподобные сгенерированные картинки о происшествиях без явной пометки. Власти в этом деле тоже сначала изучили снимок, и лишь затем признали его созданным ИИ.
Можно ли доверять
Материал Futurism опирается на сообщения BBC и South China Morning Post. В нём нет даты происшествия и суда, не названы водное агентство и полиция, нет слов самого Йе, а как именно картинка дошла до агентства, неизвестно. Факт стирания данных с телефона подан как утверждение («как утверждается»). Приговора ещё нет.
Риски и подводные камни
Обвинения пока не доказаны судом, хотя Йе, по сообщению SCMP, намерен признать вину. Три года и штраф около $8000, потолок наказания, а не приговор. Удаление материалов с телефона обернулось отдельным обвинением в воспрепятствовании правосудию; какое наказание за него предусмотрено, в источнике не сказано. Мотив Йе (шутка или умысел) в тексте тоже не раскрыт.
«Помимо страха и неудобств для людей, такая ложь приводит и к тому, что государственные ресурсы тратятся на реагирование на подобные происшествия впустую.»
— полиция Сингапура, заявление, которое привела South China Morning Post