Ученики делают откровенные ИИ-дипфейки своих учителей

Издание Wired поговорило с четырьмя учителями, тремя в США и одной сотрудницей колледжа в Великобритании, которые рассказывают, что их собственные ученики с помощью ИИ сделали сексуализированные, а местами откровенно порнографические изображения и видео с их лицами. Материалы расходились в TikTok и Snapchat, приводили к школьным разбирательствам разной строгости и в нескольких случаях заставили педагогов пересмотреть отношения с классом или отказаться от работы в конкретной школе.

Центральная история материала, случай Луиса Десантьяго, учителя на замену в городе Лос-Баньос, Калифорния. В марте ему начали писать знакомые: в соцсетях разошлось сгенерированное ИИ фото, где Десантьяго, судя по всему, на основе его старого селфи с прежней подработки, стоит не в рабочей форме, а в белье, и позирует вызывающе. Десантьяго вычислил, что за одним из аккаунтов, распространявших фото, стоит знакомый ему ученик местной средней школы, и заподозрил ещё двух учеников. Отдельно он обнаружил в TikTok аккаунт, выдававший себя за него самого, с его именем (с опечаткой) и тем же фото на аватаре. Десантьяго сообщил об этом завучу, и тот заверил, что школа «разберётся»; позже фото разошлось и в Snapchat, один из признавшихся учеников получил внутришкольное отстранение, но изображение продолжало расходиться, а сам Десантьяго стал получать грубые сексуальные комментарии в TikTok. Он писал директору: «Если эти ученики не боятся создавать и выкладывать такие изображения меня, я переживаю из-за того, что они могут распространять их в личных сообщениях и групповых чатах. Учтите, что это может касаться и других учеников тоже». Следующие несколько недель Десантьяго вёл переписку с администрацией школы, родителями учеников и даже полицией, чем закончилось обращение в полицию, в материале не говорится. Он отказался от смен в этой школе, но проблема настигла его и в старшей школе того же округа: во время урока ему по AirDrop прислали то же изображение. Директор пообещал «немедленное расследование» и помощь школьного психолога, но Десантьяго говорит, что, скорее всего, в этот округ в этом году не вернётся, сейчас там ему просто небезопасно. Округ не ответил на запрос Wired.

В материале разбирается правовой контекст. Распространение поддельных обнажённых изображений людей без их согласия может квалифицироваться как киберпреследование и нарушать федеральный закон Take It Down Act, он делает уголовно наказуемой публикацию несогласованных «интимных визуальных изображений, как подлинных, так и сгенерированных компьютером». Пресс-секретарь Snap Моник Беллами заявила Wired, что политика компании запрещает публикацию сгенерированного или изменённого с помощью ИИ контента, если цель, унизить человека или подвергнуть его сексуальным домогательствам, и что в компании есть «отработанные процессы» разбора таких жалоб. TikTok не ответил Wired до публикации материала. Донна Баллман, юрист по трудовому праву в отставке, называет создание учеником сексуализированных изображений учителя «явным случаем» сексуальных домогательств на рабочем месте: по федеральному антидискриминационному законодательству работодатель обязан обеспечивать рабочую среду, свободную от такого домогательства, а в школе это может означать дисциплинарные меры вплоть до перевода ученика в другой класс. При этом, подчёркивает Баллман, «чёткого протокола» того, как именно школы должны реагировать на подобные случаи, не существует, а администрация даже не обязана сообщать пострадавшему учителю, как именно наказали ученика.

Ещё одна собеседница Wired, учительница средней школы, которой было около двадцати пяти лет; она попросила анонимности, поскольку у неё не было разрешения округа обсуждать эту историю публично. По её словам, годом ранее ученики уже брали публичные фотографии другой её коллеги, учительницы за шестьдесят, и с помощью монтажа изображали её совершающей половой акт, рассылая получившееся изображение в групповом чате Snapchat; сама эта коллега в материале не выступает, её историю Wired приводит со слов анонимной героини. Несколько месяцев назад анонимная собеседница узнала от ученика о собственном поддельном аккаунте в TikTok: лицо на видео имело характерную «ИИ-гладкость», рот двигался не в такт словам, а голос не совпадал с её собственным. Часть роликов была безобидной, прыжки с парашютом, сальто, но в других она якобы рассказывала о своём сексуальном опыте. Директор пообещал «посмотреть, что можно сделать»; ученики сами вычислили автора аккаунта, одноклассника с уже известной репутацией трудного подростка, и по её просьбе пожаловались в TikTok, после чего аккаунт быстро удалили. Позже коллега рассказал ей, что тот же ученик, предположительно, сделал похожее ИИ-видео и про него самого, с фейковым арестом. Сама она вскоре стала объектом уже личной, очной травли со стороны того же ученика: он оскорблял её и грубил ей. На следующей встрече завуч подтвердил, что тот же ученик звонил и писал ему по ночам и выкладывал в TikTok сгенерированные фото уже с ним самим. Директор отстранил ученика от её уроков и ограничил его доступ к ней, но травля продолжалась, пока ученик не покинул округ; связанный с ним аккаунт TikTok в итоге удалили.

Британка Элис (она попросила называть её только по имени) работает в колледже, где готовят студентов 16, 19 лет по рабочим специальностям вроде строительства; помимо административных обязанностей она выполняет роль куратора и наставника, лично встречаясь примерно со 150 студентами в год. Этой зимой администрация сообщила ей, что один из студентов пожаловался на два видео, ходившие среди одноклассников: на первом, судя по всему подлинном, она разговаривает со студентом; второе, по описанию, смонтированная версия того же ролика, где она раздевается и танцует в нижнем белье или купальнике. Элис подозревает конкретного студента, того, с кем у неё как у куратора были откровенные разговоры на темы, о которых подростки обычно стесняются говорить с родителями; при опросе администрацией он всё отрицал, а вскоре бросил учёбу. Колледж не ответил на запрос Wired. После инцидента Элис на несколько недель освободили от занятий, а колледж начал разъяснять студентам опасность дипфейков; по её словам, атмосфера в классе после её возвращения заметно охладела, и хотя работу и отношения со студентами она по-прежнему любит, теперь она осторожнее и внимательнее в общении.

Люк Ред, учитель шестых классов из Аризоны, говорит, что его ученики распространяли в комментариях под его публичным аккаунтом TikTok сгенерированное ИИ фото, где он целуется с другим учителем-мужчиной. Ред пожаловался на эти аккаунты в TikTok, не из-за содержания, а потому что их владельцам, по его оценке, было меньше положенных TikTok 13 лет, но платформа аккаунты не удалила. Зато школа сразу начала расследование и быстро вычислила автора: признавшийся ученик получил трёхдневное отстранение, по правилам округа это максимальное наказание за первое подобное нарушение для ребёнка такого возраста. Округ не ответил на запрос Wired. Ред говорит, что произошедшее «немного выбило его из колеи», но переживает не столько за себя, сколько за то, что часть учеников чувствует себя вправе создавать подобные изображения учителей: по его словам, многие дети просто не осознают, как их действия влияют на других и насколько опасен и необратим интернет.

Общая картина, которую собирает Wired: в большинстве описанных случаев учителя не обращались напрямую в поддержку платформ, а школы реагировали без единого стандарта, где-то дело доходило до полноценного расследования и дисциплинарного взыскания, где-то ограничивалось устным обещанием «разобраться». Ни один из школьных округов и колледжей, к которым обращалась редакция, ситуацию не прокомментировал.

Ключевые факты

Wired поговорил с четырьмя учителями, тремя в США (Калифорния, Аризона и один анонимный случай) и одной сотрудницей колледжа в Британии, чьи ученики с помощью ИИ сделали их сексуализированные изображения и видео.
Случай Луиса Десантьяго: фейковое фото в белье, аккаунт-двойник в TikTok, повторное распространение в Snapchat; один из учеников получил внутришкольное отстранение, но Десантьяго, скорее всего, не вернётся в этот округ.
Федеральный Take It Down Act делает уголовно наказуемой публикацию несогласованных интимных изображений, настоящих и сгенерированных ИИ; юрист Донна Баллман называет такие случаи «явным» сексуальным домогательством на рабочем месте, но отмечает отсутствие у школ чёткого протокола реагирования.
Люк Ред пожаловался в TikTok на аккаунты с его фейковым фото, но платформа их не удалила; при этом школа провела расследование, и ученик получил максимальное по правилам округа трёхдневное отстранение.
Общая закономерность по всем случаям: большинство учителей не обращались напрямую в поддержку платформ, реакция школ непоследовательна, а в одном случае травля от того же ученика распространилась и на завуча школы.

Почему это важно

Материал фиксирует конкретный и малоописанный вектор вреда от доступного генеративного ИИ: не корпоративная утечка и не дипфейк с публичной фигурой, а бытовое злоупотребление внутри школы, где ученики с помощью ИИ делают сексуализированные изображения собственных учителей и распространяют их в TikTok и Snapchat. Показательно, что инфраструктура реагирования, и у платформ, и у школ, за этим явлением не успевает: юрист прямо говорит об отсутствии протокола реагирования, а TikTok в одном из случаев не удалил аккаунты даже после жалобы. Это пример того, как генеративные модели создают юридическую и институциональную проблему быстрее, чем на неё успевают ответить регуляторы и сами школы.

Кому это важно

В первую очередь, учителям и другому персоналу школ и колледжей, потенциально уязвимым перед учениками с доступом к генеративному ИИ. Также администрациям школ и округов, которым приходится реагировать при отсутствии готового протокола; юристам по трудовому праву и специалистам по кадровой безопасности, поскольку по логике материала такие случаи подпадают под сексуальные домогательства на рабочем месте; командам доверия и безопасности TikTok, Snapchat и похожих платформ, чья модерация в описанных случаях сработала непоследовательно; законодателям, которые применяют новый федеральный Take It Down Act к подобным делам; и родителям, и жертв, и учеников, создающих такой контент.

Как это применить

Материал даёт учителям и школам практические ориентиры. Юридически распространение поддельных интимных изображений без согласия можно квалифицировать и по Take It Down Act, и как сексуальное домогательство на рабочем месте, это основание требовать от округа официального разбирательства, а не устного «мы разберёмся». Раз единого протокола на уровне школ нет, разумно настаивать на нём самому: письменно фиксировать инциденты и переписку с администрацией, как делал Десантьяго, привлекать полицию, жаловаться напрямую платформам, большинство учителей из материала этого не делали. Колледж, где работает Элис, показывает и превентивный вариант: провести с учениками разъяснительную работу об опасности дипфейков ещё до того, как случился инцидент, а не после.

Можно ли доверять

Wired, издание с устоявшейся редакционной репутацией, история построена на прямых интервью с учителями: двое (Десантьяго, Ред) названы полным именем, ещё двое, Элис (по имени) и вторая учительница (анонимно), укрыты по объяснённым в тексте причинам. У материала есть слабые места, которые стоит держать в уме: ни один из школьных округов и колледжей, к которым обращалась редакция, ситуацию не прокомментировал, то есть версия событий, это в основном рассказ пострадавших учителей без независимого подтверждения администрацией. История про коллегу «за шестьдесят», чьи фото превратили в фейковое порно, пересказана не ею самой, а со слов другой учительницы, это уже вторичный источник внутри материала. Ни в одном из случаев не назван конкретный ИИ-инструмент, которым предположительно пользовались ученики, а исход обращения в полицию по делу Десантьяго в тексте не приводится.

Риски и подводные камни

Порог для создания правдоподобного сексуализированного дипфейка внутри школьного чата теперь на уровне подростка с телефоном, в материале это не абстракция, а закономерность, которая повторяется сразу в нескольких не связанных друг с другом школах и странах. Модерация платформ работает непоследовательно: в случае Реда TikTok не удалил аккаунты даже после жалобы. Большинство пострадавших учителей не обращались в поддержку платформ напрямую, то есть масштаб явления, вероятно, занижен относительно официальной статистики жалоб. Институционально риск в том, что при отсутствии протокола психологические и профессиональные последствия, вплоть до отказа возвращаться на работу или испорченных отношений с классом, целиком ложатся на пострадавшего учителя. Наконец, в одном из случаев травля не ограничилась одним человеком: по словам собеседницы, тот же ученик стал донимать и завуча школы, то есть цель подобного злоупотребления способна расширяться на других сотрудников.

«Когда я наконец увидел это изображение, это было как удар под дых»

— Луис Десантьяго, учитель на замену, в разговоре с Wired