OpenAI усилила защиту подростков в ChatGPT: Study Mode и контроль родителей

OpenAI выпустила официальное заявление о своём подходе к безопасному доступу подростков к ChatGPT. Компания утверждает, что почти 9 из 10 подростков-пользователей ChatGPT еженедельно применяют его для учёбы, получения информации, освоения навыков или продуктивности, и настаивает: лишать подростков доступа к ИИ до совершеннолетия так же неправильно, как в своё время было бы лишать их доступа к интернету или поисковым системам, это оставило бы их менее подготовленными к ключевой технологии их времени. При этом OpenAI подчёркивает, что доступ должен сопровождаться защитой, рассчитанной именно на подростков.

В качестве примера пользы приведена история школьницы Орианы Маккензи, которая с помощью ChatGPT стала первой в классе по успеваемости, научившись эффективнее заниматься и распределять нагрузку, это высвободило ей время для спорта и школьных программ.

OpenAI формулирует четыре принципа работы с подростками: безопасность подростков ставится выше других целей компании, даже если они вступают в противоречие; в трудных ситуациях поощряется обращение за реальной, офлайн-поддержкой; к подросткам относятся именно как к подросткам, а не как к взрослым или маленьким детям; компания придерживается прозрачности и заранее формулирует ожидания.

За последний год OpenAI усилила защитные настройки по умолчанию, внедрила автоматическое определение возраста пользователя, расширила родительский контроль, выпустила дополнительные материалы для семей и добавила обучающие функции, нацеленные на понимание материала, а не просто выдачу готовых ответов.

Центральный обучающий инструмент, Study Mode, разработанный совместно с учителями, специалистами по педагогике и науке об обучении. Он ведёт ученика через задачу пошагово, с наводящими вопросами и структурированными объяснениями, не выдавая сразу готовый ответ; ранние оценки показывают положительное влияние на успеваемость. Раньше Study Mode включали только сами подростки, теперь родители со связанными аккаунтами могут включить его через родительский контроль централизованно, и тогда он автоматически включён в каждом новом чате подростка. Также появились специальные учебные стартовые подсказки, разбить тему на простые шаги, превратить конспект в учебное пособие, сделать карточки для запоминания или проверить точность формулировок.

По данным компании, 18 миллионов пользователей еженедельно занимаются интерактивными форматами по математике и естественным наукам внутри ChatGPT, от интегралов и митоза до фаз Луны и фотосинтеза, всего более 300 тем. Отдельно OpenAI добавила модуль отработки произношения с использованием аудио для более чем 61 языка.

Если система оценивает, что пользователю ChatGPT меньше 18 лет, включается более сдержанная версия продукта: усиленные ограничения на графическое насилие, самоповреждение, опасные вирусные челленджи, контент о нездоровом образе тела, а также романтический или сексуальный ролевой чат, цель в том, чтобы ChatGPT оставался инструментом обучения и творчества, а не заменой живого общения. Подросткам, которые долго сидят в ChatGPT, теперь чаще напоминают сделать перерыв.

Родительский контроль позволяет устанавливать тихие часы, отключать голосовой режим, ограничивать доступ к генерации изображений и получать уведомления в ситуациях повышенного риска, включая признаки возможного самоповреждения. OpenAI также расширяет уведомления на случаи, когда связанный аккаунт подростка деактивирован за нарушение правил об угрозах насилия или актах насилия, так родители узнают о серьёзном инциденте, но приватность подростка при этом сохраняется, а не разглашаются подробности. При разработке этих функций OpenAI консультировалась с организацией Moonshot, специализирующейся на предотвращении онлайн-насилия.

OpenAI публикует образовательные материалы более чем на 50 языках, включая семейное руководство по безопасному использованию ИИ подростками и советы для родителей о разговоре с детьми про ИИ. Компания заявляет о сотрудничестве с профсоюзом учителей American Federation of Teachers, Американской психологической ассоциацией, собственной сетью врачей и экспертным советом по благополучию и ИИ, а также с организациями Common Sense Media и everyone.ai. В этом году OpenAI также вступила в Family Online Safety Institute (FOSI), давнюю организацию, отстаивающую безопасность семей в интернете. Компания призывает к разработке общеотраслевых глобальных стандартов безопасности ИИ для молодёжи через выделенный институт безопасности ИИ и заявляет, что открывает часть своих политик и инструментов для использования другими разработчиками.

На ближайшие месяцы OpenAI обещает продолжать усиливать возрастные защиты, расширять инструменты и контроль для родителей, улучшать защиту от серьёзного вреда, развивать исследования здорового использования ИИ и добавлять обучающие форматы, вовлекающие подростков активнее.

Ключевые факты

OpenAI заявляет: почти 9 из 10 подростков еженедельно используют ChatGPT для учёбы и продуктивности, поэтому компания делает ставку на доступ с защитой, а не на запрет
Study Mode, обучающий режим, разработанный с учителями и специалистами по педагогике; родители теперь могут включать его централизованно через родительский контроль, и тогда он по умолчанию активен в каждом новом чате подростка
При определении, что пользователю меньше 18 лет, ChatGPT автоматически ограничивает контент про насилие, самоповреждение, опасные челленджи, образ тела и романтический/сексуальный ролевой чат
Родительский контроль включает тихие часы, отключение голосового режима, ограничение генерации изображений и уведомления о рисках, включая признаки самоповреждения и деактивацию аккаунта за угрозы насилия
18 млн пользователей еженедельно занимаются интерактивными обучающими форматами по математике и естественным наукам (300+ тем), а произношение отрабатывается на более чем 61 языке

Почему это важно

Это первое развёрнутое публичное изложение позиции OpenAI по подросткам как отдельной категории пользователей ChatGPT, не техническая новинка, а декларация принципов и набор уже внедрённых защитных механизмов (автоопределение возраста, ограничение контента, уведомления родителям). Материал показывает, что компания формализует политику в ответ на растущее внимание к безопасности несовершеннолетних при использовании ИИ.

Кому это важно

Родителям подростков, использующих ChatGPT, у них появляется больше рычагов контроля (тихие часы, отключение голоса и генерации изображений, уведомления о рисках). Учителям и школам, из-за Study Mode и образовательных материалов на 50+ языках. Самим подросткам, из-за более мягких, но и более ограниченных условий использования продукта. Также это важно для регуляторов и организаций по онлайн-безопасности детей, с которыми OpenAI выстраивает партнёрства.

Как это применить

Родителям со связанным аккаунтом подростка стоит зайти в родительский контроль ChatGPT и включить Study Mode, настроить тихие часы, при необходимости отключить голосовой режим и генерацию изображений, а также проверить настройки уведомлений о рисках. Учителям и подросткам полезны новые учебные стартовые подсказки (разбор темы по шагам, конспект в учебное пособие, карточки для запоминания) и более 300 интерактивных тем по математике и естественным наукам.

Можно ли доверять

Это официальный текст самой OpenAI, а не независимая проверка: цифры (9 из 10 подростков, 18 млн пользователей интерактивных форматов, 300+ тем, 61 язык) и оценка эффективности Study Mode приведены со слов компании, без ссылок на независимые исследования или конкретные метрики измерений. История школьницы, единичный иллюстративный пример, а не статистика. Список партнёров (Moonshot, American Federation of Teachers, APA, Common Sense Media, everyone.ai, FOSI) реален и проверяем, но сам факт партнёрства не означает независимой оценки эффективности защитных мер.

Риски и подводные камни

Материал написан как программное заявление и PR-текст компании, поэтому в нём нет ни одной цифры о том, сколько инцидентов с подростками уже случалось или сколько случаев самоповреждения/насилия было предотвращено или пропущено защитой. Автоматическое определение возраста может ошибаться в обе стороны, пропускать взрослый контент подросткам или излишне ограничивать взрослых пользователей. Расширение уведомлений родителям при деактивации аккаунта подростка также поднимает вопрос баланса между приватностью подростка и правом родителей знать о серьёзных инцидентах.