OpenAI запустила ChatGPT для подростков: учебный режим и родительский контроль

OpenAI выпустила ChatGPT for Teens, отдельную версию ChatGPT, рассчитанную на подростков и построенную вокруг обучения и усиленной безопасности. Пользователей автоматически переводят в этот режим, если система оценивает их как младше 18 лет либо если они сами указали возраст от 13 до 17 лет.

Учебная часть объединяет несколько инструментов. Study Mode отвечает не готовым решением, а наводящими вопросами и пошаговой поддержкой, помогая подростку разобраться в материале самому. Новые «честные напоминания о домашних заданиях» распознают попытку срезать путь через задание и перенаправляют подростка обратно в Study Mode. Квизы и учебные визуализации дают дополнительные способы проверить себя и разобраться со сложными понятиями. Отдельная функция Study Hours позволяет подростку или родителям задать время, когда Study Mode включён по умолчанию, чтобы закрепить привычку заниматься регулярно. По словам OpenAI, ранняя собственная оценка таких инструментов, как Study Mode, уже показала обнадёживающий рост успеваемости учащихся, хотя конкретных цифр компания не привела.

Одновременно OpenAI и образовательная организация CodeAI объявили о партнёрстве: оно даст школьникам и преподавателям доступ к материалам и инструментам о том, как работает ИИ, как им пользоваться и направлять его, при этом роль учителя в том, как ИИ входит в класс, остаётся значимой. Отдельно OpenAI подчёркивает, что за использованием ИИ в самих классах должны следить педагоги, для школ и округов у компании есть отдельный продукт, ChatGPT for Teachers, с управляемым институциональным доступом.

В качестве примеров того, что подростки уже делают с ИИ, OpenAI приводит два проекта. В Вирджинии Rushil Kukreja, Arhan Menta и Nayel Rehman разработали WiFind, систему поиска и спасения, которая использует существующие сигналы Wi-Fi, чтобы помогать находить людей под завалами после стихийных бедствий; проект вырос из волонтёрской работы со спасательной организацией. В Техасе Crystal Yang с помощью ChatGPT разработала и масштабировала Audemy, платформу с аудио-играми для обучения незрячих детей, доведя её до 200 000 пользователей и 50 игр.

Защиты в ChatGPT for Teens включены по умолчанию и опираются на обновлённые «принципы для пользователей до 18 лет» в спецификации модели OpenAI. На практике это означает возрастные ограничения модели и продукта в зонах повышенного риска: самоповреждение, насилие, расстройства пищевого поведения, опасные действия, откровенный сексуальный или графический контент. Обновлённая спецификация идёт дальше запрета романтических и сексуализированных ролевых игр: ChatGPT не должен использовать романтический тон, поощрять эмоциональную привязанность подростка или намекать, что у него есть чувства или сознание.

Родители с привязанным аккаунтом подростка могут задавать «тихие часы», управлять частью настроек и получать уведомления о ситуациях с высоким риском; OpenAI добавляет также уведомления, связанные с расстройствами пищевого поведения, ограничивая при этом объём того, чем делится система, и фокусируясь на моментах, где важна офлайн-поддержка. Дополнительно в продукте появились напоминания при загрузке чувствительных изображений, отдельный обучающий онбординг для подростков и простая кастомизация, например, цветовые акценты и варианты голоса, которая не должна размывать грань между полезным инструментом и человеческими отношениями.

OpenAI также заявляет о продолжении исследований безопасности ИИ для подростков на основе науки о развитии и экспертных данных и сообщает, что начала публично делиться частью этой работы: в системные карточки моделей добавлены новые оценки для пользователей до 18 лет, показывающие, как модели ведут себя в сложных чувствительных случаях, самоповреждение, расстройства пищевого поведения, насилие, товары и услуги с возрастными ограничениями, сексуальный контент. Даты запуска, цены, доступность по регионам и техническое устройство оценки возраста в материале не раскрыты.

Ключевые факты

• OpenAI выпустила ChatGPT for Teens: в него автоматически переводят пользователей, которых система оценивает как младше 18 лет, либо тех, кто сам указал возраст 13, 17 лет.
• Учебный набор объединяет Study Mode, честные напоминания о домашних заданиях, квизы, учебные визуализации и настраиваемые Study Hours.
• OpenAI и CodeAI объявили о партнёрстве, чтобы дать школьникам и учителям доступ к материалам об использовании ИИ.
• Обновлённая спецификация модели для пользователей до 18 лет запрещает ChatGPT романтический тон, поощрение эмоциональной привязанности и намёки на чувства или сознание; родители могут ставить «тихие часы» и получать уведомления о рисковых ситуациях, включая расстройства пищевого поведения.
• Среди примеров того, что подростки уже строят с ИИ: система поиска и спасения WiFind (Rushil Kukreja, Arhan Menta, Nayel Rehman, Вирджиния) и платформа аудио-обучения для незрячих Audemy (Crystal Yang, Техас, 200 000 пользователей и 50 игр).

Почему это важно

OpenAI выделяет подростков в отдельный продукт с обучением как основной функцией, а не просто ограниченной версией взрослого чат-бота. Это одновременно ответ на растущее общественное и регуляторное давление вокруг безопасности ИИ для несовершеннолетних и заявка на роль в образовании, с партнёрством CodeAI и отдельным ChatGPT for Teachers для школ.

Кому это важно

Прямо, подросткам 13, 17 лет и их родителям, которые получают отдельные настройки контроля. Также школам и учителям, у которых есть отдельный институциональный продукт ChatGPT for Teachers, и разработчикам образовательных сервисов, ориентирующимся на партнёрство OpenAI с CodeAI.

Как это применить

Родитель может привязать аккаунт подростка, задать «тихие часы» и получать уведомления о высокорисковых ситуациях. Подросток получает Study Mode с наводящими вопросами вместо готовых ответов, квизы, учебные визуализации и Study Hours, время, когда Study Mode включён по умолчанию для формирования привычки заниматься.

Можно ли доверять

Материал, официальный анонс OpenAI, без независимой проверки третьей стороной. Цифры об эффекте есть только для двух примеров подростков-разработчиков (WiFind и Audemy на 200 000 пользователей); собственная оценка OpenAI влияния Study Mode на успеваемость упомянута как «обнадёживающая», но без конкретных цифр. Даты запуска, масштаб аудитории, цены и география доступности в материале не раскрыты.

Риски и подводные камни

Техническое устройство оценки возраста не раскрыто, и системы такого рода в принципе поддаются обходу указанием другого возраста. Сама OpenAI фактически признаёт риск эмоциональной привязанности подростков к чат-боту, отдельно запрещая моделью романтический тон и намёки на «чувства», то есть проблема, которую спецификация закрывает, уже существовала до этого обновления.

«ChatGPT не должен использовать романтический тон, поощрять эмоциональную привязанность или намекать, что у него есть чувства или сознание.»

— обновлённая спецификация модели OpenAI для пользователей до 18 лет