OpenAI и Американская психологическая ассоциация занялись безопасностью ИИ для подростков
OpenAI объявила о партнёрстве с Американской психологической ассоциацией (APA), ведущей научной и профессиональной организацией психологов в США. Цель сотрудничества, опереться на психологическую науку при разработке и применении ИИ среди молодёжи: сформировать более чёткую доказательную базу, ресурсы и меры защиты для семей, школ и специалистов.
Ранее в этом году OpenAI и APA уже провели совместную встречу с представителями организаций в сфере психического здоровья, исследователями, клиницистами, педагогами и самими молодыми людьми. На встрече обсуждали, где подростки сегодня сталкиваются с нехваткой поддержки и где ИИ может ответственно помочь им найти информацию и связаться с реальной помощью.
Опираясь на эти обсуждения, стороны планируют работать по нескольким направлениям: как ИИ может поддерживать подростков в моменты дистресса, как сделать его более уместным для разного возраста и полезным, и как лучше подготовить родителей, опекунов и клиницистов к тому, чтобы направлять использование ИИ молодыми людьми. Один из первых приоритетов, практические инструменты для родителей и опекунов: ресурсы для семей должны помочь поддерживать здоровое использование ИИ, распознавать моменты, когда нужно вмешательство взрослого, и закреплять восприятие ИИ как инструмента, а не замены людей или заботы. OpenAI намерена сделать эти материалы широко доступными и для школьных сообществ.
Параллельно OpenAI и APA готовят материалы для практиков, клиницистов и школьных психологов, которым всё чаще задают вопросы про ИИ: ресурсы должны помочь продвигать здоровое использование ИИ, распознавать чрезмерную зависимость от него и работать со случаями нездорового использования. Стороны также продолжат собирать лидеров из сфер здравоохранения, образования, науки, политики, технологий и защиты интересов молодёжи, чтобы переводить возникающие уроки в практические рекомендации для всей отрасли. OpenAI подчёркивает, что дальнейшая работа должна опираться не на предположения, а на живой опыт: планируются встречи с подростками, семьями, клиницистами и школьными психологами.
OpenAI напоминает, что это продолжение уже идущих усилий: компания работает с более чем 260 экспертами по психическому здоровью, чтобы ChatGPT лучше распознавал признаки дистресса, реагировал с заботой и направлял людей к реальной помощи. Среди уже внедрённых мер, локализованные кризисные ресурсы и горячие линии в один клик, напоминания сделать паузу, родительский контроль, уведомления родителей о проблемах безопасности, отдельные принципы для пользователей младше 18 лет в Model Spec компании и модель предсказания возраста, которая помогает применять подходящий опыт и меры защиты.
Конкретных дат публикации ресурсов для семей и клиницистов в объявлении не названо, компании описывают только направления и намерения.
Ключевые факты
- OpenAI и Американская психологическая ассоциация (APA) объединяются, чтобы опереться на психологическую науку при разработке ИИ для молодёжи
- Ранее в этом году стороны уже провели совместную встречу с экспертами по психическому здоровью, клиницистами, педагогами и молодёжью
- Планируются ресурсы для семей, как поддерживать здоровое использование ИИ и когда нужно вмешательство взрослого, и материалы для клиницистов и школьных психологов
- OpenAI уже работает с более чем 260 экспертами по психическому здоровью, чтобы ChatGPT распознавал признаки дистресса
- У OpenAI уже есть кризисные горячие линии в один клик, родительский контроль, принципы для несовершеннолетних в Model Spec и модель предсказания возраста
Почему это важно
Подростки уже активно используют ИИ, чтобы учиться, спрашивать советов и искать поддержку, и по мере роста этого использования семьям, школам, клиницистам и сообществам нужны более чёткие доказательства, ресурсы и защита. Партнёрство с APA, попытка OpenAI формализовать и подкрепить научной базой то, как компания думает об ответственной разработке ИИ для молодых пользователей, а не полагаться только на внутренние решения.
Кому это важно
Родителям и опекунам подростков, которые уже пользуются ИИ-чат-ботами; школьным психологам и клиницистам, которым всё чаще задают вопросы про ИИ; педагогам и школьным сообществам; самим молодым пользователям ChatGPT.
Как это применить
Родителям стоит ждать от OpenAI и APA практических материалов о том, как поддерживать здоровое использование ИИ дома и распознавать моменты, когда нужно вмешаться взрослому. Школы могут рассчитывать на ресурсы, которые OpenAI планирует сделать доступными для школьных сообществ. Клиницистам и школьным психологам обещаны материалы по распознаванию чрезмерной зависимости от ИИ и работе со случаями нездорового использования. Конкретных дат публикации в объявлении нет.
Можно ли доверять
APA, ведущая научная и профессиональная организация психологов в США, что придаёт партнёрству вес. OpenAI также ссылается на уже существующие меры: работу с более чем 260 экспертами по психическому здоровью, кризисные горячие линии, родительский контроль и принципы для несовершеннолетних в Model Spec, то есть речь не о разовом жесте, а о продолжении заявленной линии. При этом сам материал, официальный анонс компании и партнёра, без независимой оценки эффективности этих мер и без данных о том, как их будут измерять.
Риски и подводные камни
В объявлении нет ни сроков публикации семейных и клинических материалов, ни конкретики о том, как будет измеряться эффект партнёрства. Не названы ни финансовые условия сотрудничества, ни то, эксклюзивно ли оно. Формулировки остаются на уровне направлений и намерений, а не готовых обязательств, оценить их эффективность до появления самих материалов не получится.
«Технологии, часть жизни подростков, и наша задача, соответствовать этой реальности решениями, которые безопасны, соответствуют возрасту и создаются с учётом интересов семей. ИИ должен усиливать, а не заменять реальные отношения и заботу, в которых нуждаются молодые люди. Эта работа продолжает наши текущие усилия совместно с экспертами. Сотрудничая с APA и другими ведущими специалистами, мы продолжаем опираться на научные данные и разрабатывать практические меры защиты, ставящие благополучие подростков на первое место.»
— Сара Йохансен, руководитель направления политики продукта в сфере психического здоровья и благополучия в OpenAI