OpenAI усиливает защиту от насилия в ChatGPT и обещает отчёты о безопасности
OpenAI сообщила, что усиливает профилактику насилия в ChatGPT. Компания называет три направления: расширенные защитные меры, более ранние вмешательства и новое обязательство по отчётности о публичной безопасности.
Пост называется «Community safety report and new protections for teens» («Отчёт о безопасности сообщества и новые меры защиты для подростков»), то есть в заголовке речь идёт и о защите подростков. Однако в доступном кратком изложении подростки не упоминаются.
Конкретика в доступном тексте отсутствует: не указано, какие именно меры вводятся, в чём состоят «более ранние вмешательства», что будет входить в отчётность и как часто её будут публиковать. Нет также цифр, дат и сроков запуска. Пока можно говорить только о заявленном направлении, а не о проверяемых изменениях в продукте.
Ключевые факты
- OpenAI заявила, что усиливает профилактику насилия в ChatGPT.
- Заявлены три направления: расширенные защитные меры, более ранние вмешательства и новое обязательство по отчётности о публичной безопасности.
- В заголовке поста упомянуты и новые меры защиты для подростков, но в кратком изложении они не раскрыты.
- Конкретные меры, сроки, цифры и содержание будущей отчётности в доступном тексте не названы.
Почему это важно
ChatGPT используют очень многие, поэтому то, как компания выстраивает защиту от насилия, влияет на безопасность пользователей. Важен и сам заявленный шаг: OpenAI берёт на себя новое обязательство по отчётности о публичной безопасности, то есть обещает отчитываться о том, что делает в этой области. Подробностей в доступном тексте нет, поэтому значимость пока ограничена заявлением о намерениях.
Кому это важно
Пользователям ChatGPT и родителям, которых интересует безопасность подростков: заголовок поста упоминает меры защиты для подростков. Также тем, кто следит за политикой безопасности ИИ-компаний, и специалистам по доверию и безопасности, которые сравнивают подходы разных разработчиков.
Как это применить
Практических шагов из доступного текста не следует: настройки, функции и сроки внедрения в нём не описаны. Разумно дождаться полного текста поста и проверить, какие именно меры появятся в продукте и что войдёт в обещанную отчётность.
Можно ли доверять
Это заявление самой OpenAI, опубликованное на её сайте. Независимого подтверждения нет. Доступна только краткая аннотация поста, полный текст недоступен, поэтому оценить масштаб и реальную эффективность мер нельзя.
Риски и подводные камни
Заявление общее: без конкретных мер, показателей и сроков трудно судить, что изменится на деле. Обещание отчётности ценно лишь тогда, когда понятны её содержание, периодичность и метрики. Кроме того, раскрытие того, что вошло в пост про подростков, придётся уточнять по полному тексту.