IEEE отмечает 10 лет Ethically Aligned Design, свода принципов этики ИИ

В 2016 году Ассоциация стандартов IEEE (IEEE SA) запустила Глобальную инициативу IEEE по этическим аспектам автономных и интеллектуальных систем (A/IS) и опубликовала отчёт Ethically Aligned Design (EAD). Его задача, побудить всех, кто проектирует такие системы, ставить во главу угла благополучие людей и учитывать этические соображения. Отчёт подготовило междисциплинарное сообщество экспертов со всего мира: более 100 ведущих специалистов по этике ИИ дали свои замечания. Вторая версия вышла в 2017 году; обе версии выносились на публичное обсуждение и получили сотни страниц отзывов. К 2019 году в сообществе было более 400 участников, и оно продолжает расти. Всё это рассказывает Джон К. Хейвенс, основатель-исполнительный директор глобальной инициативы, а теперь глобальный директор IEEE Planet Positive 2030.
В этом году исполняется 10 лет с первого черновика EAD. К юбилею IEEE SA недавно запустила сайт, подкаст и блог, где подводятся итоги и обсуждается влияние отчёта.
Восемь принципов. Отчёт опирается на классические этические традиции и методологии проектирования на основе ценностей и предлагает инженерам практические рекомендации. Восемь основополагающих принципов: уважение прав человека; приоритет роста благополучия как критерия успеха разработки; наделение людей правом управлять данными (data agency), чтобы контролировать свою идентичность; эффективность; прозрачность; подотчётность; осознание возможности злоупотреблений; компетентность создателей систем. Как написали авторы отчёта, принципы переносят прикладную этику на этап проектирования ИИ-систем вместо того, чтобы заниматься ею уже после выпуска.
Серия стандартов. На основе рамки EAD разработана серия IEEE 7000: сейчас в ней 29 проектов, 11 опубликованы, новые продолжают добавляться. Среди упомянутых: IEEE 7000-2021 (модель процесса этичного проектирования систем), 7001-2021 (прозрачность ИИ-систем), 7002-2022 (конфиденциальность данных), 7003-2024 (учёт алгоритмической предвзятости), 7010-2020 (влияние на благополучие людей), 7012-2025 (машиночитаемые требования к защите персональных данных) и 7014-2024 (системы, имитирующие человеческую эмпатию).
Сертификации. IEEE SA предлагает набор программ по этике ИИ, включая IEEE CertifAIEd с двумя сертификациями: для специалистов и для продуктов. Профессиональная сертификация даёт навыки оценивать автономные и интеллектуальные системы на соответствие методологии и этическим критериям IEEE. В продуктовой программе оценщик CertifAIEd проверяет ИИ-инструмент или систему организации на соответствие критериям IEEE Ontological Specifications; по итогам владелец передаёт оценку в Программу оценки соответствия IEEE (IEEE Conformity Assessment Program), которая может сертифицировать продукт и выдать знак сертификации. Недавно IEEE SA выпустила и программу Responsible AI for Children: она подтверждает, что ИИ-продукты для детей независимо проверены и соответствуют требованиям к проектированию и этике.
Новая отраслевая группа. Группа IEEE Artificial Intelligence Systems (AIS) for Global Flourishing Collaborative Industry Collections создана, чтобы дать разработчикам ИИ ресурсы, знания и инструменты для приоритета благополучия людей; в ней более 200 участников. Она описывает свою работу как практическую системную рамку ответственного проектирования, которая переводит «процветание» в методы, метрики и инструменты для всего жизненного цикла систем. Группа готовит руководства по проектированию, оценке и регулированию систем, способных измеримо улучшать благополучие людей и экологическую устойчивость. Подкомитеты занимаются познанием, образованием, верой, заботой о планете, духовностью и другими темами. По словам Хейвенса, группа опирается на главу о благополучии из EAD и стандарт IEEE 7010, «намеренно», поскольку если благополучие людей и планеты не заложено в проект с самого начала, оно становится второстепенным.
Подкаст и блог. К юбилею выпущен пятисерийный подкаст «Ethically Aligned Design: 10 Years of Impact». Он стартовал 21 октября, новые выпуски выходят раз в две недели. Эпизоды посвящены замыслу EAD, отбору основополагающих принципов и их превращению в стандарты IEEE 7000. Первый выпуск, «Origins of Ethically Aligned Design», рассказывает о ранних попытках сделать этику практической частью проектирования ИИ и автономных систем: о трудностях, спорах, международном сотрудничестве и реальном эффекте, который помог перейти от принципов к стандартам и практикам. Второй, «The Chapters and Committees», посвящён междисциплинарным группам, которые превращали общие ценности в практические рекомендации. Обсуждения станут материалом для программы «лидерства мысли» с блогом о серии IEEE 7000 и образовательными ресурсами.
Ключевые факты
- В 2016 году IEEE SA запустила инициативу по этике автономных и интеллектуальных систем и опубликовала отчёт Ethically Aligned Design с восемью принципами; вклад внесли более 100 экспертов, версия II вышла в 2017-м.
- На основе EAD развивается серия стандартов IEEE 7000: 29 проектов, из них 11 опубликованы (прозрачность, конфиденциальность данных, алгоритмическая предвзятость, благополучие и др.).
- Действуют сертификации IEEE CertifAIEd (для специалистов и для продуктов) и недавно выпущенная программа Responsible AI for Children; создана группа AIS for Global Flourishing с более чем 200 участниками.
- К 10-летию запущены сайт, блог и пятисерийный подкаст «Ethically Aligned Design: 10 Years of Impact» (старт 21 октября, новые выпуски раз в две недели).
Почему это важно
Материал напоминает, как одна из крупнейших технических организаций десять лет назад превратила разговор об этике ИИ в практический набор принципов, стандартов и сертификаций. По словам Хейвенса, EAD была «первой в своём роде»: отчётом, а не просто списком принципов, да ещё от организации с репутацией IEEE. Ключевая идея, перенести этику на этап проектирования, а не заниматься ею после выпуска продукта. Новых результатов в статье нет: это юбилейный обзор уже сделанного.
Кому это важно
Инженерам и командам, которые проектируют ИИ-системы и ищут формализованные ориентиры по прозрачности, приватности, предвзятости и влиянию на благополучие. Специалистам по комплаенсу и ответственному ИИ, которых могут заинтересовать сертификации CertifAIEd и Responsible AI for Children. Исследователям и разработчикам стандартов, следящим за серией IEEE 7000 и новой отраслевой группой.
Как это применить
В статье перечислены конкретные стандарты, на которые можно опираться: от IEEE 7000-2021 (процесс этичного проектирования) до 7003-2024 (алгоритмическая предвзятость) и 7010-2020 (оценка влияния на благополучие). Специалист может пройти профессиональную сертификацию CertifAIEd, а владелец продукта, отдать его на оценку: оценщик проверяет соответствие критериям IEEE Ontological Specifications, затем программа оценки соответствия IEEE может выдать знак сертификации. Чтобы вникнуть в историю и логику принципов, можно слушать пятисерийный подкаст (выпуски раз в две недели).
Можно ли доверять
Это материал издания IEEE Spectrum (раздел The Institute) о собственной организации IEEE: главный собеседник, бывший руководитель самой инициативы, а о значении EAD говорят её создатели и сам материал. Фактические данные (восемь принципов, состав серии IEEE 7000, число участников) приведены как заявления IEEE. Независимых подтверждений реального эффекта EAD, кроме слов Хейвенса и утверждений самой статьи, в тексте нет.
Риски и подводные камни
Из статьи не видно, как широко стандарты и сертификации применяются на практике: названий компаний или регуляторов, использующих их, нет. Не указаны ни стоимость и сроки CertifAIEd и Responsible AI for Children, ни число выданных сертификатов. Из серии IEEE 7000 опубликована лишь часть проектов (11 из 29), поэтому полного набора стандартов пока нет. Также стоит помнить, что юбилейный текст рассказывает о достижениях, а не о критике или спорных местах подхода.
«Ethically Aligned Design была первой в своём роде в том смысле, что это был отчёт, а не просто перечень принципов, да ещё и от организации с такой репутацией, как IEEE.»
— Джон К. Хейвенс, основатель-исполнительный директор глобальной инициативы IEEE, ныне глобальный директор IEEE Planet Positive 2030