IEEE Spectrum поговорил с дизайнером Ideo: когда ИИ в продуктах помогает, а когда вредит

IEEE Spectrum опубликовал интервью (вопросы задавал Стивен Казинс) с Саванной Куновски, которая руководит командой промышленных дизайнеров в Ideo, дизайнерской консалтинговой компании из Сан-Франциско. Она помогает клиентам понять, когда ИИ становится барьером, а не прорывом. Поводом служит то, что индустрия массово ставит ИИ-чипы в устройства, исходя из логики «если можно добавить ИИ, значит, нужно»: в тексте названы зубные щётки с «умным зрением» и домашние роботы, считывающие настроение.
На вопрос, насколько эта волна вызвана давлением инвесторов, Куновски отвечает: «Отчасти». Команды приходят к ним под давлением: например, гендиректор пообещал совету директоров «ИИ-историю» к следующему отчётному звонку или конкурент выпустил версию продукта с ИИ. Первое, что делает Ideo, спрашивает, для кого продукт и что человек пытается сделать; после этого роль ИИ (большая, малая или незаметная) обычно становится очевидной. Данных о том, какая доля интеграций вызвана давлением инвесторов, в интервью нет.
Критерий отличия полезной функции от фокуса: помогает ли она человеку сделать то, что он собирался, в реальном контексте использования. Многие компании сразу смотрят на большие языковые модели, хотя есть целый набор ИИ-инструментов: компьютерное зрение, объединение данных датчиков, модели на самом устройстве. Выбрать правильную возможность так же важно, как решить, нужен ли ИИ вообще. Поскольку ИИ просит людей менять поведение, интерфейс должен быть простым: у первой мыши Apple, над которой в начале 1980-х работала фирма-предшественница IDEO, была лишь одна кнопка, потому что люди осваивали незнакомую систему.
Примеры, где ИИ ухудшил опыт: Humane AI Pin. Куновски уважает его как провокацию, но технология была не готова, а устройство просило отказаться от знакомого интерфейса ради более медленного и менее надёжного. Другие примеры: голосовой помощник, который неверно понимает простую команду и выключает не тот свет; сервисный бот, гоняющий по кругу, когда нужен человек; автомобили, где климат и громкость перенесли в сенсорные экраны и голосовые меню, так что то, что раньше делалось на ощупь, теперь отвлекает от дороги. По этой причине Euro NCAP, европейская программа оценки безопасности автомобилей, теперь поощряет физические органы управления. При этом выбор не всегда «или-или»: в умном доме можно сказать помощнику, пользоваться приложением или щёлкнуть настенным выключателем, если дополнительный способ не усложняет всё ради самого усложнения.
Главная история про отказ от ИИ: клиент хотел плиту без ручек, где человеку достаточно сказать ИИ, что он готовит, и тот сам регулирует нагрев. При испытании сковорода задымилась, пользователь потянулся к несуществующей ручке, дважды сказал «убавь» и снял сковороду с конфорки, всё это до реакции ИИ. Ручки в итоге оставили. Вывод: то, что нужно делать мгновенно, на ощупь или в стрессе (регулятор громкости, выключатель света, конфорка, аварийная остановка), лучше оставлять физическим.
Как выглядит хорошая интеграция: сначала понять потребности людей, затем технические возможности и смысл для бизнеса. ИИ может быть ядром опыта (голосовой интерфейс) или работать в фоне, запоминая предпочтения. Раз большие языковые модели работают с текстом, возникает соблазн везде поставить чат, но физические продукты могут общаться светом, звуком, вибрацией, движением, ощущением ручки или кнопки. Самые интересные продукты, по словам Куновски, расширяют то, что человек воспринимает, понимает или может, оставляя его в центре. Ясные примеры в доступности: слуховые аппараты, выделяющие нужный голос в шумном ресторане; приложения вроде Be My Eyes, описывающие мир слепым и слабовидящим; живой перевод в наушниках. Проактивные системы должны предугадывать потребности без навязчивости, как хороший официант. Куновски называет начинающуюся волну персональных агентов, таких как Instinct, Dots и Muse, которые работают в фоне и возвращаются к пользователю с находками. Громкость обращения продукта должна соответствовать ставкам, а если пользователь постоянно отклоняет подсказку, это сигнал подстроиться.
О недетерминированности генеративного ИИ: нельзя прописать каждый выход, поэтому определяют пространство, в котором продукт должен работать. Оценки качества (evaluations) описывают хорошую работу в тысячах ситуаций, а конституция (написанные принципы, направляющие обучение модели) задаёт ценности и границы. Это становится новой формой определения продукта и частью дизайнерской, а не только инженерной работы. Доверие требует решить заранее, где продукт стабилен, а где может «исследовать», показывать пользователю режим и объяснять свои действия при неуверенности.
На вопрос о ручном управлении Куновски отвечает: «Это необходимо. Ни одна ИИ-система не будет права каждый раз». Если человек легко вмешается, ошибка, мелкий эпизод; иначе она становится поводом перестать доверять. Отмена действия, правка подсказки или отключение функции тоже считаются обходом ИИ. В разработанном с участием Ideo инструменте Ethiqly (ИИ-помощник, помогающий школьникам упорядочить мысли, а не пишущий за них сочинение) учитель утверждает каждый отзыв до показа ученику. Ручные пути должны быть очевидными, быстрыми и доступными в нужный момент, а не спрятанными в настройках.
Ключевые факты
- Саванна Куновски (Ideo, Сан-Франциско) говорит, что давление показать «ИИ-историю» совету директоров или не отстать от конкурента заставляет часть команд добавлять ИИ, хотя данных о доле таких случаев нет.
- Тест на ИИ-фокус: помогает ли функция человеку сделать то, что он собирался, в реальном контексте; ИИ не равен чат-окну или большой языковой модели, есть компьютерное зрение, датчики, модели на устройстве.
- Плита без ручек с ИИ при испытании провалилась: пользователь дважды сказал «убавь» и снял сковороду сам до реакции ИИ, ручки оставили. Всё срочное, тактильное и стрессовое лучше держать физическим.
- Humane AI Pin назван примером, где ИИ заменил привычное более медленным и менее надёжным; в авто Euro NCAP теперь поощряет физические органы управления.
- Для генеративного ИИ нужны оценки, «конституции» и заранее продуманные режимы, а ручной обход и отмена должны быть очевидными и быстрыми.
Почему это важно
Волна «ИИ во всё» дошла до бытовой техники, автомобилей и носимых устройств, и интервью задаёт практичный вопрос: где ИИ действительно помогает, а где решает несуществующую проблему. Новых данных или продуктов здесь нет, но есть ясные критерии и конкретные случаи: от Humane AI Pin до отказа от ИИ-управления плитой.
Кому это важно
Продуктовым и промышленным дизайнерам, менеджерам по продукту и руководителям компаний, которым поручили «добавить ИИ». Также будет полезно инженерам встроенных систем и всем, кто выбирает между голосом, приложением и физической кнопкой.
Как это применить
Начните с вопроса, для кого продукт и что человек пытается сделать, и только потом выбирайте роль ИИ (ядро, фон или незаметная функция) и технологию (не только большие языковые модели). Всё, что нужно мгновенно, на ощупь или в стрессе, оставляйте физическим. Для генеративного ИИ заранее определите, где продукт должен быть предсказуем, а где может исследовать, показывайте режим и действия при неуверенности, а ручные пути (отмена, правка, выключение) делайте очевидными, а не спрятанными в настройках.
Можно ли доверять
Это интервью с практиком консалтинговой компании, то есть экспертное мнение, а не исследование. Ссылок на данные о провалах ИИ-продуктов или доле интеграций, продиктованных инвесторами, нет: на вопрос об инвесторах дан ответ «отчасти». История с плитой рассказана без названия клиента и продукта. Суждение о Humane AI Pin, оценка интервьюируемой стороны. Сам материал выложен в IEEE Spectrum.
Риски и подводные камни
Рассказ о плите, один случай, обобщать его на все ИИ-продукты нельзя. Совет оставлять физические органы управления не означает отказа от ИИ: Куновски приводит и удачные примеры (слуховые аппараты, Be My Eyes, живой перевод). Названия агентов Instinct, Dots и Muse даны лишь как примеры начинающейся волны, без оценки их качества. Ideo сама зарабатывает на консультациях по этой теме, это стоит учитывать при чтении советов.
«Это необходимо. Ни одна ИИ-система не будет права каждый раз.»
— Саванна Куновски, Ideo, о ручном управлении ИИ-системами