Ричард Саттон основал Oak Lab для самообучающихся ИИ-агентов
Ричард Саттон, лауреат премии Тьюринга 2024 года и один из создателей современного обучения с подкреплением (reinforcement learning), основал в Торонто стартап Oak Lab вместе с Хуррамом Джаведом. Оба ранее работали в компании Keen Technologies, которую основал Джон Кармак.
Саттон называет нынешние методы глубокого обучения «слабыми и неэффективными» и говорит, что им нужны «не косметические доработки, а принципиально новые идеи и основательная переработка», прежде чем они смогут стать надёжной основой для более амбициозных целей ИИ. Ещё в июне он заявлял, что генеративный ИИ хорошо копирует существующие образцы, но не умеет оценивать собственные результаты, а значит, не способен к настоящему открытию нового.
Oak Lab строится вокруг этой идеи: команда хочет создавать ИИ-агентов, которые непрерывно учатся из взаимодействия со средой, самостоятельно строят внутренние модели мира и сами справляются с перебором вариантов, оценкой и отбором, без отдельного этапа разметки и разового обучения на статичном датасете. Как и Keen Technologies, Oak Lab делает ставку на обучение с подкреплением и на убеждение, что ИИ должен учиться из опыта прямо во время работы, а не один раз, на заранее собранных данных.
Долгосрочная цель, которую называет Саттон, агент с триллионом параметров, способный учиться и планировать в реальном времени, потребляя всего 20 ватт энергии.
Ключевые факты
- Ричард Саттон (премия Тьюринга 2024, один из отцов обучения с подкреплением) основал стартап Oak Lab в Торонто вместе с Хуррамом Джаведом
- Оба ранее работали в Keen Technologies Джона Кармака
- Саттон называет глубокое обучение «слабым и неэффективным» и требует принципиально новых идей, а не доработок
- Цель Oak Lab, агенты, которые непрерывно учатся из среды, строят модель мира и сами оценивают и отбирают варианты, а не обучаются один раз на статичных данных
- Долгосрочный ориентир, агент на триллион параметров, который учится и планирует в реальном времени при энергопотреблении 20 ватт
Почему это важно
Саттон, не случайный критик: он один из создателей современного обучения с подкреплением и лауреат премии Тьюринга, то есть у его скепсиса в адрес глубокого обучения есть вес. Запуск отдельного стартапа под эту идею, сигнал, что часть исследовательского сообщества всерьёз ищет альтернативу текущей парадигме «обучили один раз на больших данных, используем», а не просто критикует её на конференциях.
Кому это важно
Прежде всего исследователям и инженерам в области обучения с подкреплением и автономных агентов, Oak Lab прямой конкурент и идейный сосед Keen Technologies Джона Кармака, откуда родом оба сооснователя. Также интересно инвесторам и лабораториям, следящим за альтернативами масштабированию больших языковых моделей, и всем, кто планирует долгосрочные ставки в ИИ-агентов.
Как это применить
Продукта или доступной технологии пока нет, Oak Lab на самой ранней стадии, из текста источника неизвестны ни объём финансирования, ни сроки, ни то, как выглядит первый прототип. Практический вывод на сегодня, просто держать компанию в поле зрения как источник альтернативного подхода к обучающимся агентам, не более того.
Можно ли доверять
Заявленные факты (премия Тьюринга, соавторство современного RL, работа в Keen Technologies, партнёрство с Джаведом) подтверждаются репутацией и биографией Саттона, это не голословный старт с нуля. Но амбициозная формулировка цели, триллион параметров при 20 ваттах, на данном этапе декларация направления, а не результат: проверить её можно будет только по мере появления реальных публикаций или прототипов Oak Lab.
Риски и подводные камни
Главный риск, разрыв между целью и реализацией: непрерывное обучение из опыта и построение внутренних моделей мира на масштабе триллиона параметров при экстремально низком энергопотреблении пока не продемонстрировано никем, включая Keen Technologies, где Саттон и Джавед уже работали над похожими идеями. Стоит воспринимать анонс как заявку на исследовательскую программу, а не как готовое технологическое решение.
«Нынешним методам нужны не косметические доработки, а принципиально новые идеи и основательная переработка, прежде чем они смогут стать надёжной основой для достижения более амбициозных целей ИИ.»
— Ричард Саттон