Малые ИИ-модели набирают популярность по всему миру

В 2019 году нигериец Адебайо Алондже готовился в отеле в Кейптауне показать инвесторам своё устройство RxScanner, ручной спектрометр, который сканирует таблетку инфракрасным светом и отправляет её молекулярный профиль ИИ-модели с фармацевтической базой данных: за секунды система определяет лекарство или сообщает, что это подделка. Проблема поддельных лекарств убивает тысячи людей в Африке ежегодно, и к тому моменту аптеки в дюжине стран, Гане, Кении, Мьянме, родной Алондже Нигерии, уже пользовались устройством. Но в то утро демонстрация провалилась: сервер с моделью находился в США, за 14 000 км, и при слабом канале связи один скан обрабатывался больше 5 минут. Алондже тут же попросил инженеров сжать модель так, чтобы она полностью работала на Android-телефоне без связи с сервером, через два часа урезанная версия была готова и спасла показ. Так родилась новая версия сканера, способная проверять подлинность лекарств там, где нет широкополосного интернета, компьютеров и даже надёжного электричества, а сам Алондже стал сторонником «малого ИИ».

По данным доклада Всемирного банка (ноябрь), лишь 0,7% пользователей интернета в беднейших странах мира хоть раз пользовались ChatGPT, против четверти пользователей в развитых странах. Президент Всемирного банка Аджай Банга ещё в январе на форуме в Давосе заявил: большинство обсуждает ИИ со стороны больших генеративных моделей, но это требует огромных вычислительных мощностей, электричества, массивов данных и квалифицированных кадров для их обслуживания, а вне развитого мира, кроме, пожалуй, Индии и Китая, почти ни у одной страны нет такого сочетания ресурсов. Малый ИИ, по словам Банги, способен приносить пользу именно там, где всего этого нет: в Индии, где государственная стратегия делает ставку на развитие малых моделей, такие системы уже работают в сельском хозяйстве, например, дрон, разработанный Балой Муруганом и коллегами из Технологического института Веллора, фотографирует кешью и на месте, без связи с сервером, распознаёт растения с пятнами болезни. Похожие малые модели уже применяют для выявления муравьиных инвазий на виноградниках Уругвая, обнаружения малярийных комаров в нескольких странах и снятия ЭКГ через устройство на базе Arduino в регионах Бразилии без доступа к сложному оборудованию. «Это сейчас самая важная область в ИИ, говорит Марсело Жозе Ровай, профессор Федерального университета Итажубы (Бразилия), участвовавший во всех трёх проектах., Она растёт очень быстро».

Строгого определения «малого ИИ» нет, но обычно так называют модели максимум на несколько миллиардов параметров, против более триллиона у топовых моделей; такие системы умещаются на телефоне или Raspberry Pi. Их делают тремя основными способами: «прунингом», отсечением параметров большой модели, не задействованных в конкретной задаче (так поступили и с RxScanner); «дистилляцией», обучением малой модели имитировать поведение большой «модели-учителя»; и квантованием, снижением точности вычислений, например переводом модели с 32-битной архитектуры на 8-битную. Для узких задач классификации (вроде муравьиных инвазий) модель иногда обучают с нуля сразу на слабом устройстве, без всякой большой модели-прародителя. По словам Ровая, малый ИИ становится доступнее по двум причинам. Во-первых, растёт производительность недорогого «железа» при снижении энергопотребления, прежде всего благодаря нейропроцессорам (NPU), специализированным чипам для задач вроде распознавания лиц. По данным исследовательской компании Counterpoint, в 2025 году генеративный ИИ умели запускать чуть больше трети смартфонов в мире, к концу 2026-го доля дойдёт до 45%, а к концу 2027-го, превысит половину. Во-вторых, сами языковые модели становятся компактнее: Ровай называет «превосходными» для малого ИИ модель Gemma 4 от Google DeepMind (вышла в апреле) и Qwen 3.5 от Alibaba, обе с открытыми весами, что позволяет дообучать их под узкую задачу, например на данных молочной отрасли. Демонстрируя это по видеосвязи, Ровай показал устройство Arduino UNO Q за $50 на чипсете Qualcomm: на нём работает языковая модель, которая собирает данные с датчиков и ищет крошечные лужи стоячей воды, потенциальные места выплода комаров, потребляя всего 3 ватта.

Всемирный банк уже поддерживает разработку малого ИИ грантами, менторскими программами, финансированием и рекомендациями по политике, например, в Руанде банк финансирует государственную программу, которая помогает малообеспеченным семьям получить устройства с поддержкой ИИ. При этом никто не утверждает, что большие модели уйдут в прошлое: чтобы создать генеративный ИИ, работающий на телефоне, всё равно нужны архитектурные решения, обработка данных и результаты работы больших моделей, «нам нужны большие модели, чтобы создавать эти малые», говорит Ровай. И Алондже признаёт: малый ИИ не решает более широких проблем неравенства в развитии, стран всё равно нужна надёжная энергосистема, работающая логистика и система образования, готовящая специалистов по ИИ. Даже его сканер, способный работать сутками без связи, время от времени нуждается в синхронизации для получения новых сигнатур лекарств, а батарея телефона не бесконечна. «Система работает, и многим регионам она рано или поздно понадобится, говорит Алондже., Вопрос в том, хватит ли политикам мудрости вложиться в инфраструктуру, чтобы поддерживать её в долгосрочной перспективе».

Ключевые факты

• RxScanner нигерийца Адебайо Алондже, ручной ИК-спектрометр, который за секунды распознаёт подделку лекарства через ИИ-модель с фармацевтической базой; используется в аптеках Ганы, Кении, Мьянмы и Нигерии.
• Провал демонстрации в Кейптауне (сервер в США за 14 000 км, скан занимал 5+ минут) заставил за 2 часа сжать модель до версии, работающей офлайн прямо на Android-телефоне.
• По докладу Всемирного банка, лишь 0,7% пользователей интернета в беднейших странах пробовали ChatGPT против 25% в развитых странах, малый ИИ (модели на единицы миллиардов параметров) там часто единственный доступный вариант.
• Примеры применения: дрон для диагностики болезней кешью в Индии, выявление муравьёв на виноградниках Уругвая, поиск малярийных комаров, ЭКГ на Arduino в Бразилии, поиск луж-рассадников комаров на устройстве за $50 с чипом Qualcomm (3 Вт).
• Малые модели делают прунингом, дистилляцией или квантованием больших моделей (включая открытые Gemma 4 и Qwen 3.5); к концу 2027 года запускать генеративный ИИ смогут больше половины смартфонов в мире (данные Counterpoint).

Почему это важно

Дискуссия об ИИ обычно вращается вокруг гигантских LLM, дата-центров и мультимиллиардных инвестиций, но для миллионов людей в развивающихся странах единственный реально доступный ИИ умещается на телефоне или дешёвой плате вроде Arduino. Статья показывает, что «малый ИИ», не урезанная копия больших моделей ради экономии, а самостоятельное и растущее направление с собственными задачами: работать без интернета, без дата-центра и почти без электричества.

Кому это важно

В первую очередь, разработчикам и госорганам в странах без устойчивой цифровой инфраструктуры (Африка, Индия, Латинская Америка), где решается задача здравоохранения (поддельные лекарства), сельского хозяйства (болезни растений, малярийные комары) и базовой диагностики (ЭКГ). Также важно институтам вроде Всемирного банка, формирующим политику поддержки таких проектов, и разработчикам открытых моделей (Google DeepMind, Alibaba), чьи компактные версии становятся сырьём для локальных адаптаций.

Как это применить

Технически малые модели получают тремя способами: прунингом (отсечение неиспользуемых параметров большой модели), дистилляцией (обучение малой модели имитировать большую) и квантованием (снижение точности вычислений, например с 32 бит до 8). Для узких задач классификации модель можно обучать сразу на слабом устройстве без модели-прародителя. Открытые веса Gemma 4 и Qwen 3.5 позволяют дообучать модель под конкретный домен, вплоть до данных отдельной отрасли, как в примере с молочным производством.

Можно ли доверять

Материал IEEE Spectrum, репортаж с цитатами практиков (основатель стартапа, профессор бразильского университета, президент Всемирного банка) и ссылкой на доклад Всемирного банка и данные исследовательской компании Counterpoint; цифры и кейсы конкретны и проверяемы, специальных оснований для сомнений в них нет. Это аналитический обзор тенденции, а не пресс-релиз одного продукта.

Риски и подводные камни

Даже сторонники малого ИИ признают его границы: он не решает системных проблем неравенства, без надёжного электричества, работающей логистики и системы подготовки кадров технология не поможет. Устройства вроде RxScanner всё равно нуждаются в периодической синхронизации для обновления данных, а батарея не вечна. И сами малые модели пока не существуют в отрыве от больших: их создание требует архитектурных решений и результатов, полученных на гигантских моделях.

«Я думаю, будущее ИИ, это не одна гигантская модель в одном центре. Я думаю, это миллионы малых, точных моделей, развёрнутых на периферии, каждая из которых решает конкретную задачу в конкретном контексте.»

— Адебайо Алондже, основатель RxAll