Компактные модели ИИ завоевывают регионы с ненадёжным интернетом

Адебайо Алонге, основатель стартапа RxAll, разработал портативный спектрометр RxScanner, который выявляет поддельные лекарства через инфракрасное сканирование и ИИ. Во время презентации в Кейптауне в 2019 году облачное решение провалилось: сервер находился в США, а передача одного результата сканирования занимала свыше 5 минут из-за расстояния в 14 тыс. км и ограниченной пропускной способности. За 2 часа инженеры создали мобильную версию модели, которая работает на Android-телефоне без интернета. Это событие положило начало движению за «компактный ИИ».

Компактные модели ИИ, это системы с миллиардами параметров (в отличие от триллионов в современных фронтир-моделях), которые работают на маломощных устройствах: смартфонах с нейронными ускорителями, Raspberry Pi, Arduino, дронах. Они потребляют 3, 5 ватт, питаются от батарей или солнечных панелей, не требуют облачных сервисов.

Технология критична для развивающихся стран, где облачный ИИ остаётся недостижимым. По данным Всемирного банка (ноябрь 2025), только 0,7% интернет-пользователей беднейших стран когда-либо использовали ChatGPT против четверти пользователей развитых стран. Большие модели требуют огромных мощностей, электричества, квалифицированного персонала, комбинация, которая есть разве что в США, Китае и Индии. Компактный ИИ доступен везде.

Примеры из практики: дрон, разработанный в Индийском технологическом институте Веллора, фотографирует кешью и идентифицирует болезни растений прямо на устройстве. В Уругвае система выявляет заражение муравьями в виноградниках. В нескольких странах работает детектор комаров, переносящих малярию. В Бразилии на Arduino-плате запущена диагностика электрокардиограмм в больницах без сложного оборудования.

Модели создаются тремя способами: «обрезка» (pruning), удаление ненужных параметров из крупной модели, дистилляция, обучение малой модели имитировать работу большой, и обучение с нуля для конкретной задачи классификации. По данным Counterpoint, в 2025 году 33% смартфонов в мире могли запускать генеративный ИИ, к концу 2026 года доля вырастет до 45%, а к концу 2027-го преодолеет 50%. Google DeepMind выпустила Gemma 4, Alibaba, Qwen 3.5; обе модели открытые, позволяют настраивать параметры под индустрию (например, переобучить на данных молочной промышленности).

Одновременно крупные модели не исчезают: малые часто производны от них. Реальная проблема шире технологии. Внедрение компактного ИИ не решит системные проблемы развития и цифрового неравенства без надёжной электросети, цепей поставок и образовательной системы. Вопрос в том, готовы ли государства инвестировать в инфраструктуру долгосрочно.

Ключевые факты

Компактные модели (миллиарды параметров) работают на смартфонах, Raspberry Pi и Arduino, потребляя 3, 5 ватт без облачного подключения
Практические примеры: RxScanner для выявления поддельных лекарств в 14+ странах Африки и Азии, детектор болезней растений на дронах в Индии, система идентификации малярийных комаров
В развивающихся странах компактный ИИ, единственный доступный ИИ: 99,3% населения беднейших регионов никогда не использовали ChatGPT
Модели создаются путём обрезки крупных моделей, дистилляции или обучения с нуля; Google Gemma 4 и Alibaba Qwen 3.5, открытые архитектуры для переобучения
К 2026 году 45% смартфонов глобально смогут запускать генеративный ИИ локально, но успех зависит от инфраструктуры: электричества, образования и цепей поставок

Почему это важно

Технология устраняет цифровое неравенство. Облачные сервисы не всем доступны, но локальный ИИ на устройстве работает везде, в зонах без интернета, без надёжной электросети. RxScanner спасает жизни в Гане, Кении, Нигерии, работая без подключения к серверам. По прогнозам Counterpoint, в 2026 году 45% смартфонов смогут запускать генеративный ИИ. Это переломный момент: ИИ становится правом, а не привилегией.

Кому это важно

Прежде всего населению развивающихся стран (Африка, Южная Азия, Латинская Америка), где интернет ненадёжен и инфраструктура редка. Но также жителям сельских и отдалённых регионов в развитых странах. Производители, фермеры, медики, правительства, которые строят ИИ-системы для недостаточно охваченных групп населения, все они находят в компактном ИИ практическое решение.

Как это применить

Начните с открытых моделей Google DeepMind Gemma 4 или Alibaba Qwen 3.5. Обрежьте ненужные параметры под свою задачу или используйте дистилляцию (обучите малую модель имитировать большую). Для чистых задач классификации обучайте с нуля прямо на маломощном устройстве. Разворачивайте на смартфонах с нейронными ускорителями, Arduino, Raspberry Pi. Примеры: анализируйте данные сенсоров на месте, запускайте компьютерное зрение без облачных API, обрабатывайте медицинские данные локально для приватности.

Можно ли доверять

Технология доказана в боевых условиях. RxAll работает в 14+ странах, система детектирования болезней растений, в производстве в Индии, выявление комаров, в нескольких странах. Открытые модели вроде Gemma 4 прозрачны. Компромисс: малые модели менее универсальны, но высокоточны для конкретной задачи (обрезка и дистилляция сохраняют производительность в специализированной области). Ограничение: компактный ИИ не решает системные проблемы развития, электросеть, образование, логистику, это не его сфера.

Риски и подводные камни

Производительность может упасть при переносе в новые регионы или условия (специализация, одновременно сила и риск). В конце концов нужна стабильная электросеть (батарея не вечна, солнце зависит от климата). Зависимость от глобальных цепей поставок электроники (дефициты чипов). Без государственных инвестиций в инфраструктуру внедрение останется точечным. Полагаться только на компактный ИИ без развития базовой инфраструктуры (электричество, образование), не решение. Приватность данных на краю сети проще обеспечить, но требует аккуратной реализации.

«Я думаю, будущее ИИ, это не один гигантский центральный сервер. Это миллионы малых, точных моделей, развёрнутых на периферии, каждая решает конкретную задачу, конкретный контекст.»

— Адебайо Алонге, основатель RxAll