Alibaba представила MNN-Pocket-0.3B — компактную нейросеть, которая занимает всего 173 МБ и может работать прямо на смартфоне без облачных серверов.
Несмотря на скромные размеры, модель обошла несколько более крупных конкурентов, включая Qwen3-0.6B.
Новинка создана командой MNN, которая разрабатывает инструменты для запуска ИИ на обычных устройствах. Модель понимает китайский и английский языки, умеет отвечать на вопросы, выполнять инструкции и обрабатывать текст.
Читают прямо сейчас:
Открытые веса: какие модели запустить бесплатно — разбираем локальный запуск нейросетей, требования к железу и лицензии.
Локальные нейросети для ПК: топ-10 для установки оффлайн — подборка инструментов для запуска моделей без облака и интернета.
20 AI GitHub-репозиториев для разработчика в 2026 году — разбираем llama.cpp, квантизацию и инструменты локального инференса.
Насколько она быстрая
MNN-Pocket-0.3B содержит всего 300 млн параметров. Для сравнения, у Qwen3-0.6B их примерно вдвое больше.
Благодаря четырехбитному сжатию размер модели удалось уменьшить до 173 МБ практически без потери качества.
Разработчики также измерили скорость генерации текста на реальных устройствах:
- iPad Pro с M5 — до 466 токенов в секунду при использовании графического ускорителя.
- Snapdragon 8 Gen 5 — 251 токен в секунду на процессоре и 138 на графике.
Это позволяет получать ответы практически мгновенно, без отправки запросов на удаленный сервер.
Что показали тесты
В 11 тестах на знания, программирование, математику и выполнение инструкций MNN-Pocket набрала в среднем 50 баллов. Для сравнения, Qwen3-0.6B получила 44,28 балла, а MiniCPM4-0.5B — 46,81. Сжатая версия показала почти такой же результат — 49,59 балла.
Особенно заметна разница в выполнении инструкций. Так, в IFEval модель набрала 73,2 балла против 56,93 у Qwen3-0.6B.
Впрочем, новинка подходит не для всего. Разработчики не рекомендуют использовать ее для сложных математических рассуждений и больших задач по программированию.
Где скачать
MNN-Pocket-0.3B рассчитана на небольших ИИ-помощников, обработку текста и простую автоматизацию. Она поддерживает контекст до 32 000 токенов.
Модель уже доступна с открытым кодом и весами по лицензии Apache 2.0. Запустить ее можно через MNN, llama.cpp или Transformers.
Скидка на все курсы Практикума
Раз вы дочитали эту новость до конца, с технологиями у вас всё в порядке. А если давно присматривались к разработке, аналитике, нейросетям, тестированию или кибербезопасности, сейчас туда можно зайти дешевле.
Промокод KOD (можно просто нажать) даст скидку на любой платный курс! А если пока не готовы покупать курс, у Практикума есть бесплатные вводные части.
