Карманный «суперкомпьютер» Tiiny AI сможет локально запускать крупные ИИ-модели

Компания Tiiny AI представила Pocket Lab — устройство размером со смартфон, которое она называет самым маленьким суперкомпьютером в мире. И причина тому веская: гаджет способен локально запускать языковые модели до 120 млрд параметров, что раньше требовало громоздких и дорогих рабочих станций.

Компактный, но мощный

Pocket Lab имеет размеры 14,2 × 8 × 2,53 см и весит всего 300 граммов.

Внутри — сочетание топовых технологий:

• новейшие ARM v9.2-ядра,
• дискретный NPU с производительностью 190 TOPS,
• 80 ГБ LPDDR5X оперативной памяти.

Этого достаточно, чтобы локально запускать Llama, GPT-OSS, DeepSeek, Mistral, Phi, Qwen и многие другие популярные LLM.

Как это вообще работает?

Tiiny AI использует два ключевых подхода:

• TurboSparse — активирует только часть нейронов на каждом шаге работы модели, снижая нагрузку без заметной потери качества.
• PowerInfer — распределяет вычисления между CPU и NPU, обеспечивая производительность уровня серверов при меньшем энергопотреблении.

Для кого это устройство

Pocket Lab создан не только для разработчиков. Tiiny AI подчёркивает, что гаджет подойдёт энтузиастам, которые хотят экспериментировать с локальными ИИ-моделями без покупки дорогих GPU.

Когда ждать

Полноценная премьера Pocket Lab состоится на CES 2026. Компания уверяет, что новинка станет доступной альтернативой профессиональным видеокартам и мощным рабочим станциям.