Американский стартап Tiiny AI представил Tiiny AI Pocket Lab — карманный суперкомпьютер, признанный Книгой рекордов Гиннесса самым компактным в мире. Устройство запускает языковые модели до 120 млрд параметров без подключения к облаку и серверам.
Устройство размером с power bank работает на базе 12-ядерного процессора ARMv9.2 мощностью 65 Вт. По словам директора Tiiny AI Самара Бходжа, компания стремится сделать продвинутый ИИ доступным каждому, избавив пользователей от зависимости от облачных дата-центров.
Pocket Lab поддерживает модели от 10 до 100 млрд параметров, которые покрывают более 80% практических задач. Устройство хранит данные локально с банковским уровнем шифрования и поддерживает популярные open-source модели вроде Llama*, Qwen и Mistral.
Устройство использует технологии TurboSparse и Powerinfer для эффективной работы ИИ без GPU. Официальный запуск Pocket Lab запланирован на выставку CES в январе 2026 года.
*Компании и продукты, признанные экстремистскими и запрещены в РФ.
Источник новости и обложки: interestingengineering.com