Современные ИИ-инструменты значительно повышают продуктивность, но требуют колоссальных вычислительных ресурсов. Новый open-source проект Zant предлагает решение этой проблемы, позволяя эффективно развертывать нейронные сети на устройствах с низким энергопотреблением.
Массивные ИИ-модели потребляют все больше ресурсов, что создает серьезные проблемы для разработчиков и экологии. Zant (ранее известный как Zig-Ant) разработан на языке Zig и ориентирован на оптимизацию развертывания нейросетей на микроконтроллерах различных семейств, включая ATmega, TI Sitara и Arm Cortex-M.
SDK использует передовые техники оптимизации: SIMD-операции, кэширование памяти и статическое выделение ресурсов. Это позволяет эффективно запускать ИИ-модели даже на устройствах с ограниченными вычислительными возможностями, не требуя существенных модификаций кода.
В настоящее время команда работает над запуском классификатора MNIST на Raspberry Pi Pico 2, а в ближайших планах – адаптация более сложной модели YOLO для той же платформы. Проект находится в активной разработке, и его возможности постоянно расширяются.
Источник новости и обложки: www.hackster.io