Китайская компания DeepSeek представила обновленную версию своей языковой модели V3.1 с параметрами 685 миллиардов. Главная особенность новинки — поддержка специального формата данных UE8M0 FP8, оптимизированного под грядущие китайские AI-чипы. Модель показывает впечатляющие результаты: превзошла Claude 4 Opus в программировании и снижает потребление токенов на 20-50% при сохранении качества.
Архитектура V3.1 построена на гибридном подходе к inference, позволяя модели работать в двух режимах — с «размышлением» и без него. Благодаря оптимизации цепочки рассуждений, новая версия решает сложные задачи более эффективно, а стоимость использования сопоставима с GPT-5 mini. В бенчмарке SWE-bench модель демонстрирует заметный прогресс по сравнению с предыдущими версиями DeepSeek.
Формат FP8 (8-битные числа с плавающей точкой) становится новым стандартом индустрии благодаря радикальной экономии памяти. Если FP32 занимает 4 байта, а FP16 — 2 байта, то FP8 требует всего 1 байт на параметр. При масштабах в сотни миллиардов параметров экономия колоссальная. NVIDIA Hopper GPU показывает двукратный прирост производительности FP8 по сравнению с FP16.
Особенность формата UE8M0 в том, что все 8 битов отведены под экспоненту без мантиссы и знакового бита. Это позволяет покрывать экстремально широкий диапазон положительных чисел, что критично для обработки градиентов и активаций с большими колебаниями значений. Правда, точность при этом страдает — приходится компенсировать внешними масштабирующими факторами.
Китайские производители чипов, включая Huawei с форматом HiFloat8 и Cambricon, активно развивают поддержку FP8 в своих решениях. Пока DeepSeek не подтвердила использование отечественных чипов для тренировки V3.1, но компания явно готовит почву для полностью локализованного AI-стека. Импортозамещение не на словах.
Источник новости и обложки: mp.weixin.qq.com
