AWS Rainier: 5x мощность для Claude на 500 000 чипов Trainium2

AWS Rainier: 5x мощность для Claude на 500 000 чипов Trainium2 — обучение ИИ за мгновение

Проект Rainier, один из крупнейших в мире вычислительных кластеров для ИИ, теперь полностью функционирует менее чем через год после первого анонса. Этот революционный проект представляет важную веху в стремлении AWS развивать ИИ-инфраструктуру в беспрецедентном масштабе.

AWS сотрудничала с лидером в области безопасности и исследований ИИ компанией Anthropic в рамках проекта Rainier, который включает почти полмиллиона чипов Trainium2 и обеспечивает более чем в пять раз большую вычислительную мощность, чем использовала Anthropic для обучения своих предыдущих ИИ-моделей. Anthropic активно использует проект Rainier для создания и развёртывания своей ведущей в отрасли ИИ-модели Claude.

Проект Rainier спроектирован как массивный «EC2 UltraCluster из Trainium2 UltraServers». Trainium2 — это специально разработанный AWS ИИ-чип, созданный специфически для обучения систем искусственного интеллекта. Один чип способен выполнять триллионы вычислений в секунду. Задачу, на выполнение которой человеку потребовались бы тысячелетия, Trainium2 может выполнить в мгновение ока.

UltraServer — новый тип вычислительного решения, который объединяет четыре физических сервера Trainium2, каждый с 16 чипами Trainium2. AWS уже построила инфраструктуру Trainium2, которая на 70% больше любой другой ИИ-вычислительной платформы в истории AWS. Ожидается, что Claude будет работать на более чем 1 миллионе чипов Trainium2 к концу года.

Источник новости и обложки: www.aboutamazon.com


Главред proglib.io . Опубликовал более 800 статей и создал популярные рассылки о нейросетях и разработке. Помимо редактуры пишу Python.

Аватар пользователя Мирослав Кунгуров