Самый маленький в мире суперкомпьютер с искусственным интеллектом
Вчера, 19:01. Разместил: Око Политика
NVIDIA представляет самый маленький в мире суперкомпьютер с искусственным интеллектом, который может запускать 200 миллиардов ИИ-моделей
Стоимость ПК - 3000 долларов.
Сегодня на CES 2025 генеральный директор Nvidia Дженсен Хуанг анонсировал Project DIGITS — революционный персональный суперкомпьютер с искусственным интеллектом, предназначенный для исследователей, специалистов по обработке данных и студентов по всему миру.
Проект DIGITS, созданный на базе надёжной платформы NVIDIA Grace Blackwell, предоставляет беспрецедентные возможности искусственного интеллекта, позволяя пользователям создавать прототипы, настраивать и внедрять крупномасштабные модели искусственного интеллекта — и всё это на настольной системе.
Суперчип GB10: Непревзойденная энергоэффективность и производительность
В основе проекта DIGITS лежит революционный суперчип NVIDIA GB10 Grace Blackwell, предлагающий невероятную производительность ИИ в петафлопсах с точностью FP4. Эта система на кристалле (SoC) сочетает в себе передовой графический процессор Blackwell с новейшими ядрами CUDA и тензорными ядрами, а также высокоэффективный центральный процессор Grace, построенный на архитектуре Arm. Суперчип GB10 использует NVLink-C2C для бесперебойной межчиповой связи, обеспечивая беспрецедентную производительность.
Сотрудничество между NVIDIA и MediaTek, лидером в области технологий SoC на базе Arm, привело к созданию энергоэффективной конструкции, которая обеспечивает значительную вычислительную мощность в устройстве, работающем от стандартной электрической розетки.
Project DIGITS включает 128 ГБ унифицированной памяти и до 4 ТБ хранилища NVMe, что позволяет ему работать с моделями ИИ, содержащими до 200 миллиардов параметров. Объединив две системы DIGITS с помощью сети NVIDIA ConnectX, пользователи могут расширить эти возможности и управлять моделями, содержащими до 405 миллиардов параметров.
«Для развития ИИ требуются инструменты, которые позволят исследователям проводить масштабные, быстрые и точные эксперименты. Проект NVIDIA DIGITS представляет собой значительный шаг вперёд. Я рад видеть, как 128 ГБ в таком компактном форм-факторе могут способствовать развитию корпоративного ИИ в будущем», — сказал Сильвио Саварезе, главный научный сотрудник Salesforce.
Единая экосистема для разработки искусственного интеллекта
Проект DIGITS легко интегрируется в экосистему ИИ NVIDIA, предлагая гибкий конвейер разработки. Пользователи могут создавать прототипы моделей ИИ локально на своих системах DIGITS, работающих под управлением ОС NVIDIA DGX на базе Linux, и легко масштабировать эти модели в облаке NVIDIA DGX или в центрах обработки данных. Такая совместимость обеспечивает единообразие при локальном и облачном развертывании на базе архитектуры Grace Blackwell.
Разработчики получают доступ к широкому набору инструментов в каталоге NVIDIA NGC, включая комплекты для разработки программного обеспечения, фреймворки и инструменты для оркестрации. Сложные приложения на основе ИИ можно создавать с помощью NVIDIA Blueprints, микросервисов NIM и фреймворка NeMo для тонкой настройки моделей.
Для специалистов по обработке данных библиотеки RAPIDS ускоряют рабочие процессы с данными, а поддержка таких популярных инструментов, как PyTorch и Jupyter, повышает удобство использования.
Когда приложения будут готовы к развёртыванию, лицензия NVIDIA AI Enterprise обеспечит необходимую безопасность и поддержку корпоративного уровня, гарантируя плавный переход от экспериментов к производству.
Проект NVIDIA DIGITS устраняет разрыв между высокопроизводительными вычислениями на основе ИИ и доступностью, позволяя разработчикам с любым уровнем подготовки участвовать в инновациях на основе ИИ. Предоставляя возможности суперкомпьютеров на основе ИИ для отдельных настольных компьютеров, NVIDIA предоставляет новому поколению исследователей и разработчиков инструменты, необходимые для формирования будущего на основе ИИ.
Обсуждаем околополитические темы на моем канале "Гражданин на диване", а интересную и познавательную информацию читаем на канале "Таблетка для головы". Есть у меня еще канал с юморными ситуациями для настроения "Вот так бывает", подписывайтесь. Кстати, у кого есть доступ до ТикТока подключайтесь к моему политическому каналу - @masterpolit
Вернуться назад