Некоторые отличия архитектуры Blackwell от предыдущих поколений видеокарт Nvidia:
Сверхбыстрые соединения между GPU. 1 В Blackwell используются шины NVLink пятого поколения и коммутаторы NVSwitch, что позволяет нескольким процессорам работать вместе как единый вычислительный блок. 1
Новые форматы квантования и микромасштабирования. 1 Архитектура Blackwell использует трансформаторы второго поколения, которые поддерживают новые параметры точности квантования, включая современные форматы микромасштабирования. 1
Тензорные ядра пятого поколения. 12 Они ускоряют вычисления смешанной точности и способны ускорить обучение генеративных моделей ИИ в 4 раза и поднять производительность вывода LLM в 30 раз по сравнению с Hopper. 1
Ускоренная декомпрессия данных. 1 Архитектура позволяет обрабатывать огромные объёмы сжатых данных в форматах LZ4, Snappy и Deflate в несколько раз быстрее, чем раньше. 1
Энергоэффективность. 1 Blackwell в 25 раз энергоэффективнее, чем аналогичный кластер H100, что делает его более экологичным решением для ИИ. 1
Ответ сформирован YandexGPT на основе текстов выбранных сайтов. В нём могут быть неточности.
Примеры полезных ответов Нейро на вопросы из разных сфер. Вопросы сгенерированы нейросетью YandexGPT для актуальных тем, которые определяются на базе обобщённых запросов к Нейро.