Nvidia розкриває потенціал Blackwell B200
Nvidia анонсувала запуск найпотужнішого графічного процесора в світі для штучного інтелекту Blackwell B200. Цей крок ставить компанію на передову позицію в перегонах серед технологічних гігантів, посилюючи її статус як багатомільярдної корпорації, потенційно здатної перевершити вартістю таких гравців як Alphabet (Google) та Amazon.
З новим графічним процесором Blackwell B200 та суперчіпом GB200, Nvidia прагне розширити своє домінування у сфері штучного інтелекту. B200 вражає своїми характеристиками: до 20 петафлопс FP4 потужності обчислень з 208 мільярдів транзисторів. Тоді як GB200, інтегруючи два таких графічних процесори з одним процесором Grace, може забезпечити до 30 разів вищу продуктивність для завдань генерації великих мовних моделей (LLM) та бути значно більш енергоефективним, знижуючи витрати та споживання енергії до 25 разів порівняно з H100.
Blackwell B200 від Nvidia: Чіп, що визначить майбутнє штучного інтелекту
Раніше навчання моделі з 1,8 трильйона параметрів вимагало б 8000 графічних процесорів Hopper та 15 мегават енергії. За словами генерального директора Nvidia, тепер таке ж завдання можуть виконати всього 2000 процесорів Blackwell, споживаючи лише чотири мегавати.
GB200 показує у порівнянні з H100 семиразове покращення продуктивності на бенчмарку GPT-3 LLM з 175 мільярдами параметрів, пропонуючи в чотири рази швидше навчання. Одним із ключових нововведень є двигун трансформатора другого покоління, який подвоює обчислювальні можливості, пропускну спроможність та розмір моделі, використовуючи чотири біти на нейрон замість восьми.
Nvidia пропонує різні конфігурації з Blackwell B200 наприклад GB200 NVL72
Nvidia планує, що компанії купуватимуть ці графічні процесори великими партіями, пропонуючи їх в більш складних конфігураціях, як-от GB200 NVL72, що об’єднує 36 процесорів і 72 графічні процесори в одній стійці з жидкісним охолодженням для загальної потужності 720 петафлоп в навчанні AI або 1,4 екзафлопа виведення.
Великі технологічні компанії, як-от Amazon, Google, Microsoft та Oracle, вже планують включити стійки NVL72 у свої хмарні пропозиції. Nvidia також пропонує DGX Superpod для DGX GB200, що об’єднує вісім систем в одну для загальної потужності 11,5 екзафлопа.
Ця інновація підкреслює роль Nvidia як лідера у сфері високопродуктивних обчислень та штучного інтелекту, задаючи високу планку для конкурентів у галузі.
Джерело: theverge
