Останній подкаст Хуана Женьсюня: Чи досягне NVIDIA $1 трильйона? Чи збільшиться кількість програмістів замість зменшення? Як боротися з тривогою через ШІ?

Оригінальний заголовок: Дженсен Хуан: NVIDIA - Компанія вартістю 4 трильйони доларів та революція штучного інтелекту | Подкаст Лекса Фрідмана
Оригінальний автор: Лекс Фрідман
Переклад: Пеггі, BlockBeats

Примітка редактора:

На тлі постійної еволюції генеративного штучного інтелекту та впровадження агентів у реальні виробничі процеси, акцент обговорень у галузі зміщується з «наскільки потужною є модель» на «як система може підтримувати інтелект». Оскільки масштабне навчання моделей поступово стає стандартизованим, виникає більш фундаментальне питання: те, що підтримує безперервне розширення штучного інтелекту, – це вже не лише алгоритмічні прориви, а й сама обчислювальна система.

Ця стаття є перекладом розмови між Дженсеном Хуангом і Лексом Фрідманом. Лекс Фрідман – відомий дослідник у галузі штучного інтелекту та ведучий технологічного подкасту, який давно зосереджується на поглиблених обговореннях технологій, галузі та майбутніх тенденцій. У цій розмові Дженсен Хуанг не зосереджувався на можливостях моделі як таких, а замість цього, починаючи з обчислювальної архітектури та еволюції галузі, висунув більш структурний висновок: Штучний інтелект переходить від «проблеми чіпа» до «проблеми системної інженерії».

Цю розмову можна зрозуміти приблизно з п'яти аспектів.

Обчислення переходять від «чіпа» до «заводу»
Перше основне судження розмови полягає в тому, що конкуренція в галузі штучного інтелекту більше не зосереджена на продуктивності в одній точці, а перетворилася на конкуренцію системних можливостей. Від графічних процесорів до цілих машин, до рівня центру обробки даних «заводів штучного інтелекту», межі обчислювальних блоків продовжують розширюватися. У той же час роль комп'ютерів також змінилася — з "сховища" для зберігання та отримання інформації до "виробничої системи", яка безперервно генерує токени. Це означає, що ШІ більше не є просто інструментом, а безпосередньо бере участь в економічній інфраструктурі виробництва.

Чотири рівні масштабування: Чому ШІ стає "важчим"
Крім того, відбулися структурні зміни в шляху масштабування ШІ. Зростання більше не залежить від одного масштабування перед навчанням, а від поєднання чотирьох типів масштабування: перед навчанням, після навчання, інференції та Агента, що утворює циклічну систему. Агент генерує дані, які надходять на навчання, а навчання повертається до інференції, яка потім підтримує більш складних Агентів. Усі шляхи в кінцевому підсумку сходяться в одній змінній — обчислювальній потужності. Найважливіша зміна полягає в тому, що інференція стає основою обчислювального споживання, а "мислення" саме по собі стало найдорожчим ланкою.

Слабка ланка ШІ зміщується від алгоритмів до енергії
Оскільки масштабування продовжує зростати, проблема перейшла від рівня моделі до рівня інфраструктури. Пряме спостереження, представлене в обговоренні, полягає в тому, що довгострокова вузьке місце AI більше не є дані або алгоритми, а скоріше система енергії та потужності. Однак реальне обмеження полягає не лише в недостатньому постачанні, а скоріше в плануванні мережі, архітектурі центру обробки даних та залежності підприємств від "високої доступності". Це перетворює проблему AI з технічної проблеми на всебічну проблему інженерії, енергетики та інституційного устрою.

Суть CUDA: Частка ринку, а не технологічна перевага
У конкурентному плані обговорення також дає ключове розуміння: Переваги NVIDIA полягають не лише у технологічному лідерстві, але й у частці ринку та екосистемі розробників, створених за допомогою CUDA. Вбудовуючи CUDA в GeForce і жертвуючи короткостроковою прибутковістю заради масштабу, NVIDIA фактично створила "обчислювальну платформу". Коли масштаб, екосистема та швидкість виконання поєднуються, сама технологія стає другорядною змінною. Це означає, що змагання штучного інтелекту зміщуються від можливостей моделі до можливостей платформи та системи.

Примітка: CUDA (Compute Unified Device Architecture) – це платформа паралельних обчислень, запущена NVIDIA, яка дозволяє розробникам використовувати графічні процесори для загального призначення, а не лише для рендерингу графіки.

Чи забере штучний інтелект роботу? Ні, але він змінить визначення роботи
На рівні застосування обговорення також дає важливу оцінку: Штучний інтелект не просто замінить професії, а скоріше змінить структуру роботи. Автоматизація на рівні завдань підвищить загальну ефективність, збільшуючи попит на професійні навички. Сутність роботи більше не полягає у "виконанні завдань", а в "визначенні проблем, виклику інструментів і спільному вирішенні проблем", де інтелект поступово стає доступною здатністю, тоді як людські відмінності більше відображаються в судженнях і організаційних навичках.

Якщо ця дискусія надає чітку точку входу, вона полягає в перетворенні ШІ з "конкуренції в можливостях моделі" на системну проблему: оскільки обчислення стають виробничою системою, те, що буде обмежувати її, вже не буде лише сама технологія, а скоріше енергія, ланцюжки поставок і організаційні методи. З цієї точки зору, питання більше не полягає в тому, чи є певний технологічний шлях кращим, а скоріше в тому, що весь світ реорганізовується навколо основної обчислювальної інфраструктури.

Ось оригінальний вміст (перероблений для більшої ясності):

TL;DR

· ШІ еволюціонував від "швидших чіпів" до "обчислювальної фабрики", де конкуренція більше не полягає в продуктивності окремого вузла, а в синергетичній ефективності можливостей всієї системи (обчислювальна потужність, мережа, живлення, програмне забезпечення)

· Успіх CUDA полягає не в технології, а в її повсюдності: NVIDIA пожертвувала прибутком заради масштабу, створивши майже неперевершене середовище обчислювальної платформи

· Зростання ШІ більше не стосується лише більших моделей; замість цього воно включає одночасне масштабування попередньої підготовки, інференції, агентів тощо, і все це в кінцевому підсумку зводиться до однієї змінної: обчислювальної потужності

·Інтерполяція стає основною частиною обчислювального споживання; «думати» дорожче, ніж «навчати», і ШІ переходить від автономних моделей до систем безперервної роботи

·Справжньою перешкодою для ШІ є не алгоритм, а енергія та інфраструктура; потужність планування енергії стане наступним критичним обмеженням

·Обчислення переходять від «сховища інформації» до «виробничої фабрики»; токени стають товарами, що торгуються, а інфраструктура ШІ безпосередньо братиме участь у економічному виробництві

·ШІ не просто замінить роботу, а підвищить можливості всіх професій; майбутній основний навик зміститься від «виконання завдань» до «визначення проблем і співпраці для їх вирішення»

Вміст інтерв'ю

Лекс Фрідман: Далі – розмова з Дженсеном Хуангом, генеральним директором NVIDIA, компанії, яку можна назвати однією з найважливіших і найвпливовіших в історії людства. NVIDIA є основним двигуном, що рухає революцію в галузі штучного інтелекту, і її успіх багато в чому обумовлений низкою ключових рішень і сміливих рішень, прийнятих Дженсеном як лідером, інженером та інноватором. Це подкаст Лекса Фрідмана. Тож, ласкаво просимо Дженсена Хуанга.

Від "швидших чіпів" до "заводу штучного інтелекту"

Лекс Фрідман: Ви вивели NVIDIA на новий етап штучного інтелекту, перейшовши від зосередження на проектуванні чіпів у минулому до проектування рівня стійки сьогодні. Можна сказати, що минулі перемоги NVIDIA були значною мірою засновані на створенні найпотужнішого графічного процесора, і ви досі цим займаєтеся, але це розширилося до екстремального спільної розробки: GPU, CPU, пам'ять, мережа, сховище, живлення, охолодження, програмне забезпечення, сама стійка, модулі, які ви випустили, і навіть весь центр обробки даних. Отже, давайте почнемо з "екстремального спільної розробки". З огляду на велику кількість складних компонентів і змінних, яка частина спільного проектування системи є найскладнішою?

Дженсен Хуан: Це чудове запитання. По-перше, причина, з якої ми повинні займатися екстремальним спільним проектуванням, полягає в тому, що проблеми, які ми зараз вирішуємо, не можуть бути прискореними за допомогою одного комп'ютера або навіть одного GPU. Ви дійсно хочете, щоб прискорення обчислень перевищило швидкість, з якою ви додаєте комп'ютери. Ви додаєте 10 000 комп'ютерів, але хочете, щоб продуктивність покращилася в 1 000 000 разів. Отже, вам потрібно переосмислити алгоритми, розбити алгоритми на частини, реконструювати їх, розбити конвеєри, дані, модель. Коли ви розподіляєте проблему таким чином, мова йде не просто про "масштабування", а про "розподіл проблеми", і тоді все стає вузьким місцем.

Це, по суті, проблема закону Амдала: загальне прискорення системи залежить від частки роботи, яку можна прискорити. Якщо обчислення становлять лише 50% проблеми, навіть якщо ви збільшите швидкість обчислень у мільйон разів, загальне прискорення складе лише два рази. Тому вам потрібно не лише розподіляти обчислення, але й вирішувати проблеми розбиття конвеєрів, проблем з'єднання мережі, оскільки всі ці комп'ютери повинні бути взаємопов'язані. У нашій моделі розподілених обчислень проблема полягає в центральному процесорі, проблема полягає в графічному процесорі, проблема полягає в мережі, проблема полягає в комутаторі, і сама балансування навантаження є проблемою. Це надзвичайно складна проблема інформатики. Тому ми повинні використовувати всі технології разом; інакше ви можете масштабувати лише лінійно або покладатися на закон Мура, який також сповільнюється.

Примітка: Закон Амдала можна розуміти як математичний вираз ефекту відра в обчислювальній системі. У цій статті він використовується для ілюстрації того, що обчислення з використанням штучного інтелекту – це не просто питання покращення продуктивності графічного процесора; такі аспекти, як мережа, сховище, планування стануть вузькими місцями, які потрібно оптимізувати на рівні системи.

Лекс Фрідман: Має бути багато компромісів, і це стосується експертів з абсолютно різних галузей, таких як пам'ять з високою пропускною здатністю, мережі, NVLink, мережеві адаптери, оптика, мідні з'єднання, живлення, охолодження тощо. У кожній галузі є експерти світового класу. Як ви змогли об'єднати цих людей для співпраці?

Дженсен Хуан: Ось чому моя команда така велика.

Лекс Фрідман: Ви можете розповісти про цей процес? Як експерти та фахівці з широкого профілю співпрацюють? Який загальний процес проектування, коли потрібно вмістити всі ці речі в стійку?

Дженсен Хуан:

Ви можете відповісти трьома питаннями. Перше питання: Що таке "Екстремальне співавторське проектування"? По суті, мова йде про комплексній оптимізації всього програмно-апаратного комплексу, від архітектури, чіпа, системи, системного програмного забезпечення, алгоритмів до додатків; це перший рівень. Другий рівень, як ми щойно згадували, - це не лише процесори, графічні процесори та мережеві чіпи, але й системи комутації масштабування та масштабування, а також електроживлення та охолодження, оскільки ці комп'ютерні системи споживають багато енергії. Вони дійсно дуже ефективні, але все одно споживають значну кількість електроенергії в цілому.

Тож перше питання: "що це таке", друге питання: "навіщо це робити", як ми щойно згадували, вам потрібно розподіляти робочі навантаження, щоб отримати переваги, що виходять за межі простого збільшення кількості комп'ютерів.

Третє питання: "як це зробити". Це насправді найчарівніша частина цієї компанії. Коли ви проектуєте комп'ютер, вам потрібна операційна система; коли ви проектуєте компанію, ви спочатку повинні подумати про те, що ця компанія збирається виробляти. Я бачив організаційні структури багатьох компаній, і всі вони схожі - структури, як гамбургер, як програмні компанії, як автомобільні компанії, але, на мою думку, це не має сенсу. Мета компанії - стати машиною, яка виробляє продукти, це механізм, система, що використовується для безперервного виробництва продуктів, які ми хочемо.

Організаційна структура компанії повинна відображати середовище, в якому вона працює. До певної міри це також визначає, як має функціонувати організація. Моя безпосередня команда звітності налічує близько 60 осіб. Я не спілкуюся з ними один на один, тому що це неможливо. Якщо у вас 60 прямих підлеглих і є робота, яку потрібно виконати, ви не можете виконати її через індивідуальні взаємодії.

Лекс Фрідман: Але у вас все ще є 60 прямих підлеглих?

Дженсен Хуан: Більше того. І ці люди переважно мають інженерну освіту, серед них є експерти з пам'яті, експерти з центральних процесорів, експерти з оптики, експерти з графічних процесорів, архітектори, алгоритмісти, експерти з дизайну.

Лекс Фрідман: Це дивовижно.

Дженсен Хуан: Так.

Лекс Фрідман: Отже, ви по суті контролювали весь технологічний стек і брали участь у глибоких обговореннях загального дизайну?

Дженсен Хуан: А у нас немає «один на один». Ми ставимо запитання, а потім всі разом його вирішуємо. Оскільки ми займаємося екстремальним спільнотним дизайном, компанія робить це щодня.

Лекс Фрідман: Тож, навіть якщо ви обговорюєте певний компонент, наприклад, охолодження або мережу, всі залучені?

Дженсен Хуан: Так, це абсолютно вірно.

Лекс Фрідман: Кожен може сказати: "Це рішення не працює для живлення", "Це не працює для пам'яті"?

Дженсен Хуан: Це правильно. Усі, хто хоче взяти участь, це роблять, а ті, хто не хоче, можуть відмовитися. Але кожен у команді знає, коли йому слід брати участь. Якщо виникає проблема, коли хтось мав зробити свій внесок, але цього не зробив, я закликаю його приєднатися.

Лекс Фрідман: Тож як NVIDIA еволюціонувала в умовах зміни середовища? Від початкового випуску графічних процесорів для ігор до глибокого навчання, а тепер і "завод AI" — як відбувся цей перехід?

Дженсен Хуан:

Це можна логічно вивести. Ми почали як компанія-акселератор. Однак проблема з акселераторами полягає в тому, що вони занадто вузько застосовуються. Їхня сила полягає у високій оптимізації, як і в усіх спеціалізованих системах, але проблема полягає в тому, що чим більше спеціалізована система, тим вужчим є ринок. Це саме по собі не є найбільшою проблемою. Більш критичний аспект полягає в тому, що розмір ринку визначає ваші можливості в галузі досліджень і розробок, а в кінцевому підсумку – ваш вплив у сфері обчислень.

Тому, коли ми спочатку створили прискорювач, ми знали, що це був лише перший крок. Нам потрібно було знайти шлях до того, що ми назвали "прискореними обчисленнями". Але проблема полягає в тому, що як тільки ви стаєте компанією, що займається обчисленнями, ви стаєте занадто універсальними, тим самим послаблюючи свої спеціалізовані можливості. Я навмисно об'єднав ці два слова напруженості: Обчислення проти спеціалізації. Чим більше ви схожі на обчислювальну компанію, тим менше ви схожі на спеціалізовану систему; чим більше ви спеціалізуєтесь, тим важче охопити весь обчислювальний ландшафт.

Тому компаніям доводиться знаходити дуже вузький шлях, поступово розширюючи межі обчислювальних можливостей, не втрачаючи при цьому найважливіші спеціалізовані можливості.

Нашим першим кроком було винайти програмований шейдер пікселів, що стало першим кроком до «програмування». Другим кроком ми впровадили FP32 у шейдер, який є сумісним з одинарною точністю з плаваючою комою відповідно до стандарту IEEE, що стало важливим кроком, який привернув увагу багатьох, хто працює над потоковими процесорами та обчисленнями на основі потоку даних. Вони почали розуміти, що цей потужний і відповідний стандартам GPU може потенційно використовуватися для обчислень загального призначення. Тому вони почали намагатися перенести програмне забезпечення, спочатку написане для CPU, на GPU.

Далі ми впровадили мову C поверх FP32, утворивши Cg, яка згодом перетворилася на CUDA. Випуск CUDA на GeForce був надзвичайно важливим рішенням, але компанія фактично не могла собі це дозволити в той час. Причина, чому ми все ж це зробили, полягала в тому, що ми хотіли стати обчислювальною компанією. І комп'ютерна компанія повинна мати уніфіковану обчислювальну архітектуру, яка залишається незмінною на всіх чіпах.

Рішення, яке майже затонуло компанію, підтримало всю епоху штучного інтелекту.

Лекс Фрідман: Ви можете розповісти про це рішення? У той час, коли вартість була явно недоступною, чому ви все ще розмістили CUDA на GeForce?

Дженсен Хуан: Це було рішення на межі «життя або смерті». Я б сказав, що це було наше перше стратегічне рішення, близьке до «екзистенційної загрози».

Лекс Фрідман: Для тих, хто може не знати, пізніше це було визнано одним із найкращих рішень в історії компанії. CUDA стала основною обчислювальною платформою всієї інфраструктури штучного інтелекту.

Дженсен Хуан:

Так, пізніше це було визнано правильним рішенням. Логіка на той час була такою: ми винайшли CUDA, що розширило спектр застосувань, які міг охоплювати наш прискорювач. Але питання полягало в тому, як залучити розробників? Тому що ядро обчислювальної платформи — це розробники, і вони не прийдуть просто тому, що платформа «цікава»; вони обирають платформи з значним розгортанням.

Швидкість прийняття є найважливішим фактором. Розробники, як і всі інші, хочуть, щоб їхнє програмне забезпечення охопило більше користувачів. Тому швидкість прийняття є ключовим чинником успіху. Архітектуру можна сильно критикувати, наприклад, x86 вважається неелегантним, але вона залишається домінуючою архітектурою сьогодні через її масове впровадження.

На противагу цьому, багато архітектур RISC елегантно спроектовані провідними комп'ютерними вченими, але в підсумку зазнали невдачі. Це ілюструє певний момент: швидкість впровадження визначає архітектуру, а все інше є другорядним.

У той час CUDA зіткнулася з конкуренцією, наприклад, OpenCL і так далі. Ключове рішення, яке ми прийняли, було таким: оскільки швидкість впровадження є найважливішою, ми повинні знайти спосіб швидко вивести цю нову архітектуру на ринок.

На той час GeForce вже був дуже успішним, щороку продаючи мільйони графічних процесорів. Тому ми вирішили вбудувати CUDA в кожну GeForce, зробивши її частиною кожного ПК, незалежно від того, використовували користувачі її чи ні. Це був найшвидший спосіб забезпечити широке використання.

Одночасно ми звернулися до університетів, написали підручники та запропонували курси, щоб поширити CUDA всюди. У той час ПК були основними обчислювальними платформами, доери хмарних обчислень. Ми по суті поставили «суперкомп'ютер» у руки кожного студента, кожного дослідника.

Однак це значно збільшило вартість графічних процесорів, майже вичерпавши всю валову маржу компанії. На той час компанія оцінювалася приблизно в шість-сім мільярдів доларів. Після впровадження CUDA оцінка впала до приблизно 15 мільярдів доларів через збільшення витрат. Ми пройшли через дуже складний етап, але ми не здавалися.

Я завжди кажу, що NVIDIA – це будинок, побудований на GeForce. Тому що саме GeForce зробив CUDA доступним для всіх. Дослідники, вчені, інженери – усі відкрили для себе CUDA завдяки GeForce. Багато людей були геймерами, будували власні ПК, створювали кластери в лабораторіях з компонентів ПК – це була відправна точка для старту CUDA.

Лекс Фрідман: І це потім стало фундаментальною платформою для революції в області глибинного навчання.

Дженсен Хуан: Рівно, це дуже важливе спостереження.

Лекс Фрідман: Чи пам'ятаєте ви, як проходили внутрішні обговорення в той момент, коли йшлося майже про "життя і смерть"?

Дженсен Хуан: Мені довелося пояснити раді, що ми робимо, а команда менеджерів зрозуміла, що наша валова маржа буде сильно знижена. Ви можете уявити такий сценарій: GeForce несла витрати на CUDA, але геймери не хотіли платити за це. Вони були готові платити лише фіксовану ціну і не хотіли платити більше, тому що ваші витрати зросли.

Ми підвищили вартість на 50%, тоді як валовий прибуток компанії становить лише 35%, тому це було дуже складне рішення. Але ми могли уявити майбутнє: CUDA увійде в робочі станції, у суперкомп'ютери, і в цих галузях ми могли б досягти більшого прибутку. Логічно, ви можете переконати себе, що це можливо, але насправді на реалізацію цього знадобилося десять років.

Лекс Фрідман: Але це більше стосується комунікації з радою директорів. З вашої особистої точки зору, як ви прийняли таке рішення «ставки на майбутнє»? NVIDIA завжди приймала сміливі рішення, щоб передбачити майбутнє, навіть визначати майбутнє, як ви це робили?

Дженсен Хуан: По-перше, у мене сильна цікавість. Потім є процес міркування, який мене дуже переконує, що певний результат обов'язково станеться. Коли я дійсно вірю в щось у своєму розумі, то майбутнє стає дуже чітким, майже неможливим, щоб воно не відбулося. Попереду буде багато болю, але ви повинні вірити в те, у що вірите.

Лекс Фрідман: Отже, ви спочатку будуєте майбутнє в своєму розумі, а потім втілюєте його в життя?

Дженсен Хуан:

Так. Ви будете міркувати про те, як це зробити, чому це має існувати. Ми будемо міркувати багато разів, і команда управління також братиме участь, ми витратимо на це багато часу.

Далі йде дуже важлива здатність. Багато лідерів спочатку мовчать, навчаються, а потім одного разу раптом роблять «оголошення», наприклад, у новому році, велику корекцію, велике скорочення, реорганізацію організації, нову місію, новий логотип. Я не роблю так.

Коли я починаю розуміти, що щось важливо, я негайно кажу людям навколо мене: це важливо і це матиме вплив. Я поясню крок за кроком. Я вже багато разів приймала рішення, але я буду використовувати кожну можливість — нову інформацію, нові ідеї, новий технічний прогрес — щоб постійно формувати розуміння всіх.

Я роблю це щодня, з радою директорів, з керівництвом, з працівниками. Я постійно формую їхні системи вірувань. Тому, коли одного разу я скажу: «Ми збираємося придбати Mellanox», всі відчують, що це очевидне рішення.

Коли я кажу: «Ми повністю віддаємося глибинному навчанню», насправді я заклала основу для цього давно. Коли я це оголошую, багато людей насправді кажуть: «Чому ви говорите про це тільки зараз?»

У певному сенсі це схоже на «керівництво ззаду», але насправді ви весь час формували консенсус. Ви хочете, щоб усі йшли разом, а не раптом оголошували рішення, яке ніхто не розуміє.

Лекс Фрідман: І ви не просто формуєте пізнання в компанії, ви формуєте всю галузь.

Дженсен Хуан:

Ми фактично не продаємо комп'ютери безпосередньо, ми також не продаємо хмару безпосередньо. Ми є компанією, що займається розробкою обчислювальної платформи. Ми розробляємо вертикальну інтеграцію на кожному рівні, але в той же час ми відкриті на кожному рівні, щоб інші компанії могли інтегрувати її у свої власні продукти, послуги, хмари та суперкомп'ютери.

Тому, якщо я не зможу спочатку переконати всю галузь, мій продукт не буде запущений. Ось чому GTC настільки важлива — вона стосується "попереднього перегляду майбутнього". Коли ми фактично випустимо продукт, всі скажуть: "Чому ви це робите тільки зараз?"

Чому ШІ стає більш «грошожерливим»? Накопичуються чотири типи масштабування

Лекс Фрідман: Ви давно вірите в закон масштабування. Ви все ще вірите в нього зараз?

Примітка: Закон масштабування, який зазвичай називають китайським законом масштабування, означає: коли ви безперервно збільшуєте певні ключові змінні, продуктивність системи покращиться відповідно до відносно стабільного та передбачуваного шаблону. В ІІ часто це означає: чим більша модель, чим більше даних, чим потужніша обчислювальна потужність, тим сильніші можливості моделі.

Дженсен Хуан: Звичайно, а зараз існує більше законів масштабування.

Лекс Фрідман: Ви згадували чотири типи раніше: попереднє навчання, навчання після попереднього навчання, етап інференції та агентне масштабування. Дивлячись у майбутнє, чи то короткостроково, чи довгостроково, які потенційні «вузькі місця» вас дійсно турбують? Які проблеми, на вашу думку, необхідно вирішити, навіть якщо це не дає вам спати?

Дженсен Хуан: Давайте згадаємо про сприйняті «вузькі місця» минулого.

Спочатку це була масштабування попередньої підготовки, коли люди вважали, що обмеженість високоякісних даних обмежить покращення інтелекту штучного інтелекту. Ілля Суцкевер навіть сказав: «У нас закінчуються дані», що викликало паніку в галузі. Але реальність довела зворотне. Ми продовжуватимемо розширювати джерела даних, велика частина з яких буде синтетичними даними. Насправді інформація, що передається між людьми, також є принципово "синтетичною". Ви створюєте контент, я споживаю його, потім обробляю і передаю. Тепер ШІ може починати з реальних даних, розширювати, покращувати та генерувати велику кількість даних. Тому фаза після навчання все ще розширюється. Майбутнє обмеження навчання моделі більше не буде пов'язане з даними, а з обчислювальною потужністю.

Примітка: Ілля Суцькевер є співзасновником OpenAI та колишнім головним науковцем, ключовою фігурою в галузі глибинного навчання, який брав участь у ключових проривах, таких як AlexNet, що мали значний вплив на великі моделі та масштабування штучного інтелекту.

Далі йде фаза інференції. Багато людей думали, що інференція проста, а навчання складне. Але це насправді нерозумно, оскільки інференція — це по суті "думання", що набагато складніше, ніж "читання". Навчання більше схоже на запам'ятовування та розпізнавання шаблонів, тоді як інференція включає міркування, планування, пошук, декомпозицію проблем, для яких усіх потрібно багато обчислень. Як виявилося, наша початкова оцінка була правильною, і обчислення висновків є дуже інтенсивним.

Рухаючись вперед, у нас є масштабування агентів. Тепер ми не просто модель, а "система агентів", яка може викликати інструменти, отримувати доступ до баз даних і генерувати під-агентів. Подібно до компанії, замість того, щоб підвищувати здібності однієї людини, легше розширювати можливості, додаючи команду. З ШІ все так само, він здатний швидко копіюватися та масштабуватися. Отже, це новий закон масштабування.

Ці процеси утворюють цикл: агент генерує дані, дані повертаються для попередньої підготовки, потім переходять до післятренування, потім до інференції, потім до системи агентів, постійно циклічно. Зрештою, зростання інтелекту зводиться до основної змінної: обчислювальної потужності.

Лекс Фрідман: Але ось виклик: ви повинні заздалегідь передбачати ці зміни, оскільки різні етапи вимагають різного обладнання, наприклад, архітектуру MoE, рідкість тощо. А цикл обладнання триває кілька років, тому ви не можете налаштовувати його, коли захочете.

Дженсен Хуан: Так точно. Архітектури моделей ШІ змінюються приблизно кожні 6 місяців, тоді як архітектури систем і обладнання змінюються приблизно кожні 3 роки. Тому ви повинні прогнозувати майбутнє на два-три роки наперед. У нас є три методи: по-перше, ми проводимо власні дослідження, включаючи фундаментальні та прикладні дослідження, ми створюємо наші моделі; по-друге, ми співпрацюємо майже з усіма компаніями в галузі ШІ, щоб зрозуміти їхні проблеми; по-третє, ми створюємо досить гнучку архітектуру, таку як CUDA, яка є одночасно ефективною та гнучкою.

Наприклад, коли з'явився MoE, ми представили NVLink 72, який може запускати модель з 100 трильйонами параметрів так, ніби це одна GPU. Інший приклад - стійка Grace Blackwell і стійка Vera Rubin, їх конструкції повністю різні, оскільки перша призначена для інференції LLM, тоді як остання призначена для агентних систем.

Примітка: Стэн Grace Blackwell — це комплексна обчислювальна система на базі штучного інтелекту, запущена NVIDIA для масштабного навчання моделей і інференсу, з глибоко інтегрованими процесором Grace і графічним процесором Blackwell за допомогою високошвидкісних інтерконекторів, що слугують основним обчислювальним блоком "фабрики штучного інтелекту"; стэн Vera Rubin — це архітектура інфраструктури штучного інтелекту наступного покоління від NVIDIA (після Blackwell), орієнтована на більш складні системи агентів і масштабні сценарії інференсу, з акцентом на співпрацю на рівні системи та підвищену енергоефективність.

Лекс Фрідман: Але ці конструкції були завершені до появи Claude Code, Codex і OpenClaw. Як ви могли це передбачити?

Дженсен Хуан: Насправді це не так складно, потрібно просто використовувати логіку. Припустимо, що LLM має стати "цифровим працівником", він повинен мати доступ до реальних даних, проводити дослідження, використовувати інструменти. Тому він повинен мати систему введення/виведення, викликати інструменти. Деякі кажуть, що ШІ замінить програмне забезпечення, але це не так. Як і робот, він не перетворить свою руку на молоток або скальпель, а скоріше використовуватиме інструменти. Не біда, якщо він не знає, як ними користуватися з першого разу, він може прочитати інструкцію і швидко навчитися. Тому ці можливості неминучі.

Коли ви міркуєте так, ви побачите, що ми фактично винайшли комп'ютер заново. Архітектура агента, про яку я говорив на GTC два роки тому, майже точно відповідає сучасному OpenClaw. Значення OpenClaw для агентів подібне до того, що ChatGPT означає для генеративного штучного інтелекту.

Лекс Фрідман: Дійсно, це особливий момент.

Дженсен Хуан: Так.

Лекс Фрідман: Але тут також є проблема; коли технологія стає настільки потужною, вона також несе ризики для безпеки. Ми як особистості та як суспільство намагаємося знайти баланс.

Дженсен Хуан: Так, ми негайно залучили велику кількість експертів з безпеки для вивчення цього питання. Ми створили систему під назвою OpenShell, яка тепер інтегрована в OpenClaw. У той же час NVIDIA також представила NemoClaw.

Лекс Фрідман: Так, її встановлення також дуже просте і може забезпечити безпеку системи.

Дженсен Хуан: Ми запропонували принцип: у будь-який момент часу можна володіти лише двома з трьох можливостей: доступ до конфіденційних даних, виконання коду, зовнішнє спілкування. Якщо всі три можливості присутні одночасно, це створює ризик. Тому ми забезпечуємо безпеку за допомогою цього підходу "вибір двох з трьох". Крім того, ми впровадили контроль доступу на рівні підприємства та механізм політики, що дозволяє компаніям керувати на основі власних систем дозволів. Ми зробимо все можливе, щоб зробити OpenClaw більш безпечним і керованим.

Межа ШІ - це не алгоритм, а електрика

Лекс Фрідман: Ви щойно говорили про багато речей, які колись вважалися вузькими місцями в минулому, але згодом були подолані. Тож, дивлячись на це зараз, у майбутньому, де агенти будуть всюдисущими, що стане справжнім вузьким місцем?

Лекс Фрідман: Але ви, здається, не вважаєте ланцюжок поставок найбільш тривожним вузьким місцем?

Дженсен Хуан: Оскільки я систематично вирішив ці питання по одному, тепер я можу спокійно спати. Ми будемо міркувати з перших принципів: Що означає зміна архітектури системи? Як зміниться програмне забезпечення? Як зміняться інженерні процеси? Як зміниться ланцюжок поставок? Наприклад, стійка NVLink 72 змістила інтеграцію суперкомп'ютерів зсередини центру обробки даних до краю ланцюжка поставок. Раніше компоненти доставляли до центру обробки даних для складання, але тепер їх збирають у повні системи безпосередньо в ланцюжку поставок, а потім транспортують.

Це означає, що сам ланцюжок поставок повинен мати потужніші виробничі можливості, наприклад, підтримку масштабного енерготестування. Нам навіть потрібно, щоб ланцюжок поставок мав можливість забезпечувати живлення на рівні гігават для тестування цих систем. Тому я особисто спілкуватимуся з постачальниками, розповідатиму їм про майбутні потреби та змушуватиму їх інвестувати мільярди доларів. Вони довіряють мені, і я дам їм достатньо інформації та часу, щоб зрозуміти ці зміни.

Лекс Фрідман: Тож вас турбують певні вузькі місця? Як EUV, потужність упаковки тощо?

Дженсен Хуан: Мене ні. Тому що я сказав їм, що мені потрібно, і вони сказали мені, як вони це зроблять. Я їм довіряю.

Лекс Фрідман: Тепер повернемося до питання про електроенергію. Як ви бачите енергетичну проблему?

Дженсен Хуан: Я хотів би, щоб кожен звернув увагу на той факт: Наша енергомережа розроблена з урахуванням «найгіршого сценарію», наприклад, пікового попиту під час екстремальних погодних умов. Але насправді 99% часу ми далеко від досягнення цього піку, більшу частину часу, можливо, працюючи лише на рівні близько 60%. Це означає, що більшу частину часу в енергомережі є багато вільної потужності, але ця потужність повинна існувати, оскільки критична інфраструктура, така як лікарні та аеропорти, повинна мати електроенергію в найважливіші моменти.

Тому я думаю, чи можемо ми розробити механізм, за допомогою якого, коли енергомережі потрібно працювати на повну потужність, центри обробки даних зменшують споживання електроенергії; а більшу частину часу використовують цю вільну енергію? Наприклад, центри обробки даних можуть зменшувати продуктивність, мігрувати завдання або навіть тимчасово знижувати рівень послуг у пікові періоди. Таким чином, ми можемо ефективніше використовувати енергомережу.

Але поточні проблеми полягають у трьох аспектах: По-перше, клієнти вимагають, щоб центри обробки даних були доступні на 100 %; по-друге, конструкція центрів обробки даних повинна підтримувати це динамічне зменшення масштабів; і по-третє, енергетичні компанії також повинні надавати більш гнучкі режими електропостачання. Якщо досягти всіх трьох пунктів, ми можемо значно покращити ефективність використання електроенергії.

Тому я вважаю, що майбутнє використання комп'ютерів і створення центрів обробки даних не повинно бути спрямоване лише на забезпечення безперебійної роботи на 100 %. Ці дуже жорсткі контракти фактично чинять великий тиск на електромережу, оскільки вони вимагають від неї не лише задовольняти піковий попит, але й продовжувати розширюватися. Я дійсно хочу використати саме ту частину надлишкової невикористаної потужності.

Лекс Фрідман: Цей момент дійсно обговорюється недостатньо. Яка, на вашу думку, зараз є основною перешкодою?

Дженсен Хуан: Я вважаю, що це проблема трьох сторін.

По-перше, це кінцевий клієнт. Кінцевий клієнт висуває вимоги до центру обробки даних: ви абсолютно не можете вийти в офлайн, абсолютно не можете бути недоступним. Іншими словами, клієнт очікує досконалості. І щоб досягти цієї досконалості, вам потрібні резервні генератори, а постачальник електроенергії також повинен бути майже ідеальним. Тому кожна ланка повинна прагнути до "шести дев'яток".

Примітка: "Шість дев'яток" означає доступність на рівні 99,9999%.

Тому я вважаю, що перше, що потрібно зробити, це переконатися, що всі клієнти, всі генеральні директори дійсно усвідомлюють, про що насправді йде мова. Часто люди, які підписують ці контракти, насправді є просто працівниками команди операційного центру обробки даних, які не мають жодного відношення до генерального директора. Я впевнений, що багато генеральних директорів не мають жодного уявлення про те, що означають ці умови контракту. Я готовий поговорити з усіма ними.

Ці генеральні директори, ймовірно, навіть не звертають уваги на те, що ці контракти підписуються. Кожен хоче підписати найкращий контракт, що, звичайно, зрозуміло. А потім ці вимоги передаються по ланцюжку постачальникам хмарних послуг, які потім передають їх комунальним службам, тому вся ланцюжок вимагає «шість дев'яток». Тому перший крок - змусити клієнтів і генеральних директорів по-справжньому зрозуміти, що вони просять.

Друге - ми повинні побудувати центри обробки даних, які можуть «впорядковано деградувати». Іншими словами, якщо сітка скаже нам: «Вам потрібно зменшити споживання енергії до 80%», ми повинні мати можливість сказати: «Без проблем».

Ми можемо перенести навантаження на інший час. Ми подбаємо про те, щоб дані ніколи не втрачалися, але ми можемо зменшити швидкість обчислень, використовувати трохи менше енергії. Якість обслуговування дещо знизиться. Що стосується найбільш критичних обчислень, я негайно перенесу їх в інше місце, щоб вони не постраждали. Тому, незалежно від того, який центр обробки даних все ще може підтримувати 100% безперебійну роботу, нехай він обробляє найважливішу частину.

Лекс Фрідман: Наскільки складним є це інтелектуальне, динамічне розподілення потужності для центрів обробки даних з інженерної точки зору?

Дженсен Хуан: Доки ви можете чітко визначити проблему, ви можете її вирішити. Ви поставили запитання винятково добре. Доки це відповідає фізичним законам на рівні перших принципів, я вірю, що ми можемо досягти цього.

Лекс Фрідман: Ви щойно згадали три речі, яка була третя?

Дженсен Хуан: Друга - це сам центр обробки даних, а третя - комунальні підприємства також повинні усвідомити, що це насправді є можливістю.

Вони не завжди можуть сказати: «Вам доведеться чекати п'ять років, поки я розширю мережу до такого рівня потужності». Якщо ви готові прийняти такий рівень забезпечення електроенергією, то я фактично можу постачати вам електроенергію за цією ціною наступного місяця.

Тому, якщо комунальні підприємства також зможуть забезпечити більш багаторівневі зобов'язання щодо електроенергії, я думаю, що ринок сам знайде відповідні рішення. В енергосистемі зараз занадто багато відходів, і ми повинні їх використати.

Лекс Фрідман: Ви раніше високо оцінили здатність Ілона Маска побудувати суперкомп'ютер Colossus у Мемфісі. Що, на вашу думку, варто вивчити з його підходу?

Дженсен Хуан: Ілон бере участь у дуже широкому колі сфер, але він дуже сильний системний мислитель. Він постійно запитує: Це дійсно необхідно? Чи потрібно це робити саме так? Чому це займає так багато часу? Він стискає систему до мінімальної необхідної складності, зберігаючи основні можливості.

Він також дуже практичний, де б не виникла проблема, він туди йде. Він порушує багато "конвенцій" і "процесів", щоб дійсно рухати речі вперед. Крім того, його відчуття невідкладності пронизує весь ланцюжок поставок. Він змушує всіх постачальників ставити його на перше місце, що є вирішальним.

Лекс Фрідман: Чи маєте ви подібний підхід у спільному проектуванні NVIDIA?

Дженсен Хуан: Спільне проектування саме по собі є найвищою формою системної інженерії. У нас також є концепція під назвою «мислення зі швидкістю світла». Це не просто швидкість, це фізичний ліміт. Ми порівнюємо всі проблеми з фізичним лімітом: швидкість пам'яті, швидкість обробки, споживання енергії, вартість, час, виробничий цикл тощо. Спочатку ми запитуємо: Що можна досягти на фізичному ліміті? А потім шукайте компроміси в реальному житті.

Мені не дуже подобається підхід «безперервної оптимізації». Якщо процес зараз займає 74 дні, і хтось каже, що його можна оптимізувати до 72 днів, я не зовсім згоден. Я б скоріше почав з нуля і запитав: Чому це 74 дні? Якщо починати з нуля, як швидко це можна зробити зараз? Багато разів відповіддю може бути 6 днів. Тоді ви розумієте, чому існують інші 68 днів.

Лекс Фрідман: В такій складній системі чи принцип "простоти" все ще важливий?

Дженсен Хуан: Звичайно. Те, що ми прагнемо, - це «необхідна складність» і «простота, де це можливо». Ми повинні постійно запитувати: Чи потрібна ця складність? Якщо ні, видаліть її.

Лекс Фрідман: Але ваша система вже надзвичайно складна, наприклад, капсула Вера Рубін, з трильйонами транзисторів і тисячами графічних процесорів.

Дженсен Хуан: Так, це найскладніша комп'ютерна система у світі.

Лекс Фрідман: Це дуже цікаво. Ви нещодавно відвідали Китай. Тому я дуже хочу задати вам запитання: Вражаючий підйом Китаю в технологічній галузі за останнє десятиліття був вражаючим. Як ви думаєте, як їм вдалося створити так багато компаній світового рівня, інженерних команд світового рівня та таку технологічну екосистему, яка постійно створює дивовижні продукти за такий короткий час?

Дженсен Хуан:

Причин багато. Давайте почнемо з деяких основних фактів. У всьому світі приблизно половина дослідників у галузі штучного інтелекту - китайці, грубо кажучи, і більшість з них все ще перебувають у Китаї. У нас тут також багато таких, але сам Китай все ще має велику кількість чудових дослідників. Технічна індустрія Китаю з'явилася в критичний момент — епоху мобільного інтернету та хмарних обчислень. Їх основний шлях внеску — програмне забезпечення, і в цій країні дуже міцна основа в галузі освіти з природничих наук і математики; молодь має високий рівень освіти. Виростаючи в епоху програмного забезпечення, вони дуже добре знайомі з сучасними програмними системами.

Крім того, Китай не є єдиним економічним суб'єктом, а складається з багатьох провінцій і міст, які конкурують між собою. Ось чому ви бачите велику кількість нових компаній з виробництва енергетичних транспортних засобів, численні компанії зі штучного інтелекту, і майже в кожній галузі є багато компаній, які одночасно займаються подібними речами. Ця внутрішня конкуренція дуже жорстка, і зазвичай виживають лише чудові компанії.

Крім того, їхня соціальна культура - це "сім'я на першому місці, друзі на другому, компанія на третьому". У цій структурі обмін інформацією між різними компаніями відбувається дуже часто і по суті створює довгострокове відкрите середовище. Тому їхні великі інвестиції в відкритий вихідний код є природними, оскільки вони природно думають: "Що ми насправді захищаємо?" Існує значний збіг відносин серед інженерів - родичі, друзі, однокласники, причому "однокласники" - це майже довічні відносини. Це швидке поширення знань робить відкритий вихідний код більш ефективним, оскільки в самій технології відсутня сильна мотивація до використання пропрієтарних рішень. Спільнота з відкритим вихідним кодом ще більше підсилює та прискорює процес інновацій.

Тому ви побачите, що поєднання найкращих талантів, швидких інновацій, що базуються на відкритому вихідному коді, тісно пов'язаних відносин і інтенсивної конкуренції, в кінцевому підсумку дає дуже сильні технічні результати. З цієї точки зору, Китай наразі є країною з найшвидшими інноваціями у світі. За всім цим стоять основні фактори: система освіти, акцент на навчанні в сім'ях, культурна структура та сприятливе розташування в ключовому вікні експоненціального технологічного розвитку.

Лекс Фрідман: З культурної точки зору, бути інженером - це дуже "круто".

Дженсен Хуан: Так, це "інженерна країна". Багато лідерів у США мають юридичну освіту, що сприяє управлінню та інституційній стабільності; тоді як багато лідерів у Китаї самі є видатними інженерами.

Лекс Фрідман: Ви згадували відкрите джерело раніше, і я хотів би заглибитися в це. Ви завжди високо цінували Perplexity.

Дженсен Хуан: Мені це подобається.

Лекс Фрідман: Також дякую за відкрите джерело Nemotron 3 Super, модель MoE з 1,2 трильйонами параметрів, яку тепер можна використовувати в Perplexity. Як ви вважаєте, яке довгострокове значення має відкрите джерело? Такі компанії, як китайські DeepSeek, MiniMax, розвивають відкритий ІІ, а NVIDIA також працює над майже найкращими у своєму класі відкритими моделями. Яка ваша загальна оцінка?

Дженсен Хуан: По-перше, якщо ми хочемо бути чудовою компанією з обчислень на основі штучного інтелекту, ми повинні розуміти, як розвивалися моделі. Мені дуже подобається Nemotron 3, оскільки це не чистий Transformer, а поєднання Transformer і SSM. Ми також були одними з перших, хто прокладав шляхи умовних GAN, прогресивних GAN, які поступово переросли в диффузію. Саме накопичення в архітектурі моделей і фундаментальних дослідженнях дозволяє нам заздалегідь передбачити, які обчислювальні системи знадобляться майбутнім моделям. Це саме по собі є частиною нашого "екстремального співавторства".

По-друге, з одного боку, нам потрібні моделі світового класу як продукти, які можуть бути власністю; але з іншого боку, ми також сподіваємося, що ШІ зможе поширюватися на всі галузі, країни, дослідників і студентів. Якщо все закрито, важко проводити дослідження та впроваджувати інновації на цій основі. Тому для багатьох галузей відкритий вихідний код є необхідною умовою для участі в революції ШІ. У NVIDIA є масштаб і мотивація для постійного створення цих моделей у довгостроковій перспективі, а також ми маємо можливість розвивати всю екосистему, щоб залучити більше людей.

Третій момент полягає в тому, що ШІ – це не лише мова. Майбутній штучний інтелект буде використовувати інструменти, допоміжні моделі та залучати різні галузі, такі як біологія, хімія, фізика, рідини, термодинаміка, які не всі існують у мовній формі. Тому повинні бути постійні зусилля для просування таких напрямків, як метеорологічний штучний інтелект, біо-штучний інтелект, фізичний штучний інтелект тощо, і постійно наближатися до передових розробок. Ми не виробляємо автомобілі, але сподіваємося, що кожен виробник автомобілів може використовувати найкращі моделі; ми не займаємося розробкою ліків, але сподіваємося, що такі компанії, як Gilead, можуть мати найкращу систему біо-штучного інтелекту.

Отже, розглядаючи штучний інтелект з точки зору його широкого застосування, популярності та спільної еволюції штучного інтелекту та обчислювальної архітектури, відкритий вихідний код є необхідним.

Лекс Фрідман: Ще раз дякуємо за відкритий доступ до Nemotron 3.

Дженсен Хуан: Ми не тільки відкрили модель, але й ваги, дані та методи побудови.

Лекс Фрідман: Дійсно чудово.

Дженсен Хуан: Дякуємо.

Лекс Фрідман: Ви народилися на Тайвані, у Китаї, і маєте довгострокове партнерство з TSMC. Я хотів би запитати, як ви розумієте культуру TSMC і як їй вдалося досягти такого унікального успіху?

Дженсен Хуан: Найбільше упереджене уявлення сторонніх про TSMC полягає в тому, що її основа – це лише технологія. Звичайно, їхня технологія дійсно дуже сильна, включаючи транзистори, металеві шари, передові технології упаковки, 3D-упаковка та кремнієву фотоніку. Але те, що дійсно відрізняє їх, – це їхні можливості координації у відповідь на вимоги всієї галузі.

Вони повинні одночасно вирішувати постійно змінювані потреби сотень глобальних клієнтів: збільшення або зменшення замовлень, зміна клієнтів, екстрені доповнення, паузи у виробництві, перезапуски тощо. Незважаючи на такий високодинамічний середовище, вони все ще здатні підтримувати високу пропускну здатність, високу врожайність, низьку вартість і надзвичайно високий рівень обслуговування.

Вони дуже серйозно ставляться до зобов'язань. Коли вони кажуть, що вафель буде доставлено в певний час, його буде доставлено, і це безпосередньо впливає на діяльність компаній-клієнтів. Тому саму їхню виробничу систему можна назвати дивом.

Другий момент - це культура. З одного боку, вони продовжують рухатися в авангарді технологій, а з іншого - орієнтуються на потреби клієнтів. Багато компаній можуть добре робити лише одне з цих завдань, але їм вдалося зробити обидва на світовому рівні.

Третій пункт - нематеріальний актив, довіра. Це дуже важливо. Я міг би повністю побудувати свою компанію на основі їхньої, і ця довіра накопичується завдяки довгостроковій співпраці.

Лекс Фрідман: Ця довіра виникає як завдяки довгостроковій співпраці, так і завдяки міжособистісним відносинам.

Дженсен Хуан: Так. Ми співпрацюємо вже тридцять років, залучаючи десятки, якщо не сотні мільярдів доларів у бізнесі, але між нами навіть немає контракту.

Лекс Фрідман: Це дійсно дивовижно. Існує вислів, що у 2013 році засновник TSMC Морріс Чанг запропонував вам посаду генерального директора, і ви відмовилися. Це правда?

Дженсен Хуан: Це правда. Я був дуже радий, але в той час я також чітко розумів, що те, що робила NVIDIA, було надзвичайно важливо. Я бачив, чим це стане в майбутньому та який вплив це матиме. Це була моя відповідальність, і я мав зробити так, щоб це сталося. Тому я відмовився, не тому, що ця можливість була неважливою, а тому, що я не міг від неї відмовитися.

Лекс Фрідман: Я вважаю, що NVIDIA і TSMC - одна з найвидатніших компаній в історії людства.

Дженсен Хуан: Дякуємо.

Лекс Фрідман: Я маю запитати. Використовуючи слова, які часто чують у технічній індустрії, яким є ваша найбільша «фортеця», тобто яка основна перевага допомагає вам протистояти конкуренції?

Дженсен Хуан:

В основі лежить масштаб нашої обчислювальної платформи, яка є встановленою базою CUDA. Двадцять років тому у нас не було такої переваги, але сьогодні ситуація зовсім інша. Навіть якби хтось розробив технологію, подібну до CUDA, було б складно змінити поточний ландшафт. Тому що ключем ніколи була не сама технологія, а системна перевага, сформована довгостроковими інвестиціями, безперервною ітерацією та постійним розширенням.

Успіх CUDA був досягнутий не кількома людьми, а став результатом роботи 43 000 співробітників і мільйонів розробників, які працювали разом. Розробники обирають розробку на CUDA, тому що вірять, що ми будемо підтримувати цю платформу в довгостроковій перспективі та продовжуватимемо розвивати її. Тому сама "встановлена база" є найважливішою перевагою.

Коли ця масштабна перевага поєднується з нашою швидкістю виконання, це створює сильніший бар'єр. Історично мало компаній змогли створити таку складну систему на такій швидкості, не кажучи вже про те, щоб постійно вдосконалювати її щорічно.

З точки зору розробника, якщо ви вирішите підтримувати CUDA, ви можете розраховувати на те, що через шість місяців вона стане сильнішою, і в той же час ви зможете охопити сотні мільйонів пристроїв по всьому світу, охопивши всі хмарні платформи, майже всі галузі та різні країни. Якщо ви відкриваєте проект з відкритим вихідним кодом і віддаєте пріоритет підтримці CUDA, ви не тільки отримуєте масштаб, але й прискорюєте зростання.

До цього додається аспект "довіри", коли розробники вірять, що NVIDIA підтримуватиме цю екосистему в довгостроковій перспективі. Якби я був розробником, я б віддав перевагу вибору CUDA.

Друга перевага - це наша екосистема. Ми глибоко інтегровані у обчислювальну систему вертикально і вбудовані горизонтально майже в кожен продукт компанії. Ми існуємо на Google Cloud, Amazon, Azure, а також на нових хмарних платформах, таких як CoreWeave, охоплюючи суперкомп'ютери, корпоративні системи, периферійні пристрої, автомобілі, роботи, супутники і навіть космос.

Іншими словами, уніфікована обчислювальна архітектура, яка проникла майже в кожну галузь.

Лекс Фрідман: Отже, з розвитком AI-заводів, як буде розвиватися ця перевага установки CUDA? Чи стане майбутня NVIDIA по суті "компанією AI-заводів"?

Дженсен Хуан: Раніше нашим обчислювальним блоком була відеокарта; пізніше ним став цілий комп'ютер, потім кластер; тепер це ціла фабрика штучного інтелекту. Раніше, коли я запускав продукт нового покоління, як, наприклад, «сьогоднішній запуск Ampere», я показував чіп. Це була моя «ментальна модель» на той час. Але сьогодні все по-іншому. Показувати чіп стало певною мірою «милим» жестом, який більше не відображає того, що ми дійсно створили.

Тепер у моїй уяві модель – це величезна система: вона підключена до мережі, має генерацію електроенергії, системи охолодження, надзвичайно складні мережеві структури, десятки тисяч людей, які встановлюють її на місці, і десятки тисяч інженерів, які підтримують її «за лаштунками». Запуск такої системи – це не просто питання натискання кнопки; це вимагає роботи тисяч людей разом.

Лекс Фрідман: Тож коли ви зараз думаєте про «обчислювальний блок», ви насправді думаєте про цілий набір стійків, модуль, а не окремий чіп?

Дженсен Хуан: Це вся інфраструктура. І я сподіваюся, що мій наступний когнітивний стрибок полягатиме в тому, щоб зрозуміти акт «створення комп'ютера» як проблему «планетарного масштабу». Це був би наступний крок.

Лекс Фрідман: Як ви думаєте, чи може NVIDIA потенційно досягти ринкової капіталізації в 1 трильйон доларів у майбутньому? Або, якщо подивитися на це з іншого боку, як би виглядав світ, якби це сталося?

Дженсен Хуан: Я вважаю, що зростання NVIDIA дуже ймовірне, навіть, на мій погляд, неминуче. Дозвольте пояснити причину.

По-перше, ми вже є однією з найбільших обчислювальних компаній в історії. Це вже саме по собі варте роздумів: Чому так?

Є дві причини, обидві пов'язані зі змінами в основних технологіях.

По-перше, відбувся зсув у парадигмі обчислень. Раніше обчислення були, по суті, «системою пошуку». Ми заздалегідь готували вміст, записували вміст, створювали файли, а потім отримували цей вміст за допомогою системи рекомендацій або системи пошуку. Іншими словами, це була система «попередньо створена людиною + пошук файлів». Зараз обчислення на основі штучного інтелекту базуються на контексті, що вимагає обробки в реальному часі та генерації токенів. Ми перейшли від «обчислень на основі пошуку» до «обчислень на основі генерації».

У старій системі нам потрібно було багато місця для зберігання; у новій системі нам потрібно багато обчислень. Тому обчислювальні вимоги значно зростуть. Єдиний сценарій, який може змінити цю тенденцію, це якщо ці обчислення виявляться неефективними. Але за останні 10–15 років досліджень у галузі глибокого навчання та останній прогрес за останні 5 років я впевнений більше, ніж будь-коли раніше.

Друга зміна полягає в тому, що роль комп'ютерів у світі змінилася. Раніше комп'ютери більше нагадували склад; тепер вони більше схожі на фабрику. Сам склад не генерує дохід безпосередньо, тоді як фабрика безпосередньо пов'язана з доходом. Комп'ютери більше не є просто системами зберігання, а системами виробництва. "Товари", які він виробляє, - це токени. І ці токени споживаються різними групами людей, що показують шари, так само, як iPhone: є безкоштовні, висококласні та середнього рівня.

Інтелект, по суті, став масштабованим продуктом. У майбутньому скоро настане ситуація, коли хтось буде готовий платити 1000 доларів за кожен мільйон токенів. Це не питання того, чи станеться це, це просто питання часу.

Тому питання полягає в наступному: Скільки "AI-заводів" потрібно світу? Скільки токенів потрібно? Скільки суспільство готове платити за ці токени? Якщо в результаті продуктивність значно зросте, які зміни відбудуться в глобальній економіці? Чи відкриємо ми нові ліки, нові продукти, нові послуги?

Якщо врахувати всі ці фактори разом, я дуже впевнений: Світовий ВВП прискориться. У той же час частка витрат на обчислення буде на порядок вищою, ніж у минулому.

У цьому контексті, повертаючись до NVIDIA: наша роль у цій новій економіці буде набагато більшою, ніж зараз. Що стосується чисел, наприклад, чи можна досягти доходу в 3 трильйони доларів у майбутньому? Відповідь, звичайно, можлива. Тому що це не обмежено жодними очевидними фізичними обмеженнями.

Постачальницький ланцюг NVIDIA підтримується 200 компаніями, які працюють разом, і ми розширюємося через всю екосистему. Єдине реальне обмеження: енергія. І я вірю, що проблему енергії можна врешті-решт вирішити.

Тому ці цифри самі по собі — це просто "цифри". Я пам'ятаю, коли NVIDIA вперше перевищила виручку в 1 мільярд доларів, хтось сказав мені: «Компанія-розробник напівпровідників без власного заводу не може перевищити 1 мільярд доларів». Пізніше хтось інший сказав: «Ви не можете перевищити 25 мільярдів доларів».

Ці оцінки не базуються на основних принципах. Справжнє питання, яке потрібно задати: Що ми створюємо? Наскільки велика ця можливість?

NVIDIA не конкурує за існуючу частку ринку. Багато з того, що ми робимо, призначене для ринку, якого ще не існує. Ось чому стороннім людям важко уявити наш ліміт, оскільки немає готової точки відліку. Але в мене достатньо часу. Я продовжую робити висновки та висловлювати їх. Кожен GTC зробить це майбутнє більш конкретним. Зрештою, ми зробимо цей крок. Я на 100% впевнений у цьому.

Лекс Фрідман: Якщо дивитися на це з точки зору "фабрики токенів", то всю систему можна фактично зрозуміти як: генерація токенів на ватт, на секунду, і кожен токен має вартість, причому вартість для різних людей різна. Таким чином, весь світ складається з численних "фабрик токенів". Починаючи з перших принципів, доки проблеми, які може вирішувати штучний інтелект, продовжують зростати, ми можемо зробити висновок, що попит на ці "фабрики" в майбутньому буде зростати експоненціально.

Дженсен Хуан: Так. Мене дуже тішить те, що настав "момент iPhone токенів".

Лекс Фрідман: Що ви маєте на увазі?

Дженсен Хуан: Агент. Програма Agent стає найшвидше зростаючою формою застосування в історії.

Лекс Фрідман: Отже, починаючи з грудня минулого року, люди дійсно почали усвідомлювати можливості таких систем, як Claude Code, Codex і OpenClaw? Чесно кажучи, мені трохи соромно це визнавати: коли я був в аеропорту, я вперше почав "спілкуватися з комп'ютером для кодування", як зі своїми колегами. Я не впевнений, як це буде виглядати для всіх, хто взаємодіє з ШІ таким чином у майбутньому, але ефективність дійсно дуже висока.

Дженсен Хуан: Більш ймовірно, що ваш ШІ постійно буде "перебивати" вас. Оскільки він виконує завдання дуже швидко, він постійно надаватиме вам зворотний зв'язок: "Це зроблено, який наступний крок?"

Лекс Фрідман: Це дійсно неймовірне майбутнє.

Лекс Фрідман: Я бачив, що ви згадували, що ваш успіх багато в чому пов'язаний з тим, що ви працюєте важче за інших і здатні витримувати більший біль, ніж інші.

Цей "біль" насправді охоплює багато аспектів, таких як боротьба з невдачами, інженерні виклики та проблеми з вартістю, про які ми щойно говорили, а також міжособистісні проблеми, невизначеність, відповідальність, втома, незручність і ті моменти, які ви згадували, коли компанія була на межі краху.

Але крім цього, існує ще й тиск. Як генеральний директор компанії, яка оточена урядами та економіками по всьому світу, що формує розподіл ресурсів та планування інфраструктури штучного інтелекту, як ви справляєтеся з таким тиском? Оскільки так багато країн і людей покладаються на вас, звідки ви черпаєте свою силу?

Дженсен Хуан: Я глибоко усвідомлюю, що успіх NVIDIA важливий для Сполучених Штатів. Ми генеруємо значну суму податкових надходжень, займаємо провідну технологічну позицію, а технологічне лідерство саме по собі є частиною національної безпеки. Багатша країна може краще реалізовувати соціальну політику. У той же час ми також стимулюємо реіндустріалізацію, створюючи велику кількість робочих місць, відновлюючи внутрішні виробничі потужності, включаючи заводи з виробництва чіпів, комп'ютерів та штучного інтелекту. Я також дуже добре усвідомлюю, що багато звичайних інвесторів – вчителі, поліцейські – збагатилися, інвестуючи в NVIDIA. Крім того, NVIDIA є частиною величезної екосистеми, багато партнерів якої залежать від нас.

З огляду на все це, мій підхід дуже простий: розбити проблему на складові.

Я питаю себе, яка зараз ситуація? Що змінилося? Де проблеми? Що я можу зробити? Після того, як проблема розбита на частини, вона стає серією дій, які можна виконати.

Тоді залишається лише одне запитання: Ви це зробили? Або ви доручили це комусь іншому? Якщо ви вважаєте, що щось потрібно зробити, але ви не зробили це самі і не спонукали інших це зробити, тоді немає сенсу скаржитися на це.

Я досить суворий до себе. Але водночас я також уникаю паніки, розбиваючи проблеми на складові. Я можу спати спокійно, знаючи, що я визначив усі ризикові моменти та проінформував відповідні відповідальні сторони. Доки все йде так, як повинно, немає потреби хвилюватися.

Лекс Фрідман: Ви відчували психологічний спад у цьому процесі?

Дженсен Хуан: Звичайно, багато разів.

Лекс Фрідман: І ваш метод все ще полягає в тому, щоб розбити проблему?

Дженсен Хуан: Так. Інший момент - «навчання забувати». У машинному навчанні існує важлива здатність, яка називається «вибірковим забуванням». Те саме стосується людей - ви не можете носити все з собою. Я швидко розбиваю проблему, а потім розподіляю навантаження. Про все, що мене турбує, я розповідаю відповідним людям якнайшвидше, а не ношу це в собі. Звісно, потрібно бути суворим до себе — не занурюватися в емоції, просто рухатися вперед.

Інша справа, що вас приваблюватиме "майбутнє". Як спортсмени, вони зосереджуються лише на наступному моменті, а не на помилці попереднього.

Лекс Фрідман: Ви колись сказали, що якби знали, наскільки складною була NVIDIA з самого початку, можливо, не стали б цього робити.

Дженсен Хуан: Так. Але я хочу висловити наступне: це майже стосується всього, що варто робити. Вам потрібен «дитячий спосіб мислення» — коли ви щось бачите, вашою першою реакцією має бути «Наскільки це складно?», а не симуляція всіх труднощів заздалегідь. Ви не повинні репетирувати всі невдачі, перш ніж навіть почати. Ви повинні входити з очікуванням, що «це буде чудово». Однак, коли ви потрапите туди, вам потрібно бути стійким. Поразки, невдачі та приниження трапляються, часто несподівано. У цей момент вам потрібно: забути про це і продовжувати рухатися вперед. Поки ваша основна думка про майбутнє не змінилася, ви повинні продовжувати.

Лекс Фрідман: Після того, як ви досягли такого успіху, чи стає важче залишатися скромним?

Дженсен Хуан: Зовсім навпаки. Оскільки багато з того, що я роблю, є публічним, як тільки виникає помилка судження, всі можуть її побачити. Також мій стиль управління - "відкрите міркування". Я не даю висновків безпосередньо; я пояснюю процес міркування і дозволяю кожному судити про його обґрунтованість.

Я продовжую говорити: "Це мій поточний шлях розуміння", а потім пояснюю процес міркування. Це дає кожному можливість висловити різні думки на будь-якому етапі. Їм не потрібно заперечувати висновок, просто вказати на проблему на певному етапі міркування, і ми можемо продовжити висновок звідти. Це по суті спосіб "колективно знаходити шлях", і це дуже ефективно.

Лекс Фрідман: Коли ви пояснюєте проблему, ви завжди залишаєтеся відкритими, змушуючи людей відчувати, що вони можуть брати участь і навіть впливати на ваше мислення. Насправді дуже важко підтримувати цей стан після пережитого успіху та тиску. Багато людей стають замкнутими через біль.

Дженсен Хуан: Я думаю, що одним із ключових аспектів є толерантність до «поставлення себе у незручне становище».

Лекс Фрідман: Так, це дійсно дуже реальна здатність. Протягом багатьох років, неодноразово стикаючись з «винесенням рішення на нараді, яке виявилося неправильним», і все ще здатність відверто визнавати це і вчитися на цьому, насправді дуже складно на психологічному рівні.

Дженсен Хуан: Так. Знаєте, моя перша робота була насправді прибиранням ванної кімнати.

Лекс Фрідман: Я радий, що ви завжди підтримували той самий настрій, який був у вас, коли ви працювали в Denny's. Досвід початку роботи в Denny's сам по собі дуже зворушливий. Я хочу поговорити про ігри. Я сам захоплююся іграми, і я повинен подякувати NVIDIA за чудовий графічний досвід, який вони надавали протягом багатьох років.

Дженсен Хуан: До речі, до цього дня GeForce залишається нашою найважливішою точкою входу на ринок. Багато людей познайомилися з NVIDIA через ігри в підлітковому віці. Потім вони пішли до коледжу, вже знаючи, що таке NVIDIA. Спочатку вони просто грали в «Call of Duty», грали в «Fortnite», потім почали використовувати CUDA, і врешті-решт вони використовували інструменти в екосистемі NVIDIA, такі як Blender, Dassault, Autodesk тощо.

Лекс Фрідман: Так. Я сказав другу, що збираюся поговорити з вами, і його перша реакція була: «Вони роблять дійсно хороші ігрові графічні процесори».

Дженсен Хуан: Так, це правда (сміється).

Лекс Фрідман: Звичайно, це набагато більше, ніж це. Але насправді багато людей дійсно люблять ці продукти, і вони приносять багато задоволення. Саме обладнання дійсно оживляє ці віртуальні світи. Однак нещодавно виникла певна суперечка щодо DLSS 5. Деякі геймери стурбовані тим, що це змусить ігри виглядати як "дешевий контент, згенерований штучним інтелектом". Як ви бачите цю дискусію?

Дженсен Хуан: Я можу зрозуміти їхню точку зору і звідки виникає ця стурбованість. Тому що багато контенту, згенерованого штучним інтелектом, у наш час дійсно стає все більш і більш однорідним, хоча все дуже "гарне", але без індивідуальності. Мені особисто не подобається такий "шаблонний контент ШІ".

Але це не те, що намагається зробити DLSS 5. Я показав деякі приклади. DLSS 5 базується на обмеженнях 3D-умов, які керуються реальними структурними даними. Геометрична структура сцени повністю визначається художником, і система строго дотримується цих структур у кожному кадрі.

У той же час вона також обмежена текстурами та художнім стилем. Тому кожен кадр "покращується", а не "змінюється". Що стосується "покращення", DLSS 5 сама по собі є відкритою системою. Розробники можуть навчати свої власні моделі, а в майбутньому вони навіть можуть визначати стилі за допомогою запитів, наприклад, мультфільмів, або надавати зразки для системи, щоб вона генерувала в певному стилі.

Однак усі результати повинні відповідати стилю художника та його творчому задуму. Існування цих інструментів допомагає художникам створювати гарніший контент, зберігаючи бажаний стиль.

Багато гравців неправильно розуміють, думаючи, що спочатку створюється гра, а потім обробляється за допомогою DLSS. Але DLSS не призначений для цього. DLSS глибоко інтегрована в творчий процес; вона по суті надає художникам інструменти штучного інтелекту. Використовувати їх чи ні - вирішують вони самі.

Лекс Фрідман: Я думаю, що люди особливо чутливі до "обличчя". Тепер люди також стали чутливими до контенту, створеного штучним інтелектом, що, на мою думку, є гарною річчю. Це як дзеркало, яке змушує нас усвідомити, що те, чого люди дійсно прагнуть, - це не обов'язково досконалість, а іноді свого роду "недосконалість". Це допомагає нам зрозуміти, який світ є привабливим. Поки ці інструменти допомагають нам створювати ці світи, це добре.

Дженсен Хуан: Так точно. Це просто ще один інструмент. Якщо розробники хочуть створювати нереалістичний стиль контенту, модель також може це зробити. У певному сенсі це схоже на те, як ми в минулому впроваджували шейдери для шкіри. Ми колись додали підповерхневе розсіювання, щоб зробити шкіру більш реалістичною. Уся індустрія шукає більше інструментів для вираження мистецтва, і DLSS — лише один із них. Остаточне рішення завжди за творцем.

Лекс Фрідман: Дещо неформальне запитання. З точки зору NVIDIA, яка, на вашу думку, є найвидатнішою або найвпливовішою грою в історії?

Дженсен Хуан: Doom.

Лекс Фрідман: Без сумніву, Doom. Він започаткував еру 3D.

Дженсен Хуан: З точки зору мистецтва, культурного впливу та поворотних моментів у промисловості, Doom є вирішальним. Він перетворив ПК з інструменту автоматизації офісу на персональний комп'ютер для домівок і геймерів, що стало значною віхою. Звичайно, до цього існували ігри для моделювання польотів, але вони не мали такого широкого впливу, як Doom. З суто технічної точки зору я б вибрав Virtua Fighter. У нас хороші стосунки з командами, які стоять за цими двома роботами.

Лекс Фрідман: Також є деякі новіші роботи, такі як "Cyberpunk 2077", які чудово працюють з прискоренням графічного процесора.

Дженсен Хуан: Так, вона повністю відстежується променями.

Лекс Фрідман: Мені особисто подобається "The Elder Scrolls V: Skyrim". Незважаючи на те, що його випустили багато років тому, завдяки різним модифікаціям кожна гра здається абсолютно новою грою.

Дженсен Хуан: Нам також подобається спільнота модераторів. Ми представили RTX Mod, який є інструментом для створення модифікацій, що дозволяє спільноті впроваджувати новітні графічні технології в старі ігри.

Лекс Фрідман: Звичайно, чудова гра - це не лише графіка, але й історія та персонажі. Однак чудова графіка дійсно може посилити занурення і змусити вас відчути, що ви переноситесь в інший світ.

Дженсен Хуан: Я повністю згоден.

Лекс Фрідман: Один з пунктів, які ви згадали, і який, на мою думку, дуже точний: часові рамки для AGI по суті залежать від того, як ви визначаєте AGI.

Лекс Фрідман: Я хочу задати питання про час. Ми можемо обговорювати AGI, можливо, з дещо екстремальним визначенням - уявіть систему штучного інтелекту, яка може виконувати вашу роботу: тобто, починаючи з нуля, створювати, розвивати та керувати успішною технологічною компанією з ринковою капіталізацією понад 1 мільярд доларів.

Дженсен Хуан: Чи йдеться про "успішні компанії" чи "однієї достатньо"?

Лекс Фрідман: Це повинна бути успішна компанія з ринковою капіталізацією понад 1 мільярд доларів. Як ви знаєте, це включає багато складних факторів. Тож скільки часу, на вашу думку, може зайняти ця можливість? 5 років, 10 років, 15 років або 20 років? Ми говоримо про таку систему, як OpenClaw, яка може виконувати цілий ряд складних завдань, таких як інновації, пошук клієнтів, продаж продуктів, управління командами (включаючи співпрацю AI та людей) тощо.

Дженсен Хуан: Я вважаю, що це можна зробити зараз. Я думаю, що ми вже досягли AGI.

Лекс Фрідман: Ви хочете сказати, що зараз можна мати компанію, якою керує AI?

Дженсен Хуан: Це можливо. Причина, як ви сказали, полягає в тому, щоб «досягти 1 мільярда доларів», але немає вимог щодо «довгострокової стійкості». Наприклад, штучний інтелект цілком може розробити мережевий сервіс або додаток, яким раптом починають користуватися мільярди людей, кожен з яких платить 0,5 долара, а потім швидко зникає за короткий проміжок часу. В епоху Інтернету насправді було багато таких компаній. І їх технологічна складність на той час не була вищою за ту, яку OpenClaw може досягти сьогодні.

Лекс Фрідман: Тому ключовим є досягнення вірусного поширення та монетизація його.

Дженсен Хуан: Так. Ми просто не знаємо точно, який саме продукт це буде. Так само, як і тоді, ми не могли передбачити, які інтернет-компанії досягнуть успіху.

Лекс Фрідман: Ваша заява схвилювала б багатьох людей — звучить так: все, що мені потрібно зробити, це розгорнути агента, і я зможу заробити багато грошей.

Чи забере штучний інтелект роботу? Ні, але це змінить визначення роботи

Дженсен Хуан: Насправді, це вже відбувається. Якщо ви поїдете до Китаю, ви побачите, що багато людей навчають своїх агентів знаходити роботу, виконувати завдання або навіть безпосередньо заробляти гроші. Якщо соціальний додаток раптом вибухне в майбутньому, я не здивуюся. Наприклад, дуже милий цифровий персонаж або продукт, схожий на Tamagotchi, може стати надзвичайно популярним протягом кількох місяців з великою базою користувачів, а потім швидко зникнути. Звичайно, ймовірність успіху, якщо 100 000 агентів спробують «створити NVIDIA», дорівнює нулю.

Але я хочу підкреслити одне: багато людей зараз відчувають тривогу щодо роботи.

Я хочу нагадати всім, що «мета» роботи та «завдання й інструменти» для виконання роботи пов'язані, але не одне й те саме. Я працюю на цій посаді вже 33 роки, що робить мене генеральним директором з найдовшим стажем у галузі технологій (34 роки). Протягом цих 34 років інструменти, які я використовував, завжди змінювалися, іноді кардинально.

Є історія, яку я хочу, щоб усі почули. Спочатку вчені-комп'ютерники та дослідники штучного інтелекту передбачали, що першою професією, яка зникне, буде професія радіолога. Оскільки комп'ютерний зір досяг або перевершив рівень людини, і дійсно, він це зробив. Приблизно в 2019–2020 роках комп'ютерний зір вже перевершив рівень людини. Тоді прогнозували: оскільки ШІ може виконувати аналіз зображень, професія радіолога зникне.

Але сталося навпаки. Сьогодні всі платформи радіології керовані ШІ, але кількість радіологів зросла, і в світі все ще відчувається нестача кадрів.

Чому так відбувається? Тому що "ціль" радіолога полягає в тому, щоб діагностувати захворювання, допомагати лікарям і пацієнтам приймати рішення. Коли ШІ прискорив аналіз зображень: ми могли аналізувати більше зображень, точніше діагностувати, приймати більше пацієнтів, збільшувати дохід лікарні, залучати більше пацієнтів, і таким чином, попит на радіологів зріс.

Це дуже інтуїтивний результат. Та ж логіка застосовується до інженерів-програмістів. Кількість інженерів-програмістів у NVIDIA зростатиме, а не зменшуватиметься. Тому що "ціль" інженерів-програмістів полягає в тому, щоб вирішувати проблеми, а програмування - це лише один із способів досягнення цієї мети.

Їхня робота включає: розв'язання проблем, роботу в команді, діагностику проблем, оцінку результатів, пошук проблем, стимулювання інновацій та встановлення зв'язків. Ці навички не зникнуть.

Лекс Фрідман: Як ви думаєте, чи зросте кількість програмістів, а не зменшиться?

Дженсен Хуан: Так. Ключове питання в тому, як ми визначаємо "програмування". Я вважаю, що, по суті, програмування - це "уточнення". Ви можете давати чіткі інструкції, навіть визначати архітектуру системи.

Отже, питання в тому: скільки людей можуть це робити? По суті, це "казати комп'ютеру, що робити". У минулому, можливо, близько 30 мільйонів людей могли це робити; у майбутньому, можливо, їх буде 1 мільярд. У майбутньому кожен тесляр стане "програмістом". А з ШІ вони також будуть "архітекторами". Вони можуть значно збільшити вартість, яку вони створюють для клієнтів, і їх здатність до вираження значно покращується. Аналогічно, бухгалтери майбутнього також матимуть як навички фінансового аналізу, так і консультаційні навички.

Усі професії будуть «повищені». Якби я був теслею, я був би надзвичайно радий штучному інтелекту, оскільки він дозволить мені надавати послуги на абсолютно іншому рівні; і якби я був сантехніком, я теж би був радий.

Лекс Фрідман: Сучасні інженери-програмісти все ще можуть займати провідну позицію в розумінні того, як взаємодіяти зі штучним інтелектом природною мовою та як розробляти системи.

Дженсен Хуан: Це правильно.

Лекс Фрідман: Але в довгостроковій перспективі ця здатність поступово стане поширеною. Однак я все ще вважаю, що вивчення традиційного програмування, мов, принципів дизайну та архітектури великомасштабних систем все ще має значення.

Дженсен Хуан: Так. Тому що «як визначити проблему» саме по собі є навичками. Те, як виражається специфікація, залежить від проблеми, яку ви намагаєтеся вирішити. Наприклад, на рівні компанії, формулюючи стратегію, я надаю достатньо чіткі вказівки для команди, щоб вона могла їх виконати; але я також навмисно залишаю місце для того, щоб 43 000 людей зробили це краще, ніж я міг собі уявити. Тому рівень деталізації специфікації відрізняється в різних сценаріях. У майбутньому кожен повинен знайти своє місце на цьому «програмному спектрі». Написання специфікації - це вже сама по собі програмування.

Іноді потрібні дуже чіткі інструкції; іноді потрібен більш відкритий підхід, багаторазове взаємодія з ШІ, розширення вашої творчості. Це майбутнє програмування.

Лекс Фрідман: Однак з ширшої точки зору багато людей стурбовані зайнятістю, особливо серед працівників офісних професій. Щоразу, коли з'являються автоматизація та нові технології, вони викликають потрясіння. Я думаю, нам потрібно співчувати через цей тривожний стан, оскільки біль від безробіття є реальним досвідом для окремих осіб і сімей. Я сподіваюся, що ці технології в кінцевому підсумку принесуть більше можливостей, зроблять людей більш ефективними і зроблять роботу більш цікавою, як це зараз відбувається в галузі програмування. Але в процесі переходу насправді буде багато болю.

Дженсен Хуан: Моя перша порада всім - як боротися з тривогою. Як ми щойно обговорювали, я б спочатку розібрав проблему.

Що ви можете контролювати? Що ви не можете контролювати? Щодо контрольованих частин, проаналізуйте та вживайте заходів.

Якби я наймав нещодавнього випускника та мав вибір між двома кандидатами, одним, який не розуміє штучний інтелект, а іншим, який добре володіє штучним інтелектом, я б, безумовно, обрав останнього. Незалежно від того, чи йдеться про бухгалтерський облік, маркетинг, ланцюжок поставок, обслуговування клієнтів, продажі, розвиток бізнесу чи навіть право, я б обрав людину, яка краще розуміє штучний інтелект.

Тому моя порада така: Кожен студент повинен навчитися використовувати ШІ; кожен викладач повинен заохочувати студентів використовувати ШІ; кожен випускник повинен опанувати ШІ. Незалежно від того, чи ви тесляр, електрик, фермер або фармацевт, ви повинні спробувати ШІ та побачити, як він може покращити ваші навички роботи.

У той же час ми також повинні визнати, що технології автоматизують багато завдань. Якщо ваша робота в основному складається з цих "завдань", то ви маєте високий ризик бути заміненим. Якщо ваші кар'єрні прагнення вищі, тоді ви повинні навчитися використовувати AI для виконання цих завдань.

Лекс Фрідман: Інший важливий момент полягає в тому, що сам AI може допомогти вам розбити проблеми на складові. Ви можете безпосередньо запитати його: "Як я можу покращити свої навички? Як я можу використовувати AI?" Він може надати дуже конкретні кроки. Він навіть може стати «тренером з життя».

Дженсен Хуан: Так. Якщо ви не знаєте, як користуватися штучним інтелектом, він вас навчить.

Лекс Фрідман: Це дійсно дуже «мета»-досвід, але також дуже потужний.

Дженсен Хуан: Ви не можете сказати Excel: «Я не знаю, як користуватися тобою», але ви можете сказати це штучному інтелекту.

Лекс Фрідман: Чи існують речі, які принципово «не обчислюються»? Іншими словами, незалежно від того, наскільки потужним є чіп, він не може відтворити?

Дженсен Хуан: Я не впевнений, чи може чіп «відчувати стрес». Звичайно, умови, які призводять до тривоги, стресу або інших емоцій, можуть бути розпізнані та зрозумілі штучним інтелектом, але я не думаю, що сам чіп може «відчувати». Тому те, як ці емоції, такі як тривога, хвилювання та страх, впливають на продуктивність людини, є зовсім іншим виміром.

Наприклад, за однакових умов різні люди демонструють абсолютно різні результати: одні досягають успіху, тоді як інші виступають посередньо або навіть нижче середнього. Ця різниця значною мірою обумовлена суб'єктивним досвідом людини.

А в обчислювальній системі, якщо двом системам надається абсолютно однаковий вхід, можуть, звичайно, виникати статистичні відмінності, але ці відмінності не пов'язані з "відмінностями сприйняття".

Лекс Фрідман: Так, дійсно, людський суб'єктивний досвід є по-справжньому унікальним. Наприклад, коли я щойно розмовляв з вами, я відчував нервозність, очікування, страхи, тривоги та багатство самого життя — любов, розбите серце, страх смерті, біль від втрати близьких — все це важко уявити, що обчислювальна система дійсно втілює.

Дженсен Хуан: Дійсно, важко уявити. Але ми все ще так мало про це знаємо, і залишається багато нерозгаданих таємниць. Тому я також зберігаю відкритість і готовий прийняти майбутні сюрпризи. Протягом останніх кількох років, особливо в останні місяці, розвиток ШІ не раз дивував мене. Сама "масштабність" дійсно може призвести до майже чудотворних змін.

Дженсен Хуан: Крім того, я вважаю, що дуже важливим є розбиття концепції "інтелекту". Ми часто використовуємо слово "інтелект", але це не таємнича концепція.

Інтелект, по суті, є сукупністю системних можливостей, включаючи: сприйняття, розуміння, висновок, планування та цикл дій. Це інтелект.

Але "інтелект" не є еквівалентом "людини". Це дві різні концепції, і ми повинні розрізняти їх. Я не буду надмірно міфологізувати "інтелект". На мій погляд, інтелект - це «функціональна здатність». Можна навіть сказати, що інтелект стає «товаром».

Мене оточують багато дуже розумних людей, які є більш чудовими та професійними у своїх галузях, ніж я. Вони отримали кращу освіту та є більш спеціалізованими у своїх галузях. Але я все ще відіграю певну роль у цій системі.

Це саме по собі дуже цікаво.

Ви можете запитати: Чому людина, яка колись мила посуд у ресторані, може координувати роботу групи "надлюдей"?

Це просто ілюструє, що "інтелект" - це лише один вимір. "Людяність" - це ширше поняття. Наш життєвий досвід, здатність переносити біль, сила волі — це відрізняється від "інтелекту".

Дженсен Хуан: Якби я міг дати всім одну пораду, то це було б: Не підносити слово "інтелект" занадто високо.

Те, що дійсно варто цінувати, це: характер, людяність, емпатія, щедрість. Це "надлюдські здібності". Інтелект, з іншого боку, поступово стане поширеним і товаром.

Лекс Фрідман: Отже, ви кажете, що ми повинні більше зосередитися на "людяності".

Дженсен Хуан: Так. Людяність, характер, емпатія, щедрість – це найважливіші речі. Суспільство давно стисло все в слово "інтелект", але життя набагато більше. З мого досвіду, навіть якщо я не такий розумний, як багато людей навколо мене, я все одно досяг успіху. Тому я сподіваюся, що всі не будуть відчувати тривогу через «універсальність інтелекту», а навпаки, будуть натхненні цим.

Лекс Фрідман: Я також вірю, що ШІ змусить нас більше цінувати людство.

Дженсен Хуан: Так точно. ШІ зробить людство могутнішим.

Лекс Фрідман: Успіх NVIDIA та життя незліченної кількості людей певною мірою залежать від вас. Але ви також просто звичайна людина і в кінцевому підсумку зіткнетеся зі смертю. Ви думаєте про це питання? Ви боїтеся смерті?

Дженсен Хуан: Я не хочу вмирати.

У мене хороше життя, хороша сім'я, і я роблю дуже важливу роботу. Це не просто «досвід одного життя», а досвід «на рівні історії людства». NVIDIA — одна з найважливіших технологічних компаній в історії, і те, що ми робимо, має величезне значення, і я стаwięся до цього дуже серйозно.

Звісно, існують також деякі практичні питання, наприклад, планування наступництва. Я часто кажу, що не дуже вірю в «план наступництва». Не тому, що я думаю, що я не піду, а тому, що: якщо ви дійсно дбаєте про майбутнє компанії після вас, найважливіше, що ви повинні робити сьогодні, — це постійно передавати знання. Постійно передавайте інформацію, інсайти, досвід і можливості команді.

Ось чому я продовжую міркувати перед командою. Кожна зустріч по суті є передачею знань.

Я не буду тримати жодну інформацію 'у своїх руках'. Як тільки я щось дізнаюся, я майже одразу ділюся цим. Навіть коли я ще не до кінця зрозумів це, я вже розповідаю іншим: "Це важливо; ви повинні дослідити це". Я продовжую надихати оточуючих, допомагаючи їм покращувати свої здібності. Мій ідеальний стан: Я виходжу на роботу, і це миттєво, без тривалої агонії.

Лекс Фрідман: Як спостерігач і вболівальник, звичайно, я сподіваюся, що ви зможете працювати вічно (сміється). Темпи інновацій NVIDIA вражають і самі по собі є свідченням інженерної майстерності.

Отже, останнє запитання: дивлячись у майбутнє, через 10, 20, 50 або навіть 100 років, що дає вам надію на майбутнє людства?

Дженсен Хуан: Я завжди вірив у доброту, щедрість і емпатію людства. Іноді навіть більше, ніж слід, тому іноді я розчарований. Але це не змінить моєї думки. Я завжди вірю, що люди готові робити добро, готові допомагати іншим. І більшість часу цей висновок правильний, навіть перевершуючи мої очікування.

Дженсен Хуан: Те, що наповнює мене надією, це те, що коли я бачу те, що відбувається зараз, і екстраполюю це в майбутнє, багато проблем стають "вирішуваними".

У нас занадто багато проблем для вирішення, занадто багато речей для створення, і вони стають доступними, навіть можливо досяжними за мого життя. Важко не відчувати романтизму щодо такого майбутнього. Наприклад, кінець хвороб є обґрунтованим очікуванням; значне зменшення забруднення є обґрунтованим очікуванням; і навіть певна форма "телепортації" на швидкості, близькій до світлової, є можливим майбутнім.

Дженсен Хуан: Я навіть розглядаю можливість: у майбутньому ми зможемо передавати "свідомість" у цифровій формі. Ми можемо поступово перетворити всю інформацію про людину, її електронні листи, думки, поведінку в штучний інтелект. Коли настане відповідний час, відправити це "оцифроване я" в космос, щоб воно злилося з роботом.

Лекс Фрідман: Це дійсно дуже шокуюча ідея. Але з наукової точки зору, залишається багато невирішених питань, таких як сама свідомість.

Дженсен Хуан: Так. Але розуміння «системи життя» може бути прямо перед нами, можливо, прорив протягом п'яти років.

Лекс Фрідман: Будь то свідомість або глибокі проблеми фізики, все це робить майбутнє дуже захоплюючим.

Лекс Фрідман: Дженсен, велике спасибі за все, що ви зробили, і спасибі за те, що поділилися сьогодні.

Дженсен Хуан: Дякую, Лекс. Мені дуже сподобалася ця розмова. Я також ціную інтерв'ю, які ви проводите, ваша глибина, повага та дослідження дозволяють нам краще зрозуміти цих людей та ідеї.

Лекс Фрідман: Це багато для мене значить, спасибі.

Лекс Фрідман: Дякую всім за те, що слухали цю розмову з Дженсеном Хуангом. Як сказав Алан Кей: "Найкращий спосіб передбачити майбутнє - це вигадати його своїми руками". Дякуємо за прослуховування, і ми побачимося наступного разу.

[Посилання на оригінальну статтю]