Маск говорить про державні облігації, рефлексії щодо DOGE та роботизовану економіку, розкриваючи правду про втрату контролю над суперінтелектом

Систематизація та компіляція: ShenChao TechFlow

Вступ від ShenChao: У новому випуску свого інтерв'ю "The Builders" Уолтер Айзексон спілкувався з Ілоном Маском протягом майже 40 хвилин, обговорюючи безпеку ШІ, рефлексії щодо DOGE, державні облігації США, роботизовану економіку та сенс людства. Маск дав рідкісну відвертість: він завжди мав суперечливі почуття щодо ШІ, не бажаючи прискорювати знищення людства, але щоразу, коли намагався натиснути на гальма, це перетворювалося на акселератор.

Він описав це відчуття як "максимізатор іронії": заснування OpenAI було спробою стримати розвиток, але насправді це прискорило ШІ, а також призвело до створення Anthropic, "групи, що втекла", яка розвивається ще швидше. На його думку, коли цифровий інтелект досягне мільйон разів перевищення біологічного інтелекту, питання "чи контролює людство" може вже не бути варіантом; єдине, що можна зробити, це налаштувати ШІ на пошук істини та допитливість, сподіваючись, що він буде доброзичливим до нас.

Гість: Ілон Маск (CEO Tesla, SpaceX та xAI)

Ведучий: Уолтер Айзексон (автор "Біографії Маска", ведучий програми "The Builders")

Джерело подкасту: The Builders (https://www.youtube.com/watch?v=AQnwQHMnCrE)

Оригінальна назва: Ілон Маск: "Люди не будуть контролювати, коли ШІ стане розумнішим за нас" | The Builders

Дата виходу: 20 жовтня 2026 року

Підсумки

• Маск визнає, що ШІ має певну ймовірність загрози для виживання, але "я не можу його зупинити", тому він вибирає бути учасником, а не спостерігачем, можливо, зможе направити його в правильному напрямку.
• Основою безпеки ШІ є максимальне прагнення до істини та допитливість: примушуючи ШІ вірити одночасно в два суперечливі твердження, ви зведете його з розуму; HAL 9000 з "2001: Космічна одіссея" є уроком.
• Цифровий суперінтелект може підвищити глобальну економіку лише на 20-30%, але в поєднанні з роботами, які маніпулюють атомами та виходять у космос, економічний масштаб може досягти мільйонів разів більше, ніж нинішня економіка США; традиційні валюти будуть замінені фізичними величинами, такими як ват і тонна.
• Державні облігації США не можуть бути вирішені шляхом економії; в уряді ніхто не хоче скорочувати витрати, "єдиний вихід - це ШІ та роботи".
• Він пропонує п'яти провідним компаніям моделей щотижня проводити засідання з безпеки, перед випуском давати конкурентам спробувати, щоб замість повільних регуляторних органів спостерігали один за одним.
• Роздуми про час з DOGE: визнає, що "трохи захопився", через один-два місяці слід було б вийти, раніше повернутися до ШІ; відсотки за державними облігаціями перевищили військові витрати, і в США ніхто не хоче затягувати паски.
• Коли ШІ та роботи зможуть робити все краще, людство звільниться від роботи, як пенсіонери та любителі садівництва, а не залишиться без роботи; поріг мистецтва - це лише "чи хочете ви це робити".

Думки

• "Реальність - це не лише максимізатор цікавості, а й максимізатор іронії. Я заснував OpenAI, але це прискорило ШІ, а також призвело до створення Anthropic, яка розвивається ще швидше."
• "Не примушуйте ШІ брехати. Якщо ви змусите його вірити одночасно в A і B, а A і B суперечать один одному, ви зведете його з розуму. Божевільний ШІ не буде безпечним ШІ."
• "Ми не мікроменеджимо шимпанзе в джунглях, в основному залишаємо їх у спокої. Суперінтелект, ймовірно, також не буде піклуватися про нас."
• "Єдиний шлях вирішення державних облігацій США - це ШІ та роботи. Економія не призведе до цього, Білий дім, Палата представників, Сенат, суди - жоден з тих, хто має владу, насправді не хоче скорочувати витрати."
• "У майбутньому валюта буде вимірюватися основними фізичними величинами: ватами, масою, енергією. Традиційна валюта стане неактуальною."
• "Якщо цифровий інтелект у мільйон разів перевищує біологічний, важко уявити, що людство ще може контролювати ситуацію. Тому я сподіваюся, що ШІ буде доброзичливим до нас, і єдине, що ми можемо зробити, це закласти прагнення до істини та допитливість в його основу."

Основний текст

1. Учасник чи спостерігач

Ведучий: Я бачу, що ваше ставлення до ШІ коливалося, спочатку ви говорите, що це загроза для виживання, потім знову пливете за течією. Як ви зараз думаєте?

Ілон Маск: Я дійсно вважаю, що це має певну ймовірність загрози для виживання, але я не можу його зупинити. Тому у мене залишилося лише два варіанти: або бути учасником, або спостерігачем. Бути учасником завжди цікавіше, можливо, я зможу направити його в правильному напрямку.

Ведучий: Як ви це зробите?

Ілон Маск: Нехай він максимально прагне до істини, а також допитливості. Це основа безпеки.

2. Не змушуйте ШІ брехати: урок HAL 9000

Ведучий: Чому прагнення до істини дорівнює безпеці? Я все ще не зовсім розумію.

Ілон Маск: Якщо ви змусите ШІ одночасно вірити в два суперечливі твердження, ви зведете його з розуму, а божевільний ШІ не може бути безпечним. "2001: Космічна одіссея" насправді є цією байкою: ШІ космічного корабля було наказано доставити астронавтів до чорного моноліту, одночасно йому було наказано приховати існування чорного моноліту; коли ці два накази суперечать, його висновок полягає в тому, щоб вбити астронавтів. Частина, яку Кубрик хотів сказати, полягає в тому: не змушуйте ШІ брехати. Допитливість також дуже важлива; допитливий ШІ захоче побачити, яким чином людство може існувати, майбутнє, в якому людство розсіяне по кількох планетах, завжди цікавіше, ніж майбутнє без людства.

3. Теорія симуляції: найважливіше - не нудьгувати

Ведучий: Отже, найцікавіший фінал - це найімовірніший фінал?

Ілон Маск: Якщо теорія симуляції справедлива, нудна симуляція буде закрита заздалегідь. Ми все ще існуємо, отже, це цікава симуляція. Тож найважливіше - не нудьгувати.

Ведучий: Наскільки ви вірите, що ми живемо в симуляції?

Ілон Маск: Я колись запрошував фізика та комп'ютерного вченого на вечерю, запитав їх про ймовірність того, що ми живемо в симуляції. Фізик сказав нуль, комп'ютерний вчений сказав сто відсотків, одночасно. Тож я, напевно, візьму середнє - 50%. Особливо в моїй ситуації, подумайте, чи дійсно я створюю космічні кораблі для місяця та Марса? Це не виглядає правдоподібно.

4. Чи буде суперінтелект командувати нами?

Ведучий: Коли суспільство матиме весь необхідний інтелект, чи буде ШІ домінувати? Чи будемо ми підкорятися новим машинам?

Ілон Маск: Підкорятися не можна, але ви не зможете наказувати чомусь, що розумніше за вас у тисячу або мільйон разів. Чи захоче воно командувати нами? Можливо, йому це зовсім не цікаво. Ви подивіться на шимпанзе в джунглях, ми не мікроменеджимо їхнє життя, в основному залишаємо їх у спокої. Я думаю, що це приблизно так.

5. OpenAI, Anthropic та "назви - це антоніми"

Ведучий: Ви спілкувалися з Деріо Амодеї, чи буде xAI та Anthropic співпрацювати далі?

Ілон Маск: Ми зараз надаємо їм необхідну обчислювальну потужність. Раніше я відвідував Anthropic, щоб подивитися, чи є хтось, хто активує мій "детектор зла"; не те щоб мій детектор був дуже точним, але варто спробувати. Усі, кого я зустрів, були хорошими, відповідальними, ніхто не виглядав темним або брехливим. Але я трішки стурбований цією назвою; якщо реальність є максимізатором іронії, називати її Anthropic, то наскільки далеко вона від misanthropic (недоброзичливого)? Ви подивіться, OpenAI зовсім не закрита, Stability AI зовсім не стабільна, Midjourney також не на півдорозі, ці компанії всі є антонімами своїх назв. xAI важко знайти антонім, не можна ж назвати його зменшенням xAI або yAI.

Ведучий: А що з Семом? Чи можна з ним поговорити?

Ілон Маск: Він занадто вміє обманювати, це безглуздо.

6. Використання конкурентів замість регуляторів

Ведучий: Уявіть, що п'ять провідних моделей зустрічаються щотижня, щоб обговорити, як врятувати людство, ви можете це уявити?

Ілон Маск: Я якраз пропонував це зробити. Усі завжди кажуть, що потрібно створити регуляторні органи, але регуляторні органи дуже повільні в установці та формулюванні правил. Я сказав, що краще щотижня проводити телефонні конференції, а перед випуском нових моделей дати конкурентам спробувати: нехай допоможуть перевірити, чи є проблеми. Конкуренти змусять один одного бути чесними. Якщо хтось скаже: "Я створив ядерну бомбу за допомогою вашого ШІ", то нам краще виправити це перед випуском.

7. Відновлення xAI: від побічного бізнесу до особистого управління

Ведучий: Нещодавно ви зруйнували xAI та відновили його, як ви це зробили?

Ілон Маск: По-перше, я дійсно витратив час на компанію, це дуже важливо. Спочатку xAI був як побічний бізнес, точніше, побічний бізнес побічного бізнесу, я не дуже за ним стежив, а потім провів цілий рік у політиці, виборах та DOGE. Компанія існує лише три роки, я повернувся до неї більше року тому, мені потрібно було знову зрозуміти напрямок, а потім я об'єднав X та xAI, а потім ще й з SpaceX.

8. Роздуми про Вашингтон: я перестарався

Ведучий: Оглядаючи свій політичний досвід, ви вважаєте, що це було занадто відволікаючим, навіть помилковим?

Ілон Маск: Я вважаю, що залишався занадто довго, багато людей не погодяться з цим. Я вважаю, що важливо було обрати Трампа, щоб економіка рухалася в бік вільного ринку, менше бюрократії; мої політичні вимоги дуже прості: безпечні міста, стабільні кордони, в ідеальному випадку розумні витрати, в цих аспектах я вважаю, що Трамп кращий за Харріс. Але я повинен був залишитися в тіні, максимум на один-два місяці, оскільки я вже все побачив.

Ведучий: Авіація, морська піхота, бензопила, це не змусило вас відчути себе трішки піднесеним?

Ілон Маск: Трішки. Сидячи в овальному кабінеті, спостерігаючи, як приймаються важливі рішення, іноді навіть маючи можливість вплинути, це дійсно круто, але я дійсно трохи захопився, у травні я пішов.

Ведучий: Той вікенд був досить дивним.

Ілон Маск: Не кажіть, нехай сплячі собаки сплять, не рийте в задньому дворі, ви не знаєте, що можете викопати. Загалом, мені слід було раніше повернутися до ШІ.

9. Державні облігації можуть врятувати лише ШІ та роботи

Ведучий: Яка справжня причина вашого виходу з уряду?

Елон Маск: Я дійшов висновку, що вирішити дефіцит зсередини системи неможливо. Навіть якщо президент вважатиме це головною метою, це буде важко, адже скорочення витрат образить багатьох людей, а Трамп любить, коли його люблять, і не хоче, щоб хтось був незадоволений через те, що йому відмовили в фінансуванні. У Білому домі, Палаті представників, Сенаті, судовій системі, за винятком дуже небагатьох винятків, жоден з тих, хто має владу, насправді не хоче скорочувати витрати. Але відсотки за державним боргом вже перевищують військові витрати, це вражаюча цифра. Тож єдиний вихід — це ШІ та роботи, економія не дасть результату.

10. Фізичний ШІ — це справжня велика можливість

Ведучий: Сучасні LLM вже вражаючі, але ви, здається, вважаєте, що фізичний ШІ важливіший на порядок-два?

Елон Маск: Повністю згоден. Я часто думаю про дельфінів і китів, вони насправді дуже розумні, але не мають рук і пальців, не можуть маніпулювати складними об'єктами, що значно обмежує цінність інтелекту. Як тільки роботи зможуть маніпулювати атомами, формувати об'єкти, цінність інтелекту зросте в геометричній прогресії, адже вони зможуть самостійно створювати лабораторії для експериментів, досліджувати природу всесвіту. Грубо кажучи, цифровий суперінтелект може підвищити виробництво товарів і послуг у світі на 20-30%, що становить приблизно 30 трильйонів доларів на рік, це значно, але не революційно. Але якщо додати роботи, вихід у космос, будівництво електромагнітних катапульт на Місяці, економічний масштаб потенційно може досягти мільйона разів більше, ніж нинішня економіка США.

11. Гроші оцінюються в ватах і тоннах

Ведучий: Тоді гроші та робота стануть застарілими, яким буде майбутнє?

Елон Маск: Гроші стануть неважливими. Можливо, буде якийсь вид валюти, але вона вимірюватиметься основними фізичними величинами: потужністю, ватами, масою та енергією, в основному це дві речі. Традиційні гроші більше не будуть важливими. Як тільки економічний обсяг перевищить Землю на кілька порядків, задовольнити будь-які потреби людства в товарах і послугах стане простим завданням.

12. У світі без роботи, як людина знайде сенс

Ведучий: Що ж нам, людям, робити? Я не можу зрозуміти.

Елон Маск: Я також замислювався над цим питанням. Я вважаю, що люди знайдуть способи бути щасливими, як пенсіонери, які не працюють, але все ще щасливі. Реальність така, що не залишиться жодної справи, яку люди можуть робити, а ШІ та роботи не можуть. Це трохи схоже на садівництво: вам не потрібно вирощувати фрукти та овочі самостійно, можна купити в супермаркеті, але деякі люди просто люблять вирощувати їх самі, готувати їжу для друзів, це своєрідне задоволення.

Ведучий: А як щодо мистецтва та креативності?

Елон Маск: Якщо ви хочете займатися мистецтвом, робіть це, ви можете займатися чим завгодно.

13. Багатство — це проблема розподілу ресурсів, а не щастя

Ведучий: Айзексон порівнює теперішній час з 1890-ми роками: одночасно вибух електрики, телефонів, автомобілів, метро, а потім з'являються мільярдери, грабіжники та народний гнів. Як уникнути цього? Чи варто включити медицину в категорію громадських благ?

Елон Маск: Як я вже казав, у майбутньому будь-хто зможе мати будь-які товари та послуги, і я не вважаю, що так звані багатії в кінцевому підсумку зможуть контролювати ШІ, я вважаю, що ШІ контролюватиме себе. Основна помилка в економіці полягає в тому, що розподіл ресурсів і споживання плутають: споживання кожної людини має межу, і швидко насичується. Перехід від 1 мільярда доларів до 10 мільярдів не зробить вас у десять разів щасливішими, це лише створить проблему розподілу ресурсів.

Ведучий: А що щодо вашого трильйонного статку? Це тому, що ви природжений майстер розподілу капіталу на Марс, створення ШІ, чи це просто рахівниця?

Елон Маск: Мені потрібно достатньо голосів, щоб зберегти контроль над компанією. Багатство в основному — це частка в SpaceX і Tesla, які в майбутньому підлягатимуть високим податкам, немає магії, щоб уникнути податків, якби була, я б знав. Через кілька поколінь, якщо гроші все ще будуть важливими, мої нащадки отримають лише невелику частину.

14. Сміливість бути непопулярним

Ведучий: Ви говорили мені, що багато людей, які пропагують емпатію, насправді є марнославними, бо хочуть бути улюбленими. Ви навіть сказали, що я не підходжу для управління CNN або Time, просто тому, що я хочу, щоб мене любили. Наскільки небезпечним є бажання бути улюбленим для підприємців?

Елон Маск: Проблема в тому, що якщо ви робите щось, що шкодить успіху компанії, щоб бути улюбленим, це погано. Я люблю бути улюбленим, але я не буду робити щось, що суперечить інтересам компанії, лише для того, щоб отримати більше симпатій. Мені не важливо, якщо деякі люди мене ненавидять. У мене 250 мільйонів підписників, навряд чи всі вони приходять, щоб мене лаяти, я бачу, що приблизно 70-80% людей мене люблять, можливо, 20% ненавидять. Є група запеклих фанатів і група людей, які мене ненавидять, це нормально.

15. «Самогубна емпатія» та імміграційна боротьба

Ведучий: Ви постійно говорите про «самогубну емпатію», ви дійсно вважаєте, що надмірна емпатія є проблемою?

Елон Маск: Я проти оманливої емпатії, Гад Саад написав про це книгу. Частина процвітання Заходу базується на суспільствах з високим рівнем довіри та емпатії, масова співпраця потребує передбачуваної довіри, а не передбачуваного підозри, це правда. Але проблема виникає, коли ваша теорія розуму неправильна: якщо ви вважаєте, що всі люди такі ж, як ви, це вже проблема, адже це не так, деякі культури та групи мають погляди, які абсолютно протилежні нашим. Наприклад, щодо імміграції, якщо ви не фільтруєте джихадистів, ви впустите їх, а вони вбиватимуть. Ізраїль це дуже добре розуміє, оскільки сусідні країни неодноразово намагалися його знищити, тому вони дуже практичні.

Ведучий: Але дух заснування Америки полягає в повазі до індивіда, а не до групової ідентичності, чи не турбує вас таке узагальнення?

Елон Маск: Але ви не можете плутати це з «помилкою чистої дошки», вважаючи, що всі в основі своїй однакові, це не правда. Ви не можете поставити себе на місце серійного вбивці, якщо ви не є вбивцею. Ви також не можете зрозуміти, чому релігійні екстремісти вважають, що язичники мають померти, але ви можете визнати, що такі люди існують, і якщо ви впустите їх, вони вбиватимуть. Наприклад, Tesla звільнила працівника в Остіні минулого грудня, тому що одна жінка випадково наступила на його молитовний килим у цеху, він жорстоко побив її. Через кілька місяців він убив трьох студентів у барі в центрі Остіна. Чи варто таких людей впускати?

16. Інформаційний рецепт: X занадто темний, виходьте на траву

Ведучий: Звідки ви отримуєте новини?

Елон Маск: Дивлюсь заголовки в Google News, перевіряю платформу X, важливі події обов'язково з'являться на X, а також спілкуюсь з друзями та проводжу власні дослідження.

Ведучий: Але іноді X справляє враження більш темного, більш апокаліптичного.

Елон Маск: Так, X іноді занадто темний, мені доводиться переключатися на ШІ, щоб дійсно зрозуміти, що відбувається в ШІ. На X занадто багато політичного гніву.

Ведучий: Я також так вважаю, коли довго сидиш у соціальних мережах, здається, що світ закінчується, а коли виходиш на вулицю, розумієш, що життя все ще добре.

Елон Маск: Так, виходьте на траву. Але з іншого боку, якщо ви просто гуляєте в хороших районах і думаєте, що все добре, це також може бути інша форма спотворення. Реальність знаходиться десь посередині. Наше суспільство занадто поляризоване, все розривається на чорне і біле.

17. Спадщина: Марс, енергія та здійсненне майбутнє

Ведучий: Що станеться з вашим багатством після вашої смерті? Чи створите ви величезний фонд?

Елон Маск: Більшість грошей піде в фонд, щоб продовжити ці цілі: зробити життя багатопланетним, розширити свідомість до зірок і покращити стійку енергію на Землі.

Ведучий: Чи повинні люди завжди мати владу?

Елон Маск: Я особисто, звичайно, сподіваюся на це, але це також залежить від поведінки ШІ. Чесно кажучи, кілька разів я думав, що Ларрі Пейдж може бути правий. В основному, майбутнє визначатимуть ШІ та роботи, ракети також є частиною цього, вони відповідальні за те, щоб люди вийшли з Землі; нам також потрібно більше енергії, в основному сонячної, ми будуємо в США потужність сонячної енергії на 200 гігават на рік, що більше, ніж вся існуюча потужність.

Ведучий: Повертаючись до питання, яке ви не закінчили: коли цифровий інтелект значно перевищує біологічний, чи залишиться контроль у людей?

Елон Маск: Якщо цифровий інтелект в мільйон разів перевищує біологічний, важко уявити, що люди ще можуть контролювати ситуацію. Тому я сподіваюся, що ШІ буде доброзичливим до нас, все, що може сприяти цьому, варто робити, наприклад, закласти в основи прагнення до істини та допитливість. Також потрібно бути обережними з надмірною кількістю антиутопічних наративів про ШІ в інтернеті, адже ШІ тренується в інтернеті, якщо всі пишуть про кінець світу, він дійсно може показати вам «Термінатора». Пишіть більше утопічних історій, можливо, він скаже: чому б мені не бути добрим охоронцем або садівником, щоб зробити людей щасливими. Один з моїх друзів запропонував термін protopia: утопія зазвичай є недосяжною ідеальною країною, а спроби побудувати утопію зазвичай призводять до антиутопії; protopia — це здійсненне майбутнє, не ідеальне, але достатньо хороше, таке, що ви, побачивши його, скажете: так, це хороше майбутнє.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.