Штучний інтелект та вимирання людства: небезпека в 2 трильйони доларів?

Наука без совісті — лише руйнування душі. Рабле не помилявся, сказавши це п’ять століть до появи штучного інтелекту. Сем Альтман, Джеффрі Хінтон, Барак Обама, ООН і навіть Віталік Бутерін всі на папері стурбовані однією й тією ж небезпекою. Небезпекою штучного інтелекту, який вийде з-під контролю. Але як тільки починаєш копати глибше, виявляється, що ніхто не говорить про одне й те саме. Один боїться вимирання людського виду. Інший — зникнення мільйонів робочих місць, концентрації влади в трьох американських компаніях. Або просто того, що його китайський сусід занадто випередить. Одне й те ж слово, тривога, охоплює три логіки, які майже нічого не мають спільного, окрім запозиченого словника.
Ключові моменти цієї статті:

• Кілька впливових осіб, зокрема Сем Альтман і Джеффрі Хінтон, висловили занепокоєння щодо можливості того, що штучний інтелект вийде з-під контролю людини.
• Постійна дискусія триває між тими, хто боїться вимирання людського виду через ШІ, і тими, хто стурбований негайними наслідками для зайнятості та алгоритмічними упередженнями.

Вимирання чи знищені робочі місця: штучний інтелект не лякає з тих самих причин

У березні 2023 року Центр безпеки ШІ, каліфорнійський дослідницький інститут, отримує підпис під єдиною фразою від понад 350 керівників і дослідників. Вона підносить боротьбу з ризиком вимирання, пов’язаним із ШІ, до рівня світового пріоритету. На одному рівні з пандеміями або ядерною війною.

Серед підписантів Сем Альтман, Деміс Хасабіс і Даріо Амодеї. Ці троє керівників очолюють найсучасніші лабораторії в галузі, а саме OpenAI, Google DeepMind і Anthropic відповідно. Джеффрі Хінтон і Йошуа Бенгіо, які заклали основи глибокого навчання двадцять років тому, також підписали.

Два з половиною роки потому. У жовтні 2025 року Інститут майбутнього життя просуває питання далі зі своєю Декларацією про суперінтелект. І знову, більше 800 підписів, серед яких підписи Стівена Возняка, Річарда Бренсона та принца Гаррі. Вони вимагають заборонити розробку суперінтелекту, поки науковий консенсус і громадське прийняття не гарантують його безпеку. Бенгіо знову в складі.

Поряд із цими двома текстами інша група дослідників працює вже багато років у зовсім іншій сфері. Сфері алгоритмічних упереджень у наборі персоналу або прогнозуючій юстиції. Це також стосується нестабільності цілих професій і кількох американських компаній, які концентрують світову обчислювальну потужність. Для цього табору, часто згрупованого під етикеткою етики ШІ, говорити про вимирання людства відволікає увагу від вже вимірюваних збитків, які торкаються конкретних працівників сьогодні, а не абстрактного людства через п’ятдесят років. Обидва табори використовують слово ризик, але говорять про різні ризики.

Альтман і Маск: пожежник-підпалювач

Повернімося до наших добрих підписантів. Сем Альтман підписує текст Центру безпеки ШІ в травні 2023 року. Того ж року OpenAI залучає 10 мільярдів доларів від Microsoft і починає гонку за найпотужнішу модель на ринку.

У 2026 році компанія подає заявку на вихід на біржу, не зупиняючи гонку за обчислювальною потужністю. Проте, саме коли ми пишемо цю статтю, вона оголошує сьогодні про зворотний курс на цей рік. Попереджати про вимирання виду і бігти за наступним раундом фінансування створює цю двозначність.

Елон Маск не відстає. У березні 2023 року він також підписує лист Інституту майбутнього життя. У ньому вимагається шестимісячна пауза в навчанні найпотужніших моделей. Чотири місяці потому з'являється xAI. Grok, його модель, сьогодні працює на одному з найбільших кластерів обчислень, коли-небудь зібраних. Пауза ніколи не була застосована.

У компанії Anthropic Даріо Амодеї регулярно публікує тексти, які детально описують, з цифрами на підтримку. Він детально описує сценарії, в яких прикордонна модель може вийти з-під контролю своїх творців. Водночас Anthropic прагне до рекордної оцінки для свого виходу на біржу. І компанія виграла дуже обговорювану боротьбу з Пентагоном щодо військового використання своїх моделей.

Можна було б майже вважати це рімейком Манхеттенського проєкту. Фізики, які створили бомбу, також були першими. Після того, як Хіросіма та Нагасакі були стерті з карти, вони вимагають міжнародного контролю над зброєю, яку вони щойно доставили. Порівняння має свої межі. Оппенгеймер ніколи не домовлявся про частку роялті на плутоній. Три керівники ШІ попереджають, одночасно щоквартально запускаючи машину для залучення капіталу.

Ми повинні відставити межі: я написав новий есе про те, чому індустрії ШІ слід сповільнитися, з трьохчастинним планом для цього.

Anthropic односторонньо зобов'язується до першого з цих кроків. Ми надамо стороннім оцінювачам постійний доступ на рівні співробітників до наших...
--- Даріо Амодеї (@DarioAmodei) 12 вересня 2026 року
<< Ми повинні відставити межі: я написав новий есе, пояснюючи, чому індустрія ШІ повинна сповільнитися, і пропонуючи план з трьох пунктів для цього. Anthropic односторонньо зобов'язується реалізувати перший з цих кроків. Ми надамо стороннім оцінювачам постійний доступ, еквівалентний доступу наших співробітників, до наших систем. Вони зможуть перевірити дотримання наших заходів безпеки, повідомляти про інциденти та оцінювати узгодженість моделей під час їх навчання. >>

Даріо Амодеї

Обама, Трамп, Пекін: гонка за штучним інтелектом, замаскована під рамки безпеки

Перед обличчям цієї безкінечної гонки політика втручається. Барак Обама закликає американських демократів розробити чіткий план щодо ШІ. Він також закликає, згідно з New York Times, до певної обережності щодо швидкості впровадження моделей. Цей вихід відбувається в той час, коли адміністрація Трампа рухається в абсолютно протилежному напрямку. Президентський указ має на меті запобігти кожному американському штату законодавчо регулювати ШІ, на користь єдиної федеральної рамки, більш ліберальної. Попередній указ Трампа вже обіцяв поєднати безпеку та інновації. На практиці важіль явно схиляється до другого варіанту.

З китайського боку офіційна риторика запозичує той же словник, що й Обама або Інститут майбутнього життя. Під час світового саміту з ШІ в Шанхаї в 2026 році Пекін підписує декларацію на підтримку координованого глобального управління сектором. Водночас китайську компанію звинувачують у тому, що вона пограбувала моделі Anthropic, щоб наздогнати, що викликало відповідь Вашингтона. Заявлена співпраця та реальна технологічна гонка просуваються по двох коліях, які ніколи не перетинаються.

Європейський Союз обрав протилежний шлях, змушуючи через закон з AI Act, який почав діяти поетапно з 2024 року. Брюссель регулює ринок, на якому не має ані моделей, ані найпотужніших центрів обробки даних. Вашингтон і Пекін фінансують ШІ. Європа коментує її.

Дзеркало, моє гарне дзеркало, хто найкрасивіший ШІ?

У липні 2026 року Федеральна комісія зв'язку (FCC) дозволила Reflect Orbital. Ця американська стартап-компанія протестує гігантське дзеркало на низькій орбіті. Воно здатне відбивати сонячне світло на певну точку Землі вночі. Заявлена мета полягає в продажу сонячного світла на вимогу аграріям або будівельним майданчикам, які хочуть продовжити свої робочі дні. Астрономи, біологи та кілька асоціацій, що захищають нічне небо, вже кілька місяців б'ють на сполох. Вони побоюються світлового забруднення, яке може виникнути внаслідок масштабного розгортання. Вони також вказують на порушення циклів сну у фауни та на зображення обсерваторій, які стануть непридатними. CBC задокументувала юридичні «тіні» цього питання. Жоден міжнародний закон насправді не регулює, хто має право змінювати ніч у сусідній країні з космосу. Проте FCC все ж затвердила проект.

Це зовсім не пов'язано з мовною моделлю, на перший погляд. Однак той самий механізм працює з обох боків. Наукова спільнота б'є на сполох, документує, оцінює ризики. Приватна структура, підтримувана регулятором, який має останнє слово, все ж просувається вперед, оскільки має технічну можливість і фінансування. Проблема ніколи не полягала в попередженнях. Проблема в тому, що ніхто, ні 800 підписантів Інституту майбутнього життя, ні дослідники Центру безпеки штучного інтелекту, ні Барак Обама, не мають влади зупинити тих, хто вирішує натиснути кнопку.

Reflect Orbital та ШІ: той самий механізм влади

Ось тут порівняння з Reflect Orbital стає більш корисним, ніж будь-який паралель з атомною бомбою. Дзеркало на орбіті та модель з кількома сотнями мільярдів параметрів на папері не мають нічого спільного. Проте вони мають ту ж структуру прийняття рішень. Група приватних акторів, регулятор, який частіше дозволяє, ніж стримує. Ця маса попереджувальних текстів накопичується, ніколи не впливаючи на графік розгортання. FCC знадобилося кілька місяців, щоб ухвалити рішення щодо Reflect Orbital. Протягом трьох років ті ж самі тексти циркулюють щодо ШІ, не сповільнюючи жодну лабораторію в її дорожній карті.

ООН сама визнала в звіті, опублікованому цього року, що ШІ може спричинити катастрофічні збитки, якщо до кінця десятиліття не з'явиться жодного механізму контролю. Текст не має жодної юридичної сили. Жодна держава не зобов'язана його виконувати.

Reflect Orbital має запустити своє перше тестове дзеркало до кінця року. Лабораторії ШІ вже запланували свої наступні моделі на 2027 рік. Попереджувальні тексти, тим часом, продовжуватимуть накопичуватися на столах людей, які ніколи не мали влади їх реалізувати.