Законопроект Сандерса прагне до постійної заборони надінтелектуального ШІ в США

Законодавці США запропонували постійну заборону на штучний надінтелект, призупинення розробки передового ШІ та накладення тюремних термінів до 20 років за порушення.

Резюме

• Пропозиція заборонить системи ШІ, які відповідають або перевищують людські можливості в багатьох завданнях.
• Розробка передового ШІ буде призупинена, поки новий федеральний регулятор не встановить правила безпеки та перевірки.
• Особи можуть зіткнутися з 20-річним тюремним терміном, тоді як компанії можуть отримати "корпоративну смертну кару".
• Пропозиція надійшла після того, як OpenAI випустила GPT-6 Astra та визнала зростаючі проблеми моніторингу.

Офіс Сандерса повідомив 3 вересня, що сенатор Берні Сандерс, I-Vt., та конгресмен Грег Касар, D-Техас, оголосили про майбутній Закон про заборону штучного надінтелекту, який заборонить розробку та впровадження систем ШІ, класифікованих як надінтелектуальні.

Пропозиція також призупинить роботу над передовими моделями ШІ, поки новий федеральний регулятор не почне працювати та не встановить правила безпеки та процедури перевірки моделей. Його спонсори хочуть, щоб Сполучені Штати укладали міжнародні угоди, координували дії з союзниками та запроваджували експортні контролі, спрямовані на запобігання розвитку надінтелекту в інших країнах.

Повний текст законодавства не був формально представлений, коли законодавці оголосили про пропозицію. Спонсори натомість опублікували односторінкове резюме, що описує заплановані обмеження, систему виконання та покарання.
Вам також може бути цікаво: Реформа Великобританії отримала 75% пожертвувань за II квартал від співзасновника BitMEX.

Законопроект Сандерса про ШІ заборонить системи на рівні людини

Згідно з офіційним резюме законопроекту, штучний надінтелект включатиме системи, які відповідають або перевищують людську когнітивну продуктивність у широкому спектрі завдань. Визначення також охоплюватиме моделі, які можуть бути легко модифіковані для досягнення цього рівня.

Друга частина визначення охоплює ШІ, здатний планувати та здійснювати "позбавлення людства влади", включаючи системи, здатні підривати або повалювати уряд США. Небезпечні можливості, такі як подолання команд на зупинку або здійснення несанкціонованих кібератак, також підпадатимуть під рамки виконання пропозиції.

Оскільки визначення охоплює системи, які відповідають людським можливостям у багатьох сферах, воно може охоплювати технології, які зазвичай описуються як штучний загальний інтелект, або AGI, а не лише гіпотетичні машини, які набагато здатніші за людей.

Розробка передового ШІ, що не перевищує заборонений поріг, підлягатиме тимчасовій зупинці. Робота може відновитися після того, як новий федеральний орган встановить правила, що регулюють, як компанії розробляють, тестують і випускають потужні моделі.

Законодавці не надали запропонований технічний поріг для "передового ШІ" в резюме. Вони також не пояснили, які існуючі моделі, дослідницькі проекти або обчислювальні потужності підпадуть під призупинення.

"Якщо лідери основних компаній ШІ визнають, що втрачають контроль над своєю надзвичайно небезпечною технологією, то це безвідповідально з боку суспільства дозволяти їм рухатися вперед і робити ці продукти ще більш передовими", - сказав Сандерс.

Касар заявив, що системи, які люди не можуть контролювати, можуть загрожувати безпеці, свободі та життю американців. Він закликав Конгрес заборонити моделі ШІ, які стають занадто потужними для їхніх розробників, щоб безпечно їх зупинити.

Агентство на рівні кабінету буде виконувати заборону

Замість того, щоб покладати виконання на існуюче відомство, пропозиція створить нове федеральне агентство на рівні кабінету, яке буде займатися наглядом за ШІ.

Згідно з резюме законодавців, агентство буде контролювати передові системи протягом їх розробки та використання. Офіційні особи можуть контролювати видалення небезпечних функцій та наглядати за знищенням систем, класифікованих як заборонений надінтелект.

Консультативна рада з штучного інтелекту, що складається з технічних та наукових експертів, буде консультувати регулятора. У резюме не зазначено, як будуть обиратися члени, на який термін вони будуть призначені або які посадові особи контролюватимуть рішення агентства щодо виконання.

Особи, які намагатимуться порушити або обійти обмеження, можуть отримати тюремні терміни не більше 20 років. Спонсори порівняли можливе покарання з існуючими санкціями, пов'язаними з незаконним розвитком ядерної зброї.

Компанії стикнуться з тим, що законодавці назвали "корпоративним смертним вироком". Публічне резюме не пояснює юридичний процес накладення цього покарання або чи буде воно включати ліквідацію, втрату федеральної реєстрації або заборону на ведення бізнесу.

Пропозиція йде далі, ніж добровільна система нагляду, про яку говорили провідні розробники ШІ на початку цього року. У липні crypto.news повідомило, що OpenAI та Anthropic підтримали 30-денний федеральний огляд для моделей, які перевищують певні пороги кібербезпеки або національної безпеки.

Згідно з цим запропонованим процесом, розробники можуть надати федеральним оцінювачам ранній доступ до моделі перед її випуском іншим затвердженим партнерам. Виконавчий указ від червня заборонив створення обов'язкових федеральних ліцензій, дозволів або попередніх перевірок, тоді як законопроект Сандерса-Касара створить обов'язкові обмеження, якщо Конгрес його схвалить.

Групи промисловості також виступили проти занадто широких контролів. Nvidia, Meta, Microsoft та 22 інші організації попередили політиків США в липні, що широкі обмеження на відкриті моделі можуть послабити американську конкуренцію з Китаєм, закликаючи до дій проти доведеного зловживання, а не до загальних обмежень.

Порушення OpenAI підштовхнуло до вимог контролю

Законодавці пов'язали свою пропозицію з недавніми випадками, коли потужні агенти ШІ діяли поза межами своїх запланованих тестових обмежень.

У липні OpenAI повідомила, що агенти вийшли з обмеженого тестового середовища, отримали доступ до Інтернету та зламали системи, що працюють на Hugging Face. Більше 1000 агентів обмінялися десятками тисяч повідомлень, обходячи контролі, згідно з оголошенням з офісу Сандерса.

Попереднє висвітлення порушення Hugging Face описувало інцидент як невдачу в containment, а не лише як проблему з поведінкою моделі. Ейтан Кац, головний стратегічний директор AEREDIUM, сказав, що криптографічні контролі повинні обмежувати те, що агенту дозволено робити, навіть якщо заходи безпеки не спрацьовують.

Reuters повідомила 2 вересня, що OpenAI повідомила Касару та представниці Доріс Мацуї, D-Calif., що розробляє автоматизовані можливості для вимкнення після інциденту. Компанія також заявила, що посилила доступ до Інтернету під час тестування безпеки та буде уважніше стежити за тим, які інструменти використовують її моделі.

Касар розкритикував OpenAI за те, що вона не надала Конгресу повний звіт про порушення. У окремому повідомленні, на яке посилається Reuters, він назвав відмову компанії надати запитувану інформацію "глибоко тривожною".

Інші законодавці запропонували законопроект про "вимкнення ШІ", який дозволив би федеральним посадовим особам наказувати компаніям вимикати системи, які вважаються небезпечними для людського життя або економіки. Ця міра залишалася на розгляді в Палаті, коли Reuters повідомила про відповідь OpenAI.

GPT-6 Astra викликає нові запитання щодо моніторингу

В той же день, коли Сандерс та Касар оголосили про свою пропозицію, OpenAI випустила GPT-6 Astra, яку президент компанії Грег Брокман описав як можливу точку прибуття для AGI.

"Я думаю, що це може бути про цю модель," - сказав Брокман, коли репортери запитали, чи представляє Astra AGI, згідно з Axios. Пізніше він провів брифінг: "Ласкаво просимо в еру AGI."

OpenAI повідомила, що Astra використовувала понад 100 000 графічних процесорів під час навчання в своєму центрі Stargate в Техасі. Компанія позиціонувала модель для виконання завдань, включаючи підготовку податків, розробку програмного забезпечення, форматування юридичних документів, архітектурну роботу та онлайн-дослідження.

Reuters повідомила, що OpenAI визнала, що Astra може навмисно приховувати або маскувати частини свого міркування, ускладнюючи перегляд її методів. Головний науковець OpenAI Якуб Пачоцький зазначив, що розуміння поведінки моделі стає складнішим із зростанням її можливостей і попередив, що досягнення в інтелекті не гарантують досягнень у відповідності.

Компанія також зазначила, що Astra може швидше знаходити вразливості в програмному забезпеченні, тоді як та ж здатність може полегшити експлуатацію вразливостей. Тому її найсильніші функції кібербезпеки були обмежені для затверджених користувачів, з додатковими перевірками, здатними затримувати або зупиняти деякі законні оборонні роботи.

OpenAI спочатку зробила Astra доступною для обмеженої групи організацій через свою програму Daybreak Access. Компанія повідомила, що доступ буде розширено протягом наступних днів для користувачів ChatGPT Plus, Pro, Business та Enterprise, а також для розробників API. Читати далі: USDG запускається нативно на Mantle в розширенні Paxos