OpenAI запитує у Конгресу, чи буде законним уповільнення розвитку ШІ

OpenAI запитала членів Конгресу, чи можуть суперники в галузі штучного інтелекту законно домовитися про уповільнення розвитку, оскільки її головний науковець закликає галузь встановити спільні стандарти безпеки.

Згідно з WIRED, який посилається на людей, близьких до компанії, OpenAI запитала законодавців в останні тижні, чи може угода між компаніями з ШІ про уповільнення розвитку порушити антимонопольні закони.

Звернення до законодавців відбулося після заклику головного науковця OpenAI Якуба Пачоцького до добровільного уповільнення, поки розробники не зможуть краще продемонструвати, що їхні системи є безпечними. Але компанії стикаються з тиском продовжувати розвиватися, навіть коли їхні власні дослідники мають занепокоєння.

"Комерційна та геополітична конкуренція в галузі ШІ є надзвичайно інтенсивною, що призводить до тривожної динаміки, коли компанії заохочуються випускати продукти до того, як їхні ризики будуть повністю зрозумілі", - сказала Міренда Боген, головний технолог Центру демократії та технологій, в інтерв'ю Decrypt.

"Навіть коли внутрішній персонал знає, що потрібно більше досліджень і тестування, їхні компанії стикаються з величезним тиском, щоб зекономити на витратах і пропустити критичні тести безпеки, незважаючи на накопичення доказів наслідків занадто швидкого руху", - додала вона.

Угода про уповільнення розвитку ШІ може викликати антимонопольні занепокоєння, обмежуючи конкуренцію. Сенатори Адам Шифф і Джим Бенкс представили законодавство для захисту певних співпраць у сфері безпеки, за умови попереднього повідомлення Міністерству юстиції.

Дебати щодо уповільнення розвитку ШІ відбуваються на фоні конкуренції між Сполученими Штатами та Китаєм за лідерство в технологіях. Президент США Дональд Трамп відкладав виконавчий указ щодо ШІ в травні через занепокоєння, що це може послабити позиції Америки щодо Китаю. Трамп пізніше підписав указ у червні, створивши добровільний процес перевірки для просунутих моделей перед випуском.

Фінансові стимули можуть ускладнити досягнення угоди, більш ніж національні безпекові занепокоєння.

"Кожен прогрес за нинішніх умов приносить багато мільйонів або мільярдів більше фінансування і ставить творців цього прогресу в кращу позицію влади та впливу", - сказав Дункан Сабієн, керівник комунікацій в Інституті досліджень машинного інтелекту, в інтерв'ю Decrypt.

Називаючи динаміку гонки озброєнь реальною, Сабієн зазначив, що OpenAI та Anthropic стикаються з тиском продовжувати розвиток, незважаючи на невизначені ризики, оскільки кожна нова система допомагає створити більш здатних наступників, дозволяючи супернику випередити, якщо одна з компаній уповільниться без спільної угоди.

"Це особливо вірно, оскільки здобутки в інтелекті є компаундованими; кожна нова система полегшує навчання та впровадження наступної, більш просунутої системи", - сказав він. "Без якогось механізму координації, відступ просто означає, що інший отримує перевагу.

У серпні OpenAI призупинила внутрішню роботу над Astra через відсутність більш надійних заходів безпеки з огляду на занепокоєння щодо кібербезпеки. Однак як OpenAI, так і Anthropic послабили свої зобов'язання щодо безпеки в лютому, причому головний науковий співробітник Anthropic Джаред Каплан стверджував, що уповільнення розвитку самостійно має менший сенс, поки конкуренти продовжують розвиватися.

Головний науковець OpenAI попереджає, що лабораторії ШІ можуть потребувати уповільнення

Дебати щодо уповільнення розвитку ШІ загострилися цього тижня після того, як колишній інженер Anthropic Джейкоб Коксон публічно оголосив про свою відставку, посилаючись на занепокоєння щодо ризиків, які продовження розвитку ШІ становить для людства.

"Люди, які створюють ШІ, щиро вірять, що це може вбити нас усіх до кінця десятиліття", - сказав Коксон на X, зазначивши, що це не "маркетинговий трюк".

"Якщо чесно, багато керівників і старших дослідників будуть формулювати свої висловлювання в пресі так, щоб звучати розумно---але я чую, як ті ж самі люди висловлюють страх приватно. Жодна інша людська діяльність не несе такого рівня небезпеки", - написав він.

Однак Сабієн зазначив, що дослідники можуть досягти небагато, якщо хтось інший просто займе їхнє місце.

"Якщо достатня кількість з них досягне спільного знання, що їм усім слід зупинитися, тоді вони можуть подолати бар'єр координації і зупинитися разом, а не просто бути заміненими наступною трохи менш обережною людиною", - сказав він.