«Ми не можемо кодити майбутнє людства», - попереджає генсек ООН на саміті з ШІ

Генеральний секретар ООН Антоніу Гутерреш відкрив перший Глобальний діалог з управління ШІ в Женеві в понеділок, звертаючись до 193 країн, що ШІ вже випереджає інституції, призначені для його регулювання, - і що людство проводить експеримент над собою «без плану та без згоди».

«Штучний інтелект розвивається з неймовірною швидкістю», - сказав Гутерреш на початку своєї основної доповіді. «Технологія, яка може змінити економіки, трансформувати світ праці, впливати на вибори та порушувати баланс безпеки, впроваджується швидше, ніж будь-хто, включаючи тих, хто її створює, може встигнути».

У залі були присутні всі 193 держави-члени ООН, зібрані в Женеві на першому Глобальному діалозі з управління ШІ, багатосторонній спробі регулювати технологію, яка вже випередила всіх, хто намагається це зробити.

Мем, використаний Гутеррешем для пояснення ризиків неконтрольованого ШІ, був «vibe coding» - термін, придуманий Андреєм Карпаті, одним із засновників OpenAI та колишнім директором з ШІ в Tesla, для опису програмування за відчуттям: скажіть ШІ, що ви хочете, нехай воно впорається з рештою, не заглядайте занадто близько. Merriam-Webster нещодавно додав його до свого словника.

Гутерреш визнав, що «vibe coding» «може творити дива», оскільки все більше людей довіряють продуктам, створеним ШІ.

«Але ми не можемо кодити правду», - сказав він. «Ми не можемо кодити майбутнє людства».

Цифри, що стоять за цією фразою, не були м'якими. Гутерреш зазначив, що Інтернету знадобилося 15 років, щоб досягти мільярда людей, а ШІ - два. Він описав сучасні системи як «більше не інструменти, що чекають інструкцій - вони пишуть код, діють онлайн і приймають рішення з все меншою людською наглядом».

«Наші інституції були створені для управління машинами, які виконують команди. Вони не готові до машин, які приймають рішення».

Діалог виник з Глобального цифрового пакту 2024 року, який вперше встановив міжнародне управління ШІ як мандат ООН. Його перша сесія два роки потому також отримала попередній звіт Незалежної міжнародної наукової панелі з штучного інтелекту - 40 вчених з 140 країн - яка минулого тижня опублікувала висновок, що ніхто не може наразі гарантувати, що ШІ не завдасть катастрофічної шкоди.

Швидкість була одним із трьох попереджень, які Гутерреш виніс з панелі. Другим було влада: обчислювальні потужності, дані та таланти зосереджені в руках кількох компаній і країн, більшість світу виключена з рішень, які вже формують його, що також турбує інших експертів з ШІ, таких як Ян Лекун, Енді Ковінскі та Йошуа Бенгіо.

Третім було правда - машина, що дозволяє брехні, тепер переконує так само ефективно, як перевірений факт, поступово підриваючи те, що Гутерреш назвав «цілісністю нашої інформаційної екосистеми».

Діти-щури та вбивчі роботи

Серед конкретних пропозицій Гутерреша - зобов'язання щодо безпеки дітей у ШІ, яке вимагає від компаній довести безпеку через незалежне тестування перед тим, як будь-який ШІ потрапить до дітей, підтримувати нульову толерантність до створення зображень сексуального насильства над дітьми та з'єднувати дітей у скруті з реальною людською підтримкою, а не залишати їх наодинці з чат-ботом. «Жодна дитина не повинна бути щуром для неконтрольованого ШІ».

А потім були вбивчі роботи. Гутерреш назвав летальні автономні зброї - машини, які вибирають і вбивають ціль без людського судження - «морально огидними» і вимагав заборони міжнародним правом.

Держави вже за столом для обговорення. Він не пропонував їм зволікати.

Діалог знову збереться в Нью-Йорку в 2027 році. Гутерреш також закликав Генеральну Асамблею створити Глобальний фонд для ШІ, зосереджений на доступі до обчислень для країн, що розвиваються, і закликав кожну велику компанію з ШІ перевести всі центри обробки даних на відновлювальну енергію до 2030 року - року, коли він оцінює, що ці об'єкти перевершать всі, крім п'яти країн, за споживання електроенергії.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.