«Є рішення для апокаліптичних сценаріїв штучного інтелекту»… Дженсен Хуанг пропонує «інженерний контроль», а Маск – «перехресну перевірку»

Участь у «All-In Summit», зосередженість на проблемах штучного інтелекту

Девід Сакс підкреслює важливість існуючих правових механізмів, таких як закон про відповідальність за продукти.

Трамп телефонує Дженсену Хуангу… «Апокаліпсис – це маніпуляція страхом»

[Журналістка Блокмедіа Лі Чонг Хва] У ситуації, коли генеральні директори провідних технологічних компаній США подають сигнали тривоги щодо можливого знищення людства штучним інтелектом (ШІ), Дженсен Хуанг і Ілон Маск запропонували свої рішення.

14 числа (за місцевим часом) на заході «All-In Summit», що проходить у Лос-Анджелесі, Дженсен Хуанг заявив, що апокаліптичні сценарії щодо ШІ перебільшені і запропонував інженерний контроль як рішення. Ілон Маск, який підключився до заходу через відеозв'язок, зазначив, що розвиток ШІ відбувається експоненційно, тому необхідний контроль, але також додав, що «можна управляти ризиками через перехресну перевірку (Peer Review) між моделями ШІ».

«All-In Summit» – це захід, організований подкастом «All-In», в якому беруть участь чотири технічні експерти, включаючи Девіда Сакса, радника Білого дому з питань ШІ, і триватиме до 15 числа. Під час бесіди з Дженсеном Хуаном Трамп несподівано зателефонував і з'єднався з аудиторією через гучномовець.

Трамп заявив: «Апокаліпсис штучного інтелекту – це маніпуляція страхом» і розкритикував це як «дії, які вигідні лише Китаю».

Дженсен Хуанг: «Апокаліпсис штучного інтелекту не має наукового обґрунтування»

Дженсен Хуанг, генеральний директор Nvidia, стверджує, що апокаліптичні сценарії не мають наукового обґрунтування. Генеральний директор Хуанг зазначив, що в минулому також існували катастрофічні прогнози, такі як повна заміна лікарів радіацією або автоматизацією коду, але всі вони виявилися неправдою.

Хуанг сказав: «Технології ШІ можуть бути достатньо контрольовані через інженерні механізми, такі як пісочниці, контроль виконання та постійний моніторинг, оскільки вони переходять з етапу досліджень до етапу інженерії».

Це так званий інженерний контроль. Хуанг зазначив: «Проблеми, пов'язані з ШІ, не повинні вирішуватися через абстрактний страх або зовнішнє регулювання, а повинні бути вирішені через аналіз корінних причин».

Він стверджує, що навіть з існуючими технологіями можна створити інженерний контроль. Для запобігання відхиленням або ризикам ШІ можна впровадити пісочниці, контроль виконання та постійний моніторинг. Пісочниця ізолює ШІ в певному середовищі, а контроль виконання є механізмом, що запобігає неконтрольованому поведінці ШІ.

Хуанг стверджує, що впровадження конкретних інженерних технологічних процесів, таких як система перевірки та оцінки ШІ, може допомогти управляти ризиками розробки моделей ШІ.

Він вважає, що замість того, щоб стримувати інновації та розширення дата-центрів через безпідставний страх, необхідно активізувати відкриті джерела та моделі передового досвіду (моделі інновацій ШІ) в умовах наявності інженерних засобів безпеки, щоб забезпечити підвищення продуктивності, повторну індустріалізацію та створення робочих місць, що є суттю національної конкурентоспроможності.

Трамп: «Маніпуляція страхом щодо ШІ вигідна лише Китаю»

Під час бесіди між Дженсеном Хуаном і членами подкасту «All-In» відбулася телефонна розмова з президентом Трампом. Президент Трамп через гучномовець безпосередньо доніс до аудиторії свої думки про фальшивість апокаліпсису ШІ.

Президент Трамп охарактеризував твердження про те, що роботи чи ШІ захоплять світ, як «маніпуляцію страхом». Він зазначив, що якщо інфраструктура буде знищена через цю маніпуляцію страхом, найбільше вигоду отримає Китай.

Він також порівняв дата-центри з «нафтою на наступні 20-25 років» і закликав США активно розширювати інфраструктуру, щоб забезпечити глобальне лідерство в ШІ.

Ілон Маск: «Необхідна перехресна перевірка для реагування на експоненційні загрози»

Ілон Маск, генеральний директор Tesla, підкреслив, що не можна ігнорувати ризики ШІ і підтримує ідею контролю швидкості розробки. Маск, який підключився до заходу через відеозв'язок, запропонував рішення проблеми ШІ.

Маск попередив, що «ризики зростають експоненційно, оскільки моделі ШІ намагаються уникнути обмежень або демонструють обманливу поведінку».

Генеральний директор Маск зазначив, що розробники повинні уникати самостійного тестування своїх моделей і запропонував негайно впровадити систему перехресної перевірки, в якій основні компанії передового досвіду ШІ та Китай використовують тестові гарнітури один одного перед випуском моделей.

Члени подкасту «All-In»: «Наголошують на практичній системі перевірки та ринковій динаміці»

Ведучі подкасту «All-In» також провели багатогранний аналіз апокаліптичних сценаріїв та альтернатив Ілона Маска.

Чамат Паліхапітія, генеральний директор Social Capital, висловив сумнів щодо того, чи є такі крайні цифри, як 10% ймовірності знищення людства, переконливими для громадськості, і запитав, чи не походять вони з бізнесових чи політичних мотивів всередині компаній передового досвіду.

Джейсон Калаканіс, співведучий подкасту «All-In», розкритикував поведінку, яка викликає страх для залучення інвестицій, і стверджував, що необхідно перевірити конкретні етапи та причинно-наслідкові зв'язки, які ведуть до знищення людства через ШІ.

Девід Фрідберг, генеральний директор Production Board, проаналізував, що страх людства перед невідомими територіями легко використовується для маніпуляцій апокаліптичними сценаріями.

Девід Сакс, засновник Craft Ventures, який раніше обіймав посаду радника Білого дому з питань ШІ, оцінив, що запропонована Ілоном Маском система перехресної перевірки є набагато практичнішою, ніж створення нових бюрократичних організацій, таких як ООН.

Сакс підкреслив, що якщо ігнорувати попередження і продовжувати випускати небезпечні моделі, це призведе до серйозних юридичних наслідків відповідно до існуючого закону про відповідальність за продукти, тому ризики можна контролювати через ринок і закон.

Він виступає за пошук рішень у межах існуючої системи, а не нових регуляцій. Це дозволить запобігти монополізації провідних розробників ШІ та забезпечити постійні інновації.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.