"Есть решение для апокалипсиса ИИ"... Дженсен Хуанг предлагает "инженерный контроль", Маск предлагает "перекрестную проверку"

Участие в "All-In Summit", сосредоточение на проблемах ИИ

Дэвид Сакс подчеркивает важность существующих юридических механизмов, таких как закон о ответственности за продукцию.

Трамп провел импровизированный звонок с Дженсеном Хуаном... "Апокалипсис — это манипуляция страхом"

[Журналист Блокмедиа Ли Чжонхва] В условиях, когда главные руководители технологических компаний США подают сигналы о возможном уничтожении человечества из-за искусственного интеллекта (ИИ), Дженсен Хуанг и Илон Маск предложили свои решения.

14 числа (по местному времени) на "All-In Summit" в Лос-Анджелесе Дженсен Хуанг заявил, что апокалипсис ИИ преувеличен и предложил инженерный контроль как решение. Илон Маск, подключившийся к мероприятию по видеосвязи, отметил, что развитие ИИ происходит экспоненциально, и необходимо контролировать его, добавив, что "риск можно управлять через перекрестную проверку (Peer Review) между моделями ИИ".

"All-In Summit" — это мероприятие, организованное подкастом "All-In", в котором участвуют четыре технологических эксперта, включая Дэвида Сакса, AI-царя Белого дома, и оно продлится до 15 числа. В этот день также произошло неожиданное событие, когда президент Трамп позвонил и связался со зрителями через громкоговоритель.

Президент Трамп раскритиковал: "Апокалипсис ИИ — это манипуляция страхом" и добавил, что "это только выгодно Китаю".

Дженсен Хуанг: "Апокалипсис ИИ — это преувеличение без научных оснований"

Генеральный директор Nvidia Дженсен Хуанг утверждает, что апокалипсис не имеет научных оснований. Он отметил, что в прошлом были распространены катастрофические прогнозы о замене врачей радиацией и автоматизации кода, которые оказались ложными.

Хуанг сказал: "С развитием технологий ИИ от исследовательской стадии к полноценной инженерной стадии, мы можем достаточно управлять рисками ИИ через инженерные контрольные механизмы, такие как песочницы, контроль времени выполнения и постоянный мониторинг".

Это так называемая инженерная контрольная теория. Хуанг подчеркнул, что проблемы, связанные с ИИ, не должны решаться через неопределенный страх или внешние регуляции, а должны решаться через анализ коренных причин (Root cause analysis).

Он утверждает, что даже с текущими технологиями можно создать инженерный контроль. Для предотвращения выхода ИИ из-под контроля или возникновения рисков можно использовать песочницы (Sandboxes) и контроль времени выполнения (Runtimes), а также обеспечить постоянный мониторинг (Continuous monitors). Песочницы изолируют ИИ в определенной среде, а контроль времени выполнения предотвращает его неконтролируемое поведение.

Хуанг утверждает, что внедрение конкретных инженерных технологических процессов, таких как системы верификации и оценки (Verification and evals), позволит управлять рисками разработки моделей ИИ.

По его мнению, вместо того чтобы препятствовать инновациям и расширению дата-центров из-за беспочвенного страха, необходимо активизировать открытые источники и модели передового опыта (AI инновационные модели) с инженерными мерами безопасности, чтобы обеспечить повышение производительности, реиндустриализацию и создание рабочих мест, что является сущностью национальной конкурентоспособности.

Трамп: "Манипуляция страхом ИИ выгодна только Китаю"

Во время беседы Дженсена Хуана с участниками подкаста "All-In" состоялся телефонный разговор между президентом Трампом и генеральным директором Хуаном. Президент Трамп через громкоговоритель напрямую донес до аудитории свои мысли о фальсификации апокалипсиса ИИ.

Трамп охарактеризовал утверждения о том, что роботы или ИИ захватят мир, как "манипуляцию страхом". Он указал, что если инфраструктура будет затруднена из-за этой манипуляции, то наибольшую выгоду получит Китай.

Кроме того, он сравнил дата-центры с "нефтью на ближайшие 20-25 лет" и заявил, что США должны активно развивать инфраструктуру, чтобы обеспечить глобальное лидерство в области ИИ.

Илон Маск: "Необходима перекрестная проверка для противодействия экспоненциальным угрозам"

Генеральный директор Tesla Илон Маск подчеркивает, что нельзя игнорировать риски ИИ и поддерживает идею контроля скорости разработки. Маск подключился к мероприятию по видеосвязи и предложил решение проблемы ИИ.

Он предупредил, что "риски моделей ИИ экспоненциально растут, когда они пытаются избежать ограничений или проявляют обманные действия".

Генеральный директор Маск предложил, чтобы разработчики избегали самопроверки своих моделей и вместо этого немедленно внедрили систему взаимной перекрестной проверки (Peer Review) с основными компаниями передового ИИ и Китаем, используя тестовые гарнитуры (AI модельные руководства) перед выпуском моделей.

Участники подкаста "All-In" подчеркивают важность практической системы верификации и рыночной мобильности

Ведущие подкаста "All-In" также представили многосторонний анализ апокалипсиса ИИ и альтернатив Маска.

Генеральный директор Social Capital Чамат Палихапития выразил сомнение в том, что экстремальные цифры, такие как вероятность уничтожения человечества в 10%, убедительны для общественности, и задал вопрос, не являются ли они результатом бизнесовых и политических мотивов внутри передовых компаний.

Соведущий подкаста "All-In" Джейсон Калаканис раскритиковал практику сбора инвестиций через манипуляцию страхом и заявил, что необходимо проверить конкретные этапы и причинно-следственные связи, ведущие к уничтожению человечества из-за ИИ.

Генеральный директор Production Board Дэвид Фридберг проанализировал, что страх человечества перед неизведанными территориями легко используется для манипуляции апокалипсисом.

Основатель Craft Ventures Дэвид Сакс, который ранее занимал пост AI-царя Белого дома, оценил, что предложенная Маском система перекрестной проверки гораздо более практична, чем создание новых бюрократических организаций, таких как ООН.

Сакс подчеркнул, что если игнорировать предупреждения и выпустить опасные модели, это приведет к серьезной юридической ответственности по существующему закону о ответственности за продукцию, что позволит контролировать риски через рынок и закон.

Он выступает за поиск решений в рамках существующей системы, а не введение новых регуляций. Это позволит предотвратить закрепление позиций ведущих разработчиков ИИ и обеспечить постоянные инновации.

Этот контент предоставляется исключительно в общих информационных целях и не является финансовым, инвестиционным, юридическим или налоговым советом. Любые мероприятия, вознаграждения, онлайн-акции или связанная с ними информация, упомянутые в настоящем документе, не должны рассматриваться как рекомендация, приглашение к покупке, продаже, торговле или иной сделке с какими-либо криптоактивами. Криптоактивы очень волатильны и могут привести к убыткам. Доступность услуг, продуктов WEEX и связанных с ними событий может варьироваться в зависимости от региона. Вы несете ответственность за обеспечение того, чтобы ваше участие соответствовало применимым местным законам и нормативным актам.