Віталік Бутерін визначає навичку, в якій людина має перевагу над ШІ

Віталік Бутерін вказує на обмеження ШІ: незважаючи на свої широкі знання, вона має труднощі з оцінкою глибини тексту, особливо коли вона його відкриває вперше. Для співзасновника Ethereum ця різниця між знанням і мудрістю заслуговує на особливу увагу.

Коротко

• 29 жовтня Віталік Бутерін описує ШІ як «надзвичайно освічену», але «не дуже мудру», зокрема, коли вона оцінює текст.
• На його думку, моделі стикаються з більшими труднощами при роботі з новими текстами, які не мають людських коментарів у їхніх навчальних даних.
• Він також підкреслює важливу різницю: знання моделі можна легко перевірити, але виміряти її мудрість набагато складніше.

ШІ знає посилання, але чи розуміє вона ідеї?

Віталік Бутерін регулярно висловлює свої сумніви щодо агентів ШІ, як це було в жовтні з його «параноідальним режимом». 29 жовтня о 4:11 UTC він опублікував нову роздуми у відповідь на письменницю Руксандру Тесло.

Обговорення стало наслідком статті Wall Street Journal про Humanities 10, курс першого року в Гарварді, який забороняє студентам використовувати телефони та комп'ютери протягом року.

У своєму повідомленні на X Віталік пояснює, що ШІ може мобілізувати знання на майже будь-яку тему, але не демонструє глибокого судження. Вона ризикує зупинитися на найбільш поверхневих аспектах тексту, не повністю усвідомлюючи обсяг своєї аргументації.

Ця заувага виникає в дебатах про якість спілкування з чат-ботами. Деякі вважають їх кращими співрозмовниками, ніж більшість людей, для обговорення великих класиків. На противагу цьому, одна письменниця вважає, що їхні коментарі щодо її есе часто зводяться до порожніх відповідей.

Перше читання

Для Віталіка Бутеріна це обмеження особливо проявляється, коли модель відкриває текст вперше. Дійсно, відомий твір має десятиліття критики, аналізу та коментарів, які ШІ може знайти у своїх навчальних даних. Натомість нещодавнє есе не має такої ж історії.

Модель повинна більше покладатися на сам текст, не маючи можливості мобілізувати стільки попередніх аналізів. Ця різниця особливо важлива в крипто, де команди використовують агентів ШІ для аналізу білих книг, аудитів або пропозицій з управління.

Однак деякі розробники вже попереджають про недоліки, які ШІ може використовувати, не розуміючи повністю їхніх наслідків. За таких умов резюме, створені моделлю, не повинні замінювати людську перевірку, особливо коли йдеться про важливі технічні або фінансові питання.

Мудрість, важка для вимірювання якість

Віталік Бутерін піднімає ще одну більш тонку проблему: знання моделі можна досить легко перевірити, на відміну від її мудрості. Можна перевірити дату, посилання або цифру. Натомість оцінка доречності міркування вимагає більше, ніж просту фактичну перевірку.

Один епізод у липні ілюструє цю різницю. Конкурс, організований навколо ідентифікації автора анонімного документа Ethereum, нагородив 6 липня команду Френкліна Ванга з Co-Invest. Після аналізу 27 текстів вона отримала результат, пов'язаний з ймовірністю близько 20%.

Цей досвід нагадує, що штучний інтелект може розпізнавати стилістичні характеристики, не обов'язково розуміючи ідеї, що стоять за текстом. Така ж обережність повинна дотримуватися, коли вона аналізує код або технічні документи: ідентифікація шаблонів не завжди означає розуміння намірів їх автора.