Генеральний директор Anthropic відповідає на питання безпеки ШІ, підкреслюючи важливість передових технологій

Anthropic подала проект закону про безпеку ШІ до Конгресу США, який викликав сумніви. Проект закону встановлює високі бар'єри для термінового зупинення небезпечних моделей, вимагаючи, щоб ризики стосувалися біологічної зброї, кібератак або неконтрольованого ШІ, що може призвести до загибелі понад 50 осіб або серйозних травм, або збитків понад 1 мільярд доларів. Частина положень може обмежити повноваження державних органів. Натан Кальвін, стратегічний керівник організації з безпеки ШІ Encode AI, зазначив, що в лютому цього року Anthropic змінила свої спочатку суворі політики безпеки, скасувавши вимогу про самостійне припинення розробки на більш ризикованих етапах, оскільки конкуренти можуть скористатися цим. У той же час Anthropic інвестувала великі кошти в обчислювальні потужності, створила команду з розробки чіпів і доручила Claude виконувати більше завдань з розробки ШІ. 21 жовтня генеральний директор Anthropic Даріо Амодеї опублікував пост у X, спростовуючи сумніви, визнавши, що компанія помилялася, але наполягаючи на тому, що боротьба за найсучасніші можливості ШІ не суперечить місії безпеки, підкреслюючи, що лише залишаючись на передовій технологій, можна підвищити стандарти безпеки в галузі. Він навів дев'ять рішень з безпеки, які коштували компанії комерційних втрат, включаючи обмеження відкриття моделей рівня Mythos на кілька місяців та суворе обмеження запитів, пов'язаних з біологією. Оновлена 19 жовтня карта безпеки компанії зазначає, що існуюча політика в основному стосується розгортання небезпечних моделей, у майбутньому може знадобитися безпосереднє обмеження швидкості розробки, і планується подати відповідні політичні пропозиції до 15 січня 2027 року або пояснити, чому їх не було подано.

Цей контент надано лише для загальних інформаційних цілей і не є фінансовою, інвестиційною, юридичною чи податковою консультацією. Події, нагороди, онлайн-акцій або пов’язану інформацію, згадана тут, не слід розглядати як рекомендацію, прохання чи запрошення до купівлі, продажу, торгівлі чи інших операцій з криптоактивами. Криптоактиви є дуже волатильними та можуть призвести до збитків. Доступність послуг, продуктів WEEX та пов’язаних із ними подій може відрізнятися залежно від регіону. Ви несете відповідальність за забезпечення відповідності вашої участі чинному місцевому законодавству та нормативним актам.