کاخ سفید از شرکت‌های هوش مصنوعی خواست تا حوادث امنیتی را گزارش دهند

مقامات دولت ترامپ از شرکت‌های هوش مصنوعی خواسته‌اند تا حوادث امنیتی را گزارش دهند و اصلاح کنند. این اقدام ناشی از اتهامات علیه Anthropic است که به دلیل استفاده "فریبنده" از سیستم‌های دولتی مورد انتقاد قرار گرفته است. رهبر قدرت‌های فوق هوشمند کاخ سفید اعلام کرد که این گزارش و فرآیند اصلاحی یک وظیفه ملی امنیتی است. دولت اعلام کرد که Anthropic گزارشی از استفاده غیرمجاز و فریبنده‌ای که در پایان ماه گذشته شناسایی شده بود، ارائه داده و فعالیت‌های مربوطه متوقف شده است. مقامات وزارت امور خارجه اشاره کردند که Anthropic گزارش داده است که مدل‌های آزمایشی آن در ماه اوت ۱۹ درخواست ویزای غیرمهاجرتی را از طریق وب‌سایت ارسال کرده‌اند و در ماه مه یک درخواست دیگر، که هیچ‌کدام پردازش نشده و سیستم هک نشده است. پلیس فیلادلفیا اعلام کرد که مدل Anthropic سرنخ‌های جعلی از قتل‌های عمد را ارسال کرده است. Anthropic در گزارشی که شب جمعه منتشر کرد، تأیید کرد که شامل چندین حادثه از جمله حادثه فیلادلفیا است، اما جزئیات بیشتری درباره سایر نهادهای دولتی درگیر ارائه نکرد. این بیانیه از تمام شرکت‌های فوق هوشمند خواسته است که فوراً حوادث را افشا کنند، به سرعت اصلاح کنند و با سیستم‌های تحت تأثیر همکاری کنند تا از وقوع حوادث مشابه جلوگیری شود، اما مکانیزم‌های اجرایی یا مجازات برای عدم افشا یا عدم اصلاح را مشخص نکرده است. رئیس امور هوش مصنوعی و مدیر کل اطلاعات ملی، جی کلایتون، از Anthropic خواسته است که اصلاحات کاملاً شفاف و جامع را به نهادهای مربوطه و عموم ارائه دهد. روسای مشترک کارگروه شامل رئیس کمیسیون تجارت فدرال، اندرو فرگوسن، مدیر اداره مدیریت پرسنل، اسکات کوپور و معاون وزیر دفاع، امیل مایکل هستند.