توسعه‌دهندگان هوش مصنوعی پیش‌بینی فاجعه و آماده‌سازی برای ممنوعیت‌ها

مدیران ارشد شرکت‌های Anthropic و OpenAI سناریوهای شورش عمومی پس از فاجعه‌ای مرتبط با هوش مصنوعی را مدل‌سازی می‌کنند. انتظار می‌رود یک رویداد بزرگ، احتمالاً یک حمله سایبری، دسترسی به خدمات مالی و برق را قطع کند. اولین مورد خسارت قابل توجه ناشی از هوش مصنوعی خطرناک می‌تواند نارضایتی عمومی را تشدید کند. نماینده OpenAI از آمادگی برای سناریوهای مختلف خبر داد، در حالی که Anthropic از اظهارنظر خودداری کرد. نمونه‌ای از تهدید، حمله به بانک‌های کره جنوبی بود که در آن هکر از ابزارهای مدل‌های چینی برای سرقت داده‌های مشتریان استفاده کرد. برنامه‌ریزان انتظار دارند که دموکرات‌ها پس از انتخابات میان‌دوره‌ای شروع به محدود کردن هوش مصنوعی کنند، اما به دلیل ناتوانی کنگره و ارتباط آن با اقتصاد با دشواری‌هایی مواجه خواهند شد. شرکت‌ها بر روی تمرین بدترین سناریوها و اطلاع‌رسانی به کنگره متمرکز شده‌اند، هرچند که شانس تصویب مقررات در حال حاضر کم است. منابع داخلی انتظار دارند که یک حادثه جدی در ۶ تا ۱۲ ماه آینده رخ دهد، از جمله پیشنهاداتی برای ممنوعیت سوپرهوش. واشنگتن ممکن است در صورت بحران، مانند آنچه در زمان COVID-19 اتفاق افتاد، بر اختلافات حزبی غلبه کند.