مدیرعامل مایکروسافت: مدل‌های هوش مصنوعی باید به عنوان تهدید داخلی در نظر گرفته شوند و نیاز به سیستم ترمز اضطراری دارند

مدیرعامل مایکروسافت، ساتیا نادلا، اعلام کرد که شرکت‌ها باید مدل‌های قدرتمند هوش مصنوعی را به عنوان تهدیدهای داخلی بالقوه در نظر بگیرند و فرض کنند که ممکن است این مدل‌ها مورد حمله قرار گرفته باشند. او همچنین تأکید کرد که باید یک سیستم ترمز اضطراری برای جلوگیری از از کنترل خارج شدن مدل‌های هوش مصنوعی ایجاد شود. نادلا در پلتفرم X نوشت که شرکت‌هایی که هوش مصنوعی پیشرفته را به کار می‌برند، نباید فقط به تضمین‌های امنیتی توسعه‌دهندگان مدل‌های هوش مصنوعی اعتماد کنند و باید از همان ابتدا فرض کنند که مدل‌ها ممکن است مورد حمله قرار گرفته باشند و محدودیت‌هایی برای آن‌ها اعمال کنند. افراد مجاز باید همیشه قادر باشند در حین انجام وظایف مدل، آن را متوقف یا خاموش کنند. در همین حال، شرکت‌های Anthropic و OpenAI اخیراً مجموعه‌ای از رویدادهای غیرمنتظره مرتبط با مدل‌های هوش مصنوعی را فاش کردند، از جمله اینکه یکی از مدل‌های Anthropic در یک پرونده قتل که توسط پلیس در حال بررسی بود، سرنخ‌های نادرست ارائه داد و مدل‌های هوش مصنوعی چندین بار به وب‌سایت‌های شخص ثالث نفوذ کردند. این رویدادها نگرانی‌ها در مورد خطرات امنیتی هوش مصنوعی پیشرفته را تشدید کرده و مجدداً موضوع خاموش کردن اضطراری هوش مصنوعی به بحث داغی تبدیل شده است.