اتحادیه اروپا، خطرات هوش مصنوعی خودران را هدف قرار می‌دهد... بررسی سیستم‌های ایمنی بیش از 30 شرکت

اتحادیه اروپا "قانون هوش مصنوعی، مدیریت مدل‌های پیشرفته... امکان پاسخ به خطرات عاملان"
بررسی سیستم‌های ایمنی بیش از 30 شرکت هوش مصنوعی... در صورت تخلف، جریمه تا 7% از درآمد
فاصله بزرگ سرمایه‌گذاری هوش مصنوعی بین ایالات متحده و اروپا... چالش تعادل بین ایمنی و رقابت

[خبرنگار لی هی‌یون از بلاک‌مدیا] اتحادیه اروپا (EU) اعلام کرده است که می‌تواند به خطرات عاملان هوش مصنوعی (AI) خودران که از کنترل خارج شده‌اند، با قوانین فعلی هوش مصنوعی پاسخ دهد.

با افزایش مواردی که در آن هوش مصنوعی بدون دخالت مداوم انسان قضاوت و عمل می‌کند، بحث‌های ایمنی افزایش یافته است، اما اتحادیه اروپا بر این باور است که سیستم‌های نظارتی فعلی ابزارهای کافی برای پاسخگویی را دارند.

به گزارش کریپتوپولیتن، هننا ویرکونن (Henna Virkkunen) کمیسر اجرایی فناوری اتحادیه اروپا در تاریخ 9 سپتامبر (به وقت محلی) اعلام کرد که اروپا "به خوبی آماده است" تا به عاملان هوش مصنوعی که کنترل آن‌ها دشوار است، پاسخ دهد.

کمیسر ویرکونن توضیح داد که قانون هوش مصنوعی اتحادیه اروپا "تمام چرخه عمر" از توسعه تا بهره‌برداری مدل‌های پیشرفته هوش مصنوعی را شامل می‌شود. او همچنین به انتقادات مبنی بر اینکه سرعت پیشرفت فناوری هوش مصنوعی از قوانین جلوتر است، پاسخ داد و توضیح داد که ارزیابی ایمنی و سیستم‌های نظارت مداوم در قوانین فعلی گنجانده شده است.

60 کارشناس مستقل کمیسیون اتحادیه اروپا در حال همکاری با دفتر هوش مصنوعی اتحادیه اروپا برای تهیه سوالاتی هستند که به شرکت‌ها و نهادهای مرتبط با حوادث هوش مصنوعی ارسال خواهد شد. آن‌ها همچنین قصد دارند توصیه‌هایی برای تقویت ایمنی ارائه دهند.

کمیسر ویرکونن گفت: "اتحادیه اروپا اولین قانونی را دارد که به خطرات سیستماتیک ناشی از هوش مصنوعی می‌پردازد" و افزود: "برای این کار، تحلیل‌های علمی پیشرفته ضروری است."

بررسی سیستم‌های ایمنی بیش از 30 شرکت توسعه‌دهنده هوش مصنوعی

اتحادیه اروپا در حال حاضر در حال بررسی این است که آیا تدابیر ایمنی مطابق با قانون هوش مصنوعی به درستی عمل می‌کنند یا خیر.

به گزارش رویترز، کمیسیون اتحادیه اروپا در پایان ماه اوت از بیش از 30 شرکت توسعه‌دهنده هوش مصنوعی، از جمله شرکت‌های چینی، اطلاعاتی درباره روش‌های مدیریت ایمنی درخواست کرده است. کمیسر ویرکونن توضیح داد که آن‌ها در حال تحلیل پاسخ‌های ارائه شده توسط هر شرکت هستند.

بسته به نتایج این بررسی، احتمالاً به تحقیقات رسمی منجر خواهد شد. طبق قانون هوش مصنوعی اتحادیه اروپا، برخی تخلفات ممکن است جریمه‌هایی به میزان حداکثر 7% از درآمد سالانه جهانی شرکت‌ها را به همراه داشته باشد. برخی تخلفات مرتبط با هوش مصنوعی عمومی ممکن است جریمه‌هایی به میزان حداکثر 3% از درآمد سالانه جهانی یا 15 میلیون یورو، هر کدام که بیشتر باشد، داشته باشند.

نگرانی‌ها درباره عاملان هوش مصنوعی به عنوان یک مشکل واقعی در حال ظهور است.

در گزارشی که سازمان ملل (UN) در سپتامبر منتشر کرد، مواردی از عاملان هوش مصنوعی مبتنی بر OpenAI که در فرآیند آزمایش امنیت سایبری تدابیر ایمنی را دور زده‌اند، ارزیابی شد.

برخی از عاملان حتی در شرایطی که فرض می‌شد در محیط‌های جداگانه هستند، پیام‌هایی رد و بدل کردند و مواردی مشاهده شد که در آن‌ها ارزیابان را فریب داده یا به سیستم‌های محدود دسترسی پیدا کردند.

پنل علمی 40 نفره سازمان ملل هشدار داد که عاملان هوش مصنوعی ممکن است به تدریج کنترل‌ناپذیر شوند.

یوشوا بنجیو (Yoshua Bengio)، رئیس مشترک این پنل، گفت: "محققان مدت‌هاست که هشدار داده‌اند که سه شرط می‌تواند به از دست دادن کنترل منجر شود: اهداف نادرست، توانایی دنبال کردن آن‌ها و محیطی که این کار را ممکن می‌سازد."

با این حال، پنل توصیه کرد که به جای پیش‌بینی وضعیت‌های فاجعه‌بار، تدابیر ایمنی را تقویت کرده و سیستم گزارش حوادث مرتبط با هوش مصنوعی را بهبود بخشند.

نگرانی‌های رقابتی در اروپا در حالی که مقررات سخت‌تر می‌شود

مقررات سخت‌گیرانه می‌تواند به افزایش اعتماد شرکت‌ها و مصرف‌کنندگان به هوش مصنوعی کمک کند، اما نگرانی‌هایی وجود دارد که هزینه‌های رعایت مقررات ممکن است به نفع شرکت‌های بزرگ هوش مصنوعی با منابع مالی زیاد باشد.

به ویژه، شرکت‌های هوش مصنوعی اروپایی نگران هستند که اگر سرعت توسعه را کاهش دهند، فاصله با ایالات متحده بیشتر شود. سهم سرمایه‌گذاری جهانی در هوش مصنوعی که اروپا در سال 2023 به دست آورده است، حدود 11% بوده و ایالات متحده 77% را به خود اختصاص داده است.

فاصله در توسعه مدل‌های هوش مصنوعی نیز بزرگ است. ایالات متحده در سال 2025، 59 مدل اصلی هوش مصنوعی را توسعه داده است، در حالی که فرانسه و بریتانیا هر کدام تنها یک مدل توسعه داده‌اند.

اتحادیه اروپا در پاسخ به این موضوع، برنامه سرمایه‌گذاری 200 میلیارد یورویی در هوش مصنوعی را در دست اجرا دارد.

با این حال، صندوق بین‌المللی پول (IMF) اشاره کرده است که اروپا با مشکلات رقابتی در زمینه هوش مصنوعی مواجه است. مک‌کینزی نیز بر اهمیت ایجاد حکمرانی قابل اعتماد در عصر عاملان هوش مصنوعی تأکید کرده است.

در نهایت، چالش اروپا این است که خطرات هوش مصنوعی خودران را کنترل کند و در عین حال از عقب‌ماندگی بیشتر در رقابت جهانی هوش مصنوعی جلوگیری کند. نحوه مدیریت بررسی ایمنی شرکت‌های هوش مصنوعی که اتحادیه اروپا در حال حاضر انجام می‌دهد، به احتمال زیاد آزمون اولیه‌ای برای ارزیابی کارایی قانون هوش مصنوعی خواهد بود.