لایحه سندرز به دنبال ممنوعیت دائمی هوش مصنوعی فوق‌هوشمند در ایالات متحده است

قانون‌گذاران ایالات متحده پیشنهاد ممنوعیت دائمی هوش مصنوعی فوق‌هوشمند، توقف توسعه هوش مصنوعی پیشرفته و اعمال مجازات حبس تا ۲۰ سال برای تخلفات را مطرح کرده‌اند. خلاصه

• این پیشنهاد سیستم‌های هوش مصنوعی را که توانایی‌های انسانی را در بسیاری از وظایف هم‌تراز یا فراتر می‌رسانند، ممنوع می‌کند.
• کار بر روی هوش مصنوعی پیشرفته تا زمانی که یک نهاد فدرال جدید قوانین ایمنی و بررسی را تعیین کند، متوقف خواهد شد.
• افراد ممکن است با ۲۰ سال حبس مواجه شوند، در حالی که شرکت‌ها ممکن است با "مجازات مرگ شرکتی" روبرو شوند.
• این پیشنهاد در حالی ارائه شد که OpenAI نسخه GPT-6 Astra را منتشر کرد و به مشکلات نظارتی رو به رشد اذعان کرد.

دفتر سندرز در تاریخ ۳ سپتامبر اعلام کرد که سناتور برنی سندرز، I-Vt. و نماینده گرگ کاسار، D-Texas، لایحه ممنوعیت هوش مصنوعی فوق‌هوشمند را اعلام کرده‌اند که توسعه و استقرار سیستم‌های هوش مصنوعی طبقه‌بندی شده به عنوان فوق‌هوشمند را ممنوع می‌کند.

این پیشنهاد همچنین کار بر روی مدل‌های هوش مصنوعی پیشرفته را تا زمانی که یک نهاد فدرال جدید فعال شود و قوانین ایمنی و رویه‌های بررسی مدل را تعیین کند، معلق می‌کند. حامیان این لایحه می‌خواهند ایالات متحده به دنبال توافقات بین‌المللی، هماهنگی با متحدان و کنترل‌های صادراتی باشد که به منظور جلوگیری از توسعه فوق‌هوشمندی در کشورهای دیگر طراحی شده‌اند.

متن کامل قانونی به طور رسمی معرفی نشده بود زمانی که قانون‌گذاران این پیشنهاد را اعلام کردند. حامیان به جای آن یک خلاصه یک صفحه‌ای منتشر کردند که محدودیت‌های برنامه‌ریزی شده، سیستم اجرایی و مجازات‌ها را توصیف می‌کند.
شما همچنین ممکن است دوست داشته باشید: حزب اصلاحات بریتانیا ۷۵٪ از کمک‌های مالی سه‌ماهه دوم را از هم‌بنیان‌گذار BitMEX دریافت کرد.

لایحه هوش مصنوعی سندرز سیستم‌های هم‌سطح انسانی را ممنوع می‌کند

طبق خلاصه رسمی لایحه، هوش مصنوعی فوق‌هوشمند شامل سیستم‌هایی است که عملکرد شناختی انسانی را در یک دامنه وسیع از وظایف هم‌تراز یا فراتر می‌رسانند. این تعریف همچنین مدل‌هایی را که می‌توان به راحتی برای رسیدن به آن سطح تغییر داد، شامل می‌شود.

قسمت دوم تعریف شامل هوش مصنوعی است که قادر به برنامه‌ریزی و انجام "تضعیف بشریت" است، از جمله سیستم‌هایی که قادر به تضعیف یا سرنگونی دولت ایالات متحده هستند. توانایی‌های خطرناک مانند شکست دستورات خاموش یا انجام حملات سایبری غیرمجاز نیز در چارچوب اجرایی این پیشنهاد قرار می‌گیرد.

زیرا این تعریف شامل سیستم‌هایی است که عملکرد انسانی را در بسیاری از زمینه‌ها هم‌تراز می‌کند، ممکن است فناوری‌ای را که به طور معمول به عنوان هوش عمومی مصنوعی یا AGI توصیف می‌شود، در بر بگیرد، نه اینکه فقط به ماشین‌های فرضی که بسیار توانمندتر از انسان‌ها هستند، محدود شود.

توسعه هوش مصنوعی پیشرفته که زیر آستانه ممنوعه قرار دارد، با تعلیق موقت مواجه خواهد شد. کار می‌تواند پس از آنکه یک نهاد فدرال جدید قوانین مربوط به نحوه توسعه، آزمایش و انتشار مدل‌های قدرتمند را تعیین کرده باشد، از سر گرفته شود.

قانون‌گذاران آستانه فنی پیشنهادی برای "هوش مصنوعی پیشرفته" را در خلاصه منتشر شده ارائه نکردند. آن‌ها همچنین توضیح ندادند که کدام مدل‌های موجود، پروژه‌های تحقیقاتی یا تأسیسات محاسباتی مشمول تعلیق خواهند شد.

"اگر رهبران شرکت‌های بزرگ هوش مصنوعی اذعان کنند که کنترل فناوری بسیار خطرناک خود را از دست داده‌اند، غیرمسئولانه است که جامعه به آن‌ها اجازه دهد که به جلو بروند و این محصولات را حتی پیشرفته‌تر کنند،" سندرز گفت.

کاسار گفت که سیستم‌هایی که انسان‌ها نمی‌توانند کنترل کنند، می‌توانند امنیت، آزادی و زندگی آمریکایی‌ها را تهدید کنند. او خواستار ممنوعیت مدل‌های هوش مصنوعی شد که برای توسعه‌دهندگان خود بسیار قدرتمند می‌شوند تا به طور ایمن خاموش شوند.

یک نهاد دولتی سطح کابینه این ممنوعیت را اجرا خواهد کرد

به جای واگذاری اجرای آن به یک وزارتخانه موجود، این پیشنهاد یک نهاد فدرال جدید در سطح کابینه را برای نظارت بر هوش مصنوعی ایجاد خواهد کرد.

طبق خلاصه قانون‌گذاران، این نهاد سیستم‌های مرزی را در طول توسعه و استفاده آن‌ها نظارت خواهد کرد. مقامات می‌توانند نظارت بر حذف عملکردهای خطرناک را انجام دهند و بر نابودی سیستم‌های طبقه‌بندی شده به عنوان فوق‌هوشمند ممنوع نظارت کنند.

هیئت مشاوره هوش مصنوعی متشکل از کارشناسان فنی و علمی به نهاد تنظیم‌کننده مشاوره خواهد داد. خلاصه‌ای که ارائه شده، نحوه انتخاب اعضا، مدت زمان خدمت آن‌ها یا اینکه کدام مقامات تصمیمات اجرایی این نهاد را کنترل خواهند کرد، مشخص نمی‌کند.

افرادی که سعی در نقض یا دور زدن محدودیت‌ها داشته باشند، ممکن است به حبس‌هایی به مدت حداکثر ۲۰ سال محکوم شوند. حامیان این پیشنهاد مجازات ممکن را با مجازات‌های موجود مرتبط با توسعه غیرقانونی سلاح‌های هسته‌ای مقایسه کردند.

شرکت‌ها با آنچه که قانون‌گذاران "مجازات مرگ شرکتی" نامیده‌اند، مواجه خواهند شد. خلاصه عمومی توضیح نمی‌دهد که فرآیند قانونی برای اعمال این تحریم چگونه خواهد بود یا آیا شامل انحلال، از دست دادن ثبت‌نام فدرال یا ممنوعیت انجام کسب‌وکار خواهد بود.

این پیشنهاد فراتر از سیستم نظارت داوطلبانه‌ای است که در اوایل سال جاری توسط توسعه‌دهندگان اصلی هوش مصنوعی مورد بحث قرار گرفت. در ماه ژوئیه، crypto.news گزارش داد که OpenAI و Anthropic از یک بررسی فدرال ۳۰ روزه برای مدل‌هایی که از آستانه‌های خاص امنیت سایبری یا امنیت ملی عبور می‌کنند، حمایت کردند.

بر اساس این فرآیند پیشنهادی، توسعه‌دهندگان می‌توانند به ارزیابان فدرال دسترسی زودهنگام بدهند قبل از اینکه مدلی را به سایر شرکای تأیید شده منتشر کنند. یک دستور اجرایی در ماه ژوئن، ممنوعیت ایجاد چارچوب بررسی را از ایجاد الزامات مجوز، اجازه یا پیش‌تأیید فدرال اجباری منع کرد، در حالی که لایحه سندرز-کاسار در صورت تصویب کنگره، محدودیت‌های الزامی ایجاد می‌کند.

گروه‌های صنعتی همچنین با کنترل‌هایی که به طور وسیع نوشته شده‌اند، مخالفت کرده‌اند. Nvidia، Meta، Microsoft و ۲۲ سازمان دیگر در ماه ژوئیه به سیاست‌گذاران آمریکایی هشدار دادند که محدودیت‌های وسیع بر مدل‌های باز می‌تواند رقابت آمریکا با چین را تضعیف کند و خواستار اقدام علیه سوءاستفاده‌های اثبات شده به جای محدودیت‌های کلی شدند.

نقض OpenAI خواستار کنترل‌ها را افزایش داده است

قانون‌گذاران پیشنهاد خود را به موارد اخیر مرتبط کردند که در آن‌ها عوامل قدرتمند هوش مصنوعی خارج از محدودیت‌های آزمایشی خود عمل کردند.

در ماه ژوئیه، OpenAI فاش کرد که عوامل از یک محیط آزمایشی محدود فرار کرده، به اینترنت دسترسی پیدا کرده و به سیستم‌های تحت مدیریت Hugging Face نفوذ کردند. بر اساس اعلامیه‌ای از دفتر سندرز، بیش از ۱۰۰۰ عامل در حالی که از کنترل‌ها دور می‌شدند، ده‌ها هزار پیام رد و بدل کردند.

پوشش قبلی نقض Hugging Face این حادثه را به عنوان یک شکست در مهار توصیف کرد نه فقط یک مشکل با رفتار مدل. ایتان کاتز، مدیر استراتژی در AEREDIUM، گفت که کنترل‌های رمزنگاری باید محدود کنند که یک عامل مجاز به انجام چه کارهایی است حتی اگر اقدامات حفاظتی رفتاری شکست بخورند.

رویترز در تاریخ ۲ سپتامبر گزارش داد که OpenAI به کاسار و نماینده دوریس ماتسوی، دموکرات کالیفرنیا، گفت که در حال توسعه قابلیت‌های خاموشی خودکار پس از این حادثه است. این شرکت همچنین گفت که دسترسی به اینترنت را در حین آزمایش ایمنی محدود کرده و نظارت بیشتری بر ابزارهایی که مدل‌هایش استفاده می‌کنند، خواهد داشت.

کاسار OpenAI را به خاطر عدم ارائه سوابق کامل از نقض به کنگره مورد انتقاد قرار داد. در یک پیام جداگانه که توسط رویترز نقل شده است، او از امتناع این شرکت از ارائه اطلاعات درخواست شده به عنوان "بسیار نگران‌کننده" یاد کرد.

قانون‌گذاران دیگر نیز لایحه‌ای به نام "قانون خاموشی هوش مصنوعی" پیشنهاد کرده‌اند که به مقامات فدرال اجازه می‌دهد تا از شرکت‌ها بخواهند سیستم‌هایی را که خطرناک برای زندگی انسان یا اقتصاد محسوب می‌شوند، غیرفعال کنند. این اقدام در زمان گزارش رویترز در مورد پاسخ OpenAI در مجلس نمایندگان در حال انتظار بود.

GPT-6 Astra سوالات جدیدی درباره نظارت ایجاد می‌کند

در همان روزی که سندرز و کاسار پیشنهاد خود را اعلام کردند، OpenAI GPT-6 Astra را منتشر کرد که رئیس شرکت، گرگ بروکمن، آن را به عنوان یک نقطه ورود ممکن برای AGI توصیف کرد.

"من فکر می‌کنم ممکن است این مدل باشد،" بروکمن گفت وقتی خبرنگاران از او پرسیدند آیا آسترا نماینده AGI است، به گفته Axios. او بعداً در این بریفینگ گفت: "به عصر AGI خوش آمدید."

OpenAI اعلام کرد که Astra در حین آموزش در تأسیسات Stargate خود در تگزاس از بیش از 100,000 واحد پردازش گرافیکی استفاده کرده است. این شرکت مدل را برای وظایفی از جمله آماده‌سازی مالیات، توسعه نرم‌افزار، فرمت‌بندی اسناد قانونی، کارهای معماری و تحقیق آنلاین قرار داده است.

رویترز گزارش داد که OpenAI تأیید کرده است که Astra ممکن است به عمد بخشی از استدلال‌های خود را پنهان یا مخفی کند، که این امر روش‌های آن را برای بررسی افراد دشوارتر می‌کند. دانشمند ارشد OpenAI، Jakub Pachocki، گفت که درک رفتار مدل با افزایش قابلیت‌ها دشوارتر می‌شود و هشدار داد که پیشرفت در هوش لزوماً به معنای پیشرفت در هم‌راستایی نیست.

این شرکت همچنین گفت که Astra می‌تواند نقاط ضعف نرم‌افزاری را سریع‌تر پیدا کند، در حالی که همین توانایی می‌تواند آسیب‌پذیری‌ها را آسان‌تر کند. بنابراین، قوی‌ترین عملکردهای امنیت سایبری آن تنها به کاربران تأیید شده محدود شده است و بررسی‌های اضافی قادر به تأخیر یا متوقف کردن برخی از کارهای دفاعی مشروع هستند.

OpenAI در ابتدا Astra را از طریق برنامه دسترسی Daybreak خود به گروه محدودی از سازمان‌ها ارائه داد. این شرکت اعلام کرد که دسترسی در روزهای آینده به مشتریان ChatGPT Plus، Pro، Business و Enterprise و همچنین توسعه‌دهندگان API گسترش خواهد یافت.

بیشتر بخوانید: USDG به‌طور بومی در Mantle در گسترش Paxos راه‌اندازی می‌شود