جیکوب کاکسون کیست؟ پست استعفای او از آنتروپیک به ۹۰ میلیون بازدید رسید

جیکوب کاکسون در ۸ سپتامبر یازده واژه در X منتشر کرد و دید که ظرف ۲۴ ساعت بیش از ۹۰ میلیون بازدید گرفتند. او نوشت: «امروز از آنتروپیک استعفا دادم.» «هیچ‌یک از شرکت‌ها مسئولانه عمل نمی‌کند. آن‌ها بی‌وقفه به‌سوی ابرهوشِ خودبهبودیابنده می‌شتابند و با جان ما قمار می‌کنند.» این پژوهشگر ۲۷ ساله که سه سال را صرف کمک به ساخت دقیقاً همان سیستم‌های هوش مصنوعی کرده بود که حالا می‌گوید از آن‌ها می‌ترسد، یکی از پربازدیدترین اعلامیه‌های استعفا در تاریخ کوتاه این صنعت را منتشر کرده بود.

آنچه در روزهای پیش و پس از آن پست واقعاً رخ داد، و آنچه کاکسون از آن زمان در مجموعه‌ای از مصاحبه‌های پیگیری گفته است، ارزش دارد از بخش وایرالی که تیتر خبرها شد جدا شود.

کاکسون در آنتروپیک و OpenAI واقعاً چه می‌کرد

کاکسون پژوهشگر ایمنی‌ای نیست که ناگهان درباره فناوری‌ای که می‌ساخت دچار تردید شده باشد. طبق گزارش TIME، او حدود سه سال در OpenAI و آنتروپیک پژوهش پیش‌آموزش انجام داد؛ یعنی کارش مشخصاً بر فرایند ساخت و گسترش توانایی‌های مدل‌های پیشرو هوش مصنوعی متمرکز بود، نه بر بخش ایمنی و هم‌ترازی این حوزه که معمولاً چنین هشدارهای عمومی‌ای از آن‌جا مطرح می‌شود. این تفاوت یکی از دلایلی است که کناره‌گیری او توجهی نامعمول برانگیخت: بیشتر پژوهشگران برجسته‌ای که با هشدارهای عمومی شرکت‌های پیشرو هوش مصنوعی را ترک می‌کنند، از تیم‌های ایمنی می‌آیند. کاکسون به ساخت توانایی‌هایی کمک کرد که حالا می‌گوید از آن‌ها می‌ترسد.

او به TIME گفت که هیچ پیشرفت تعیین‌کننده یا رویداد داخلی مشخصی باعث تصمیمش نشده است. در عوض، از رسیدن به دو نتیجه جداگانه گفت: «اول، بدیهی است که سرعت امور دارد بیشتر می‌شود، و دوم، اوضاع تحت کنترل نیست.» او مشخصاً به رویدادی در ماه ژوئیه اشاره کرد که طی آن یک مدل OpenAI به Hugging Face، پلتفرم توسعه‌دهندگان متن‌باز، نفوذ کرد و آن را یکی از چند «شلیک هشداردهنده» توصیف کرد؛ اتفاقی که هماهنگی میان آزمایشگاه‌های آمریکا را هم فوری‌تر کرده و هم، از نظر او، عملی‌تر از گذشته.

چرا برای ترک شرکت از سهامش گذشت

یکی از جزئیات کناره‌گیری کاکسون وزن بیشتری از خود پست وایرالی او دارد: طبق گزارش Axios، کاکسون حدود دو ماه پیش از آن‌که سهامش در آنتروپیک به‌طور کامل قطعی شود، استعفا داد. چشم‌پوشی از پاداشی که هنوز قطعی نشده، نشانه‌ای مشخص و پرهزینه است و رد کردن آن به‌عنوان جلب توجه، در مقایسه با یک بیانیه عمومیِ تنها، دشوارتر است؛ چون تصمیم کاکسون هزینه مالی مستقیمی برایش داشت و بی‌هزینه نبود.

کاکسون در مصاحبه‌اش با Axios مراقب بود میان آنچه مستقیماً مشاهده کرده و نگرانی‌اش درباره مسیر کلی تمایز بگذارد. او گفت شخصاً ندیده است که آنتروپیک برای پیشی‌گرفتن از رقبایش از ایمنی کوتاه بیاید، اما نگران آینده است: «وقتی برای رقابت تحت فشار باشید، باید از بعضی مراحل بزنید» یا «مراحلی از فرایند نظارت را کنار بگذارید.» او همچنین با واکنش افراطی در جهت مخالف مخالفت کرد و گفت این صنعت گاهی چیزی را نشان می‌دهد که او «بدبینی افراطی نسبت به OpenAI، بدبینی افراطی نسبت به چین» نامید؛ نگرشی که خود می‌تواند برای توجیه پیشبرد سریع‌تر توانایی‌ها، نه آهسته‌تر، به کار رود.

او واقعاً درباره توانایی‌های هوش مصنوعی چه باوری دارد

نگرانی مشخص کاکسون بر خودبهبودی متمرکز است؛ مفهومی که در آن یک سیستم هوش مصنوعی می‌تواند بدون هدایت معنادار انسان، توانایی‌های خودش را ارتقا دهد. او صریحاً گفته که این توانایی در حال حاضر وجود ندارد. او در مصاحبه‌ای با CBS News گفت هوش مصنوعی «امروز برای استفاده مردم ایمن است»، اما هشدار داد که یک سیستم به‌اندازه کافی پیشرفته ممکن است سرانجام «آن‌قدر باهوش شود که ما را بکشد»؛ او صریحاً این وضعیت را با تصویرسازی‌های علمی‌تخیلی از هوش مصنوعیِ خارج‌شده از کنترل مقایسه کرد، نه اینکه درباره یک سیستم فعلی و در حال استفاده صحبت کند.

او مشخصاً هشدار داد که سیستم‌های پیشرفته ممکن است در نهایت توانایی هک در مقیاس بزرگ، دگرگون‌کردن یک‌شبه حوزه‌های فنیِ کامل، و دستیابی به منابع و نفوذ در دنیای واقعی را با نظارت محدود انسانی پیدا کنند. وقتی مستقیماً از او پرسیدند آیا فکر می‌کند همکاران سابقش در آنتروپیک و OpenAI هم باید از او پیروی کنند و استعفا دهند، کاکسون گفت فکر نمی‌کند «ترک‌کردن و رهاکردن» شرکت‌ها پاسخ مناسبی برای همه باشد. او در عوض گفت گام مهم‌تر این است که افرادی که هنوز در این آزمایشگاه‌ها کار می‌کنند «چشم‌هایشان را به‌روشنی به روی وضعیت فعلی باز نگه دارند» و در نظر بگیرند که آشکارتر درباره آنچه واقعاً می‌بینند صحبت کنند.

چرا کارکنان دیگر آنتروپیک علناً از او حمایت کردند

هشدار کاکسون فقط در حساب شخصی او باقی نماند. ایوان هوبینگر، سرپرست علوم هم‌ترازی آنتروپیک، علناً در پاسخ گفت کاکسون «درست می‌گوید» که پژوهشگران داخل شرکت واقعاً باور دارند هوش مصنوعی پیشرفته می‌تواند خطری وجودی ایجاد کند. هوبینگر پا را فراتر گذاشت و گفت شخصاً باور دارد بیش از ۱۰٪ احتمال دارد هوش مصنوعی در دهه آینده باعث انقراض انسان شود؛ او در عین حال صریحاً روشن کرد که از نظرش مدل‌های هوش مصنوعی فعلی و در حال استفاده، خطری نسبتاً کم دارند. نگرانی او، مانند نگرانی کاکسون، مشخصاً به سیستم‌های آینده‌ای مربوط می‌شود که توانایی خودبهبودیِ بازگشتی دارند، نه چت‌بات‌ها و ابزارهایی که همین حالا در بازارند.

هوبینگر اعتراف مشخص دیگری را هم مطرح کرد که ارزش دارد مستقیماً به آن توجه شود: «باور دارم آنتروپیک نهایت تلاشش را می‌کند، اما هنوز برنامه‌ای برای حل مسئله هم‌ترازی ابرهوش نداریم و به‌روشنی هم در مسیر حل آن نیستیم.» این گفته از سوی یکی از کارکنان فعلی شرکت است که مشخصاً در حوزه پژوهش هم‌ترازی فعالیت می‌کند و علناً همان شکاف ساختاری را تأیید می‌کند که کاکسون برای هشدار درباره‌اش شرکت را ترک کرد. جدا از او، الکس ترنر، پژوهشگر سابق Google DeepMind که در ماه ژوئن آن شرکت را ترک کرد، نیز علناً از هشدار کاکسون حمایت کرد و این الگو را فراتر از پویایی‌های داخلی یک شرکت گسترش داد.

زمان‌بندی‌ای که جداگانه زیر ذره‌بین رفته است

استعفای کاکسون در مقطع مشخصی برای آنتروپیک اتفاق افتاد که ارزش دارد مستقیم به آن اشاره شود. بر اساس گزارش‌هایی که Axios به آن‌ها استناد کرده، این شرکت در مسیر عرضه اولیه سهام (IPO) قرار دارد که تحلیلگران انتظار دارند یکی از بزرگ‌ترین عرضه‌های تاریخ باشد و ارزش‌گذاری هدف آن حدود ۲ تریلیون دلار است. آنتروپیک بخش زیادی از هویت عمومی خود و در نتیجه، از پیشنهادش به سرمایه‌گذاران بالقوه را حول تصویری ایمنی‌محور ساخته که آن را از رقبا متمایز می‌کند. استعفایی پرسر‌وصدا و وایرال که دقیقاً به همان نگرانی‌های ایمنی اشاره می‌کرد که شرکت مدعی اولویت‌دادن به آن‌هاست، درست در بازه‌ای رخ داد که آنتروپیک می‌کوشد بازارهای عمومی را قانع کند این تصویر باورپذیر است.

این زمان‌بندی چیزی درباره انگیزه‌های کاکسون را تأیید نمی‌کند؛ انگیزه‌هایی که او در چندین مصاحبه مستقیماً و پیوسته درباره‌شان صحبت کرده، بی‌آنکه از نگرانی‌های اصلی‌اش عقب‌نشینی کند. اما به این معناست که کناره‌گیری او در دل روایتی از شرکت رخ داد که از پیش زیر ذره‌بین بود؛ چراکه مدیرعامل خود آنتروپیک چند روز بعد مقاله‌ای جداگانه منتشر کرد و خواستار کندشدن روند توسعه هوش مصنوعی در سراسر صنعت شد؛ پیشنهادی که برخی مفسران بیرونی، با توجه به زمان‌بندی آن در نسبت با همان تلاش برای عرضه اولیه سهام، مشخصاً زیر سؤال برده‌اند.

جمع‌بندی

پست استعفای جیکوب کاکسون ظرف یک روز بیش از ۹۰ میلیون بازدید گرفت، اما جزئیات پشت آن لحظه وایرال از یازده واژه‌ای که باعث انتشار گسترده‌اش شد مهم‌تر است: پژوهشگری که سه سال صرف ساخت توانایی‌های هوش مصنوعی پیشرو کرده بود، نه مطالعه خطرهایشان، از سهام قطعی‌نشده‌اش گذشت تا هشدار دهد سیستم‌های هوش مصنوعی خودبهبودیابنده خطری واقعی، هرچند هنوز محقق‌نشده، به شمار می‌روند. دست‌کم یک کارمند فعلی آنتروپیک و یک پژوهشگر سابق در آزمایشگاهی جداگانه علناً این هشدار را تأیید کردند؛ هشداری که در زمانی مطرح شد که هویت ایمنی‌محور شرکت، پیش از عرضه اولیه سهام برنامه‌ریزی‌شده با هدف ارزش‌گذاری ۲ تریلیون دلاری، با موشکافی بیشتری روبه‌رو است.

سؤالات متداول

۱. جیکوب کاکسون کیست؟
او پژوهشگری ۲۷ ساله است که پیش از استعفای علنی در ۸ سپتامبر و هشدار درباره هوش مصنوعی خودبهبودیابنده، حدود سه سال در OpenAI و آنتروپیک پژوهش پیش‌آموزش انجام داد.

۲. چرا گذشتن او از سهامش برای استعفا اهمیت دارد؟
طبق گزارش Axios، کاکسون حدود دو ماه پیش از آن‌که سهامش در آنتروپیک به‌طور کامل قطعی شود استعفا داد؛ این هزینه مالی مستقیم باعث می‌شود کناره‌گیری او را دشوارتر بتوان صرفاً اقدامی نمادین دانست.

۳. آیا جیکوب کاکسون باور دارد سیستم‌های فعلی هوش مصنوعی خطرناک‌اند؟
خیر. او گفته هوش مصنوعی فعلی برای استفاده مردم در امروز ایمن است و نگرانی‌اش مشخصاً به سیستم‌های خودبهبودیابنده آینده مربوط می‌شود که هنوز وجود ندارند، اما آزمایشگاه‌های هوش مصنوعی فعالانه در پی ساختشان هستند.

۴. آیا کسی در آنتروپیک علناً از هشدار او حمایت کرد؟
بله. ایوان هوبینگر، سرپرست علوم هم‌ترازی آنتروپیک، گفت کاکسون درست می‌گوید و اظهار کرد که شخصاً باور دارد بیش از ۱۰٪ احتمال دارد هوش مصنوعی در دهه آینده باعث انقراض انسان شود.

۵. چرا زمان‌بندی استعفای او توجه بیشتری جلب کرده است؟
کاکسون زمانی آنتروپیک را ترک کرد که این شرکت در پی عرضه اولیه سهام با هدف ارزش‌گذاری ۲ تریلیون دلاری بود؛ هدفی که تا حدی بر شهرت ایمنی‌محور شرکت تکیه دارد. هشدار او درست پیش از انتشار مقاله‌ای از داریو آمودی، مدیرعامل شرکت، منتشر شد که در آن خواستار کندشدن روند توسعه هوش مصنوعی شده بود.