آیا پس از کاهش سرعت هوش مصنوعی، منطق CapEx و سهام فناوری تغییر خواهد کرد؟

عنوان اصلی: گلوگاه مدل نیست. هرگز نبوده است.
نویسنده اصلی: ساکت مهروترا، Beta to Alpha

نویسنده: اخیراً، جیکوب ککسون که در OpenAI و Anthropic در زمینه پیش‌آموزش کار می‌کرد، اعلام کرد که از Anthropic جدا شده و به‌طور علنی از آزمایشگاه‌های پیشرو هوش مصنوعی خواسته است که هماهنگ شوند تا محدودیت‌هایی برای ادامه بهبود توانایی‌های مدل‌ها ایجاد کنند. ایوان هابینگر، مسئول علم هم‌راستایی در Anthropic، به‌تازگی پاسخ داد که او با ارزیابی اصلی ککسون در مورد ریسک‌ها موافق است و احتمال می‌دهد که در دهه آینده، احتمال انقراض بشر به‌دلیل هوش مصنوعی بیش از ۱۰٪ باشد.

این بحث در حال انتقال «کاهش سرعت هوش مصنوعی» از یک موضوع اخلاقی به بازار سرمایه است: اگر آزمایشگاه‌های پیشرو واقعاً توسعه مدل‌ها را کند کنند، آیا سرمایه‌گذاری‌های هوش مصنوعی که در سال‌های اخیر به‌طور مداوم افزایش یافته‌اند، به نقطه عطفی خواهند رسید؟ آیا سهام فناوری که به‌واسطه روایت هوش مصنوعی ارزش‌گذاری شده‌اند، نیاز به بازنگری دارند؟

نویسنده Beta to Alpha، ساکت مهروترا، در مقاله‌ای با عنوان «گلوگاه مدل نیست. هرگز نبوده است.» مطرح می‌کند که نگرانی‌های آزمایشگاه‌ها در مورد ریسک‌های هوش مصنوعی با کاهش سرمایه‌گذاری در زیرساخت‌ها یکسان نیست. تا زمانی که شرکت‌ها نگران عقب‌افتادگی در رقابت باشند، اضطراب ایمنی ممکن است همچنان به سرمایه‌گذاری در قدرت محاسباتی ادامه دهد؛ در عین حال، گلوگاه‌های صنعتی به‌تدریج از GPU، HBM و بسته‌بندی پیشرفته به سمت برق و شبکه‌های برق منتقل شده‌اند.

این به این معنا نیست که کاهش سرعت هوش مصنوعی هیچ تأثیری بر بازار ندارد. به‌طور دقیق‌تر، تأثیر به این بستگی دارد که کاهش سرعت در کدام سطح اتفاق بیفتد: اگر فقط تست‌های ایمنی طولانی‌تر شوند و انتشار مدل‌ها کند شود، CapEx لزوماً کاهش نخواهد یافت؛ اگر دولت به‌طور مستقیم محدودیت‌هایی برای خوشه‌های آموزشی، تأمین تراشه یا مصرف برق مراکز داده وضع کند، کل چارچوب سرمایه‌گذاری ممکن است دچار تغییرات اساسی شود.

در زیر، متن اصلی ترجمه شده است:

جیکوب ککسون در X بیانیه استعفای خود را منتشر کرد و از آزمایشگاه‌های پیشرو هوش مصنوعی خواست تا هماهنگ شوند و رقابت در توانایی‌ها را کند کنند.

استعفای جیکوب ککسون، بار دیگر خطرات هوش مصنوعی پیشرفته را در کانون توجه قرار داده است.

ککسون معتقد است که OpenAI و Anthropic در حال رقابت برای توسعه هوش‌های فوق‌العاده‌ای هستند که می‌توانند خود را بهبود بخشند، اما اقدامات ایمنی کافی را اتخاذ نکرده‌اند. این تنها صدای انتقادی از سوی منتقدان خارجی نیست. ایوان هابینگر، مسئول علم هم‌راستایی در Anthropic، به‌طور علنی اعلام کرد که او با ارزیابی اصلی ککسون موافق است و احتمال می‌دهد که در دهه آینده، احتمال انقراض بشر به‌دلیل هوش مصنوعی بیش از ۱۰٪ باشد. این اظهارات همچنین توسط رسانه‌هایی مانند WIRED پوشش داده شده است.

اما برای سرمایه‌گذاران، یک سوال ممکن است مستقیم‌تر باشد: آیا با شروع بحث کاهش سرعت در آزمایشگاه‌های پیشرو، سرمایه‌گذاری‌های هوش مصنوعی شرکت‌های فناوری نیز کاهش خواهد یافت؟

مهروترا معتقد است که حداقل در این مرحله، نمی‌توان بین این دو به‌طور مستقیم برابری قائل شد. بحث‌های ایمنی هوش مصنوعی در سطح مدل و مدیریت آزمایشگاه‌ها اتفاق می‌افتد، در حالی که محدودیت‌های دوره CapEx فعلی به‌تدریج به سمت زیرساخت‌های فیزیکی مانند تراشه‌ها، بسته‌بندی، برق و مراکز داده منتقل شده است.

هرچه بیشتر نگران باخت در رقابت باشیم، آزمایشگاه‌ها کمتر قادر به کاهش سرعت خواهند بود

طبق توصیف ککسون، آزمایشگاه‌های پیشرو از خطرات آگاه هستند. مشکل واقعی این است که هیچ آزمایشگاهی نمی‌خواهد به‌طور پیشگام سرعت خود را کاهش دهد.

منطق بازی در اینجا این است: اگر یک آزمایشگاه تصمیم به کاهش سرعت بگیرد، سایر رقبای با آگاهی ایمنی کمتر ممکن است زودتر مدل‌های قوی‌تری را توسعه دهند. به‌جای اینکه اجازه دهند رقبای محتاط‌تر از آن‌ها پیشی بگیرند، بهتر است که منابع بیشتری را سرمایه‌گذاری کنند تا اطمینان حاصل کنند که خودشان پیشرو باقی می‌مانند و سعی کنند فناوری را به‌طور ایمن‌تر کنترل کنند.

به‌نظر نویسنده، این طرز فکر به‌سختی می‌تواند به کاهش سرمایه‌گذاری منجر شود و ممکن است حتی مسابقه تسلیحاتی را تقویت کند. هرچه آزمایشگاه‌ها بیشتر به این باور برسند که در یک رقابت تکنولوژیکی تعیین‌کننده شرکت دارند، دشوارتر خواهد بود که خرید GPU، خوشه‌های آموزشی و سرمایه‌گذاری در مراکز داده را کاهش دهند.

بنابراین، اضطراب ایمنی و رشد CapEx می‌توانند همزمان وجود داشته باشند. این حتی ممکن است یک چرخه خودتقویت‌کننده ایجاد کند: آزمایشگاه‌ها نگران افزایش سریع توانایی‌های هوش مصنوعی هستند، اما به‌دلیل نگرانی از عقب‌افتادگی در برابر رقبا، منابع بیشتری را سرمایه‌گذاری می‌کنند و به‌این‌ترتیب مسابقه توانایی‌ها را تسریع می‌کنند.

این توضیح نویسنده در مورد ساختار بازی صنعتی است و نه نتیجه‌ای که به‌طور رسمی توسط برنامه‌های سرمایه‌گذاری شرکت‌ها تأیید شده باشد. برای قضاوت در مورد اینکه آیا این منطق درست است یا نه، هنوز باید مشاهده کرد که آیا ارائه‌دهندگان اصلی خدمات ابری و آزمایشگاه‌های هوش مصنوعی شروع به تنظیم برنامه‌های واقعی خرید و ساخت خود می‌کنند یا خیر.

کاهش سرعت مدل به معنای پایان دوره زیرساخت نیست

دومین ارزیابی مهروترا این است که گلوگاه‌های اصلی صنعت هوش مصنوعی چندین بار منتقل شده‌اند و هر بار این انتقال، شدت سرمایه‌گذاری را افزایش داده است.

در ابتدا، محدودیت‌های آموزش مدل به تأمین GPU و سهمیه تراشه مربوط می‌شد؛ سپس، گلوگاه به سمت حافظه با پهنای باند بالا (HBM) و بسته‌بندی پیشرفته منتقل شد؛ و اکنون، تأمین برق، دسترسی به شبکه برق و ساخت مراکز داده به محدودیت‌هایی تبدیل شده‌اند که به‌سرعت قابل حل نیستند.

ظرفیت تراشه و بسته‌بندی می‌تواند با گسترش خطوط تولید کاهش یابد، اما مشکلات برق معمولاً نیاز به ساخت یا راه‌اندازی مجدد تأسیسات تولید برق، افزایش ظرفیت توربین‌های گازی و ترانسفورماتورها و ارتقاء سیستم‌های انتقال و اتصال به شبکه دارند. این نوع پروژه‌ها به سرمایه‌گذاری‌های بزرگ‌تری نیاز دارند و دوره‌های ساخت طولانی‌تری دارند و نمی‌توانند با یک به‌روزرسانی نرم‌افزاری حل شوند.

بنابراین، حتی اگر فرکانس انتشار مدل‌های پیشرفته کاهش یابد، سفارشات تراشه، توافق‌نامه‌های تأمین برق و پروژه‌های ساخت مراکز داده که قبلاً امضا شده‌اند، لزوماً متوقف نخواهند شد. بین تحقیق و توسعه مدل و ساخت زیرساخت‌ها یک فاصله زمانی وجود دارد و CapEx معمولاً با تغییرات در افکار عمومی یا سرعت تحقیق و توسعه همزمان نمی‌شود.

در عین حال، کاهش سرعت نیز لزوماً به معنای کاهش طبیعی تقاضا برای قدرت محاسباتی نیست. تست‌های ایمنی طولانی‌تر، فرآیندهای استدلال پیچیده‌تر و استقرار مدل‌های موجود در سناریوهای تجاری و مصرف‌کننده همچنان ممکن است منابع محاسباتی زیادی را مصرف کنند.

نویسنده به‌این‌ترتیب معتقد است که سرمایه‌گذاران نباید فقط به مدل‌هایی که در رسانه‌های اجتماعی بیشترین بحث را دارند توجه کنند، بلکه باید به دنبال گلوگاه‌های جدیدی باشند که در ۱۸ ماه آینده در حال شکل‌گیری هستند. طبق این چارچوب، منابع کمیاب که در حال حاضر بیشتر مورد توجه قرار می‌گیرند، به‌تدریج از «هوش مدل» به سمت برق و زیرساخت‌های مرتبط با آن منتقل شده‌اند.

سهام فناوری هوش مصنوعی ممکن است از افزایش عمومی به تفکیک تغییر کند

اگر کاهش سرعت مدل به معنای توقف CapEx نباشد، تأثیر آن بر سهام فناوری به‌سادگی منفی نخواهد بود، بلکه احتمالاً به‌صورت بازنگری در زنجیره تأمین نمایان خواهد شد.

اولاً، شرکت‌هایی که به‌طور مداوم به پیشرفت مدل‌های پیشرفته وابسته‌اند و محصولات خود را به‌سرعت به بازار می‌آورند، ممکن است بیشتر تحت تأثیر قرار گیرند. به محض اینکه تکرار مدل‌ها کند شود، فرضیات بازار در مورد سرعت رشد درآمد، سرعت تجاری‌سازی و نسبت‌های ارزش‌گذاری ممکن است نیاز به تنظیم داشته باشند.

ثانیاً، شرکت‌هایی که منابع GPU، تجهیزات شبکه، تأمین و توزیع برق، خنک‌کننده و مراکز داده را در اختیار دارند، لزوماً منطق سفارش آن‌ها به‌طور همزمان بدتر نخواهد شد. تا زمانی که ارائه‌دهندگان خدمات ابری همچنان در حال گسترش زیرساخت‌ها هستند یا گلوگاه‌های محاسباتی به سمت بخش برق منتقل می‌شوند، سرمایه‌گذاری‌های مرتبط ممکن است همچنان با شدت بالایی حفظ شوند.

سوم، بازار باید بین آموزش و استدلال تمایز قائل شود. حتی اگر آزمایشگاه‌ها هماهنگ شوند تا آموزش‌های فوق‌العاده بزرگ را محدود کنند، تقاضای استدلال مدل‌های موجود، استقرار در شرکت‌ها و گسترش کاربردهای هوش مصنوعی همچنان ممکن است باعث افزایش مصرف قدرت محاسباتی شود. در این صورت، CapEx ممکن است دچار تغییرات ساختاری شود و نه کاهش ناگهانی.

این به این معناست که کاهش سرعت هوش مصنوعی ابتدا ممکن است تغییرات در جهت رشد کل صنعت فناوری را تحت تأثیر قرار ندهد، بلکه وضعیت را که در آن دارایی‌های مختلف یک منطق ارزش‌گذاری هوش مصنوعی مشترک دارند، تغییر دهد. در گذشته، شرکت‌های مدل، ارائه‌دهندگان خدمات ابری، شرکت‌های نیمه‌هادی و تأمین‌کنندگان زیرساخت‌های برق همگی از روایت هوش مصنوعی سود می‌بردند؛ اگر رقابت در توانایی‌های مدل کاهش یابد، بازار ممکن است شروع به تمایز دقیق‌تری بین پیشرفت‌های تکنولوژیکی، توانایی تجاری‌سازی و تحقق سفارشات کند.

متغیر واقعی که منطق CapEx را تغییر می‌دهد، نظارت است

مهروترا معتقد است که متغیر واقعی که ممکن است این دوره سرمایه‌گذاری هوش مصنوعی را مختل کند، نه یک کمبود زنجیره تأمین دیگر، بلکه محدودیت‌های سخت‌گیرانه‌ای است که دولت از خارج سیستم وضع می‌کند.

کمبود GPU، HBM، برق و ترانسفورماتورها اساساً هنوز گلوگاه‌هایی هستند که می‌توان با افزایش سرمایه‌گذاری آن‌ها را کاهش داد. این‌ها ممکن است راه‌اندازی مراکز داده را به تأخیر بیندازند، اما همچنین سرمایه را به سمت بخش‌های جدید کمیاب هدایت می‌کنند.

نظارت متفاوت است. اگر دولت به‌طور مستقیم خرید تراشه‌های پیشرفته، اندازه خوشه‌های آموزشی، قدرت محاسباتی مورد نیاز برای آموزش مدل‌ها یا مصرف برق مراکز داده را محدود کند، شرکت‌ها به‌سختی می‌توانند تنها با افزایش سرمایه‌گذاری از این محدودیت‌ها عبور کنند. در این سناریو، پیش‌بینی CapEx ارائه‌دهندگان خدمات ابری، سفارشات زیرساخت و ارزش‌گذاری سهام فناوری مرتبط با هوش مصنوعی ممکن است به‌طور همزمان با کاهش مواجه شوند.

با این حال، متن اصلی این وضعیت را به‌عنوان یک ریسک دمی با احتمال پایین در نظر می‌گیرد و نه به‌عنوان سناریوی پایه. این ارزیابی همچنین نیاز به تأیید مداوم دارد و نباید به‌عنوان این درک شود که ریسک‌های نظارتی حذف شده‌اند. با عمومی شدن نگرانی‌های داخلی آزمایشگاه‌های هوش مصنوعی، فشارهای سیاسی خارجی ممکن است همچنان افزایش یابد.

در ادامه، بازار واقعاً نیاز دارد که به‌جای شعار کلی «کاهش سرعت هوش مصنوعی»، به سه سیگنال مشخص‌تر توجه کند: آیا آزمایشگاه‌های پیشرو کاهش سرعت را در برنامه‌های رسمی تحقیق و توسعه خود قرار می‌دهند، آیا ارائه‌دهندگان اصلی خدمات ابری سفارشات مراکز داده را کاهش می‌دهند و آیا نظارت به‌طور مستقیم به تراشه‌ها، قدرت محاسباتی و تأمین انرژی می‌پردازد.

استعفای ککسون نشان می‌دهد که بحث‌های ایمنی در هوش مصنوعی پیشرفته از انتقادات خارجی به درون آزمایشگاه‌ها منتقل شده است. اما از ابراز نگرانی‌های محققان تا کاهش واقعی سرمایه‌گذاری‌های شرکت‌های فناوری، هنوز فاصله‌ای وجود دارد که شامل فشارهای رقابتی، عادت‌های ساخت و کمبود زیرساخت‌ها می‌شود.

کاهش سرعت هوش مصنوعی لزوماً به پایان دوره CapEx نخواهد انجامید، اما ممکن است مرحله‌ای را که در آن تمام دارایی‌های هوش مصنوعی یک منطق افزایش مشترک دارند، به پایان برساند.

[لینک متن اصلی]