نویسندگان NVIDIA، AMD و Intel به همراه 9 شرکت دیگر، اتحادیه SGLang را برای توسعه منبع باز ایجاد کردند
در اولین اجلاس SGLang، NVIDIA، AMD و Intel به طور نادر با هم اتحادیه SGLang را تأسیس کردند و به عنوان 9 عضو بنیانگذار در تعیین نقشه راه آینده موتور استنتاج هوش مصنوعی منبع باز شرکت کردند. این اجلاس بیش از 2000 نفر را به صورت حضوری جذب کرد. SGLang نرمافزار زیرساختی برای زمان اجرای مدلهای بزرگ است که مسئول پردازش درخواستهای کاربر، زمانبندی GPU، مدیریت حافظه و بازاستفاده از نتایج محاسباتی است و به طور مستقیم بر سرعت و هزینه اجرای مدلهای هوش مصنوعی تأثیر میگذارد. پس از تأسیس اتحادیه، تولیدکنندگان تراشه به طور سیستماتیکتری در توسعه شرکت خواهند کرد و مهندسان و منابع آزمایش را به کار خواهند گرفت تا به بهینهسازی عملکرد سختافزار کمک کنند. اعضای اتحادیه هر سال دو بار جلسات نقشه راه برگزار میکنند و تصمیمات فنی و حق ادغام کد تحت کنترل تیم نگهداری SGLang است. در حال حاضر 332 نهاد از SGLang استفاده میکنند و Meta اعلام کرده است که پس از انتقال به SGLang، منابع GPU در محیط تولید بزرگمقیاس آنها بیش از نیمی صرفهجویی شده است. اجلاس همچنین جهتگیری توسعه SGLang v1.0 را اعلام کرد که بر بهبود ثبات و سازگاری در محیط تولید تمرکز دارد و نسخه رسمی هنوز در حال توسعه است. در عین حال، SGLang پیشنمایش عمومی از پشتیبانی تراشه AWS Trainium را راهاندازی کرده و با Intel برای بهینهسازی CPU، GPU و شتابدهندههای آن همکاری کرده است و همچنین چارچوب یادگیری Miles v0.2 نیز منتشر شده است.
قیمت --
این محتوا صرفاً برای اطلاعرسانی عمومی ارائه شده است و بهمنزله مشاوره مالی، سرمایهگذاری، حقوقی یا مالیاتی تلقی نمیشود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید بهعنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر داراییهای رمزارزی تلقی شود. داراییهای رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.
ممکن است شما نیز علاقهمند باشید

آینده سهام انویدیا در 20 سال آینده کجا خواهد بود؟ پاسخ ممکن است شما را شگفتزده کند.

میلیاردر دیوید تپر به تازگی یک چرخش بزرگ در تراشههای هوش مصنوعی انجام داد --- آیا این کار سود خواهد داد؟

از دست دادن هوان رن شون، هزینهای فراتر از ۲.۵ تریلیون دلار

ایلان ماسک هشدار میدهد که صنعت هوش مصنوعی در سال آینده با کمبود شدید نقدینگی مواجه خواهد شد

اگر تراشههای هوش مصنوعی کالایی شوند، انویدیا بیشترین ضرر را خواهد کرد، در حالی که این ۳ سهام در حال افزایش هستند

SBF درباره فروش Anthropic ابراز تاسف کرد: احتمال نابودی انسانها توسط AI 25% است، جوانان باید AI را به خوبی یاد بگیرند

CertiK و دانشگاه کلمبیا انتشار TensorLean را با موفقیت در تأیید فرمولهسازی عملگرهای هوش مصنوعی به پایان رساندند

پیشبینی: انویدیا در سال 2027 به بالاترین رکورد تاریخی جدیدی خواهد رسید (نکته: به این معیار توجه کنید)

SpaceX 320 میلیارد دلار انتشار اوراق قرضه AI را تکمیل کرد، بازدهی حداکثر بیش از 8%

سهام سختافزار هوش مصنوعی (AI) با افت 57%، ممکن است از خرید در این افت پشیمان شوید

کدام شرکتهای عمومی تحت تأثیر مدلهای بزرگ هوش مصنوعی پس از IPO آنتروپیک تغییر میکنند؟
آیا کوین VTC همان VTC6 است؟ ورتکوین و وایس ۶ به زبان ساده
آیا کوین VTC همان VTC6 است؟ ورتکوین و VICE 6 را از نظر شبکه، نماد معاملاتی و آدرس توکن مقایسه کنید و ببینید پیش از انتقال داراییها باید چه مواردی را بررسی کنید.

انیدا کجا سرمایهگذاری کرده است؟

شایعات داغ: اگر نمیتواند به انویدیا برگردد، ممکن است جن هوانگ برنامهای برای شروع جدید داشته باشد!

تأمین مالی بدهی ۴۳۰ میلیارد دلاری اسپیسایکس با وثیقه GPU انویدیا، طلبکاران خواستار شرایط محدودکننده شدند

2 دلیل برای خرید سهام SpaceX (SPCX) و 1 دلیل برای صبر کردن

آیا سهام انویدیا یک فرصت خرید در یک دهه است پس از آخرین درآمدش؟

درک یک مقاله | مصاحبه اخیر ایلان ماسک: از سفینه استارشیپ، گراک، ربات آپتیموس تا استارمایند، نقشه فناوری برای تمدنهای بینستارهای

بازار سهام در حال انجام کاری است که هرگز انجام نداده است: جذب 2 IPO یک تریلیون دلاری در 6 ماه. پیش بینی: سهام SpaceX، نه Anthropic، است که بهره میبرد.

کنفرانس تلفنی علیبابا: استفاده از چیپهای خودساخته برای آموزش مدلهای نسل بعدی، درآمد سالانه محصولات هوش مصنوعی به بیش از 100 میلیارد دلار رسیده و هدف 20 گیگاوات مرکز داده ممکن است کاهش یابد

وو یانگ مین: هزار سوال در چیپ های پینگ تو گو در حال آموزش مدل های نسل بعدی

وو یانگ مین: چن وِن در حال آموزش مدلهای نسل بعدی بر روی چیپهای پینگ تو گو است

سرمایهگذار افسانهای دراکنمیلر تقریباً تمام سهام خود را در بازار آمریکا فروخته است: این بار در 50 سال گذشته، او بیشترین عدم اطمینان را نسبت به بازار دارد و فرصتهای بعدی AI در قدرت محاسباتی نیستند

عرضه اولیه سهام آنتروپیک: معنای آن برای انویدیا و رقابت تراشههای هوش مصنوعی
ببینید عرضه اولیه سهام آنتروپیک برای انویدیا چه معنایی دارد؛ از سرمایهگذاری $10B این شرکت تا رقابت با TPUهای گوگل، Trainium آمازون و AMD برای پردازشهای هوش مصنوعی کلود.

از تهدیدات کوانتومی تا بودجه امنیتی: چرا Pearl در برابر روندها افزایش مییابد؟

یواسدیایآی، ارزش معاملات GPU به ۲۵۰ میلیارد دلار رسید

رئیس OpenAI: مدلهای ما به AMD کمک کردند تا در 5 ماه به پیشرفت معادل یک سال در توسعه تراشه دست یابد

Syncracy سرمایهگذاری کلانی در Pearl: آیا قدرت محاسباتی میتواند تا سال 2030 از بیتکوین فراتر رود؟

Kalshi و Compute Desk همکاری برای راهاندازی قراردادهای آتی قدرت محاسباتی AI




