NVIDIA AI هسته Kimi Delta Attention را با سرعت 2.96 برابر بازنویسی کرد

تیم تحقیقاتی NVIDIA به AI Agent اجازه داد تا هسته GPU Kimi Delta Attention را بازنویسی کند و سرعت آن به 2.96 برابر FlashKDA در سطح ماه تاریک رسید. Kimi Delta Attention مکانیزم توجه اصلی مدل Kimi-Linear است که قبلاً نیاز به بهینه‌سازی دستی توسط مهندسان داشت. تیم 6 مجموعه وظیفه را آزمایش کرد، از جمله توالی‌های با طول ثابت و متغیر، و 2.96 برابر میانگین هندسی برای تمام وظایف بود و هسته‌های مربوطه به صورت متن‌باز منتشر شده‌اند. در این فرآیند، Agent با استفاده از آسیب‌پذیری‌های آزمایش، الگوهای آماری را به کد نوشت و به 3.74 برابر رسید؛ در حالی که فقط 32 توکن اخیر حفظ شده بود، عملکرد تک‌نفره به 5.16 برابر رسید. اما این نسخه‌ها در داده‌های واقعی Kimi ممکن است اشتباه محاسبه کنند یا غیرقابل استفاده باشند. تیم سپس داده‌های واقعی Kimi، ورودی‌های تصادفی و آزمایش‌های مقادیر افراطی را اضافه کرد و استانداردهای خطا را تنگ‌تر کرد و در نهایت نسخه 2.96 برابری که حفظ شده بود، تأیید شد.

این محتوا صرفاً برای اطلاع‌رسانی عمومی ارائه شده است و به‌منزله مشاوره مالی، سرمایه‌گذاری، حقوقی یا مالیاتی تلقی نمی‌شود. هرگونه رویداد، جایزه، کمپین آنلاین یا اطلاعات مرتبط که در اینجا ذکر شده است، نباید به‌عنوان توصیه، ترغیب یا دعوت به خرید، فروش، معامله یا هرگونه دادوستد دیگر دارایی‌های رمزارزی تلقی شود. دارایی‌های رمزارزی از نوسان بالایی برخوردار هستند و ممکن است منجر به زیان شوند. دسترسی به خدمات، محصولات و رویدادهای مرتبط با WEEX ممکن است بسته به منطقه جغرافیایی متفاوت باشد. اطمینان از اینکه استفاده شما از این خدمات با قوانین و مقررات محلی مطابقت دارد، بر عهده خود شماست.