NVIDIA, AMD, Intel และอีก 9 บริษัท ร่วมก่อตั้งพันธมิตร SGLang แบบโอเพ่นซอร์ส

ในการประชุม SGLang Summit ครั้งแรก NVIDIA, AMD และ Intel ได้ร่วมกันก่อตั้งพันธมิตร SGLang อย่างไม่เคยมีมาก่อน โดยมีสมาชิกผู้ก่อตั้ง 9 รายเข้าร่วมในการกำหนดแผนงานในอนาคตของเครื่องมือ AI แบบโอเพ่นซอร์ส งานประชุมครั้งนี้มีผู้เข้าร่วมมากกว่า 2000 คน SGLang เป็นซอฟต์แวร์พื้นฐานสำหรับการรันโมเดลขนาดใหญ่ ซึ่งมีหน้าที่ในการจัดการคำขอของผู้ใช้, จัดสรร GPU, จัดการหน่วยความจำกราฟิก และนำผลการคำนวณกลับมาใช้ใหม่ ซึ่งมีผลโดยตรงต่อความเร็วและต้นทุนในการทำงานของโมเดล AI หลังจากการก่อตั้งพันธมิตร ผู้ผลิตชิปจะมีส่วนร่วมในการพัฒนาอย่างเป็นระบบมากขึ้น โดยจะมีการจัดสรรวิศวกรและทรัพยากรการทดสอบเพื่อส่งเสริมการเพิ่มประสิทธิภาพของฮาร์ดแวร์ สมาชิกของพันธมิตรจะจัดประชุมแผนงานปีละสองครั้ง โดยการตัดสินใจด้านเทคนิคและสิทธิในการรวมโค้ดจะอยู่ในความดูแลของทีมดูแล SGLang ขณะนี้มี 332 หน่วยงานที่นำ SGLang ไปใช้ Meta ได้เปิดเผยว่าหลังจากการย้ายไปยัง SGLang ทรัพยากร GPU ในสภาพแวดล้อมการผลิตขนาดใหญ่ของพวกเขาประหยัดไปได้มากกว่าครึ่ง งานประชุมยังได้ประกาศทิศทางการพัฒนาของ SGLang v1.0 โดยมุ่งเน้นที่การเพิ่มเสถียรภาพและความเข้ากันได้ในสภาพแวดล้อมการผลิต โดยรุ่นทางการยังอยู่ในระหว่างการพัฒนา ในขณะเดียวกัน SGLang ได้เปิดตัวการสนับสนุนการพรีวิวสาธารณะสำหรับชิป AWS Trainium และได้ร่วมมือกับ Intel ในการปรับแต่ง CPU, GPU และเร่งความเร็ว โดยมีการปล่อยกรอบการเรียนรู้ Miles v0.2 ด้วยเช่นกัน

ราคา --

--
--
--

เนื้อหานี้จัดทำขึ้นเพื่อวัตถุประสงค์ด้านการให้ข้อมูลทั่วไปเท่านั้น และไม่ถือเป็นคำแนะนำด้านการเงิน การลงทุน กฎหมาย หรือภาษี อีเวนต์ รีวอร์ด โปรโมชันออนไลน์ หรือข้อมูลที่เกี่ยวข้องใดๆ ที่กล่าวถึงในที่นี้ ไม่ควรถือเป็นคำแนะนำ การชักชวน หรือคำเชิญชวนให้ซื้อ ขาย เทรด หรือดำเนินการอื่นใดเกี่ยวกับสินทรัพย์คริปโต สินทรัพย์คริปโตมีความผันผวนสูงและอาจส่งผลให้เกิดการขาดทุน ความพร้อมให้บริการของบริการ ผลิตภัณฑ์ และอีเวนต์ที่เกี่ยวข้องของ WEEX อาจแตกต่างกันไปตามภูมิภาค คุณมีหน้าที่ตรวจสอบให้แน่ใจว่าการเข้าร่วมของคุณเป็นไปตามกฎหมายและข้อบังคับท้องถิ่นที่ใช้บังคับ

คุณอาจสนใจ

มาสก์กล่าวว่าเขารู้สึกเสียใจที่ลงทุนมากกว่า 400 ล้านดอลลาร์ให้กับผู้สมัครพรรครีพับลิกัน

ซีอีโอเวอไรซอน: การเข้าสู่ตลาดการสื่อสารเคลื่อนที่ของสตาร์ลิงก์ของมาสก์อาจใช้เงินมากกว่า 3000 พันล้านดอลลาร์

เข้าใจง่าย | สัมภาษณ์ล่าสุดของมาสก์: จาก Starship, Grok, Optimus ถึง Starmind แผนเทคโนโลยีสำหรับอารยธรรมระหว่างดวงดาว

นักลงทุนชื่อดัง Druckenmiller ขายหุ้นสหรัฐเกือบหมด: มองไม่เห็นตลาดในรอบ 50 ปี, โอกาส AI รอบถัดไปไม่อยู่ที่พลังการคำนวณ

ไมโครซอฟท์เสนอแผนการออกจากงานโดยสมัครใจให้กับพนักงาน 60,000 คนเพื่อส่งเสริมการเปลี่ยนแปลงสู่ AI

มาสก์กล่าวว่าการลงทุนในเลือกตั้งกลางเทอมสูญเปล่า คาดการณ์ว่า Anthropic จะเช่ากำลังการคำนวณ 10 กิกะวัตต์

...

บทความล่าสุด

เพิ่มเติม

เหรียญที่ลิสต์ล่าสุดบน WEEX

iconiconiconiconiconiconiconicon
ฝ่ายบริการลูกค้า:@weikecs
ความร่วมมือทางธุรกิจ:@weikecs
เทรด Quant และ MM:[email protected]
โปรแกรม VIP:[email protected]