时间:2026-11-21 19:02:56 来源:网络整理 编辑:知识
非營利組織 LMSYS Org 12 日在舊金山首屆 SGLang Summit 開幕主題演講,宣布成立「SGLang 聯盟」SGLang Consortium)。創始成員有輝達、AMD、英特爾、Go 买美国账号ID的相关购买信息
非營利組織 LMSYS Org 12 日在舊金山首屆 SGLang Summit 開幕主題演講,立Sg聯宣布成立「SGLang 聯盟」(SGLang Consortium)。盟輝創始成員有輝達、共推AMD、開源英特爾、推論Google、立Sg聯买美国账号ID的相关购买信息Meta、盟輝Cloudflare、共推Modal 與 RadixArk,開源共八家業者,推論一起參與開源 AI 推論引擎 SGLang 發展藍圖。立Sg聯
SGLang目前已在數十萬顆GPU運行。盟輝Meta、共推微軟、開源Google、推論海外苹果ID账号分享亞馬遜、Thinking Machines Lab、Cloudflare、Reflection與Modal等業者,都用它支撐正式環境的推論服務。支援的硬體包括輝達與AMD GPU、英特爾Xeon處理器及Google TPU。
依照聯盟的運作方式,每家創始成員各指派一名技術代表,每年參加兩次藍圖會議。會議之間可成立工作小組協作,並公開發表方向與進度。成員可用工程專業、部署回饋、測試資源或共同開發等方式貢獻。重點領域包括尖端模型支援、推理與多模態工作負載、分散式推論及硬體最佳化。不過,技術決策與程式碼採納仍由SGLang維護者負責,專案也持續開放給整個社群。
SGLang原始論文共同作者、RadixArk共同創辦人暨執行長Ying Sheng代表團隊表示,大規模運行SGLang的團隊,最能率先看見推論下一步的需求。輝達超大規模與高效能運算副總裁Ian Buck指出,更好的軟體能協助開發者從輝達運算資源取得更多效能。AMD人工智慧應用企業副總裁Ramine Roane則表示,開源讓開發者能進一步推進AI推論。
LMSYS Org引述Deloitte預測指出,推論的AI運算占比,預料將從2025年約一半提高至2026年約三分之二。推論需求攀升,軟體層效率改善已成為晶片商與雲端業者爭取效能的關鍵。
不過,這次公告沒有提出具體時程、功能優先順序或效能數據。聯盟能否把成員的需求轉化為實際採納的程式,仍有待觀察;使用者也需要針對自己的模型與硬體驗證效益。首屆SGLang Summit 12~13日舉行,超過百位講者參與,議程涵蓋強化學習、多模態模型與硬體平台等主題。
(首圖來源:LMSYS Org)
济南一女子违规饲养21条烈性犬 遭邻居举报被没收图2026-11-21 18:47
厦门启动三四星级志愿者认定 系全市首批2026-11-21 18:41
9月15日起 泉州市区40个路口新增电子抓拍2026-11-21 18:39
“失控”奔驰封存待检 车主:行车记录仪内容被覆盖2026-11-21 18:14
泰康HWP斩获《金融时报》重磅奖项2026-11-21 17:56
在如今的消费市场里,“情绪经济”无疑是一匹黑马。前不久,社交媒体公2026-11-21 17:53
视频丨春菜陆续上市 消费者选购“第一口鲜” 时快讯2026-11-21 17:43
79家上市公司曝光风险事件106起|善择ESG风险跟踪第155期 社会责任 09-22 6评论2026-11-21 17:28
泉州市商务局: 全力打通民生物资配送“最后100米”2026-11-21 16:59
泉州火车站:网约车停车场引导标识已完善 拉客现象待根治2026-11-21 16:31
2020年春运首日火车票12月12日开售2026-11-21 18:56
陈奕天手受伤短期内不能表演魔术 还好陈奕天多才多艺2026-11-21 18:54
賓士挑戰特斯拉 FSD,高速公路免手握與城市點對點輔助駕駛 2027 年登場2026-11-21 18:50
正月十五闹元宵 传统佳节共团圆2026-11-21 18:46
90平米装修指南2026-11-21 17:55
陈奕天请你吃大餐上线 粉丝张罗找陈奕天请吃大餐2026-11-21 17:52
ESG短评|服务人员情绪失控,被忽视的企业社会责任 当企业将劳动的心理代价社会化转嫁、以“临时合同工”逃避社会责任、用绩效完成对劳动者的自我规训,将会以舆情危机的形式反噬企业自身。 社会责任 09-23 1评论2026-11-21 17:49
第四届“严凤英杯”全国黄梅戏票友会在宜落幕2026-11-21 17:33
北大研究生因嗓子疼到校医院后死亡2026-11-21 17:05
马化腾王健林逛街是怎么回事?马化腾王健林为什么一起逛街?2026-11-21 16:34