AI Infra Night @PyTorchCon with dstack, Crusoe, and SGLang

活动介绍 · PyTorch大会期间的AI基础设施社交夜，面向从事GPU、训练与推理的工程师与研究者。

主办方 · LMSYS · （Large Model Systems Organization）是一家美国 501(c)(3) 非营利组织，以孵化开源项目和研究为主，使命是通过共同开发开放的模型、数据集、系统与评测工具，让大模型人人可用。它 2023 年起源于加州大学伯克利分校、斯坦福大学、加州大学圣地亚哥分校、卡内基梅隆大学与 MBZUAI 的多校合作，2024 年 9 月注册为非营利机构。代表项目包括大模型推理引擎 SGLang、聊天机器人训练与评测平台 FastChat、开源对话模型 Vicuna、模型路由框架 RouteLLM，以及 MT-Bench、Arena-Hard-Auto 等评测基准和 LMSYS-Chat-1M 对话数据集。众包大模型评测平台 Chatbot Arena 由 LMSYS 发起，2024 年 9 月「毕业」独立运营并启用 lmarena.ai 站点，此后与 LMSYS 保持合作关系；SGLang 的维护方之一是 RadixArk。LMSYS 的经费来自捐赠，官网列出的捐助方包括英伟达、谷歌云、a16z、AMD、Kaggle、Together 与 Hugging Face 等。