文章圖片
文章圖片
文章圖片
編輯｜澤南
大模型推理的基石 vLLM ， 現在成為創業公司了 。
北京時間周五凌晨傳來消息 ， 由開源軟件 vLLM 的創建者創立的人工智能初創公司 Inferact 正式成立 ， 其在種子輪融資中籌集了 1.5 億美元（約合 10 億元人民幣） ， 公司估值達到 8 億美元 。
本輪融資由風險投資公司 Andreessen Horowitz（a16z）和 Lightspeed 領投 ， Sequoia Capital、Altimeter Capital、Redpoint Ventures 和 ZhenFund 也參與了投資 。
Inferact 的 1.5 億美元天使輪融資雖不及 Ilya Sutskever 的公司 SSI 的 10 億美元 ， 但已經超過了 Mistral AI 的 1.15 億美元 ， 是有史以來規模最大的種子輪融資之一 ， 標志著業界對于 AI 推理基礎設施的重視程度正在急速提升 。
Inferact 的使命是將 vLLM 發展成為世界領先的 AI 推理引擎 ， 并通過降低推理成本、加快推理速度來加速 AI 的發展 。
該公司認為 ， AI 行業未來面臨的最大挑戰不是構建新模型 ， 而是如何以低成本、高可靠性地運行現有模型 。
【vLLM團隊官宣創業：融資1.5億美元，清華特獎游凱超成為聯創】毫無疑問 ， Inferact 的核心是開源項目 vLLM ， 這是一個于 2023 年啟動的開源項目 ， 旨在幫助企業在數據中心硬件上高效運行 AI 模型 。
vLLM 最初由加州大學伯克利分校（UC Berkeley）的天空計算實驗室 (Sky Computing Lab) 開發 ， 現由 PyTorch 基金會負責管理 ， 已吸引了來自整個 AI 行業的 2000 多名貢獻者 ， 是全球范圍內最受歡迎的開源大模型推理加速框架 。
如今 ， vLLM 的推理能力在為 Meta、谷歌、Character.AI 等科技公司提供支持 。
Inferact 的首席執行官 Simon Mo 是一位伯克利在讀博士生 ， 他是 vLLM 的創始維護者之一 。 Mo 表示 ， 公司成立于 2025 年 11 月 ， 并于本周正式對外公布 。 他將 Inferact 的起源與伯克利早期的一些軟件項目進行了比較 ， 這些項目后來發展成為規模更大的企業 ， 例如 Apache Spark 和 Ray 。
在宣布融資的同時 ， Lightspeed（光速創投）也發布了對 Simon Mo 的訪談 。 在其中 Simon Mo 談到了對于全球 AI 算力緊缺的擔憂 ， 「當前用于大模型訓練的 AI 集群 ， 將在六個月內完全被用于推理…… 推理會逐漸消耗掉所有算力容量 ， 并耗盡所有新增的容量 。 」
在公告中 ， Inferact 表示 ， 其定位于模型和硬件的交匯點：當模型廠商發布新架構時 ， 他們會與 vLLM 合作 ， 確保提供首日支持；當硬件廠商開發新芯片時 ， 他們會與 vLLM 集成；當大模型團隊進行大規模部署時 ， 他們會運行 vLLM ， 從前沿實驗室到超大規模數據中心 ， 再到服務數百萬用戶的初創公司 ， 無一例外 。
如今 ， vLLM 支持了 500 多種模型架構 ， 可在 200 多種加速器上運行 ， 并支持著全球規模的推理 。 這個由 2000 多位貢獻者共同構建的生態系統 ， 是 Inferact 得以成立的基礎 。
Inferact 表示 ， 其首要任務是繼續支持 vLLM 作為獨立的開源項目 ， 并將改進成果分享給社區 。 他們計劃進一步提升 vLLM 的性能 ， 深化對新興模型架構的支持 ， 并擴大對前沿硬件的覆蓋范圍 。 Inferact 的第二個目標是開發一款獨立的商業產品 ， 幫助企業在不同類型的硬件上更高效地運行 AI 模型 。
值得關注的是 ， vLLM 項目的核心貢獻者清華博士游凱超成為了這家公司的聯合創始人 。
據介紹 ， Inferact 的創始團隊包括 Simon Mo、Woosuk Kwon、Kaichao You（游凱超）、Roger Wang、Joseph Gonzalez、Ion Stoica 等人 。
參考鏈接：
https://inferact.ai/
https://www.bloomberg.com/news/articles/2026-01-22/andreessen-backed-inferact-raises-150-million-in-seed-round
推薦閱讀
- 蘋果下一任CEO熱門人選職權范圍擴大 消息稱已接管設計團隊
- 蘋果新春限時優惠官宣：1月24日開啟，最高立省1000元
- 清華姚班校友劉壯團隊再發力，無需歸一化的Transformer性能進化
- 英特爾AI解決方案創新實踐賽獲獎團隊訪談：讓AI技術創新回歸真實需求
- 中國團隊一夜封神，AI出海「全球第一」！曾靠游戲狂賺10億美金
- 24GB+1TB！新機官宣：1月23日，正式開售
- 百度暫停團隊“賽馬”，收攏全公司各數字人團隊劃歸百度電商體系，平曉黎全面負責
- 首席法務官轉投蘋果后 Meta生成式AI團隊創建者也已被挖走
- realme真我Neo8官宣同檔罕見5000萬潛望長焦，1月22日正式發布
- 蘋果自動駕駛技術團隊創始人已加盟愛彼迎 擔任首席技術官