致力于為AI產業提供高性能算力基礎軟件平臺,中科加禾完成數千萬元Pre-A1輪融資
近日,AI異構算力軟件Infra供應商中科加禾宣布完成數千萬元Pre-A1輪融資,由北京市人工智能產業投資基金領投。
中科加禾成立于2023年,聚焦編譯技術,致力于跨越國產算力芯片與大模型落地之間存在的生態鴻溝,為我國AI大模型產業提供通用化、低成本、高性能的算力資源。公司產品為包含AI訓練與推理工具、Fine-Tuning工具和算子實現等在內的,跨品牌、跨型號的標準化AI軟件底座,以及連同硬件設備在內的一體化AI算力解決方案。
2024年7月20日,中科加禾正式發布了異構原生算力產品矩陣,其中包含異構原生推理引擎「SigInfer」、異構原生微調引擎「SigFT」、算子自動生成\轉譯工具「SigTrans」三款產品。這套算力工具能夠兼容多種國產及海外AI芯片,為屏蔽芯片差異提供了高性能的統一接口,將大模型推理時延最高降低74倍,吞吐率最高提升3倍,能效比提升 1.46 倍,支持340B參數量的稠密大模型,以及640B的MoE大模型。
其中,「SigInfer」定位于跨平臺、高性能的異構原生推理引擎。作為異構計算的技術底座,可以做到調用接口統一,平滑遷移業務應用,大幅降低企業使用成本。在調用多種不同算力的同時進行多層次深度優化,充分挖掘芯片算力的潛能。
截至目前,中科加禾已與數十家智算中心、芯片廠商、服務器廠商、運營商及頭部互聯網公司達成深度合作及產品級融合,實現了AI產業鏈全鏈路覆蓋,打通產業固有的煙囪式的孤島體系生態,建立了國產異構「聯合體CUDA」的生態雛形。
自產品發布以來,中科加禾憑借行業頂尖的性能表現和極強的通用性,收獲數千萬元商業訂單及意向訂單,客戶包括國內頭部芯片和服務器廠商、運營商、互聯網大廠、智算中心等。