开yun体育网当今国产AI芯片限度固然不乏许多推崇亮眼的企业-开云(中国)Kaiyun·官方网站 - 登录入口

开云(中国)Kaiyun·官方网站 - 登录入口
你的位置:开云(中国)Kaiyun·官方网站 - 登录入口 > 新闻中心 > 开yun体育网当今国产AI芯片限度固然不乏许多推崇亮眼的企业-开云(中国)Kaiyun·官方网站 - 登录入口
开yun体育网当今国产AI芯片限度固然不乏许多推崇亮眼的企业-开云(中国)Kaiyun·官方网站 - 登录入口
发布日期:2025-03-02 08:35    点击次数:87

开yun体育网当今国产AI芯片限度固然不乏许多推崇亮眼的企业-开云(中国)Kaiyun·官方网站 - 登录入口

作家 | 云鹏

剪辑 | 漠影

日活超3000万东谈主的DeepSeek已成为全球AI产业当红炸子鸡,也被视为中国AI的柬帖,平淡东谈主使用AI器具更容易的同期,企业用户的需求也在加快涌现。

企业用户对DeepSeek特有化部署的需求极为蹙迫。一方面,数据安全成为悬在企业头顶的“达摩克利斯之剑”。在互联网上,企业数据如同深刻在“玻璃屋”中,可能被窃取或转变。

另一方面,企业对DeepSeek的个性化定制需乞降恒久老本考量日益突显。举例,医疗、电商等行业每天产生海量数据,按现存市集上主流的API调用使用量计费相貌昭彰不合算。

此外,国产AI芯片企业也急需更快更好地适配DeepSeek、充分开释算力,借着DeepSeek高涨,真是与外洋芯片巨头掰掰手腕。

面对这些需求,清华系AI Infra限度明星创企——清程极智,给出了我方的谜底:DeepSeek特有化部署决策。

近日,清程极智基于十余家国产芯片,包括壁仞科技、寒武纪、海光信息、摩尔线程、沐曦、清微智能、昇腾、燧原科技、念念朗科技、天数智芯、元始元碁等(按字母排序),推出了DeepSeek特有化部署决策。

清程极智以为:关于企业用户而言,特有化部署为企业提供了一个“数据保障箱”,从物理层面掩饰外部胁迫,确保数据主权紧紧掌持在企业手中,同期特有化部署不仅能称心企业的个性化需求,还能已毕恒久老本优化。

偶而基于国产芯片半壁山河推出决策,也已解说行业达成了共鸣:企业利用DeepSeek特有化部署不再是可选项,而是得回市集竞争、已毕长久发展的必由之路。

新品发布之际,智东西独家对话了清程极智CEO汤雄超,对其算力系统软件背后的硬核黑科技、撬动十余家国产芯片的原因,以及清程极智对AI Infra限度的深入念念考王人进行了计划。

一、为芯片和大模子架桥,特有化部署切中大模子企业应用环节痛点

从2022岁首露矛头到2023年爆发式涌现,再到2024年买卖化落地,迈入2025年,AI大模子的发展愈加聚焦老本和效能,这亦然行业对大模子落地应用温煦的焦点。

在这一大布景下,不论是大模子厂商、算力芯片厂商照旧算力平台,王人离不开优秀的算力系统软件赈济——算力系统软件的本领变调和冲破,不错显耀缩短大模子的部署老本、普及大模子运行效能,帮企业降本增效。

用汤雄超的话来说,清程极智要作念的是畅达芯片跟大模子应用的“桥梁”,买通应用需求跟算力硬件,把底层硬件的算力更充分地证实出来,让表层应用不错有更好的落地体验。

在这么的大布景下,清程极智自研了大模子推理引擎,并推出了MaaS处事以及推理一体机。

近日清程极智的MaaS平台刚刚完成了满血版DeepSeek-R1大模子的上线适配,其自研清程赤兔引擎通过一系列性能优化不错让DeepSeek-R1在速率上已毕普及。

▲清程极智MaaS平台上线满血版DeepSeek-R1

而这次清程极智要推出的DeepSeek特有化部署决策,则为企业和诱导者们提供了一种更生动、更高效地接入DeepSeek的相貌。

特有化部署不同于公有云处事,其决策中既包含所有土产货化的部署式样,也包含通过云平台分派专属计较资源,进辛苦毕企业的特有化部署式样。

为何大模子特有化部署如斯高大?这与当下行业需求的高速增长、行业发展到新时代所面对的需求痛点以及大模子特有化部署责罚决策带来的诸多上风密切干系。

从风险藏匿和数据合规性的方面来看,如今国表里王人已陆续出台数据安全干系法律规则,特有化部署不错让企业所有掌控数据的人命周期,幸免跨境传输风险。

比如医疗、金融等行业对数据的土产货化有强制要求,特有化部署是唯独的合规路线。

与此同期,特有化部署不错已毕更深度的模子定制化,企业不错通过特罕有据持续测验模子,让通用大模子转念为垂直限度的“巨匠”,进一步普及大模子处事企业、提高企业坐褥效能的推崇。

从安全的角度来看,特有化部署不错已毕硬件级加密、数据脱敏,驻防圭臬更高。

从行业发展角度来看,如今大模子智力照旧平凡进入买卖化落地应用阶段,企业需要将AI智力真是地镶嵌到中枢业务经过之中,这是很环节的,而特有化部署不错匡助企业更好的已毕这极少。

临了从相等实质的普及性能角度启程,特有化部署也有着昭彰上风。汤雄超谈谈,其实大部分企业王人是但愿在既有业务中融入AI的智力,并非“从0驱动”,因此企业更多但愿偶而回到我方的业务系统,构建在我方的特有化环境中。

从性能上来说,要是业务一部分在云表一部分在土产货,数据传输的支出很大,况且效荒诞能也会受到影响,摄取特有化部署,不错让企业扫数业务模块王人在老练、可控的环境中,数据交互更高效。

天然,特有化部署偶而带来的高融会性对企业业务来说也至关高大,比拟公有处事器容易受到巨大流量的冲击,特有算力昭彰更有保障,融会性更好。

如今各大智妙手机巨头纷繁官宣自家AI智能体赈济DeepSeek,用户通过各家特有云部署的DeepSeek体验AI,就会更少遭遇“处事器忙活,请稍后再试”的无言。实质上这即是特有化部署带来上风的一种直不雅体现。

二、大模子算力系统软件变调,让国产AI芯片走的更快更远

不错看到,在DeepSeek加快深度融入行业之下,大模子特有化部署照旧成为行业发展的高大趋势之一,而清程极智基于十余家国产AI芯片厂商推出的DeepSeek特有化部署责罚决策,恰是适合这一趋势而来。

实质上,大模子高效地特有化部署不仅不错给应用大模子的企业客户带来上述诸多公正,关于国内AI芯片企业也有注目唐突思和价值。

当今国产AI芯片限度固然不乏许多推崇亮眼的企业,但总体来看行业仍然是学习、追逐的态势,怎么让更多企业用上国产AI芯片,是相等环节的一步。

要不要用?最中枢的一个圭臬仍然是性能,性能最直不雅的响应即是用户最终的使用体验,模子应用的效能是否是真是“可用”的。

而清程极智正巧作念的即是畅达国产AI芯片和大模子,让芯片不错更高效地运行大模子应用,进而普及性能推崇。

从买卖角度来看,国内的AI芯片例必要面对跟英伟达这么的锻真金不怕火外洋巨头的竞争,因此普及芯片性能就显得十分环节。通过系统软件的优化,在一样的硬件条款下已毕更高的性能推崇,就意味着老本的下落、性价比的普及,进而产物详细竞争力就变强了。

汤雄超提到,从长久视角来看,惟有国产芯片平台不错达到与外洋产物一样的体验,民众例必会倾向于国产,进而匡助芯片企业普及国内市集的份额。要是更进一步在性价比上也不错追平外洋产物,那国产芯片企业将会领有更多走向全球市集的契机,这内部的瞎想空间是巨大的。

当今清程极智提供的大模子端到端的测验和推理,及配套的性能优化处事,照旧匡助数款大模子已毕了在多款国产芯片上的快速预测验和高性能推理优化,缩短了大模子的部署老本,普及了大模子运行效能。

三、大模子效能普及近100倍,硬核自研本领变调仍是最强王牌

在大模子应用与芯片之间架起桥梁,已毕大模子效能的普及,进而普及国产AI芯片的性价比,这么的逻辑听起来并不复杂,但实质上,要真是已毕算力系统软件的本领变调,存在诸多挑战,这亦然清程极智的中枢本领上风场合。

在汤雄超看来,他们的中枢上风主要在两方面:集群算力的高效利用和国产芯片的深度适配优化。

他提到,往时十几年,本领团队在清华执行室时代就作念了相等多的职责,在集群算力高效利用和国产芯片适配优化方面齐集了无数教授,而这两个问题亦然作念好AI算力系统软件的中枢难点场合。

证据官方信息,清程极智由清华大学翟季冬磨真金不怕火发起并任首席科学家,团队孵化于清华大学计较机系,在算力系统优化限度有着十余年教授齐集,当今照旧与国内多个智算超算中心、着名芯片厂商及大模子厂商达成买卖迷惑。

在集群算力使用方面,往时的问题主要汇聚在测验方面,而DeepSeek的火爆也带来了集群算力在推理方面的新挑战,怎么高效地赈济671B参数的大模子运行,有诸多问题需要责罚。

汤雄超提到,真是掌持集群算力使用式样况且不错诓骗的很好的团队并未几。

当今清程极智掌持了并行系统、计较框架、通讯库、算子库、AI编译器、编程谈话、拯救系统、存储系统、内存无间、容错系统等10个环节基础软件的中枢本领,并在其中过半数限度领有自研产物,责罚决策隐私大模子落地全栈本领要求。

除了集群算力高效利用,清程极智的另一个上风是关于国产芯片的深度适配优化。

实质上,这是一个无数考验Know-how的限度。当今行业恒久习气了英伟达芯片,其芯片的生态软件系统王人相对完善,使用更肤浅,比拟之下,国产芯片在软件生态方面不够完善,已毕效能不够高效,有些模块是缺失的,这王人是算力软件系统厂商需要责罚的问题。

为了责罚这些繁难,清程极智聘请了一条更具挑战的本通晓线:自研大模子推理系统。

由于英伟达生态恒久占据主导地位,当今行业中的好多开源框架、软件从狡计念念路上就更符合英伟达芯片,径直移植很容易遭遇“水土不平”的问题,国产AI芯片在狡计、性能方面王人与英伟达芯片有所差异,一些本来起到促进作用的优化模块对国产AI芯片来说可能会形成反向负面效能。

因此针对具体国产芯片进行针对性适配和优化就显得尤为高大。在这一限度,清程极智的团队有丰富教授,其自研推理系统从软件狡计层面即是为千般性芯片组成去作念的,因此在国产AI芯片适配大模子方面有更高的性能普及上限。

当今,清程极智照旧作念了面向大模子算力系统的全栈建造及优化。从实质详细数据来看,其责罚决策不错让大模子应用老本缩短2个数目级,让大模子运行效能最高普及近100倍。

纵不雅其模子系统级责罚决策,具备多脉络的算力优化上风:自研推理系统不错更好地草率低蔓延、高并发的推理需求;自研编译器则不错使新式算子更高效地适配,让复杂模子在异构算力上跑的起来、跑的更好;与此同期,其算力系统软件兼容性强,不错同期赈济多种国表里算力平台。

结语:宝石中枢本领干与,收拢AI渗入千行百业新机遇

今天的中国智算产业,正在阅历前所未有的新变革,迎来新的机遇和挑战。正如汤雄超所说,AI行业发展很快,唯有宝石中枢本领变调的干与才是硬意思。异日清程极智会络续在集群计较、国产算力适配优化方面宝石本领变调。

要是说早期的AI仅仅大公司的“尝鲜”产物,那么如今越来越多的中微型企业王人驱动使用AI,AI照旧逐渐变成企业的必需品。另一方面,国产芯片发展势弗成挡,中国大模子、中国AI本领的发展,例必需要有可靠可控的坚实算力底座。

责罚这些需乞降挑战,恰是DeepSeek这类大模子特有化部署的意思和价值场合开yun体育网,亦然清程极智的标的场合:基于国产芯片半壁山河之力,用系统软件变调在大模子和芯片之间架起桥梁,让企业客户享受到AI红利,让国产芯片在新一轮AI本领爆发中领有更高增长后劲和更开阔的瞎想空间。