在2025WAIC期间,深圳AI企业云天励飞宣布全面聚焦AI芯片。
云天励飞结合主流神经网络算法从CNN向RNN、LSTM、Transformer演进的趋势,打造相关指令集、专用算子、存算一体架构、低比特混合量化等芯片硬件技术,推出深界、深穹、深擎三大AI推理芯片平台,产品线覆盖端、边、云推理。
根据云天励飞披露的路线图,正在研发的深穹芯片平台针对万亿参数大模型进行优化,峰值算力将达到512TOPS。
云天励飞的自研芯片“算力积木”架构将算力扩展至能满足从3B到671B MoE大模型的高效推理需求。基于国产工艺的D2D Chiplet & C2C Mesh大模型推理架构,通过灵活模块化的设计、高效的算力调度和低延迟的数据传输,突破国产工艺代差限制。
算力积木的方式将4个“积木”互连,跑7B模型的加速时间占比超过90%,损失只有8%。相比国际大厂的封闭专用互连技术,NB-Link基于相对更通用的PCIe接口,能与大多数主流国产CPU芯片实现高效互连互通,使Agent应用扩地更加高效。
第二代“算力积木”架构计划通过5大创新(新型计算、近存计算、NB-Mesh新型互连、新型封装、NB-Link通用扩展性),打造新型大模型推理计算平台,满足嵌入式物联网、边缘端、云推理对边缘大模型MoE大模型的极致推理效率、能效、性价比的刚性需求。
云天励飞成立于2014年,2023年成功在上交所科创板上市,过去11年,云天励飞一直致力于推动AI的大规模落地应用,已在消费级、企业级和行业级三大领域取得多项创新成果。
本文转自媒体报道或网络平台,系作者个人立场或观点。我方转载仅为分享,不代表我方赞成或认同。若来源标注错误或侵犯了您的合法权益,请及时联系客服,我们作为中立的平台服务者将及时更正、删除或依法处理。