亿道信息:亿灵AISSD异构推理技术是针对MoE混合专家架构大模型做的底层调度优化
热点事件持续更新
亿道信息:亿灵AISSD异构推理技术是针对MoE混合专家架构大模型做的底层调度优化
1 篇报道1 个报道来源1 小时前更新
先了解这件事
报道摘要
原文摘录:21财经11月9日电,亿道信息在投资者关系活动中表示,亿灵AISSD异构推理技术是针对MoE混合专家架构大模型做的底层调度优化,模型本身没变、能力不降,不用多卡服务器,靠动态专家驻留策略,内存占用大幅降下来,还能在内存、速度之间灵活调档,让普通PC、NAS这类内存受限的端侧设备,也能跑35B或更大的模型。
摘自 东方财富 · 上市公司
最新进展11月9日 17:50
亿道信息:亿灵AISSD异构推理技术是针对MoE混合专家架构大模型做的底层调度优化报道时间线
沿着报道,了解事件的不同侧面。
11月9日
- 东方财富 · 上市公司亿道信息:亿灵AISSD异构推理技术是针对MoE混合专家架构大模型做的底层调度优化
原文摘录:21财经11月9日电,亿道信息在投资者关系活动中表示,亿灵AISSD异构推理技术是针对MoE混合专家架构大模型做的底层调度优化,模型本身没变、能力不降,不用多卡服务器,靠动态专家驻留策略,内存占用大幅降下来,还能在内存、速度之间灵活调档,让普通PC、NAS这类内存受限的端侧设备,也能跑35B或更大的模型。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。