跳到正文
热点事件持续更新

亿道信息:亿灵AISSD异构推理技术是针对MoE混合专家架构大模型做的底层调度优化

1 篇报道1 个报道来源1 小时前更新

先了解这件事

报道摘要

原文摘录:21财经11月9日电,亿道信息在投资者关系活动中表示,亿灵AISSD异构推理技术是针对MoE混合专家架构大模型做的底层调度优化,模型本身没变、能力不降,不用多卡服务器,靠动态专家驻留策略,内存占用大幅降下来,还能在内存、速度之间灵活调档,让普通PC、NAS这类内存受限的端侧设备,也能跑35B或更大的模型。

摘自 东方财富 · 上市公司

报道时间线

沿着报道,了解事件的不同侧面。

11月9日
  1. 东方财富 · 上市公司
    亿道信息:亿灵AISSD异构推理技术是针对MoE混合专家架构大模型做的底层调度优化

    原文摘录:21财经11月9日电,亿道信息在投资者关系活动中表示,亿灵AISSD异构推理技术是针对MoE混合专家架构大模型做的底层调度优化,模型本身没变、能力不降,不用多卡服务器,靠动态专家驻留策略,内存占用大幅降下来,还能在内存、速度之间灵活调档,让普通PC、NAS这类内存受限的端侧设备,也能跑35B或更大的模型。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。