事件进展观察中

低于 60GB 内存时，哪款开放权重 MoE 编程模型最好？

1 篇报道1 个报道来源2 天前更新

先了解这件事

报道摘要

Simon Willison 正在征询适合编程、能在低于 60GB 内存中运行的开放权重大语言模型。他认为，在自己可使用的硬件上，MoE（混合专家）架构可能是获得较好交互速度的必要选择，目标是超过 12 tokens/second；这条帖子提出了选型需求，尚未给出候选模型或实测结论。

摘自 Simon Willison / twitter

最新进展10月10日 01:20

沿着报道，了解事件的不同侧面。

10月10日

01:20
Simon Willison / twitter
低于 60GB 内存时，哪款开放权重 MoE 编程模型最好？
Simon Willison 正在征询适合编程、能在低于 60GB 内存中运行的开放权重大语言模型。他认为，在自己可使用的硬件上，MoE（混合专家）架构可能是获得较好交互速度的必要选择，目标是超过 12 tokens/second；这条帖子提出了选型需求，尚未给出候选模型或实测结论。

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。