名侦探柯南

摩尔线程发布技术白皮书：破解长上下文推理成本瓶颈_我的网站

名人面对面

一 |

凤凰网科技讯 8月24日，摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》，基于旗舰级AI训推一体智算卡MTT S5000，提出Prefill-Decode异构解耦方案，面向AI Agent、代码生成、超长文档分析等长上下文推理场景，旨在破解推理成本瓶颈。近日，不少网友发帖称，最近自己所在城市的刮刮乐“一票难求”，即开型彩票缺货情况较为严重。此前网上有传言称国家正在管控即开型彩票的发售情况，记者向中国体彩和中国福彩进行求证，双方均表示目前没有收到管控通知，缺货是因为供不应求。

白皮书指出，大模型输入上下文规模进入百K至1M级别后，Prefill（预填充，计算密集型）与Decode（解码，访存密集型）在同一资源池混跑造成结构性算力错配。网友们上传的各地彩票站缺货情况4月23日至25日，海报新闻记者走访了北京市东城区和朝阳区的几家体育彩票和福利彩票站点，发现即开型彩票确实存在缺货情况。解决方案是将二者彻底解耦，分别运行在各自最契合的硬件资源池上，实现单位Token基础设施成本大幅下降。“平时就指望着卖刮刮乐能挣点钱，我这两个月都断了两回货了。

二 | MTT S5000硬件特性与Prefill任务高度契合：提供高稠密算力压缩首字时延，原生支持FP8全精度计算，并全面兼容CUDA及PyTorch、vLLM等主流推理框架。

三 | 实测数据显示，在64K上下文场景下，单机Prefill吞吐达95,920 tok/s，按智谱API定价测算，满负载下单机月收入可达64.6万元；400K极限长序列场景TPM达2.6MTokens，吞吐平稳可控。摩尔线程表示，大模型产业竞争下半场本质上是推理效率与商业回报的较量，该方案旨在帮助企业在万亿参数与Agent时代降低总拥有成本。”在东城区一家临街的彩票站点，记者注意到即开型彩票的展示柜里空空如也。彩票店老板告诉记者，这次断货已经有一个多星期了。在和彩票店老板交流中，记者了解到，目前，体彩和福彩的即开型彩票主要靠各站点的老板自行在官方网络渠道进行“抢票”。

四 | 完整白皮书已在官网发布。“但是现在官方也不放票了，想抢也抢不着。我们这属于临街的小微店，主要就靠着刮刮乐挣钱。”彩票店老板说。

五 |

。彩票店老板告诉记者，即开型彩票紧缺的情况大概是从去年年底开始的，“过去在网上订票都随便定，卖得不好的我们都不定，现在不行了，想抢都抢不到，没有票。”除了北京地区，记者在社交平台搜索关键词“刮刮乐缺货”，发现湖南、河南、广西、浙江等地也出现了不同程度的断货情况。4月11日，羊城晚报记者走访发现，广东广州线下多个店铺没有“刮刮乐”可售。对此，店家的解释是因为过于火热而导致的全国性缺货。4月10日中午，越牛新闻记者走访浙江绍兴城区多家彩票店，发现体彩和福彩门店都出现了缺货、断货的情况，不少店主只能靠囤货和借来维持店面运营。此前，有部分网友议论，即开型彩票缺货是因为国家出台了相关的管控措施。记者也了解到，2023年10月，财政部发布公告称，停止销售41款即开型福利彩票。这一信息是否表示即开型彩票货源紧缺是受到相关部门的管控？就这一问题，记者向中国福彩和中国体彩进行了求证。“我们没有接到管控的通知。

六 | 主要是因为印刷供不上销售，所以即开型彩票近期可能有一些短缺，过段时间会好的。”中国体彩工作人员表示。中国福彩的工作人员也给了记者同样的答案，即开型彩票目前广受消费者欢迎，断货是因为供不应求。“目前刮刮乐在全国都处于供不应求的状态，卖的很好。消费者想要买到刮刮乐的话可以多去几家站点看看。”依据规定，即开型彩票在印制等流程方面管理严格，有关机构要先报批及预订彩票印制的数额数量，继而再发行上市。相关人士表示，目前来看，即开型彩票热度提升明显，可能超出了印制数量预期，在市场出现供不应求的情况。