英伟达CEO黄仁勋在英伟达股东大会上表示，推理需要更多计算。仅在过去一年里，tokens（词元）生成就激增了50到100倍。为了满足这种指数级的激增，大型人工智能工厂正在各地崛起。仅微软在上个季度就处理了超过100万亿的tokens，是一年前的5倍。（第一财经记者 郑栩彤）

举报 第一财经广告合作，请点击这里此内容为第一财经原创，著作权归第一财经所有。未经第一财经书面授权，不得以任何方式加以使用，包括转载、摘编、复制或建立镜像。第一财经保留追究侵权者法律责任的权利。如需获得授权请联系第一财经版权部：banquan@yicai.com 相关阅读 DeepSeekR1幻觉率最高降低50%，用户喊话想要R2模型

报告显示此前 R1模型幻觉率在21%左右。

302 05-29 21:34 AI算力需求涌向模型推理，国产芯片站上竞技台了

2024年中国数据中心加速卡市场中，34.6%是国产算力，市场研究机构预计今年上半年国产算力占比应该会超四成。

7 673 05-28 15:02 华为云将发布盘古行业推理大模型

华为云将发布盘古行业推理大模型

54 04-24 10:12 Kimi开放平台：下调模型推理服务和上下文缓存价格

Kimi开放平台：下调模型推理服务和上下文缓存价格

0 04-07 16:52 OpenAI发布o3-mini卷入“价格战”，推理模型首次向免费用户开放

据OpenAI介绍，ChatGPT是首次向免费用户提供推理模型。

852 02-01 10:20 一财最热 点击关闭