大模型 · 芯片与算力 · 趋势线索

OCRia-1 背后的推理栈：单张 B200 上 token 生成提速近 10 倍

来源：RadarAI · 2026年11月4日 00:00

摘要

LlamaIndex 披露 OCRia-1 文档解析模型的推理优化方案，在单张 B200 GPU 上把 token 生成速度从约 285 tokens/sec 提升到约 2800 toke…

这是 Future Frontier 对外部来源的精选摘要。我们保留原始来源和链接，不全文转载，不将外部内容标记为原创。

来源：RadarAI
标签：大模型 · 芯片与算力
内容属性：趋势线索