96

什么是Test-Time Compute(推理时计算)?为什么最近受到关注?

前沿技术与发展趋势中等

📋 面试问题

什么是Test-Time Compute(推理时计算)?为什么最近受到关注?

✅ 期望回答

Test-Time Compute指在推理阶段投入更多计算资源(如生成更多候选、多步验证、蒙特卡洛树搜索)来提升输出质量

代表:OpenAI o1/o3系列、DeepSeek-R1,通过CoT和强化学习让模型在推理时「思考更久」 与训练时计算的区别:不增加模型参数,只增加推理时的token数/步骤 意义:可能突破模型大小的瓶颈,用「思考时间」换「智能」,改变「模型越大越好」的单一Scaling路径
#Test-Time Compute#o1#推理优化