Berkeley AI Research·· 2026-05-08AI 评分38
自适应并行推理:高效推理扩展的下一范式
Adaptive Parallel Reasoning: The Next Paradigm in Efficient Inference Scaling
AI 导读
自适应并行推理将何时拆分任务、启用多少并发线程及如何协调的决策交给模型,而非依赖外部预设结构。现有并行方法可让多条推理路径同时展开,但常受固定并行规模或搜索策略限制。自适应控制旨在按问题选择并行方式,避免简单任务浪费计算、复杂任务拆分不当。
来源:Berkeley AI Research · bair.berkeley.edu