![](https://cdn.msbd123.com/ad/ad.png)
本文受人类思维和写作过程的启发,提出了“思维骨架”(Skeleton-of-Thought,简称SoT)。指导首先生成答案的骨架,然后通过并行API调用或批量解码来并行完成每个骨架点的内容。SoT不仅显著提高了速度(在11种不同LLMs上最多达到2.39倍),而且还可能在多个问题类别上提高答案的质量,包括多样性和相关性。
Skeleton-of-Thought的特点:
1. 显著提高解码速度,最高可达2.39倍
2. 提高答案的多样性和相关性
3. 支持并行API调用和批量解码
4. 基于人类思维和写作过程的设计
Skeleton-of-Thought的功能:
1. 生成答案的骨架
2. 通过并行方式完成每个骨架点的内容
3. 在数据中心化优化中应用
相关导航
暂无评论...