Skip to content

Commit

Permalink
fixed: issues/5
Browse files Browse the repository at this point in the history
  • Loading branch information
wangwei1237 committed Nov 23, 2023
1 parent a255b3a commit 10c3333
Show file tree
Hide file tree
Showing 2 changed files with 2 additions and 2 deletions.
2 changes: 1 addition & 1 deletion index.qmd
Original file line number Diff line number Diff line change
Expand Up @@ -10,7 +10,7 @@ description-meta: |

如果您想大概了解一下相关的概念,并以此来指导自己的实践,想了解目前在应用开发中有哪些工具以及这些工具的具体实践用法,那么这本书正是为您而作。

正如这本书的题目,这本书会更偏向**实践、应用**但是我们也会在数据介绍大模型相关的概念,这些概念会让您对大模型有一个初步的认识,仅此而已。如果您想深入了解相关概念的底层细节,我们也提供了对应的文献,您可以深入阅读相关的文献。
正如这本书的题目,这本书会更偏向**实践、应用**但是我们也会在书中介绍大模型相关的概念,这些概念会让您对大模型有一个初步的认识,仅此而已。如果您想深入了解相关概念的底层细节,我们也提供了对应的文献,您可以深入阅读相关的文献。

这是一个飞速发展的时代,技术、工具的发展亦是如此——每天有新的工具产生,也会有部分技术过时——因此我们以在线书籍的方式来构建这本书以保持内容的与时俱进。这也是一本开放的书籍,如果您希望为本书贡献自己的力量,您可以点击导航栏右上角的图标进入本书的代码仓库,提交您的内容。

Expand Down
2 changes: 1 addition & 1 deletion llm_intro.qmd
Original file line number Diff line number Diff line change
Expand Up @@ -58,7 +58,7 @@ GPT-2 最大的贡献也在于他通过实践验证了大模型的迁移学习
### 上下文学习能力和涌现
2020 年,OpenAI 发布了 1750 亿参数规模的、性能更加强大的 GPT-3。[-@NEURIPS2020_1457c0d6] 中提到,GPT-3 提出了上下文学习(ICL:in-context learning)的概念。ICL 可以指导 LLM 理解以自然语言形式呈现的任务,利用 ICL 的能力,我们可以通过优化给 LLM 的输入以获取更好的结果。在 ICL 的加持下,@sec-prompt_engineering 中介绍的提示词工程才得以成为可能。

GPT-3 在多种自然语言处理任务上展现出了惊人的性能,甚至可以仅通过简单的提示词来适应不同的处理任务。而研究人员实际上没有在 GPT-3 训练完之前就预测到模型有这么强大的能力,GPT-3 的实践证明,LLM 可以具备涌现能力(Emergent Ability)。
GPT-3 在多种自然语言处理任务上展现出了惊人的性能,甚至可以仅通过简单的提示词来适应不同的处理任务。研究人员并未在 GPT-3 训练完成之前预测到该模型具备如此强大的能力。GPT-3 的实践证明,LLM 可以具备涌现能力(Emergent Ability)。

### 代码能力和指令遵循能力
为了进一步提升模型的性能,OpenAI 继续探索了两种主要方法:基于代码数据训练和,与人类偏好保持一致。
Expand Down

1 comment on commit 10c3333

@wangwei1237
Copy link
Owner Author

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

Please sign in to comment.