thinkingjimmy / Learning-Prompt

Free prompt engineering online course. ChatGPT and Midjourney tutorials are now included!

Home Page:https://learningprompt.wiki

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

关于高级篇-Zero-Shot Prompts的一点疑惑

etc1208 opened this issue · comments

原文
其中提到:“首先各位要清楚像 ChatGPT 这类产品,它是一个统计语言模型,本质上是基于过去看到过的所有数据,用统计学意义上的预测结果进行下一步的输出(这也就是为什么你在使用 ChatGPT 的时候,它的答案是一个字一个字地吐出来,而不是直接给你的原因,因为答案是一个字一个字算出来的”

“答案是一个字一个字地吐出来” 不是因为使用了流式输出的结果吗?

不确定你说的流式输出是不是我理解的流式输出 😂

首先这个一个字一个字吐出来不是前端刻意实现的,而是模型(或者说后端)返回结果的时候,就是一个个字算出来,然后一个字一个字吐出来的。

举个例子:
当你问 AI 一个问题时,后端会先算出答案的第一个字是 A,然后再算出来第二个字是 B,接着是 C....
最后组成一句话。