接口：TextGenerationStreamDetails

属性

序列的最佳

• Optional best_of_sequences：TextGenerationStreamBestOfSequence[]

使用 best_of 参数时的额外序列

定义于

inference/src/tasks/nlp/textGenerationStream.ts:68

---

finish _ 原因

• finish_reason： TextGenerationStreamFinishReason

生成结束原因

定义于

inference/src/tasks/nlp/textGenerationStream.ts:58

---

生成的 tokens

• generated_tokens：number

生成的标记数量

定义于

inference/src/tasks/nlp/textGenerationStream.ts:60

---

prefill

• 预填充：TextGenerationStreamPrefillToken[]

提示词

定义于

inference/src/tasks/nlp/textGenerationStream.ts:64

---

seed

• Optional seed：number

如果已启用采样，则采样种子

定义于

inference/src/tasks/nlp/textGenerationStream.ts:62

---

tokens

• tokens：TextGenerationStreamToken[]

定义于

inference/src/tasks/nlp/textGenerationStream.ts:66

Update on GitHub