Keras 3 API 文件 / KerasNLP / 採樣器 / TopKSampler

TopKSampler

[原始碼]

TopKSampler 類別

keras_nlp.samplers.TopKSampler(k=5, seed=None, **kwargs)

Top-K 採樣器類別。

此採樣器實現了 top-k 搜尋演算法。簡而言之,top-k 演算法從機率最高的 K 個詞彙中隨機選擇一個詞彙,選擇機率由機率決定。

參數

  • k:int,top-k 的 k 值。
  • seed:int。隨機種子。預設為 None

呼叫參數

{{call_args}}

範例

causal_lm = keras_nlp.models.GPT2CausalLM.from_preset("gpt2_base_en")

# Pass by name to compile.
causal_lm.compile(sampler="top_k")
causal_lm.generate(["Keras is a"])

# Pass by object to compile.
sampler = keras_nlp.samplers.TopKSampler(k=5, temperature=0.7)
causal_lm.compile(sampler=sampler)
causal_lm.generate(["Keras is a"])