# 高级设置

深度自定义AI的生成行为。


# 🎛️ 采样参数

# Temperature(温度)

控制随机性,值越高输出越随机。

效果
0.1-0.3 非常确定,适合事实性回答
0.5-0.7 平衡,适合日常对话
0.8-1.2 创意模式,适合创作
1.5+ 高度随机,可能不连贯

推荐值: 角色扮演通常使用 0.7-1.0


# Top-P(核采样)

只考虑累积概率达到P的token。

效果
0.1 只选最可能的选项
0.5 中等多样性
0.9 高多样性
1.0 考虑所有选项

推荐值: 0.9-0.95


# Top-K

只考虑概率最高的K个token。

效果
1 贪婪解码,完全确定
10-40 中等多样性
100+ 高多样性
0 禁用(考虑所有)

# Min-P

过滤掉概率低于最高概率*min_p的token。

推荐值: 0.05-0.1


# Typical-P

基于熵的采样,保留"典型"的token。

推荐值: 0.95-1.0


# 🔁 重复惩罚

# Repetition Penalty

惩罚重复使用相同token。

效果
1.0 不惩罚
1.1-1.2 轻度惩罚,推荐
1.5+ 强惩罚,可能影响流畅度

# Repetition Penalty Range

考虑范围内的token进行惩罚。

推荐值: 1024-2048


# 🎲 Mirostat

自适应采样算法,保持一致的困惑度。

参数 说明
Mode 0=关闭, 1=Mirostat 1, 2=Mirostat 2
Tau 目标困惑度,推荐 5.0
Eta 学习率,推荐 0.1

# ✂️ 其他采样

# Tail-Free Sampling (TFS)

移除低概率的"尾部"token。

推荐值: 0.95-0.99

# Top-A

基于最高概率的动态截断。

推荐值: 0.0(禁用)或 0.1-0.5


# 🛑 停止序列

设置让模型停止生成的字符串。

# 常用停止序列

\n\nHuman:
\n\nUser: