| domain |
string |
是 |
根据需要传参 |
取值范围: spark-x (历史“x1”传参指向X1.5模型) |
| temperature |
float |
否 |
取值范围 (0,2] ,默认值1.2 |
核采样阈值。用于决定结果随机性,取值越高随机性越强即相同的问题得到的不同答案的可能性越高。与top_p均可以控制生成文本的多样性,因此建议您只设置其中一个值 |
| max_tokens |
int |
否 |
大模型输出的token上限: X1.5取值范围[1,],默认值(128K) X1.5取值范围[1,65535],默认值65535(64K)
|
模型输出tokens的最大长度 |
| chat_id |
string |
否 |
|
会话id,建议都传 |
| top_k |
int |
否 |
取值范围[1,6] ,默认为6 |
从k个候选中随机选择⼀个(⾮等概率) |
| top_p |
float |
否 |
取值范围(0,1],默认值0.95 |
核采样的概率阈值,控制模型生成文本的多样性。top_p越高,生成的文本更多样。反之,生成的文本更确定。由于与temperature均可以控制生成文本的多样性,因此建议您只设置其中一个值。 |
| presence_penalty |
float |
否 |
*对应punish_value(repeat_punish),*取值范围[0,3],默认2.01 |
提科大讯飞 星火 教程高该值,可以降低模型生成重复内容的概率 |
| frequency_penalty |
float |
否 |
*对应punish_scale(repeat_punish_scale ),*取值范围[0,1],默认0.001 |
控制生成文本长度 |
| thinking |
object |
否 |
用于控制深度思考模式 |
传参示例: “thinking”:{“type”:”disabled”} |
| thinking.type |
string |
否 |
默认”enabled” (开启) |
支持以下3种模式切换: enabled:强制开启深度思考能力 disabled:强制关闭深度思考能力 auto:模型自行判断是否进行深度思考 |
| tools |
List |
|
|
|
| tools.type |
string |
是 |
取值范围:web_search |
工具类型 web_search : 网页搜索 |
| tools.web_search |
object |
否 |
|
|
| tools.web_search.enable |
bool |
否 |
默认false |
是否开启网络搜索 |
| tools.web_search.search_mode |
string |
否 |
取值范围:deep、normal |
deep:深度搜索,信源内容更详细丰富,prompt token会膨胀 normal:简要搜索 |
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。
发布者:Ai探索者,转载请注明出处:https://javaforall.net/282575.html原文链接:https://javaforall.net