2.8 星火大模型配置
全栈程序员-站长
•
•
科大讯飞 •
阅读 2
1. 配置说明 开关大模型配置时,平台将进行弹窗提示,告知当前操作对应的AIUI服务链路将进行变更,开发者做AIUI集成开发时,需要重点关注端侧协议的切换和结果解析。
温馨提示
星火大模型配置关闭后,下方的配置项就算有配置开启,能力也将不再生效。因为此时AIUI服务切换到传统语义链路,不再支持大模型相关能力。
 
2. 问答 该配置项是给通用大模型服务链路配置自定义大模型链路的文档问答。 2.1. 文档问答配置 点击“添加”,可以配置当前账号下创建并发布好的文档问答   2.2. 文档问答设置 点击“设置”,可以对文档问答生效策略进行配置【针对所有文档问答生效】,包括: – 检索方法 – 单向量召回 – 多路召回 – 相关性阈值
知识说明
1、相关性就是知识片段和用户问题的匹配程度,数值在 0 到 1 之间。这个值越高,说明这个知识片段越有可能帮你答好问题。
2、检索方法就是计算相关性的方法。单向量召回是靠算语义向量的相似度来得出结果;多路召回则是把语义向量、关键词等多种方式的相似度合起来计算。
为了筛选出足够匹配的知识片段,会设定一个 “相关性阈值”—— 比如阈值设为 0.6,就意味着只保留相关性数值≥0.6 的知识片段,低于这个值的会被排除,避免不相关的知识干扰回答。
 
3. 智能体 该配置项是给通用大模型服务链路配置自定义大模型链路的旧版智能体。 点击“添加”,可以配置当前账号下创建并发布好的新版智能体,点击“创建智能体”也可以跳转到智能体开发界面进行自定义智能体开发。
知识说明
1、旧版智能体:仅提供意图匹配能力,开发者编辑时仅提供语料设置
2、新版智能体:除提供意图匹配能力,开发者可以按照业务需要进行节点能力模块自定义编辑。与目前主流智能体开发方式基本保持一致
 
4. 搜索引擎 该项提供大模型联网搜索能力项,默认是关闭的,开发者可以自行进行开启。 当开启后用户进行语音交互时,当服务判断需要进行搜索时,会调用联网服务进行信息搜索,然后大模型对搜索的信息进行总结答复。 
5. 知识溯源 该能力项主要是控制大模型服务结果下发的,通常作为服务链路中加载文档问答或联网搜索获取的知识点,内容比较多,默认是不下发的。当开发者需要了解大模型回复的内容从哪里获取的时候,可以开启该能力项,开启后AIUI服务在交互时,会新增下发 cbm_knowledge 结果。 
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。
发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/280841.html原文链接:https://javaforall.net