优点:即时响应,不受“服务区繁忙”影响;无敏感词审查;可以在查询本地知识库的同时使用联网搜索
缺点:付费(r1:16元/100万tokens);回复速度较官网慢;需购买云服务器或魔法上网
https://
platform.deepseek.com/
充值余额后在API keys选项卡处创建api,注意创建后需及时复制保存,后续无法再重新查看
https://
anythingllm.com/
下载安装后打开,点击上图红圈出可进入修改设置项
在“customization”处可将软件语言改为中文
在LLM首选项处将LLM提供商改为DeepSeek,复制粘贴购买的api并选择需要使用的模型(chat为v3,reason为r1),右上角保存。
在代理技能处将Web Search打开,并选择服务提供商。Searxng无需魔法上网但需要在个人云服务器上部署,DuckDuckGo无需云服务器,但调用时需要魔法。完成后右上角保存。
创建一个新工作区,点击工作区选项卡上的“齿轮”图标进行工作区配置。在聊天设置中将工作区llm提供商改为deepseek(如果仅配置了ds则无需选择),根据工作需求选择聊天模式和编写聊天提示(prompt),注意DeepSeek R1的温度不宜过高,否则幻觉严重。
prompt示例:
你是一名网络小说作家,熟悉文学、小说写作、网络读者阅读习惯,要求根据用户提供的小说文本,给出修改建议,指出其中存在的情节漏洞和中文语法问题,同时符合小说原本的世界观;要求提出的修改建议保持中立、理性,简明扼要地指出问题和给出建议
若要使用联网搜索功能,则要在代理配置中将工作区llm提供商改为deepseek(或其他已有模型)并确认。
点击工作区选项卡上的“上传”图标,将需要处理的文档上传,网站可在下方粘贴。将希望ai在对话中查询的文档勾选移动到工作区后,关闭上传窗口即可开始对话。
在对话窗口处点击“@”按钮,选择@agent即可调用web search工具进行网络搜索。同时该对话窗口内也可以直接上传文件进行文档对话。
在@agent并发送信息后,若看到如图的工具调用记录,则证明web search配置成功,模型正在进行联网搜索。若只需要模型对本地内容进行分析和问答,则无需使用agent,减少模型回复的幻觉。
DeepSeek+AnythingLLM的方案是搭建本地ai知识库最简易的方法之一,得益于AnythingLLM自带嵌入引擎,绝大多数使用环境下只需要接入llm模型即可进行知识库问答。但AnythingLLM的自定义程度较低,无法使用较复杂的智能体,更适合进行批量文档处理。
发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/235959.html原文链接:https://javaforall.net
