使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

优点:即时响应,不受“服务区繁忙”影响;无敏感词审查;可以在查询本地知识库的同时使用联网搜索

缺点:付费(r1:16元/100万tokens);回复速度较官网慢;需购买云服务器或魔法上网


platform.deepseek.com/

使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

充值余额后在API keys选项卡处创建api,注意创建后需及时复制保存,后续无法再重新查看


anythingllm.com/

使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

下载安装后打开,点击上图红圈出可进入修改设置项

使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

在“customization”处可将软件语言改为中文

使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

在LLM首选项处将LLM提供商改为DeepSeek,复制粘贴购买的api并选择需要使用的模型(chat为v3,reason为r1),右上角保存。

使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

在代理技能处将Web Search打开,并选择服务提供商。Searxng无需魔法上网但需要在个人云服务器上部署,DuckDuckGo无需云服务器,但调用时需要魔法。完成后右上角保存。

DeepSeek 教程
使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

创建一个新工作区,点击工作区选项卡上的“齿轮”图标进行工作区配置。在聊天设置中将工作区llm提供商改为deepseek(如果仅配置了ds则无需选择),根据工作需求选择聊天模式和编写聊天提示(prompt),注意DeepSeek R1的温度不宜过高,否则幻觉严重。

prompt示例:

 你是一名网络小说作家,熟悉文学、小说写作、网络读者阅读习惯,要求根据用户提供的小说文本,给出修改建议,指出其中存在的情节漏洞和中文语法问题,同时符合小说原本的世界观;要求提出的修改建议保持中立、理性,简明扼要地指出问题和给出建议
使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

若要使用联网搜索功能,则要在代理配置中将工作区llm提供商改为deepseek(或其他已有模型)并确认。

使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

点击工作区选项卡上的“上传”图标,将需要处理的文档上传,网站可在下方粘贴。将希望ai在对话中查询的文档勾选移动到工作区后,关闭上传窗口即可开始对话。

使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

在对话窗口处点击“@”按钮,选择@agent即可调用web search工具进行网络搜索。同时该对话窗口内也可以直接上传文件进行文档对话。

使用DeepSeek+AnythingLLM制作本地ai问答机器人,并实现联网搜索

在@agent并发送信息后,若看到如图的工具调用记录,则证明web search配置成功,模型正在进行联网搜索。若只需要模型对本地内容进行分析和问答,则无需使用agent,减少模型回复的幻觉。

DeepSeek+AnythingLLM的方案是搭建本地ai知识库最简易的方法之一,得益于AnythingLLM自带嵌入引擎,绝大多数使用环境下只需要接入llm模型即可进行知识库问答。但AnythingLLM的自定义程度较低,无法使用较复杂的智能体,更适合进行批量文档处理。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/235959.html原文链接:https://javaforall.net

(0)
上一篇 2026年3月16日 下午1:06
下一篇 2026年3月16日 下午1:06


相关推荐

关注全栈程序员社区公众号