在人工智能领域,大语言模型如雨后春笋般涌现,为自然语言处理带来了前所未有的突破。然而,高昂的使用成本、复杂的申请流程以及技术门槛,常常成为制约广大研究者和开发者利用这些强大工具进行创新的障碍。OpenManus,作为一款开源的大语言模型工具,正是为了解决这一难题而生,它打破了传统大语言模型的壁垒,让更多人能够便捷地享受到自然语言处理的魅力。本文将带您走进OpenManus的本地部署实战之旅,从环境准备到部署完成,每一步都经过精心设计与详细阐述,确保您能够轻松上手并成功运行这一强大的工具。通过本教程的亲测有效验证,您将不再受限于高昂的费用和繁琐的申请流程,而是能够自由地运用OpenManus进行各种自然语言处理任务,开启您的创新之旅。
由于工作太忙,已经连续断更三年的我,今天实在忍不住给大家分享一些自己的学习笔记。大语言模型就是神仙打架,从gpt到deepseek再到Manus,但是Manus需要申请权限,而且很难申请下来,甚至一个账号售价达到了几万RMB,OpenManus(github网站如下所示:mannaandpoem/OpenManus: No fortress, purely open ground. OpenManus is Coming.)看不下去了,花了三天时间给搞出来了。今天这个文章我就带大家把OpenManus如何本地部署给详细走一遍,后面准备录制一个视频,大家多多关注我的账号哦。
(1)进入anaconda网站下载
manus 教程
(2)检测安装是否成功
cmd进入输入conda,就会出现一系列的conda信息如下

表明conda安装成功。
(3)创建并激活虚拟环境
首先创建虚拟环境

这就把虚拟环境创建成功了
激活虚拟环境

这个虚拟环境就激活成功了
下载OpenManus代码
有git的可以使用以下命令下载,没有的直接再github里面下载。

这就下载完成了OpenManus的代码
下一步

(4)下载OpenManus必要的组件
这里我们使用的清华镜像源进行安装,否则会非常的慢

这就把所有的组件都安装成功了。
OpenManus 需要对其使用的大语言模型(LLM)的应用程序编程接口(APIs)进行配置。按照以下步骤来设置你的配置。
(1)在配置目录中创建一个名为“config.toml”的文件。
官网给的是Linux版本的,如下:
我们需要改为windows版本,如下:
(2)编辑“config/config.toml”这个文件,添加你的 API 密钥并自定义设置。
官网使用的openai的,但是openai是收费的,我们使用免费的,再本地使用ollama。
下载ollama
下载地址如下所示:
Ollama
https://ollama.com/安装如下:

安装以后配置环境变量

查看是否安装成功

下载model
进入官网下载model,链接如下
mistral https://ollama.com/library/mistral

下载默认的7B 的mistral。如下:


这样,我们就安装好了。
修改配置文件
在OpenManus安装目录下(即为:C:Users18851OpenManusconfig)有一个config.toml文件,
这个文件如下:
由于openai是收费的,对上面的文件首先需要修改为自己本地部署的model、base_url以及api_key(本地部署的只需要修改model和url就可以不需要api_key),但是用在线的就需要填写,本文用的是在线的,修改为:
修改这个文件:

这样我们就算设置完了。
重新cmd,激活open_manus这个环境。然后cd 到OpenManus这个根目录。如下:

调用主函数:
如下:

发现,我们已经成功的跑起来了。
经过本文的详细指导与实践,我们成功完成了OpenManus的本地部署。从安装必要的软件环境,到下载OpenManus代码及组件,再到配置LLM编程接口,最后通过实测步骤验证部署效果,每一步都凝聚了我们的心血与努力。通过本次实战教程,我们不仅掌握了OpenManus的本地部署技巧,更重要的是,我们为自然语言处理领域的研究与发展贡献了一份力量。相信随着OpenManus的广泛应用与深入探索,将会有更多的创新成果涌现,推动人工智能领域不断向前发展。
发布者:Ai探索者,转载请注明出处:https://javaforall.net/248375.html原文链接:https://javaforall.net
