ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。 在语义、数学、推理、代码和知识等多方面的数据集测评中, GLM-4-9B 及其人类偏好对齐的版本 GLM-4-9B-Chat 均表现出超越 Llama-3-8B 的卓越性能。除了能进行多轮对话,GLM-4-9B-Chat 还具备网页浏览、代码执行、自定义工具调用(Function Call)和长文本推理(支持最大 128K 上下文)等高级功能。本代模型增加了多语言支持,支持包括日语,韩语,德语在内的 26 种语言。还推出了支持 1M 上下文长度(约 200 万中文字符)的 GLM-4-9B-Chat-1M模型和基于 GLM-4-9B 的多模态模型 GLM-4V-9B。GLM-4V-9B 具备 1120 * 1120 高分辨率下的中英双语多轮对话能力,在中英文综合能力、感知推理、文字识别、图表理解等多方面多模态评测中,GLM-4V-9B 表现出超越 GPT-4-turbo-2024-04-09、Gemini 1.0 Pro、Qwen-VL-Max 和 Claude 3 Opus 的卓越性能。


GLM-4 开源模型旨在与开源社区一起推动大模型技术发展,恳请开发者和大家遵守 开源协议 ,勿将开源模型和代码及基于开源项目产生的衍生物用于任何可能给国家和社会带来危害的用途以及用于任何未经过安全评估和备案的服务。目前,其项目团队未基于 GLM-4 开源模型开发任何应用,包括网页端、安卓、苹果 iOS 及 Windows App 等应用。

尽管模型在训练的各个阶段都尽力确保数据的合规性和准确性,但由于 GLM-4-9B 模型规模较小,且模型受概率随机性因素影响,无法保证输出内容的准确。同时模型的输出容易被用户的输入误导。

更多详细信息见 Github 仓库。

基础环境最低要求说明:

环境名称 版本信息1 版本信息2 Ubuntu 22.04.4 LTS Cuda V12.1.105 Python 3.10.8 3.12.4 NVIDIA Corporation RTX 3060 *2 RTX 3090

1. 更新基础软件包

查看系统版本信息


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

配置 apt 国内源


这个命令用于更新本地软件包索引。它会从所有配置的源中检索最新的软件包列表信息,但不会安装或升级任何软件包。这是安装新软件包或进行软件包升级之前的推荐步骤,因为它确保了您获取的是最新版本的软件包。


这个命令用于安装 Vim 文本编辑器。 选项表示自动回答所有的提示为“是”,这样在安装过程中就不需要手动确认。Vim 是一个非常强大的文本编辑器,广泛用于编程和配置文件的编辑。

为了安全起见,先备份当前的 文件之后,再进行修改:


这个命令将当前的 文件复制为一个名为 的备份文件。这是一个好习惯,因为编辑 文件时可能会出错,导致无法安装或更新软件包。有了备份,如果出现问题,您可以轻松地恢复原始的文件。


这个命令使用 Vim 编辑器打开 文件,以便您可以编辑它。这个文件包含了 APT(Advanced Package Tool)用于安装和更新软件包的软件源列表。通过编辑这个文件,您可以添加新的软件源、更改现有软件源的优先级或禁用某些软件源。

在 Vim 中,您可以使用方向键来移动光标, 键进入插入模式(可以开始编辑文本), 键退出插入模式, 命令保存更改并退出 Vim,或 命令不保存更改并退出 Vim。

编辑 文件时,请确保您了解自己在做什么,特别是如果您正在添加新的软件源。错误的源可能会导致软件包安装失败或系统安全问题。如果您不确定,最好先搜索并找到可靠的源信息,或者咨询有经验的 Linux 用户。

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

使用 Vim 编辑器打开 文件,复制以下代码替换 里面的全部代码,配置 apt 国内阿里源。


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

安装常用软件和工具


出现以下页面,说明国内apt源已替换成功,且能正常安装apt软件和工具

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

2. 安装 NVIDIA CUDA Toolkit 12.1

  • 下载 CUDA Keyring

这个命令用于下载 CUDA 的 GPG 密钥环,它用于验证 CUDA 软件包的签名。这是确保软件包安全性的一个重要步骤。

  • 安装 CUDA Keyring

使用 安装下载的密钥环。这是必要的,以便 能够验证从 NVIDIA 仓库下载的软件包的签名。

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

  • 删除旧的 apt 密钥(如果必要)

这一步可能不是必需的,除非您知道 是与 CUDA 相关的旧密钥,并且您想从系统中删除它以避免混淆。通常情况下,如果您只是安装 CUDA 并使用 NVIDIA 提供的最新密钥环,这一步可以跳过。

  • 更新 apt 包列表

更新 apt 的软件包列表,以便包括刚刚通过 添加的 NVIDIA 仓库中的软件包。

  • 安装 CUDA Toolkit

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

出现以下页面,说明 NVIDIA CUDA Toolkit 12.1 安装成功

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

注意:这里可能有一个问题。NVIDIA 官方 Ubuntu 仓库中可能不包含直接名为 的包。通常,您会安装一个名为 或 的元包,它会作为依赖项拉入 CUDA Toolkit 的所有组件。请检查 NVIDIA 的官方文档或仓库,以确认正确的包名。

如果您正在寻找安装特定版本的 CUDA Toolkit,您可能需要安装类似 的包(如果可用),或者从 NVIDIA 的官方网站下载 CUDA Toolkit 的 安装程序进行手动安装。

请确保您查看 NVIDIA 的官方文档或 Ubuntu 的 NVIDIA CUDA 仓库以获取最准确的包名和安装指令。

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

  • 出现以上情况,需要配置 NVIDIA CUDA Toolkit 12.1 系统环境变量

编辑 ~/.bashrc 文件


插入以下环境变量


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

激活 ~/.bashrc 文件


查看cuda系统环境变量


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

3. 安装 Miniconda

  • 下载 Miniconda 安装脚本 : 智谱 AI GLM 教程
  • 使用 命令从 Anaconda 的官方仓库下载 Miniconda 的安装脚本。Miniconda 是一个更小的 Anaconda 发行版,包含了 Anaconda 的核心组件,用于安装和管理 Python 包。
  • 运行 Miniconda 安装脚本
  • 使用 命令运行下载的 Miniconda 安装脚本。这将启动 Miniconda 的安装过程。

按下回车键(enter)
ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

输入yes

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

输入yes

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

安装成功如下图所示

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

pip配置清华源加速


加入以下代码


注意事项:

  • 请确保您的系统是 Linux x86_64 架构,因为下载的 Miniconda 版本是为该架构设计的。
  • 在运行安装脚本之前,您可能需要使用 命令给予脚本执行权限。
  • 安装过程中,您将被提示是否同意许可协议,以及是否将 Miniconda 初始化。通常选择 “yes” 以完成安装和初始化。
  • 安装完成后,您可以使用 命令来管理 Python 环境和包。
  • 如果链接无法访问或解析失败,可能是因为网络问题或链接本身的问题。请检查网络连接,并确保链接是最新的和有效的。如果问题依旧,请访问 Anaconda 的官方网站获取最新的下载链接。

4. 从 github 仓库克隆项目

  • 克隆存储库:
  • git clone https://github.com/THUDM/GLM-4
  • 这个命令使用 从指定的 GitHub 地址克隆 “GLM-4” 项目,默认情况下 Git 会克隆整个项目的所有提交历史。
  • 切换目录:
  • cd GLM-4
  • 这个命令使用 (change directory)命令切换当前工作目录到刚才克隆的 “GLM-4” 目录中。这意味着接下来执行的所有命令都是在该项目目录下执行。

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

出现以上页面即是克隆项目成功!

请注意,如果 这个链接不存在或者无效, 命令将不会成功克隆项目,并且会报错。确保链接是有效的,并且您有足够的权限访问该存储库。

5. 创建虚拟环境


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

6. 安装模型依赖库

  • 切换到项目目录

  • 激活 ChatGLM4 虚拟环境

  • 安装 requirements.txt 依赖

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

依赖安装成功如下图所示:

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

7. 下载预训练模型


安装 modelscope 依赖包


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

创建一个Python下载脚本


插入以下下载代码


执行 modelscope_download.py 文件进行模型下载


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

8. 运行 web_demo_gradio.py 文件


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

出现以上代码“ModuleNotFoundError: No module named ‘peft’”报错,安装 peft 依赖包


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

出现以上报错,需要修改模型路径


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

替换为


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

出现以上结果,还需要继续修改 web_demo_gradio.py 文件的IP和端口,才能进入 gradio 页面


ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

替换为


替换说明:server_name 为IP地址, server_port 为端口号,根据访问需求进行替换即可

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

出现以下 Gradio 页面,即是模型已搭建完成。

ChatGLM4部署教程(非常详细)零基础入门到精通,收藏这篇就够了

黑客/网络安全学习路线

今天只要你给我的文章点赞,我私藏的网安学习资料一样免费共享给你们,来看看有哪些东西。

下面给大家分享一份2025最新版的网络安全学习路线资料,帮助新人小白更系统、更快速的学习黑客技术!

一个明确的学习路线可以帮助新人了解从哪里开始,按照什么顺序学习,以及需要掌握哪些知识点。

对于从来没有接触过网络安全的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。

CSDN大礼包:《网络安全入门&进阶学习资源包》免费分享

我们把学习路线分成L1到L4四个阶段,一步步带你从入门到进阶,从理论到实战。


在这里插入图片描述

L1级别:网络安全的基础入门

L1阶段:我们会去了解计算机网络的基础知识,以及网络安全在行业的应用和分析;学习理解安全基础的核心原理,关键技术,以及PHP编程基础;通过证书考试,可以获得NISP/CISP。可就业安全运维工程师、等保测评工程师。


在这里插入图片描述

L2级别:网络安全的技术进阶

L2阶段我们会去学习渗透测试:包括情报收集、弱口令与口令爆破以及各大类型漏洞,还有漏洞挖掘和安全检查项目,可参加CISP-PTE证书考试。


在这里插入图片描述

L3级别:网络安全的高阶提升

L3阶段:我们会去学习反序列漏洞、RCE漏洞,也会学习到内网渗透实战、靶场实战和技术提取技术,系统学习Python编程和实战。参加CISP-PTE考试。


在这里插入图片描述

L4级别:网络安全的项目实战

L4阶段:我们会更加深入进行实战训练,包括代码审计、应急响应、红蓝对抗以及SRC的挖掘技术。并学习CTF夺旗赛的要点和刷题


在这里插入图片描述

整个网络安全学习路线L1主要是对计算机网络安全的理论基础的一个学习掌握;而L3 L4更多的是通过项目实战来掌握核心技术,针对以上网安的学习路线我们也整理了对应的学习视频教程,和配套的学习资料。

书籍和学习文档资料是学习网络安全过程中必不可少的,我自己整理技术文档,包括我参加大型网安行动、CTF和挖SRC漏洞的经验和技术要点,电子书也有200多本,(书籍含电子版PDF)


在这里插入图片描述

对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的网安视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识

网上虽然也有很多的学习资源,但基本上都残缺不全的,这是我自己录的网安视频教程,上面路线图的每一个知识点,我都有配套的视频讲解。


在这里插入图片描述

学以致用 ,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。


在这里插入图片描述

“工欲善其事必先利其器”我为大家总结出了最受欢迎的几十款款黑客工具。涉及范围主要集中在 信息收集、Android黑客工具、自动化工具、网络钓鱼等,感兴趣的同学不容错过。

在这里插入图片描述

面试不仅是技术的较量,更需要充分的准备。

在你已经掌握了技术之后,就需要开始准备面试,我们将提供精心整理的网安面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。

如果你是要找网安方面的工作,它们绝对能帮你大忙。

这些题目都是大家在面试深信服、奇安信、腾讯或者其它大厂面试时经常遇到的,如果大家有好的题目或者好的见解欢迎分享。

参考解析:深信服官网、奇安信官网、Freebuf、csdn等

内容特点:条理清晰,含图像化表示更加易懂。

内容概要:包括 内网、操作系统、协议、渗透测试、安服、漏洞、注入、XSS、CSRF、SSRF、文件上传、文件下载、文件包含、XXE、逻辑漏洞、工具、SQLmap、NMAP、BP、MSF…


在这里插入图片描述


img

CSDN大礼包:《网络安全入门&进阶学习资源包》免费分享

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:Ai探索者,转载请注明出处:https://javaforall.net/271356.html原文链接:https://javaforall.net

(0)
上一篇 2026年3月12日 下午2:09
下一篇 2026年3月12日 下午2:09


相关推荐

关注全栈程序员社区公众号