sudo apt updatesudo apt install -y python3-pip python3-venv git build-essential
pip3 install claudecode
pip3 install transformers torch sentencepiece accelerate
如果希望从源码安装GLM-4.6:
claude code 教程
git clone https://github.com/THUDM/GLM-4cd GLM-4pip3 install -e .
创建一个Python脚本test.py:
from transformers import AutoTokenizer, AutoModeltokenizer = AutoTokenizer.from_pretrained("THUDM/glm-4-9b-chat", trust_remote_code=True)model = AutoModel.from_pretrained("THUDM/glm-4-9b-chat", trust_remote_code=True).half().cuda()response, history = model.chat(tokenizer, "你好", history=[])print(response)
运行:,若输出正常,说明智谱GLM-4.6安装成功。
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。
发布者:Ai探索者,转载请注明出处:https://javaforall.net/274180.html原文链接:https://javaforall.net
