极简部署教程!五分钟搞定本地部署GPT-OSS!

极简部署教程!五分钟搞定本地部署GPT-OSS!

🎉 重磅开源!OpenAI 首个开源权重模型「gpt-oss」已上线! 从今天起,你的 Windows 电脑也能本地跑大模型啦~ 手把手教你 5 分钟完成部署,消费级显卡玩转 200 亿参数大模型!

推荐配置 说明 CPU Intel i7 / AMD Ryzen 7 及以上 内存 32 GB 起步,多多益善 显卡 最强王者 RTX 5090

入门选手 RTX 3050 也能跑,比较慢
无显卡,纯 CPU 也能跑,就是“龟速”

系统推荐 Windows 11 / Linux Python系统推荐 3.12



用 gpt 教程 RTX 5090 运行gpt-oss-20b,长文生成大概几十秒;RTX 3050 会更久,但学习 & 测试完全够用。

版本:120b & 20b(教程用 20b,硬件友好)

特点:开放权重,可自由研究、微调

GitHub:github.com/openai/gpt-…

1754734251803.jpg

1️⃣ 打开浏览器 → 访问 Ollama 官网

2️⃣ 点击 Download → 选 Windows → 下载安装包

3️⃣ 一路 Next 装完,Ollama 自动在后台跑

1754734089271.jpg

  1. -打开 PowerShell 或 CMD,执行以下两个步骤

拉取模型


1754734731528.jpg

  1. 启动对话

  • 安装完 Ollama 后,桌面应用会自动弹出
  • 顶部下拉框选中 gpt-oss:20b,立刻开聊!

1754734377018.jpg

登录 Ollama Hub → 创建个人资料

登录后,模型即可自动联网搜索最新信息

想打造「专属模型」?

准备数据集 → 微调

写 Modelfile → 自定义系统提示词、超参数 → 构建新版本

让 gpt-oss 不止跑在终端,还能在浏览器里丝滑聊天!

打开 Ubuntu 终端,复制粘贴即可:


脚本会自动下载二进制文件并注册为 systemd 服务

安装完执行 systemctl status ollama 可看到绿灯 active (running) ✅


① 安装 Docker(如已装可跳过)​​​​​​​


② 一键启动 Open WebUI 容器


  • 地址栏输入 http://
    <你的 ubuntu="" 服务器="" ip="">
    :8080
  • 首次访问 → 注册账户
  • 左上角模型下拉框 → 选中 gpt-oss:20b → 即刻对话!
  • Deepseek-R1
  • Llama 3
  • qwen 3
  • ……100+ 开源模型,等你自己探索!

觉得有用可以点个赞加关注👍,我将持续更新实用小技巧!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请联系我们举报,一经查实,本站将立刻删除。

发布者:全栈程序员-站长,转载请注明出处:https://javaforall.net/239829.html原文链接:https://javaforall.net

(0)
上一篇 2026年3月16日 上午9:01
下一篇 2026年3月16日 上午9:01


相关推荐

关注全栈程序员社区公众号