【动手学大模型开发】使用 LLM API：文心一言

目录

2. 使用文心一言

2.1 千帆 SDK

2.1.1 API 申请指引

获取密钥

2.1.2 调用文心千帆 API

2.2 ERNIE SDK

2.2.1 API 申请指引

2.2.2 调用 Ernie Bot API

本章节主要介绍四种大语言模型（ChatGPTAPI、文心一言、讯飞星火、智谱 GLM）的 API 申请指引和 Python 版本的原生 API 调用方法，读者按照实际情况选择一种自己可以申请的 API 进行阅读学习即可。如果你需要在 LangChain 中使用 LLM，可以参照LLM 接入 LangChain中的调用方式。

• ChatGPT：推荐可科学上网的读者使用；
• 文心一言：当前无赠送新用户 tokens 的活动，推荐已有文心 tokens 额度用户和付费用户使用；
• 讯飞星火：新用户赠送 tokens，推荐免费用户使用；
• 智谱 GLM：新用户赠送 tokens，推荐免费用户使用。

，由百度于 2023 年 3 月 27 日推出的中文大模型，是目前国内大语言模型的代表产品。受限于中文语料质量差异及国内计算资源、计算技术瓶颈，文心一言在整体性能上距离 ChatGPT 仍有一定差异，但在中文语境下已展现出了较为优越的性能。文心一言所考虑的落地场景包括多模态生成、文学创作等多种商业场景，其目标是在中文语境下赶超 ChatGPT。当然，要真正战胜 ChatGPT，百度还有很长的路要走；但在生成式 AI 监管较为严格的国内，作为第一批被允许向公众开放的生成式 AI 应用，文心一言相对无法被公开使用的 ChatGPT 还是具备一定商业上的优势。

百度同样提供了文心一言的 API 接口，其在推出大模型的同时，也推出了  企业级大语言模型服务平台，包括了百度整套大语言模型开发工作链。对于不具备大模型实际落地能力的中小企业或传统企业，考虑文心千帆是一个可行的选择。当然，本教程仅包括通过文心千帆平台调用文心一言 API，对于其他企业级服务不予讨论。

2.1 千帆 SDK

2.1.1 API 申请指引

获取密钥

百度智能云千帆大模型平台提供了多种语言的千帆 SDK，开发者可使用 SDK，快捷地开发功能，提升开发效率。

在使用千文心一言 ERNIE Bot 教程帆 SDK 之前，需要先获取文心一言调用密钥，在代码中需要配置自己的密钥才能实现对模型的调用，下面我们以 Python SDK为例，介绍通过千帆 SDK 调用文心模型的流程。

首先需要有一个经过实名认证的百度账号，每一个账户可以创建若干个应用，每个应用会对应一个 API_Key 和 Secret_Key。

进入文心千帆服务平台，点击上述按钮，创建一个调用文心大模型的应用。

接着点击按钮，进入应用创建界面：

简单输入基本信息，选择默认配置，创建应用即可。

创建完成后，我们可以在控制台看到创建的应用的 、。

需要注意的是，千帆目前只有 Prompt模板、Yi-34B-Chat 和 Fuyu-8B公有云在线调用体验服务这三个服务是免费调用的，如果你想体验其他的模型服务，需要在计费管理处开通相应模型的付费服务才能体验。

我们将这里获取到的 、 填写至  文件的  和  参数。如果你使用的是安全认证的参数校验，需要在百度智能云控制台-用户账户-安全认证页，查看 、，并将获取到的参数相应的填写到  文件的 、。

然后执行以下代码，将密钥加载到环境变量中。

Copy to clipboardErrorCopied

2.1.2 调用文心千帆 API

百度文心同样支持在传入参数的 messages 字段中配置 user、assistant 两个成员角色的 prompt，但与 OpenAI 的 prompt 格式不同的是，模型人设是通过另一个参数 system 字段传入的，而不是在 messages 字段中。

下面我们使用 SDK，封装一个  函数供后续使用。

再次提醒读者：如果账户中没有免费的或者购买的额度，在执行下述代码调用文心  时，会有如下报错：。

点击模型服务可以查看千帆支持的全部模型列表。

Copy to clipboardErrorCopied

如果你是免费用户，在使用上述函数时，可以在入参中指定一个免费的模型（例如 ）再运行：

Copy to clipboardErrorCopied

Copy to clipboardErrorCopied

如果你有文心系列模型  的使用额度，则可直接运行如下函数：

Copy to clipboardErrorCopied

Copy to clipboardErrorCopied

百度千帆提供了多种模型接口供调用，其中，上述我们使用的  模型的对话 chat 接口，也就是常说的百度文心大模型。此处简要介绍文心大模型接口的常用参数：

Copy to clipboardErrorCopied

2.2 ERNIE SDK

2.2.1 API 申请指引

这里将使用  中的  来调用文心一言。ERNIE Bot 为开发者提供了便捷易用的接口，使其能够轻松调用文心大模型的强大功能，涵盖了文本创作、通用对话、语义向量以及AI作图等多个基础功能。 并不像  那样支持各种大语言模型， 而是只支持百度自家的文心大模型。目前 ERNIE Bot 支持的模型有：

Copy to clipboardErrorCopied

在使用 ERNIE SDK 之前，需要先获取 AI Studio 后端的认证鉴权（access token），在代码中需要配置自己的密钥才能实现对模型的调用，下面我们以 Ernie Bot为例，介绍通过 ERNIE Bot 调用文心模型的流程。

首先需要在AI Studio星河社区注册并登录账号（新用户会送100万token的免费额度，为期3个月）。

点击  获取账户的 access token，复制 access token 并且以此形式  保存到  文件中。 

然后执行以下代码，将密钥加载到环境变量中。

2.2.2 调用 Ernie Bot API

文章来源于互联网:【动手学大模型开发】使用 LLM API：文心一言

相关推荐: 华山论剑之JAVA中的“方法论”

这里是：钮钴禄.爱因斯晨~ 更多精彩：个人主页 JAVA专栏：Java 热门文章1：赛博算命之梅花易数 热门文章2：赛博算命之周易六十四卦 大佬们互三哦~~互三必回，后台踢踢哦~ 前言 在 Java 编程的广袤世界里，方法作为构建程序逻辑的基础单元，扮演着举足…