讯飞星火大模型怎么使用标准的OpenAI API格式来访问？

520 0 1

这次是看怎么来用python语言来编写调用科大讯飞的星火大模型的示例。

不过我们这里使用的是OpenAI的python包，用标准的OpenAI API的格式来访问。

智增增的大模型API接口，就可以实现，通过标准的 OpenAI API 格式访问绝大部分的大模型，包括：支持百度文心一言、阿里、讯飞、清华ChatGLM、百川、GPT3.5、GPT4、Embedding、Whisper、Fine-tuning、assistant、google gemini、claude等

（当然其它模型也是类似的，具体的模型列表可以参考这里： http://doc.zhizengzeng.com/doc-3979947）

废话不多说，直接上代码：

第1步：用手机号登录智增增，获取复制出key和url，地址：http://gpt.zhizengzeng.com/#/login

第2步：编写代码。注意配置的base_url是：https://flag.smarttrot.com/v1
然后直接上代码

import os
from openai import OpenAI
import requests
import time
import json
import time

API_SECRET_KEY = “xxxxxx”;
BASE_URL = “https://flag.smarttrot.com/v1/”

# chat with other model
def chat_completions4(query):
client = OpenAI(api_key=API_SECRET_KEY, base_url=BASE_URL)
resp = client.chat.completions.create(
model=”SparkDesk”,
messages=[
{“role”: “system”, “content”: “You are a helpful assistant.”},
{“role”: “user”, “content”: query}
]
)
print(resp)
print(resp.choices[0].message.content)

if __name__ == ‘__main__’:
chat_completions4(“你是哪个公司开发的什么模型？”);

最后就能看到返回结果了

ChatCompletion(id='', choices=[Choice(finish_reason='stop', index=0, message=ChatCompletionMessage(content='我是由科大讯飞开发的讯飞星火认知大模型，我的设计和构建都是由科大讯飞的团队进行的，并且不断进行更新和改进，以让我能够为用户提供更好的服务。', role='assistant', function_call=None, tool_calls=None))], created=1704960724, model=None, object='chat.completion', system_fingerprint=None, usage=CompletionUsage(completion_tokens=42, prompt_tokens=31, total_tokens=73), code=0, msg='ok') 我是由科大讯飞开发的讯飞星火认知大模型，我的设计和构建都是由科大讯飞的团队进行的，并且不断进行更新和改进，以让我能够为用户提供更好的服务。