SDK 接入
Python SDK
运行完整的 Chat Completions 示例,再按需使用其他协议或流式输出。
准备 SDK 支持的 Python 3,在同一终端设置首个请求中的环境变量。以下使用 python;如果系统提供的是 python3,相应替换命令。已有项目建议使用其虚拟环境。
1. 安装一个 SDK
python -m pip install openai2. 保存并运行
将下面的完整文件保存为 example.py:
import os
from openai import OpenAI
def check_response(result: object) -> None:
error = getattr(result, "error", None)
if error is not None:
detail = error.get("message") if isinstance(error, dict) else getattr(error, "message", None)
raise RuntimeError(f"TensorOcean Global API error: {detail or 'Request failed'}")
client = OpenAI(
api_key=os.environ["TENSOROCEAN_API_KEY"],
base_url=os.environ["TENSOROCEAN_API_ORIGIN"].rstrip("/") + "/v1",
timeout=60.0,
max_retries=0,
)
chat = client.chat.completions.create(
model=os.environ["TENSOROCEAN_CHAT_MODEL"],
messages=[{"role": "user", "content": "Reply with: Connected."}],
)
check_response(chat)
print(chat.choices[0].message.content)python example.py成功时会看到 Connected. 一类回复。示例在读取文本前检查 HTTP 200 中的错误信封。缺少变量通常表示配置和运行不在同一环境,见API 故障排查。
其他协议
只展开需要的接口。按密钥与地址设置对应模型变量;支持一种协议不代表支持另一种。
按需开启流式输出
替换对应示例中的非流式调用,保留它的导入、错误检查和客户端。每个片段各发送一次请求。异常应使本次任务失败,或由应用捕获并标记结果未完成。
示例关闭自动重试,并设置 60 秒超时;请按实际任务调整。重试前核对服务端或工具是否已经执行,另一次请求可能再次计费。协议结束标记、流内错误和工具执行责任见流式输出与工具调用。