TensorOcean Global 文档
SDK 接入

Python SDK

运行完整的 Chat Completions 示例,再按需使用其他协议或流式输出。

准备 SDK 支持的 Python 3,在同一终端设置首个请求中的环境变量。以下使用 python;如果系统提供的是 python3,相应替换命令。已有项目建议使用其虚拟环境。

1. 安装一个 SDK

python -m pip install openai

2. 保存并运行

将下面的完整文件保存为 example.py:

import os
from openai import OpenAI

def check_response(result: object) -> None:
    error = getattr(result, "error", None)
    if error is not None:
        detail = error.get("message") if isinstance(error, dict) else getattr(error, "message", None)
        raise RuntimeError(f"TensorOcean Global API error: {detail or 'Request failed'}")

client = OpenAI(
    api_key=os.environ["TENSOROCEAN_API_KEY"],
    base_url=os.environ["TENSOROCEAN_API_ORIGIN"].rstrip("/") + "/v1",
    timeout=60.0,
    max_retries=0,
)

chat = client.chat.completions.create(
    model=os.environ["TENSOROCEAN_CHAT_MODEL"],
    messages=[{"role": "user", "content": "Reply with: Connected."}],
)
check_response(chat)
print(chat.choices[0].message.content)
python example.py

成功时会看到 Connected. 一类回复。示例在读取文本前检查 HTTP 200 中的错误信封。缺少变量通常表示配置和运行不在同一环境,见API 故障排查。

其他协议

只展开需要的接口。按密钥与地址设置对应模型变量;支持一种协议不代表支持另一种。

按需开启流式输出

替换对应示例中的非流式调用,保留它的导入、错误检查和客户端。每个片段各发送一次请求。异常应使本次任务失败,或由应用捕获并标记结果未完成。

示例关闭自动重试,并设置 60 秒超时;请按实际任务调整。重试前核对服务端或工具是否已经执行,另一次请求可能再次计费。协议结束标记、流内错误和工具执行责任见流式输出与工具调用。

本页目录