如何调用内网部署的大模型，如vllm和ollama

[ignitiondl]

导引中只有云端大模型可以设置

[lsdefine]

vLLM 和 Ollama 都兼容 OpenAI API 格式，直接在 mykey.py 里配置 apibase 指向内网地址即可。

示例：

# vLLM（默认端口 8000）
native_oai_config = {
    'name': 'vllm-local',
    'apikey': 'empty',                          # vLLM 默认不需要鉴权，随便填
    'apibase': 'http://192.168.1.100:8000/v1',  # 你的 vLLM 地址
    'model': 'Qwen/Qwen3-235B-A22B',           # vLLM 启动时指定的模型名
}

# Ollama（默认端口 11434）
native_oai_config = {
    'name': 'ollama-local',
    'apikey': 'ollama',                          # Ollama 不校验，随便填
    'apibase': 'http://192.168.1.100:11434/v1', # Ollama 的 OpenAI 兼容端点
    'model': 'qwen3:32b',                       # ollama list 里的模型名
}

apibase 自动拼接规则（见 mykey_template.py 注释）：

• http://host:port → 自动补 /v1/chat/completions
• http://host:port/v1 → 自动补 /chat/completions
• 完整路径 → 原样使用

变量名含 native + oai → 走 NativeOAISession（推荐，使用 API 原生 function calling）。