zsjz-ai/ai-electron/electron/service/codex/providerService.ts

import { mkdir, readFile, writeFile } from 'node:fs/promises';
import { dirname, join, resolve } from 'node:path';
import { getCodexDataDir } from './codexHome';
import { DEFAULT_MODEL_INSTRUCTIONS } from './defaultModelInstructions';
import { chatRouter } from './chatRouter/routerService';
import { DEFAULT_API_KEY_ENV, PROVIDER_EXTRA_ALLOWLIST, type CodexProviderSpec, type CodexRuntime, type JsonValue } from './codexRuntime';
import type { AppliedProviderInfo, ApplyProviderInput } from './types';

/**
 * 把后端「模型管理」里的一条记录翻译成 Codex 的 model provider。
 * 全程不做任何 Codex/OpenAI 账号登录：靠 wire_api="responses" + requires_openai_auth=false + env_key。
 * apiKey 只存在于内存与子进程环境变量，落盘的 AppliedProvider 不含任何密钥。
 * 端点只会 Chat 协议时走内置路由层（chatRouter）桥接，对 codex 仍呈现为 Responses 端点。
 */

export const PROVIDER_ID = 'zsjz';

export type AppliedProvider = AppliedProviderInfo;

/**
 * 端点协议判定。Codex 0.155.1 起 `wire_api="chat"` 被删掉（实测 0.146/0.151/0.155 三个版本
 * 都在加载 config.toml 时就报 "wire_api = \"chat\" is no longer supported"），因此对 codex
 * 永远说 Responses；只会 Chat 的端点由内置路由层翻译后对接，应用时不再拒绝。
 */
export type EndpointProtocol = 'responses' | 'chat-only' | 'unsupported' | 'unreachable';

export interface EndpointProbeResult {
  protocol: EndpointProtocol;
  /** /responses 的 HTTP 状态；未探或网络失败为 null */
  responsesStatus: number | null;
  /** /chat/completions 的 HTTP 状态；只在需要区分 chat-only 时才探，未探为 null */
  chatStatus: number | null;
  detail: string;
}

const EXTRA_ALLOWLIST: readonly string[] = PROVIDER_EXTRA_ALLOWLIST;

/**
 * 自部署端点多是单槽推理：实测一轮 prompt 4.6 万 token、prefill 只有 ~29 token/s，
 * 首字之前可以静默十几分钟。Codex 在流建立后每次轮询都套一个
 * `timeout(stream_idle_timeout_ms, stream.next())`（rust-v0.155.1
 * codex-api/src/sse/responses.rs:580-606），默认 300_000（model-provider-info/src/lib.rs:29），
 * 到期给出可重试的 CodexErr::Stream（protocol/src/error.rs:372-413），按 stream_max_retries
 * （默认 5）重发整轮 —— 把几分钟的活儿重复五遍，还挤掉前缀缓存。
 *
 * 所以这里：空闲窗口放宽到远大于最差 prefill；两个重试都关到 0。
 * 注意不要再写 `supports_websockets=false`：那是 serde 默认值，用 -c 声明的 provider 从来不走
 * WebSocket，那个 15 秒是 websocket_connect_timeout_ms，与此无关（此前一条错误注释把六次修改带偏）。
 * 模型管理 config 里显式写的值优先。
 */
const PROVIDER_DEFAULTS: Readonly<Record<string, JsonValue>> = Object.freeze({
  request_max_retries: 0,
  stream_max_retries: 0,
  stream_idle_timeout_ms: 1_800_000,
});

function providerFile(): string {
  return join(getCodexDataDir(), 'provider.json');
}

/** Codex 要求 base_url 是 API 根（形如 https://api.openai.com/v1），它自己再拼路由 */
export function normalizeBaseUrl(raw: string | null | undefined): string | null {
  const value = (raw ?? '').trim().replace(/\/+$/u, '');
  return value || null;
}

/** 给页面的非阻断提示；返回 null 表示没问题 */
export function baseUrlHint(baseUrl: string | null): string | null {
  if (!baseUrl) return '未配置 base_url';
  if (!/^https?:\/\//u.test(baseUrl)) return 'base_url 必须以 http:// 或 https:// 开头';
  if (!/\/v\d+$/u.test(baseUrl)) {
    return 'base_url 通常应写到版本段（如 .../v1），否则拼出的 /responses 可能 404';
  }
  return null;
}

function parseJsonRecord(raw: unknown): Record<string, unknown> | null {
  if (!raw) return null;
  if (typeof raw === 'object' && !Array.isArray(raw)) return raw as Record<string, unknown>;
  if (typeof raw !== 'string') return null;
  try {
    const parsed = JSON.parse(raw) as unknown;
    return parsed && typeof parsed === 'object' && !Array.isArray(parsed)
      ? (parsed as Record<string, unknown>)
      : null;
  } catch {
    return null;
  }
}

function readStringMap(raw: unknown): Record<string, string> | null {
  const record = parseJsonRecord(raw);
  if (!record) return null;
  const result: Record<string, string> = {};
  for (const [key, value] of Object.entries(record)) {
    if (typeof value === 'string' && value) result[key] = value;
  }
  return Object.keys(result).length ? result : null;
}

/**
 * 后端「模型管理」的一条记录一律翻译成自定义 provider：Codex 0.155.1 把 ollama / lmstudio
 * 等内置 id 列为保留字，覆盖 model_providers.<内置 id> 会让 app-server 启动即退出。
 * 地址缺失就是配置缺失，直接报错让页面提示，不做 localhost 兜底。
 *
 * model 目录（model_catalog_json）在 applyProvider 里另行生成落盘后挂到 spec 上：
 * 自定义模型 slug 不在 codex 内置目录里，线程会落到兜底元数据并打出
 * "Model metadata for `xxx` not found" 警告（上下文窗口/截断策略全靠猜）。
 */
export function toProviderSpec(input: ApplyProviderInput): CodexProviderSpec {
  const model = `${input.modelId ?? ''}`.trim();
  if (!model) throw new Error('缺少 modelId');

  const baseUrl = normalizeBaseUrl(input.baseUrl);
  if (!baseUrl) {
    throw new Error(`模型「${input.name || model}」没有配置 base_url，请到「模型管理」补全（形如 https://host:port/v1）`);
  }

  const config = parseJsonRecord(input.config);
  const extra: Record<string, JsonValue> = { ...PROVIDER_DEFAULTS };
  for (const [key, value] of Object.entries(config ?? {})) {
    if (EXTRA_ALLOWLIST.includes(key)) extra[key] = value as JsonValue;
  }

  return {
    id: PROVIDER_ID,
    name: input.name ?? model,
    baseUrl,
    model,
    apiKey: input.apiKey ?? null,
    envKey: DEFAULT_API_KEY_ENV,
    httpHeaders: readStringMap(input.headersJson),
    extra: Object.keys(extra).length ? extra : null,
  };
}

/** config 里被丢弃的非白名单键，用于页面提示 */
export function describeDroppedKeys(input: ApplyProviderInput): string[] {
  const config = parseJsonRecord(input.config);
  return Object.keys(config ?? {}).filter((key) => !EXTRA_ALLOWLIST.includes(key));
}

/**
 * 探测只问「路由在不在」，绝不让端点真去生成：本地服务多是单槽推理，
 * 一次生成能占住整个 HTTP 服务几十秒（实测 max_tokens:1 也要 14 秒，期间连 /models 都不应答）。
 * 15 秒是留给排队的余量。
 */
const PROBE_TIMEOUT_MS = 15_000;

interface ProbeAttempt {
  status: number | null;
  error: string | null;
  ms: number;
  timedOut: boolean;
}

function describeFetchError(error: unknown): { message: string; timedOut: boolean } {
  const err = error instanceof Error ? error : new Error(String(error));
  return {
    message: err.message,
    timedOut: err.name === 'TimeoutError' || err.name === 'AbortError' || /timeout/iu.test(err.message),
  };
}

async function probeFetch(url: string, init: RequestInit, timeoutMs: number): Promise<ProbeAttempt> {
  const startedAt = Date.now();
  try {
    const response = await fetch(url, { ...init, signal: AbortSignal.timeout(timeoutMs) });
    return { status: response.status, error: null, ms: Date.now() - startedAt, timedOut: false };
  } catch (error) {
    const { message, timedOut } = describeFetchError(error);
    return { status: null, error: message, ms: Date.now() - startedAt, timedOut };
  }
}

async function postProbe(url: string, body: Record<string, unknown>, apiKey?: string | null): Promise<ProbeAttempt> {
  return probeFetch(
    url,
    {
      method: 'POST',
      headers: {
        'content-type': 'application/json',
        ...(apiKey ? { authorization: `Bearer ${apiKey}` } : {}),
      },
      body: JSON.stringify(body),
    },
    PROBE_TIMEOUT_MS,
  );
}

/**
 * 不可达的提示必须带上是哪个地址、等了多久——只说「端点不可达」时，
 * 用户既不知道配错在哪，也无从判断是没起服务还是被防火墙慢慢吞掉。
 */
function unreachableDetail(url: string, attempt: ProbeAttempt): string {
  if (attempt.timedOut) {
    return `端点不可达：${url} 在 ${(attempt.ms / 1000).toFixed(1)} 秒内没有响应，请确认服务已启动、地址与端口正确`;
  }
  return `端点不可达：${url} —— ${attempt.error ?? '网络错误'}`;
}

function probeResult(
  partial: Partial<Omit<EndpointProbeResult, 'protocol' | 'detail'>> & {
    protocol: EndpointProtocol;
    detail: string;
  },
): EndpointProbeResult {
  return { responsesStatus: null, chatStatus: null, ...partial };
}

/**
 * 判定端点会不会说 Responses。只问「路由在不在」，绝不让端点真去生成：本地服务多是单槽推理，
 * 一次生成能占住整个 HTTP 服务几十秒（实测 max_tokens:1 也要 14 秒，期间连 /models 都不应答）。
 * 请求体故意不带 input，端点会在校验阶段就回 400（实测 15–27ms）。
 * 代价是模型名写错要到真正提问时才暴露。
 */
export async function probeEndpoint(params: {
  baseUrl: string;
  modelId?: string | null;
  apiKey?: string | null;
}): Promise<EndpointProbeResult> {
  const baseUrl = params.baseUrl.replace(/\/+$/u, '');
  const responsesUrl = `${baseUrl}/responses`;
  const chatUrl = `${baseUrl}/chat/completions`;
  const model = params.modelId?.trim() || 'probe';

  const responses = await postProbe(responsesUrl, { model }, params.apiKey);
  if (responses.status === null) {
    return probeResult({ protocol: 'unreachable', detail: unreachableDetail(responsesUrl, responses) });
  }
  if (responses.status !== 404 && responses.status !== 405) {
    return probeResult({
      protocol: 'responses',
      responsesStatus: responses.status,
      detail: `端点支持 Responses 协议（HTTP ${responses.status}），Codex 直连 ${responsesUrl}`,
    });
  }

  // /responses 不在：区分「只会 Chat」和「两条路由都没有」。前者由内置路由层桥接：
  // codex 仍说 Responses（0.155.1 已删 wire_api="chat"），路由层翻成 Chat 转给上游
  const chat = await postProbe(chatUrl, { model }, params.apiKey);
  if (chat.status !== null && chat.status !== 404 && chat.status !== 405) {
    return probeResult({
      protocol: 'chat-only',
      responsesStatus: responses.status,
      chatStatus: chat.status,
      detail:
        `端点没有 /responses（HTTP ${responses.status}），只有 /chat/completions（HTTP ${chat.status}）。` +
        `应用后 Codex 将经内置路由层对接：${chatUrl}`,
    });
  }
  return probeResult({
    protocol: 'unsupported',
    responsesStatus: responses.status,
    chatStatus: chat.status,
    detail: `端点没有 /responses 路由（HTTP ${responses.status}），Codex 只能按 Responses 协议对接 ${responsesUrl}`,
  });
}

export async function readAppliedProvider(): Promise<AppliedProvider | null> {
  try {
    const raw = JSON.parse(await readFile(providerFile(), 'utf8')) as Partial<AppliedProvider>;
    return raw.model ? (raw as AppliedProvider) : null;
  } catch {
    return null;
  }
}

async function writeAppliedProvider(value: AppliedProvider | null): Promise<void> {
  await mkdir(getCodexDataDir(), { recursive: true });
  await writeFile(providerFile(), JSON.stringify(value ?? {}, null, 2), 'utf8');
}

/**
 * 生成单条模型的目录条目，字段与 codex rust-v0.155.1 的 ModelInfo serde 形状对齐
 * （实测 0.155.1 会校验：catalog 模型必须携带 base_instructions/instructions_template，
 * 未知字段会报错，所以只写确认过的键）。元数据取 codex 对未知模型的兜底值，
 * 这样除 used_fallback 归零（警告消失、特性门控放行）外，请求行为与之前完全一致。
 */
function buildModelCatalog(spec: CodexProviderSpec): Record<string, unknown> {
  return {
    models: [
      {
        slug: spec.model,
        display_name: spec.name ?? spec.model,
        description: null,
        default_reasoning_level: null,
        supported_reasoning_levels: [],
        shell_type: 'shell_command',
        visibility: 'list',
        supported_in_api: true,
        priority: 1000,
        additional_speed_tiers: [],
        service_tiers: [],
        default_service_tier: null,
        availability_nux: null,
        upgrade: null,
        default_reasoning_summary: 'none',
        support_verbosity: false,
        default_verbosity: null,
        supports_image_detail_original: false,
        supports_parallel_tool_calls: false,
        supports_reasoning_summaries: true,
        supports_search_tool: false,
        truncation_policy: { mode: 'bytes', limit: 10_000 },
        context_window: 272_000,
        max_context_window: 272_000,
        effective_context_window_percent: 95,
        experimental_supported_tools: [],
        input_modalities: ['text'],
        model_messages: { instructions_template: DEFAULT_MODEL_INSTRUCTIONS },
      },
    ],
  };
}

function catalogFile(): string {
  // codex 的 model_catalog_json 要求是绝对路径（AbsolutePathBuf），ee-core 的数据目录
  // 在某些环境（vitest/未初始化 app）下会给出相对路径，这里统一 resolve 掉
  return resolve(getCodexDataDir(), 'model-catalog.json');
}

/**
 * 把目录文件落盘并返回路径。目录整体替换 codex 的内置目录（进程级），
 * 单条 provider 对应单条模型；换模型会走 applyProvider 重启子进程，天然重建。
 */
async function writeModelCatalog(spec: CodexProviderSpec): Promise<string> {
  const path = catalogFile();
  await mkdir(dirname(path), { recursive: true });
  await writeFile(path, JSON.stringify(buildModelCatalog(spec), null, 2), 'utf8');
  return path;
}

/**
 * 应用一条模型配置：先探端点，再重启子进程（api_key 走 env，换 key 必须重启）。
 * 端点会 Responses → 直连；只会 Chat → 起内置路由层，codex 的 base_url 指向
 * 本地路由（真实上游地址只进路由层与落盘快照，绝不进 codex 参数）。
 */
export async function applyProvider(
  runtime: CodexRuntime,
  input: ApplyProviderInput & { modelRecordId?: string | number | null },
): Promise<AppliedProvider> {
  const spec = toProviderSpec(input);

  // 一定要先探端点：应用成功后才发现连不上，比这里直接报错更难排查
  const probe = await probeEndpoint({
    baseUrl: spec.baseUrl,
    modelId: spec.model,
    apiKey: spec.apiKey,
  });
  if (probe.protocol !== 'responses' && probe.protocol !== 'chat-only') throw new Error(probe.detail);
  const upstreamBaseUrl = spec.baseUrl;

  if (probe.protocol === 'chat-only') {
    const router = await chatRouter.start({
      upstreamBaseUrl: spec.baseUrl,
      // 自定义头（headersJson）已随 spec.httpHeaders 进 codex 参数，codex 每次请求都会带上
      // 并到达路由层，这里只需给出白名单名单
      forwardHeaderNames: Object.keys(spec.httpHeaders ?? {}),
    });
    // codex 拿到的 base_url 是本地路由；真实上游地址保留在 applied 落盘里
    spec.baseUrl = router.url;
  } else {
    // 从桥接模型切回直连模型：旧路由不再需要，停掉以免状态面板报陈旧路由
    await chatRouter.stop();
  }

  spec.modelCatalogPath = await writeModelCatalog(spec);
  try {
    await runtime.applyProvider(spec);
  } catch (error) {
    if (probe.protocol === 'chat-only') await chatRouter.stop();
    throw error;
  }

  const applied: AppliedProvider = {
    model: spec.model,
    modelRecordId: input.modelRecordId === undefined || input.modelRecordId === null
      ? null
      : String(input.modelRecordId),
    // 落盘的是真实上游地址（与模型管理记录一致），路由地址不落盘
    baseUrl: upstreamBaseUrl,
    providerId: spec.id,
    name: spec.name ?? null,
    appliedAt: new Date().toISOString(),
    bridged: probe.protocol === 'chat-only',
  };
  await writeAppliedProvider(applied);
  return applied;
}

export async function clearProvider(runtime: CodexRuntime): Promise<void> {
  await runtime.applyProvider(null);
  await chatRouter.stop();
  await writeAppliedProvider(null);
}