/** * Fastify bootstrap: assembles the HTTP server, registers plugins and routes, * and owns the DB lifecycle via the close hook. * @module dshs/web/server */ import Fastify, { type FastifyInstance } from 'fastify' import fastifyStatic from '@fastify/static' import { fileURLToPath } from 'node:url' import { basename, dirname, join } from 'node:path' import { writeFileSync } from 'node:fs' import { chown, mkdir, readFile, stat, writeFile } from 'node:fs/promises' import type { ServerConfig } from '../config.js' import { createDbAdapter, type CredentialLandingRow, type DbAdapter, type PublicUser } from '../db/index.js' import { createUserFs } from '../fs/provider.js' import { RemoteUserFs } from '../fs/remote-user-fs.js' import type { UserFs } from '../fs/user-fs.js' import { decrypt, deriveKey } from '../crypto.js' import { hashUid } from '../isolation.js' import { addressPort, agentBaseUrlOf, parseReachability, VIA_MANAGER_SSH } from '../net/reachability.js' import { LocalRendezvous, ManagerSshRendezvous, RendezvousRegistry } from '../net/rendezvous.js' import { OPS_NETWORK, logicalName } from '../net/relay/network.js' import { RelayRendezvous } from '../net/relay/rendezvous.js' import { RelayDialer } from '../net/relay/dialer.js' import { listOverlayRelayCandidates, resolveOverlayRelay } from '../net/relay/directory.js' import type { OverlayRelayCandidates } from '../net/relay/directory.js' import { RelayClient, waitUpOnStatus } from '../net/relay/client.js' import { RelayCandidateObservation, candidateObsMs } from '../worker/relay-tunnel.js' import { hostNameIndex, relayEndpointTarget } from '../net/relay/endpoint-target.js' import { loadClientIdentity } from '../net/relay/identity.js' import { RelayFailoverSupervisor, relayFailoverThresholds } from '../net/relay/switcher.js' import type { RelayChannelHandle } from '../net/relay/switcher.js' // ── 序㉔ 内容分发(块级内容寻址 · 同网段 peer 优先)──────────────────────────── // ⛔ 装配仅"接线",不改 presence / 端点翻译 / 切流既有逻辑(交接单 §3.1)。 import { ContentStore } from '../net/relay/content/store.js' import { ContentSourceChain } from '../net/relay/content/source.js' import { ContentPeerGroup } from '../net/relay/content/peer.js' // 🆕 序㉘ · 单 B:组密钥装载(平台侧**缺省不启用**;具名失败 ⇒ 不启用并留痕) import { openContentCipher } from '../net/relay/content/crypto.js' import { LocalSpawner } from '../supervisor/orchestrator.js' import { LeasedSpawner } from '../supervisor/leased-spawner.js' import { RemoteSpawner, type ClusterHost } from '../supervisor/remote-spawner.js' import { registerDshProxy } from '../supervisor/proxy.js' import type { Spawner } from '../supervisor/spawner.js' import { BUILTIN_REF, normalizeProtocol, parseModels, readRefValue, reconcileCredentials, reconcileSettings, refForEntry, type SettingsEntry, } from './model-landing.js' import { readTextOrEmpty, writeHomeFile } from './home-files.js' import { rateLimit } from './middleware/rate-limit.js' import { authRoutes } from './routes/auth.js' import { adminRoutes } from './routes/admin.js' import { adminUserOpsRoutes } from './routes/admin-user-ops.js' import { businessPluginRoutes } from './routes/business-plugins.js' import { desktopRoutes } from './routes/desktop.js' import { dshRoutes } from './routes/dsh.js' import { domainRoutes } from './routes/domain.js' import { overlayRoutes } from './routes/overlay.js' import { overlayNodeRoutes } from './routes/overlay-nodes.js' import { skillRoutes } from './routes/skills.js' import { whitelistRoutes } from './routes/whitelist.js' declare module 'fastify' { interface FastifyInstance { db: DbAdapter config: ServerConfig supervisor: Spawner userFs: UserFs } interface FastifyRequest { user: PublicUser | null } } const webRoot = join(dirname(fileURLToPath(import.meta.url)), '../../web') /* ── 覆盖网络 R3:relay 状态视图的三个时间常数(都在 Manager 本地回环上,量级取"秒")── */ /** 单次 `/status` 查询超时。relay 在回环上 ⇒ 超过这个数就是它卡了,不值得等。 */ const RELAY_STATUS_TIMEOUT_MS = 2000 /** 轮询间隔。取 5s:`dsh_hosts` 目录本身 TTL 是 30s,比它更密即可。 */ const RELAY_STATUS_POLL_MS = 5000 /** 快照陈旧阈值:超过它一律认为 relay 视图不可信 ⇒ `relay` 实现退回 `manager-ssh`。 */ const RELAY_SNAPSHOT_TTL_MS = 15000 /* ── 覆盖网络 P0-2:引导目录的后台刷新节奏 ── */ /** 首次刷新延迟。**必须 > 0**:控制面自己既是目录服务端又是客户端,启动瞬间自己的 3080 还没 listen。 */ const OVERLAY_REFRESH_FIRST_MS = 15000 /** 刷新周期下限(目录给的 `refreshAfterSeconds` 更小也按它兜底,避免退化成"每秒取一次")。 */ const OVERLAY_REFRESH_MIN_MS = 60000 /** Whether an `Origin` header belongs to the platform base domain (or a * per-user subdomain of it). Used to allow cross-subdomain API calls from dsh * instances (功能插件启停). */ function isAllowedOrigin(origin: string, baseDomain: string): boolean { if (baseDomain === '') return false try { const host = new URL(origin).hostname return host === baseDomain || host.endsWith('.' + baseDomain) } catch { return false } } /** * Build a fully-wired Fastify instance. Does not call `listen`; the caller owns * bind + shutdown. * @param config - resolved runtime configuration. */ export async function buildServer(config: ServerConfig): Promise { const db = await createDbAdapter(config) const encryptionKey = deriveKey(config.encryptionSecret) // ── 模型条目落地(档案 87)────────────────────────────────────────────────── // 用户口径(2026-09-13 定):条目**各自开关、可同时启用**;admin 配的**平台共享模型 // **也列入**、用户可开关(`users.shared_model_enabled`);平台只负责把「**已启用**」 // 的都配好 —— 具体用哪个模型在 dsh 对话框的模型选择器里挑。 // // 为什么必须由平台写文件:官方「设置 → 模型」页在平台环境**必然报错**(该页要 Host // settings 镜像,而平台是浏览器经域名访问远程服务器 ⇒ `isLoopback=false` ⇒ persistence // 降级 `memory` ⇒ 页面报「加载提供方目录失败」)。详见 `ensure-role-profile-patch.cjs`。 // // 为什么**仍然不注入 env**(2026-09-13 读官方源码定的):dsh 凭据解析顺序是 // `inherited process environment (read-only, wins) > $DSH_HOME/.credentials.yaml > …`, // 且 `dsh-credentials-local.write()` 里有 `assertUnshadowed()` —— 只要 env 存在同名 ref, // 保存就报错("supplied read-only by the launching environment …")⇒ 注入 env 等于 // **把用户锁死在"不能自配 key"**。所以共享 key 改成**预置进凭据文件**,本函数恒返回 null。 // // 落地两处(字段名 2026-09-13 读官方包实测,勿凭记忆改 —— 见 model-landing.ts 头注释): // · `$DSH_HOME/.credentials.yaml` 的 `refs.` // · `$DSH_HOME/settings.yaml` 的 `llm-pi-ai.providers.` // // ⛔ 备份**绝不能落在用户 home 里**:dsh 用 chokidar watch 整个 home,一个**实例读不了** // 的文件(root 属主 600)会让它抛 `EACCES` ⇒ **实例崩溃循环**(2026-09-13 实测踩过, // 当时 .credentials.yaml.bak-platform 直接把 guest 打进 attempt=5)。 interface Managed { refs: string[] routes: string[] } /** 托管清单落点:**平台状态目录**(不在 home、也不在文档库)。 */ const managedDir = join(process.env.DSH_PLATFORM_STATE_DIR ?? '/opt/dsh/state', 'model-landing') /** 只有清单里的 ref / route 才允许被平台改写或删除 —— 用户自己配的一律不碰。 */ const readManaged = async (userId: string): Promise => { const strs = (v: unknown): string[] => (Array.isArray(v) ? v.filter((x): x is string => typeof x === 'string') : []) try { const raw = JSON.parse(await readFile(join(managedDir, userId + '.json'), 'utf8')) as Record return { refs: strs(raw.refs), routes: strs(raw.routes) } } catch { return { refs: [], routes: [] } // 不存在 / 读坏 ⇒ 视为"平台还没管过任何东西"(保守) } } const writeManaged = async (userId: string, m: Managed): Promise => { await mkdir(managedDir, { recursive: true }) await writeFile(join(managedDir, userId + '.json'), JSON.stringify(m), { mode: 0o600 }) } // `readTextOrEmpty` / `writeHomeFile` 已抽到 `./home-files.js`(2026-09-15:语言偏好 // 持久化也要用同一套「写 home 文件」语义 —— 与其复制一份,不如共用;约束见该模块头注释)。 /** 平台共享条目(admin 配的、已启用的那些)—— 只在该用户开关打开、且他不是那个 admin 时纳入。 */ const sharedLandingRows = async (userId: string): Promise => { if (!(await db.getSharedModelEnabled(userId))) return [] const admins = (await db.listPublicUsers()).filter((u) => u.role === 'admin') if (admins.length === 0 || admins[0].id === userId) return [] return db.listCredentialLandingRows(admins[0].id) } /** * 把「已启用条目」对账进实例的两个配置文件。**幂等**,且只在真有变化时写盘。 * 合并顺序 = **自己的在前** ⇒ 同一个 ref 上,用户自己配的 key 永远赢过平台共享的那把。 */ const landModels = async (userId: string): Promise => { const owner = await db.findUserById(userId) if (owner === undefined) return const previous = await readManaged(userId) const rows = [...(await db.listCredentialLandingRows(userId)), ...(await sharedLandingRows(userId))] const seen = new Set() const creds: Array<{ ref: string; value: string }> = [] const providers: SettingsEntry[] = [] for (const row of rows) { const ref = refForEntry({ route: row.route, baseUrl: row.baseUrl }) if (seen.has(ref)) continue let value: string try { value = decrypt(row.encryptedRef, encryptionKey) } catch { // 解不开的条目跳过:宁可少配一个厂家,也不能让整次 spawn 失败。 console.error('model landing: 解不开的条目已跳过', { userId, name: row.name }) continue } seen.add(ref) creds.push({ ref, value }) // 有 route 才写 settings.yaml。两种情形: // · **目录厂家**(route 命中官方 pi-ai catalog,baseUrl 为空)⇒ 只写 `apiKeyEnv`, // endpoint / 协议 / 模型目录全由官方目录提供(档案 87 补做)。 // · **自定义厂家**(baseUrl 非空)⇒ endpoint + 协议 + 模型清单必须齐全。 // 内置 DeepSeek 没有 route ⇒ 只写 `refs.DEEPSEEK_API_KEY`,不进 settings.yaml。 const route = row.route ?? '' if (route !== '') { if (row.baseUrl === null || row.baseUrl === '') { providers.push({ route, apiKeyEnv: ref }) } else { providers.push({ route, apiKeyEnv: ref, baseURL: row.baseUrl, api: normalizeProtocol(row.api), models: parseModels(row.models), }) } } } const credFile = join(owner.home_dir, '.credentials.yaml') const setFile = join(owner.home_dir, 'settings.yaml') const credText = await readTextOrEmpty(credFile) const setText = await readTextOrEmpty(setFile) // 一次性交接(档案 87):老实现把平台共享 key 写进 `refs.DEEPSEEK_API_KEY` 时没有托管清单, // 新逻辑会把它当成"用户自己写的" ⇒ 关掉共享开关后那行仍留着("关掉即生效"不成立)。 // 首次运行(没有任何清单)且**文件里那行确实等于平台共享 key 明文**时,认领它; // 不相等 = 用户自己配的 ⇒ 绝不碰。 let prevRefs = previous.refs if (previous.refs.length === 0 && previous.routes.length === 0) { if (readRefValue(credText, BUILTIN_REF) !== null) { const shared = await sharedDeepseekKey() if (shared !== null && shared === readRefValue(credText, BUILTIN_REF)) prevRefs = [BUILTIN_REF] } } const nextCred = reconcileCredentials(credText, creds, prevRefs) const nextSet = reconcileSettings(setText, providers, previous.routes) if (nextCred.text !== credText) await writeHomeFile(owner.home_dir, credFile, nextCred.text) if (nextSet.text !== setText) await writeHomeFile(owner.home_dir, setFile, nextSet.text) await writeManaged(userId, { refs: nextCred.managed, routes: nextSet.managed }) } /** 保底:平台共享的那把内置 DeepSeek key 明文 —— 只在写配置失败退回 env 注入时才用。 */ const sharedDeepseekKey = async (): Promise => { const admins = (await db.listPublicUsers()).filter((u) => u.role === 'admin') if (admins.length === 0) return null const ref = await db.getEnabledCredentialKeyRef(admins[0].id) if (ref === null) return null try { return decrypt(ref, encryptionKey) } catch { return null // 密文坏了 ⇒ 当作没配,等 admin 重填 } } /** * 「该给实例注入什么 env」的答案:**什么也不注入**(恒 `null`)。 * 保留函数名与签名是因为 `Spawner` 的接口就是这么定义的(见上面那段大注释:注入 env 会把 * 用户在模型页的保存打回错误)。写配置失败时**退回 env 注入保底** —— 宁可让用户暂时用 * 平台共享 key,也不能因为写文件出错就让实例起不来。 */ const resolveApiKey = async (userId: string): Promise => { try { await landModels(userId) return null } catch (err) { console.error('model landing failed, falling back to env injection', err) return await sharedDeepseekKey() } } const resolveUid = async (userId: string): Promise => { const user = await db.findUserById(userId) return user?.uid ?? hashUid(userId, config.baseUid) } if (config.deployMode === 'k8s') { throw new Error('deployMode "k8s" is not supported by this build: only the single-machine backend ships') } // cluster 模式(T08 S3/S4):实例在 worker 上,Manager 只投递操作 + 代理。 // fail-loud:没配 agent 地址就直接报错,别等第一个用户点进来才发现。 if (config.deployMode === 'cluster' && config.clusterAgentUrl === '') { throw new Error('deployMode=cluster requires DSHS_CLUSTER_AGENT_URL (e.g. http://127.0.0.1:9000)') } // cluster:RemoteSpawner(传输)+ LeasedSpawner(**归属租约**)—— // 后者保证"能不能拉起先问归属",这是多机下防双写同一个 home 的承重件(设计 §3.2)。 let leased: LeasedSpawner | undefined // ── 多 worker 的 host 目录(T08 S6)──────────────────────────────────── // 由 `dsh_hosts` 派生并**随用随刷新**(TTL 30 s)⇒ **新增 worker 不必重启 Manager**。 // 同时供三处使用:RemoteSpawner 的按 host 路由、LeasedSpawner 的 fence 目标、 // 以及 `selectHost` 的容量准入 —— 都读**同一份**内存目录,避免三套各自漂移。 const hostDirectory = new Map() hostDirectory.set(config.clusterHostId, { hostId: config.clusterHostId, agentUrl: config.clusterAgentUrl, token: config.clusterAgentToken, instanceHost: config.clusterInstanceHost, }) /** * 会合解析(覆盖网络 S2):**`via` → `Rendezvous` 实现 → `Reachability`**。 * * 为什么要有这一层:`endpoint` 只说得清"拨哪个地址",说不清"**经谁**" —— 而现网两条 * 记录的 endpoint 恰好**字符串同形、语义不同**(`w-47` 同机直连 / `w-106` 隧道落点)。 * `via` 列把"经谁"显式化 ⇒ 换中继 / 会合时不必改表语义(会合中继拆分方案 §2 C3)。 * * ⚠️ **S2 阶段行为零变化**:两种现役实现的 `resolve()` 都只把 endpoint 拆成 * `{scheme, address}`,`agentBaseUrlOf()` 拼回来与旧 `agentUrl` **逐字相等** * (判据写死在 `test/reachability.test.mjs`,不靠肉眼比)。 * * 🔑 **键是逻辑名** `/`(P0-3)—— 网络维度是**结构性**的,控制面的每一张 * 内存表都必须带着它;只按裸 hostId 建键时,两张网的同名 host 会**互相覆盖**(静默串网)。 */ const hostAddresses = new Map() /** * 每台 host 的 **agent 端口**(从 `dsh_hosts.endpoint` 剥出来的那个号码)。 * * 为什么需要(覆盖网络 R3):relay 为**每个注册端口**在它自己的回环上开一条监听,回环口号 * 由 `listen(0)` **动态分配**(实测 42067)⇒ Manager 既拿不到也推不出,只能拿「要拨的端口号」 * 去 relay 的 `/status` 里查回环口号。而 agent 端口与 ssh 隧道落点**同号**(隧道就是同号反向 * 转发,见 `worker/tunnel.ts#forward`)⇒ 这个号码现有表里就有,**不需要新增列**。 * * 🔑 **键是逻辑名**(P0-3),与 `hostAddresses` 同口径。 */ const hostAgentPorts = new Map() /** * 每台 host **表里声明的会合形态**(`dsh_hosts.via` 原文),与 `reachability` 分开存。 * * 为什么不能用 `reachability` 反推(R4 实测教训):`Reachability` 是**实时解析结果**, * host 离线 / relay 快照陈旧时 `resolve()` 会回 `undefined`。若此时按"不是 relay ⇒ 原样透传" * 处理,就会把 **Worker 侧口号**打到 Manager 本机(连接被拒、空响应、无日志)。 * ⇒ 「这台该走哪种会合」必须读**表里的静态声明**;「此刻可拨到什么地址」才读 `reachability`。 * * 🔑 **键是逻辑名**(P0-3),与 `hostAddresses` 同口径。 */ const hostVia = new Map() /** * **`hostId` → 逻辑名** 索引(序㉑ P-2)—— `translateEndpoint` 的**唯一入口**。 * * 🔑 为什么必须有它:`RemoteSpawner` 调翻译器时只给得到**裸 hostId** * (`endpointFor` → `translateEndpoint(host.hostId, raw)`),而上面每张表的键都是**逻辑名** * ⇒ 直接拿 hostId 去查恒 `undefined` ⇒ 翻译**从未生效**(整个闭包成了死分支,在册缺陷 P-2)。 * 映射公式只在 `hostNameIndex` 里写一份(⛔ 不在闭包里再写第二份)。 */ const hostNameById = new Map() /** * relay 的实时视图(覆盖网络 R3):`/:` → `{ localPort, online }`。 * * ⚠️ **键是逻辑名**(P0-3):只按裸 hostId 建键时,两张网各有一台同名 host 会**互相覆盖** * —— 后刷进来的那张网把前一张的落点顶掉 ⇒ 请求被静默路由到**另一张网**的节点上 * (这正是 Step 1 在 relay 侧修掉的病,控制面这一份当时还是旧的)。 * * ⚠️ **只在刷新成功时整表替换**(不做增量合并):relay 重启后回环口号会**全部重分配**, * 增量会把过期口号永远留在表里 ⇒ Manager 继续往一个已不存在的口上打。 * 这正是 ssh 版「静默打到别人实例」的同一类病,不能在替代品里复现。 * 刷新失败时**保留上一份**,靠 `relaySnapshotAt` 判陈旧(陈旧 ⇒ `online` 回 false ⇒ 自动回退 `manager-ssh`)。 */ const relayEndpoints = new Map() let relaySnapshotAt = 0 /** * 「当前通道的 `RelayClient`」的**延迟绑定**取值器。 * * 🔑 存在的唯一理由是**初始化顺序**:`/status` 轮询的首次调用发生在拨号通道建立**之前**, * 那时 `failover` 还在 TDZ 里(直接引用会 `ReferenceError`)。而把 `failover` 提前声明成 * `let` 又会丢掉"当前通道只有**一个**权威来源"这条纪律(序⑦ 为它专门收敛过)。 * ⇒ 用一个可空函数引用,**谁都不破坏**。 */ let currentClientRef: (() => RelayClient | undefined) | undefined const currentClient = (): RelayClient | undefined => currentClientRef?.() /** * 序⑲ presence:**订阅是否新鲜** —— D5「主路径 / 兜底」的**唯一开关**。 * * ⚠️ 必须是函数而不是布尔量:通道会被换址(序⑦),"订阅有没有"随通道走 ⇒ 每次调用现读。 * `undefined`(还没起通道 / 已切走)也算不新鲜 ⇒ 回退 `/status`,语义安全。 */ const presenceLive = (): boolean => currentClient()?.presenceFresh() === true /** * 订阅新鲜度变化的**可 grep 记录**(⛔ 别让"轮询停了"变成看不见的静默行为)。 * * ⚠️ 这里直接写 stdout 而不用 `overlayLog`:本函数会在 `overlayLog` 初始化**之前**被首次 * 调用(首次 `refreshRelay` 就在那一行 `void refreshRelay()`)⇒ 引用它同样会 TDZ。 */ let pollSuspended = false const notePollGate = (suspend: boolean): void => { if (suspend === pollSuspended) return pollSuspended = suspend process.stdout.write( suspend ? '[overlay-presence] 订阅新鲜 ⇒ `/status` 轮询**挂起**(兜底路径待命)\n' : '[overlay-presence] 订阅不新鲜 ⇒ `/status` 轮询**恢复**(兜底路径生效)\n', ) } const refreshRelay = async (): Promise => { if (config.relayStatusUrl === '') return /** * 🔑 **序⑲ 的核心收益点**:订阅生效期间**一次都不拉**(E-判据:稳态 `/status` 命中 = 0)。 * ⛔ 不是"删掉轮询"(D5:`/status` 是回滚链的一环)—— 只是**在不需要时不拉**。 */ notePollGate(presenceLive()) if (pollSuspended) return try { const res = await fetch(config.relayStatusUrl, { signal: AbortSignal.timeout(RELAY_STATUS_TIMEOUT_MS) }) if (!res.ok) return const body = (await res.json()) as { endpoints?: unknown } const rows = Array.isArray(body.endpoints) ? body.endpoints : [] const next = new Map() for (const raw of rows) { const ep = raw as { hostId?: unknown network?: unknown port?: unknown localPort?: unknown online?: unknown } if (typeof ep.hostId !== 'string' || typeof ep.port !== 'number') continue if (typeof ep.localPort !== 'number' || ep.localPort <= 0) continue // `network` 缺失 = 老 relay(P0-1 之前)⇒ 按 `ops` 读(与 DB 的列默认值同口径)。 const network = typeof ep.network === 'string' && ep.network !== '' ? ep.network : OPS_NETWORK next.set(`${logicalName(network, ep.hostId)}:${ep.port}`, { localPort: ep.localPort, online: ep.online === true, }) } relayEndpoints.clear() for (const [k, v] of next) relayEndpoints.set(k, v) relaySnapshotAt = Date.now() } catch { // relay 不可达 / 超时 ⇒ **保留上一份快照**(临时抖动不抖路由),由陈旧判定兜底。 } } if (config.relayStatusUrl !== '') { void refreshRelay() const relayTimer = setInterval(() => void refreshRelay(), RELAY_STATUS_POLL_MS) relayTimer.unref() } /** * 覆盖网络 R5:**Manager 侧拨号通道** —— 「会合可换机」的收口件(`会合中继拆分` §9.4 那个断点)。 * * 配了 `DSHS_RELAY_DIAL_SECRET` ⇒ Manager 也像 worker 一样**只拨出**一条 wss,并把落点建在 * **自己的回环**上(`RelayDialer` 的预绑口池)⇒ **不再依赖 relay 主机的 `127.0.0.1`**, * relay 可以放在任何一台机器上(也可以多实例)。 * 没配 ⇒ `relayDialer` 为 `undefined` ⇒ 全部回落到 `/status` 快照,**行为与 R3 完全一致**。 * * 密钥必须是 64 位 hex(与 relay 密钥表同格式)。格式不对 ⇒ **不启用**并明确报一行 —— * 而不是带着一个坏密钥去反复握手失败(那会变成刷日志的噪音)。 */ /** * 覆盖网络 P0-2:**relay 地址走引导三级链**(env 显式 > 缓存目录 > 内置种子)。 * * 为什么必须在这里改:`config.relayUrl` 只可能来自 env ⇒ 域名 / 机器一换, * **用户设备上的那个值我们改不到**,只能让所有人重装(`§A2` 点名的灾难)。 * 引导链把地址变成"可在线轮换的下发物";env 仍然**压制一切**(运维最后手段)。 * 取不到(返回空串)⇒ 与"未配 relay"**完全同行为**(落回 `/status` 快照 / `manager-ssh`)。 */ const overlayLog = (line: string): void => { process.stdout.write(`${line}\n`) } const relayResolved = await resolveOverlayRelay({ envUrl: config.relayUrl, seeds: config.overlayBootstrapSeeds, trustedKeys: config.overlayDirTrustedKeys, cacheFile: config.overlayDirectoryCacheFile, log: overlayLog, }) const relayUrl = relayResolved.url const dialLog = (line: string): void => { process.stdout.write(`${line}\n`) } /** 拨号通道能不能起:地址有了 + 密钥是 64 位 hex。**任一条不满足 ⇒ 完全不启用**(与 R5 同语义)。 */ const secretOk = /^[0-9a-f]{64}$/.test(config.relayDialSecret) const dialerEnabled = relayUrl !== '' && config.relayDialSecret !== '' && secretOk if (relayUrl !== '' && config.relayDialSecret !== '' && !secretOk) { dialLog('[relay-dialer] ⛔ DSHS_RELAY_DIAL_SECRET 不是 64 位 hex ⇒ 拨号通道**不启用**(落回 /status 快照)') } /** * 起一条拨号通道。抽成函数是因为 P0-2 要在**运行期换址**(见下面的后台刷新)。 * * **先建新的、成功了再关旧的**:新通道任何一步失败都直接返回 `undefined`、旧通道原样保留 * —— 换址失败绝不能把"本来能用"的跨机通路打掉。 */ const startDialer = async ( url: string, ): Promise<{ client: RelayClient; dialer: RelayDialer } | undefined> => { const client = new RelayClient({ url, hostId: config.relayDialHost, secret: config.relayDialSecret, ports: [], dialer: true, /** * 序③:Manager 也是**一台机器**,同样要证明"被授权进入这张网"。 * 与 worker 侧同一装配入口(`loadClientIdentity`)⇒ 两侧只有一种写法。 */ identity: loadClientIdentity({ keyFile: config.overlayNodeKeyFile, grantFile: config.overlayNodeGrantFile, log: dialLog, }), log: dialLog, }) client.start() const dialer = new RelayDialer({ client, portBase: config.relayDialPortBase, portSpan: config.relayDialPortSpan, poolSize: config.relayDialPool, log: dialLog, }) // **必须 await**:口池绑完之前 `localPortFor()` 恒返回 undefined(失败关闭)⇒ // 不 await 就会在启动瞬间把"能给地址"缩成一个窗口期。 try { await dialer.start() } catch (err) { const msg = err instanceof Error ? err.message : String(err) dialLog(`[relay-dialer] ⛔ 落点池绑定失败(${msg})⇒ 本条通道放弃,已有通道不受影响`) try { dialer.close() } catch { /* 已关 */ } client.stop() return undefined } /** * 序⑲ presence:**订阅本网全部在线态**(第 3 条:订阅式扇出)。 * * ⚠️ 放在口池绑定**成功之后**:绑不上就等于这条通道没有,订阅了也没人消费, * 反而会留下"subs=1 但没人用"的假象。订阅失败不影响通道本身(自动回退 `/status`)。 */ client.subscribePresence() return { client, dialer } } /** * 序⑦:**通道句柄把 dialer 一起带着走** —— `relayDialer` 不再是一个独立可变量, * 而是"监管器当前通道"的投影。这样"当前是谁"只有**一个**权威来源, * ⛔ 不会出现"监管器已切到新通道、别处还拿着旧 dialer"的分叉。 */ type C1Handle = RelayChannelHandle & { dialer: RelayDialer; client: RelayClient } const toHandle = ( url: string, started: { client: RelayClient; dialer: RelayDialer }, ): C1Handle => ({ url, dialer: started.dialer, client: started.client, health: () => { const st = started.client.status() return { state: st.state, attempts: st.attempts, unhealthyForMs: st.unhealthyForMs } }, close: () => { try { started.dialer.close() } catch { /* 已关 */ } try { started.client.stop() } catch { /* 已关 */ } }, }) const overlayResolveOpts = (): Parameters[0] => ({ envUrl: config.relayUrl, seeds: config.overlayBootstrapSeeds, trustedKeys: config.overlayDirTrustedKeys, cacheFile: config.overlayDirectoryCacheFile, log: overlayLog, }) /** 序⑦ 切流阈值(唯一一份默认值在 `switcher.ts`;这里只是取一份实例)。 */ const failoverThresholds = relayFailoverThresholds() /** * ── 序㉗:**候选链取址的唯一入口(含只读观测)** ── * * 两处**既有**调用点(下面对监管器给的 `candidates` 与 {@link refreshOverlay})共用本函数: * ① 候选**只在同一处**被解析 ⇒ ⛔ **不新增任何网络 I/O**(`refreshOverlay` 本来就要解析一次); * ② 每次**真实**解析都落进观测 ⇒ 观测面不是"另做一次"的样子货(E3 的可断言面)。 * * 🔴 **等价性证明(⛔ 语义零变化)**:`refreshOverlay` 原来调的是 * `resolveOverlayRelay(overlayResolveOpts())` —— 该函数**未传 `exclude`**,而 `exclude` 缺省时 * 它就是 `{url: chain.urls[0] ?? '', source: chain.source, detail: chain.detail, refreshAfterSeconds}` * 的**薄包装**(见 `directory.ts#resolveOverlayRelay`),且调用点**只用到 `url` 与 `source`** * ⇒ 这里取 `chain.urls[0] ?? ''` / `chain.source` **逐字等价**。 * ⚠️ 若将来该调用点要用到 `exclude`,必须改回 `resolveOverlayRelay`(⛔ 不许在这里自己写排除逻辑)。 */ const candObs = new RelayCandidateObservation('manager', overlayLog, candidateObsMs()) const resolveChain = async (): Promise => { const got = await listOverlayRelayCandidates(overlayResolveOpts()) candObs.record(got.urls, got.source, got.detail) return got } /** * 换址版等待:**非抛**,只回答"通没通"(`open` 要的是布尔)。 * * 🔴 **序⑨ · RC-1(C1 装配点)**:实现已抽到 `net/relay/client.ts#waitUpOnStatus` * (三个装配点共用一份,D7)。相对改造前的**唯一**差别 = **终态失败(死候选)立即返回 `false`**, * ⛔ 不再白等满 `upTimeoutMs`。 * ⚠️ 为什么这里最痛:生产目录前两条候选**同在 47**(见下面 `open` 的注释)⇒ 每次从 47 切走 * **必然**先试同机的 `relay-direct`(已随 47 一起死)⇒ 白等 ≡ `upTimeoutMs`(12 000 ms), * 实测两样本逐行复核(序⑨ §2-P10)。**慢候选(连得上、只是 `up` 来得晚)不受影响**。 */ const waitUpOn = (client: RelayClient, timeoutMs: number): Promise => waitUpOnStatus(client, timeoutMs, { onDead: (st) => overlayLog( `[relay-failover] ⛔ 新通道终态失败(state=${st.state} attempts=${st.attempts} ` + `burst=${st.inGracefulBurstWindow} lastError="${st.lastError ?? ''}")⇒ 提前放弃,不等满 ${timeoutMs}ms`, ), }) /** * **中继失败切流的唯一实现**(序⑦ · C1 装配点)。 * * 触发信号全部复用现成状态机(D2):`RelayClient.status()` 的 `state/attempts/unhealthyForMs` * ——⛔ 不新造心跳、不新增探测帧。 */ const failover = new RelayFailoverSupervisor({ /** * ⚠️ **换址版的 `open` 比启动版严一档**:启动只要"口池绑好"(`startDialer` 的语义, * P0-2 要求启动不依赖网络);**换址**必须等新通道真到 `up` —— * 否则会把"口池绑好了"误当成"通了",切到一条**同样连不上**的中继上 * (生产目录前两条候选落在同一台机器,这个坑一定会踩到)。 * 到不了 `up` ⇒ 关掉它、返回 `undefined` ⇒ 监管器保持原通道并把该候选进冷却(D4 + 链推进)。 */ open: async (url) => { const started = await startDialer(url) if (started === undefined) return undefined if (!(await waitUpOn(started.client, failoverThresholds.upTimeoutMs))) { try { started.dialer.close() } catch { /* 已关 */ } started.client.stop() return undefined } return toHandle(url, started) }, /** 序㉗:走 `resolveChain` ⇒ 每次解析都落进观测(`E3` 的可断言面);返回值与原实现逐字一致。 */ candidates: async () => (await resolveChain()).urls, log: overlayLog, thresholds: failoverThresholds, }) /** 当前拨号通道(由监管器的"当前通道"派生 —— 单一权威来源)。 */ const currentDialer = (): RelayDialer | undefined => (failover.channel as C1Handle | undefined)?.dialer // 把「当前通道的 client」接上去(`presenceLive()` / `presenceOf()` 的取数入口)。 currentClientRef = () => (failover.channel as C1Handle | undefined)?.client /** * 序⑲:**订阅推送**给出的在线态(主路径,D5)。 * * 返回 `undefined` 的两种情况**都必须回退兜底**(⛔ 不许把它当 `false`): * ① 订阅不新鲜(没订阅 / 已断 / 老 relay 不认 `SUB`);② 这条 host 不在推送范围。 * —— 把"不知道"当成"离线"会让**健康的节点被摘掉路由**(本线最贵的一类假红)。 */ const presenceOnline = (name: string): boolean | undefined => { const c = currentClient() if (c === undefined || !c.presenceFresh()) return undefined const e = c.presenceOf(name) return e === undefined ? undefined : e.online } /** 订阅里的**回环落点**(`/status` 的那份数据,改由推送带来;查不到 ⇒ `undefined` 交给下一级兜底)。 */ const presenceLocalPort = (name: string, port: number): number | undefined => { const c = currentClient() if (c === undefined || !c.presenceFresh()) return undefined const hit = c.presenceOf(name)?.localPorts.find((lp) => lp.port === port) return hit === undefined || hit.localPort <= 0 ? undefined : hit.localPort } if (dialerEnabled) { const started = await startDialer(relayUrl) if (started !== undefined) failover.seed(toHandle(relayUrl, started)) /** * 健康巡检**独立定时器**:目录刷新周期可能长达分钟级(`refreshAfterSeconds`), * 而故障切换要在 `RELAY_FAILOVER_DEADLINE_MS`(30 s)内完成 ⇒ 两者节奏必须分开。 */ failover.start() /** * 序㉗:启动候选链**周期重发**(幂等、`unref()`、⛔ 零网络 I/O —— 只重发上次快照)。 * 与监管器的关系:监管器**只在需要换址时**解析,而探针是**事后**读 ⇒ 没有它就可能读不到行。 * ⚠️ 只在 `dialerEnabled` 时启动 —— 没有拨号通道就**不是 relay 客户端**,此时"候选数"无意义, * 观测行**应当缺席**(探针会把"该路径无观测行"判红并点名,⛔ 不制造一行假 `unresolved`)。 */ candObs.start() } /** * 覆盖网络 P0-2:**后台刷新目录**(启动后再取一次,之后按目录给的刷新周期)。 * * 为什么不能在启动时"一次算完":**控制面自己也是客户端**(47 同机既是目录签发方、又是 * Manager)⇒ 启动那一刻自己的 3080 还没 `listen`,取目录必然 `502`;若就此定死, * Manager 就**永远**拿不到目录里 `relays[]` / `bootstrap[]` 的轮换结果(能力等于没有)。 * 所以分成两步:**启动只用"缓存 / 种子"起来(启动不依赖网络)**,随后后台再取一次目录; * 地址**真的变了**才换通道(无变化时零动作、零日志噪音)。 * * 序⑦:换址动作统一走 {@link RelayFailoverSupervisor.replace}("先建新、成功再关旧" + * 冷却表 + `[relay-switch]` 日志 + `switches` 计数),⛔ 不再在本函数里自己关旧通道。 */ const refreshOverlay = async (): Promise => { if (!dialerEnabled) return /** * 序㉗:改走 `resolveChain()` —— 与原 `resolveOverlayRelay(...)` **逐字等价**(证明见 `resolveChain`), * 但**每次目录刷新都落进候选观测** ⇒ Manager 侧观测行天然每 `refreshAfterSeconds` 更新一次 * (⛔ 不需要为观测另加一次网络往返)。 */ const chain = await resolveChain() const nextUrl = chain.urls[0] ?? '' const cur = failover.channel?.url ?? relayUrl if (nextUrl === '' || nextUrl === cur) return overlayLog(`[overlay-dir] 🔁 目录给出的地址变了:${cur} -> ${nextUrl}(source=${chain.source})⇒ 换拨号通道`) /** * 序⑧(D1):显式声明 `'directory'` —— 这条换址的触发条件("目录里的地址变了")与 * "旧通道是否可用"**无关** ⇒ ⛔ **没有打破冷却的权力**(有的话,"当前站在 106、目录首位是 47" * 的每一轮巡检都会把刚冷却的 47 换回来 = 两位互相抢 = D5 想防的抖动风暴)。 */ await failover.replace(nextUrl, `目录地址变更(source=${chain.source})`, 'directory') } if (dialerEnabled) { const first = setTimeout(() => void refreshOverlay(), OVERLAY_REFRESH_FIRST_MS) first.unref() const timer = setInterval( () => void refreshOverlay(), Math.max(OVERLAY_REFRESH_MIN_MS, relayResolved.refreshAfterSeconds * 1000), ) timer.unref() } const rendezvous = new RendezvousRegistry([ new LocalRendezvous((id) => hostAddresses.get(id)), new ManagerSshRendezvous({ target: config.clusterRendezvousUrl, addressOf: (id) => hostAddresses.get(id), }), // `relay`(R3 / R5):**既没配 `/status`、也没启用拨号通道 ⇒ 不注册** ⇒ `via='relay'` // 回落到 `manager-ssh`(`hostsProvider` 的回退分支),即"没配就完全等同今天"。 ...(config.relayStatusUrl === '' && currentDialer() === undefined ? [] : [ new RelayRendezvous({ dialTargetUrl: relayUrl, // 键一律是**逻辑名** `/`(P0-3):跨网同名 host 不会互相命中。 addressOf: (name) => { const port = hostAgentPorts.get(name) if (port === undefined) return undefined // ① 首选**拨号通道**:落点在 Manager 自己本机 ⇒ relay 换机器也成立(R5) // ⚠️ 这里同时是**控制面侧的跨网门**:通道只声明一张网,跨网申请**必然回 undefined** // (`RelayDialer` 里带日志地拒掉)⇒ 绝不会把别张网的落点发出去。 const dialed = currentDialer()?.localPortFor(name, port) if (dialed !== undefined) return `127.0.0.1:${dialed}` // ② 回退:**订阅推送**带来的回环落点(序⑲:订阅新鲜时它才是唯一在更新的那份) const pushed = presenceLocalPort(name, port) if (pushed !== undefined) return `127.0.0.1:${pushed}` // ③ 再回退:relay 快照(只有"没订阅 / 订阅不新鲜"时才会走到这里 —— 即 R3 的原路径) // 仅在 relay 与 Manager 同机时可用 const hit = relayEndpoints.get(`${name}:${port}`) return hit === undefined ? undefined : `127.0.0.1:${hit.localPort}` }, online: (name) => { const port = hostAgentPorts.get(name) if (port === undefined) return false /** * ① **有新鲜快照** ⇒ 沿用 R3 的「先问在线、再给地址」:能明确区分"离线"与"端口没了", * 失败语义更准(离线走 `undefined`,不必真去拨一次)。 */ if (Date.now() - relaySnapshotAt <= RELAY_SNAPSHOT_TTL_MS) { const hit = relayEndpoints.get(`${name}:${port}`) if (hit !== undefined) return hit.online === true } /** * ② **没有快照**(relay 在别的机器上 / 未配 `/status`)⇒ 交给**拨号本身**判定: * 离线会拿到 `target-offline`,是**带原因的显式失败**,不会静默路由到别处。 */ return currentDialer() !== undefined }, /** * 序⑲:**主路径 = 订阅推送**(新鲜时它是权威答案,`online` 那条兜底就不会被调用)。 * 返回 `undefined` ⇒ 回落到上面 `online`(= R3 的既有行为,一行未改)。 */ presence: presenceOnline, }), ]), ]) const hostsProvider = async (): Promise => { const rows = await db.listDshHosts() /** * **逻辑名 = 控制面里"这台 host"的唯一键**(P0-3)。 * * 网络维度取自 `dsh_hosts.network_id`(P0-1 迁的列,**本步才真正被消费**)—— * 在此之前它只是"表里有、没人读",于是控制面所有键(地址表 / via 表 / 端口表 / * relay 端点表 / 拨号口池)都按**裸 hostId**,两张网各有一台同名 host 时会**互相覆盖**。 * * ⚠️ 序㉑ P-2:映射由 `hostNameIndex` 统一提供(闭包 `translateEndpoint` 用的是**同一份**), * 这里只是把它读出来;`??` 那支是**类型兜底**(索引按 `rows` 建 ⇒ 实际不可达)。 */ const nameOf = (row: { id: string; networkId: string }): string => hostNameById.get(row.id) ?? logicalName(row.networkId === '' ? OPS_NETWORK : row.networkId, row.id) // P-2:填 `hostId → 逻辑名`(闭包拿到裸 hostId 后靠它回到"控制面的键口径") hostNameById.clear() for (const [id, name] of hostNameIndex(rows)) hostNameById.set(id, name) // 先同步地址表(会合实现不直接连 DB),再逐行解析 —— 两遍是为了让 `resolve()` 只看纯内存表。 for (const row of rows) { const name = nameOf(row) const address = parseReachability(name, row.endpoint, row.via).address hostAddresses.set(name, address) hostVia.set(name, row.via) const port = addressPort(address) if (port === undefined) hostAgentPorts.delete(name) else hostAgentPorts.set(name, port) } for (const row of rows) { // `via` 认不出来(老行 / 手写错值)⇒ 回退到"今天唯一在跑的实现",**不抛**(过渡期要能跑)。 const impl = rendezvous.get(row.via) ?? rendezvous.get(VIA_MANAGER_SSH) hostDirectory.set(row.id, { hostId: row.id, agentUrl: row.endpoint, // 保留:`agentBaseUrlOf` 的回退路径,S2 阶段与 reachability 等价 reachability: impl === undefined ? undefined : await impl.resolve(nameOf(row)), token: row.agentToken, instanceHost: config.clusterInstanceHost, // 表里的声明(P0-3):`agentBaseUrlOf` 靠它区分"解析不出"与"可以回落 endpoint"。 via: row.via, }) } return [...hostDirectory.values()] } /** * 按用户归属解析 host(实例面与**文件面**共用这一份,避免两套路由漂移)。 * * 为什么两处都要用:用户工作区在**那台 worker 的本地盘**;若文件面固定打一台 agent, * 就会出现「实例跑在 A、mkdir/上传写到 B」⇒ 实例看不到自己的文件、甚至 cwd 不存在而崩 * (2026-09-15 生产切换暴露)。 */ const hostIdForUser = async (userId: string): Promise => (await db.findUserInstance(userId, 'main'))?.hostId ?? undefined /** * **文件面专用**路由:没有归属就**先选机并钉住**。 * * 为什么不能直接用 hostIdForUser:新用户还没有归属,"写文件"和"launch"会各自选一次机, * 两次可能选到不同机器 ⇒「文件写到 A、实例起在 B」⇒ 实例看不到自己的文件(2026-09-15 实测)。 * 首次触达工作区就把归属钉住,后续(含 launch)全走粘性 ⇒ 两面必然一致。 */ const hostIdForFile = async (userId: string): Promise => { const owned = await hostIdForUser(userId) if (owned !== undefined && owned !== null) return owned const chosen = (await selectHost(userId)) ?? config.clusterHostId if (chosen === '') return undefined await db.pinInstanceHost(userId, chosen) return chosen } /** * 选机:**① 粘性优先 ② 再按容量准入**。 * * ⚠️ 顺序不能颠倒(2026-09-15 生产切换时补的缺口):用户工作区在**本地盘**、跟着机器走, * 把"已有历史数据的用户"调度到另一台 ⇒ 他打开实例看到**空工作区**。 * ⇒ 有历史归属且那台还 `up` 就留在原地;只有**从未有过归属**(新用户)才按容量挑最空的。 * `capacityMb <= 0` = 未声明(不设限);`-1` = 显式禁用承载。 */ const reserveMb = Number(process.env.DSHS_CLUSTER_RESERVE_MB ?? '512') const selectHost = async (userId?: string): Promise => { const rows = await db.listDshHosts() const eligible = rows.filter((h) => h.status === 'up' && h.capacityMb !== -1) if (userId !== undefined) { const owned = (await db.findUserInstance(userId, 'main'))?.hostId ?? null if (owned !== null && eligible.some((h) => h.id === owned)) return owned } const candidates = eligible.filter( (h) => h.capacityMb <= 0 || h.usedMb + reserveMb <= h.capacityMb, ) if (candidates.length === 0) return undefined // 无候选 ⇒ 回退到配置里那台 candidates.sort((a, b) => a.usedMb - b.usedMb) return candidates[0].id } /** * ── 序㉔ 内容分发装配(块级内容寻址 · 同网段 peer 优先)────────────────────── * * ⚠️ **本块是"仅装配"**(交接单 §3.1):只把 `store` / `source` / `peer` 三个纯逻辑模块 * **接线并暴露计数**,⛔ 不改 presence、不改端点翻译、不改切流、不新开监听口(R5)。 * * **回滚 = 整段移除本块**(§6 装配级回滚):新模块文件留着不加载 ⇒ 零副作用。 * * 三档 fetcher 的落点(本阶段): * - `local` —— 直接查 `ContentStore`(同进程已持有的块); * - `peer` —— 走 `ContentPeerGroup.candidates()` 的结果(同组 peer;真机取块经既有 wss); * - `edge` / `region` / `origin` —— **本阶段未装配**(缺档 ⇒ 链按"该档没有"处理并**照样计数**, * 这正是 `ContentSourceChain` 纪律 2/3 要的行为:⛔ 不许因为没装配就静默缩短链路)。 * * ⚠️ 之所以敢先不装配 `origin`:本单的 E1 判据(回源 ≈ 1 份 × 组数)测的是 * "**同组内多台只回源一次**",判据落在 `local` / `peer` 两档的命中计数上; * 真回源路径(平台代理层)本就在 `proxy.ts`,与本块正交。 * * 🔴 **两个参数就地读 env(⛔ 不进 `config.ts`)**:`config.ts` **不在本单在册文件集** * (交接单 §3.1)⇒ 动它 = 命中 §9-2 回头条件(超范围)。故装配层就地取: * - `CONTENT_STORE_MAX_BYTES` —— 块缓存上限(缺省 64 MiB,见 `store.ts` 推算); * - `CONTENT_GROUP` —— 本节点在内容面上的**组名**(缺省 `local`)。 * ⚠️ 二者都是"纯新增、缺省可用"⇒ 不设也不影响既有行为(⛔ 不动任何既有键)。 */ const contentStoreMaxBytes = Number(process.env.CONTENT_STORE_MAX_BYTES ?? '') > 0 ? Number(process.env.CONTENT_STORE_MAX_BYTES) : undefined const contentGroup = process.env.CONTENT_GROUP ?? 'local' /** * 🆕 序㉘ · 单 B:**平台侧接入加密,但缺省不启用**。 * * 🔑 为什么平台侧**默认关**:① 平台进程服务真实用户,密钥落点越少越好(单内 §7.2 * "密钥本体只走 `0600` 落文件");② `OBS-23` 的读取面是 **relay** 的 `/status` * ⇒ 判据在 relay 侧成立即可;③ `peer` 取回通道尚未接线 ⇒ 跨进程密钥一致性今天**不构成收益**。 * ⚠️ 要开只需配 `CONTENT_GROUP_KEY_FILE`(**纯新增、缺省可用** ⇒ 不设即回到序㉔ 行为)。 */ const platformKeyFile = process.env.CONTENT_GROUP_KEY_FILE ?? '' const platformGraceMs = Number(process.env.CONTENT_EPOCH_GRACE_MS ?? '') const { cipher: contentCipher } = platformKeyFile === '' ? { cipher: undefined } : openContentCipher({ file: platformKeyFile, group: contentGroup, network: OPS_NETWORK, ...(Number.isFinite(platformGraceMs) && platformGraceMs > 0 ? { graceMs: platformGraceMs } : {}), log: overlayLog, }) const contentStore = new ContentStore({ maxBytes: contentStoreMaxBytes, }) const contentPeers = new ContentPeerGroup({ // 本节点在内容面上的分组:网 = 运维网(平台自己的机器),组 = 本机(同网段走本机多实例验证) network: OPS_NETWORK, group: contentGroup, ...(contentCipher === undefined ? {} : { epoch: contentCipher.epoch }), log: overlayLog, }) const contentSource = new ContentSourceChain({ fetchers: { local: async (id: string) => { const bytes = contentStore.get(id) return bytes === undefined ? undefined : { tier: 'local' as const, bytes } }, peer: async (id: string) => { // 同组有候选 ⇒ 由上层真机路径去取;本阶段没有真实取回通道时诚实回"没有" // (⛔ 不许伪造字节 —— 那会让 E1 的"零回源"变成假绿) const cands = contentPeers.candidates(id) return cands.length === 0 ? undefined : undefined }, }, // 🆕 单 B:唯一解密点(生产路径);未启用加密 ⇒ 不注入 ⇒ 行为逐字不变 ...(contentCipher === undefined ? {} : { decode: (stored: Buffer) => contentCipher?.decodeBlock(stored) }), onHit: (tier, id) => overlayLog(`[content] 命中 tier=${tier} block=${id.slice(0, 8)}…`), onMiss: (tier, id) => overlayLog(`[content] 未命中 tier=${tier} block=${id.slice(0, 8)}…`), onError: (tier, id, err) => overlayLog(`[content] ⛔ tier=${tier} 抛错 block=${id.slice(0, 8)}… err=${String(err)}`), onDecodeRejected: (tier, id) => overlayLog(`[content] ⛔ tier=${tier} 取回的块解密失败 block=${id.slice(0, 8)}…(认证未过)`), }) /** 内容面计数快照(供 `/status` 类观测读取;⛔ 只读,不改任何既有字段)。 */ const contentCounters = (): Record => ({ store: contentStore.counters(), storeBytes: contentStore.bytes, storeBlocks: contentStore.size, /** ⚠️ 键名与 `ContentSourceChain.counters()` 同构 ⇒ 探针可逐档断言。 */ source: contentSource.counters(), sourceMiss: contentSource.missCounters(), sourceErrors: contentSource.errors(), sourceMissTotal: contentSource.misses(), /** 🆕 单 B:逐档解密被拒(`sourceErrors` 的细分)+ 加密判别器块。 */ sourceDecodeRejected: contentSource.decodeRejected(), // ⚠️ 不启用 ⇒ 键整体缺席(补零会让"没启用"与"启用了但零值"同形) ...(contentCipher === undefined ? {} : { crypto: contentCipher.counters() }), peer: contentPeers.counters(), peerGroup: contentPeers.groupKey, }) void contentCounters // 暴露给后续观测面(S5 探针项);本阶段先建在作用域内,避免"装了但没人读" const supervisor: Spawner = config.deployMode === 'cluster' ? (leased = new LeasedSpawner( new RemoteSpawner({ agentUrl: config.clusterAgentUrl, token: config.clusterAgentToken, instanceHost: config.clusterInstanceHost, defaultHostId: config.clusterHostId, hostsProvider, resolveApiKey, resolveUid, // 按 host 路由:每次操作都落到"该用户实例所在那台"(与文件面同一份) hostIdFor: hostIdForUser, /** * 覆盖网络 R4:**实例端点的 relay 翻译**。 * * `via='relay'` 的 host,其实例在 Worker 上监听 `127.0.0.1:<实例端口>`,而 Manager * 要拨的是 relay 为那个端口开的**动态回环口号** ⇒ 必须按 `(hostId, 实例端口)` 查 * relay 快照翻译。查不到就回 `undefined`(= 实例不可达)—— **绝不原样透传**, * 那会拨到一个"在 Manager 上毫无意义"的端口上。 * * 非 `relay` 形态(`local` / `manager-ssh`)**原样返回**:隧道是同号反向转发, * 两边口号相同 ⇒ 不需要也没法翻译(这正是 S3 端口区间隔离能根治撞号的前提)。 * * ⚠️ 判据必须取 **`dsh_hosts.via` 原文**(`hostVia`),**不能**取 `reachability.via`: * 后者在 host 离线 / relay 快照陈旧时为 `undefined`,若据此判"不是 relay ⇒ 原样透传", * 就会**失败开放** —— 把 Worker 侧口号打到 Manager 本机(2026-09-16 实测:浏览器只见 * 空响应、平台零日志)。未知 host 仍按老行为原样返回(单机 / 默认 host 不受影响)。 */ translateEndpoint: (hostId, ep) => { /** * 🔴 **序㉑ P-2:先把裸 hostId 换成逻辑名**(控制面所有表的键口径)。 * * 原实现直接 `hostVia.get(hostId)` ⇒ **恒 `undefined`** ⇒ 早退原样透传 ⇒ * 这个闭包整体是**死分支**(翻译从未生效;`translateEndpoint` 的第一版还漏过赋值)。 * 判定本体已抽成纯函数 `relayEndpointTarget`(可单测、可先红后绿)。 */ const name = hostNameById.get(hostId) const decision = relayEndpointTarget({ known: name !== undefined, via: name === undefined ? undefined : hostVia.get(name), // ⚠️ thunk:`localPortFor` **会按需绑池口 / 真的拨一次** ⇒ 只在 via=relay 时才准调 dialedPort: name === undefined ? () => undefined : () => currentDialer()?.localPortFor(name, ep.port), /** * 🔴 **序㉒ P-2b:第 ②' 级 = 订阅推送落点**。 * * 必须与 `addressOf`(上方 `RelayRendezvous`)的三级链**同源、同顺序**: * ① 拨号落点 → ② `presenceLocalPort` → ③ relay 快照。少这一级时,P-1 修好之后 * (订阅新鲜期长期成立 ⇒ 快照趋冷)会在"拨号池分不出槽位、但推送里有落点"时 * **判实例不可达(失败关闭)**,而同一时刻地址解析链能答出落点 ⇒ 两条链漂移 ⇒ * 用户看到"实例打不开",日志却什么都没有。 */ pushedLocalPort: name === undefined ? undefined : presenceLocalPort(name, ep.port), snapshotLocalPort: name === undefined ? undefined : relayEndpoints.get(`${name}:${ep.port}`)?.localPort, }) if (decision.kind === 'passthrough') return ep if (decision.kind === 'local') return { host: '127.0.0.1', port: decision.port } // 失败关闭 + **点名**(⛔ 不回原样透传:那会拨到 Manager 本机,症状只有"空响应 + 零日志") overlayLog( `[overlay-endpoint] ⛔ ${name ?? hostId}:${ep.port} 在册且 via=relay,但拨号落点 / 订阅推送 / relay 快照三级都查不到 ⇒ 判实例不可达(失败关闭)`, ) return undefined }, }), db, { hostId: config.clusterHostId, agentUrl: config.clusterAgentUrl, agentToken: config.clusterAgentToken, capacityMb: Number(process.env.DSHS_CLUSTER_CAPACITY_MB ?? '0'), // 专用 Manager 部署设 DSHS_CLUSTER_REGISTER_SELF=0(见 LeasedSpawner 的注释) registerSelf: (process.env.DSHS_CLUSTER_REGISTER_SELF ?? '1') !== '0', ttlMs: Number(process.env.DSHS_CLUSTER_LEASE_TTL_MS ?? '30000'), renewMs: Number(process.env.DSHS_CLUSTER_LEASE_RENEW_MS ?? '10000'), selectHost, agentFor: (hostId: string) => { const h = hostDirectory.get(hostId) // 取址统一走可达性入口(S0)—— `agentUrl` 已降级为可选旧字段 return h === undefined ? undefined : { agentUrl: agentBaseUrlOf(h), token: h.token } }, }, )) : new LocalSpawner(config, resolveApiKey, resolveUid) // 注册本机 + 起心跳(异步,不阻塞启动;心跳失败只影响该 worker 的状态位) if (leased !== undefined) { void leased.start().catch((err: unknown) => { console.error('[cluster] heartbeat/register failed to start:', err) }) } /** * 按需补齐 host 目录(2026-09-16 加,覆盖网络线缺陷 A1)。 * * **为什么文件面必须自己会刷新**:`hostDirectory` 是**惰性** Map —— 唯一的写入者是 * `hostsProvider()`,而此前只有 `RemoteSpawner.ensureHosts()`(TTL 30 s)会调它 ⇒ * Manager 重启后若用户先碰文件面("我的文件" / launch 的 folder 检查),表里只有本机 * ⇒ `agentFor('w-106')` 返回 `undefined` ⇒ 旧行为**静默回退到本机 agent** ⇒ worker 上当然 * 没有这个用户 ⇒ 假 `404 {"error":"not_found"}`,与"文件夹不存在"完全同形,且平台零日志。 * (判别器 = relay 有没有 `DIAL`:没有 = 请求根本没出这台机。回归用例见 * `test/remote-user-fs.test.mjs`。) * * **成本**:只在**未命中**时查库(正常路径零开销);并发去重 + 5 s 冷却, * 避免一个真正不存在的 hostId 把 PG 打穿。 */ const DIRECTORY_COOLDOWN_MS = 5_000 let directoryRefreshing: Promise | undefined let directoryRefreshedAt = 0 const ensureHostDirectory = async (hostId: string): Promise => { if (hostDirectory.has(hostId)) return if (directoryRefreshing !== undefined) return directoryRefreshing if (Date.now() - directoryRefreshedAt < DIRECTORY_COOLDOWN_MS) return directoryRefreshedAt = Date.now() // **可观测性**(别省这一行):本行出现 = 真的走进了"未命中 ⇒ 补齐"这条路径, // 也就是"旧实现会静默把请求打到本机 agent"的那个窗口。没有它,"这次为什么没 404" // 只能靠推断;本项目吃过的静默失效亏,根子都在"关键分支不可观测"。 console.log(`[cluster] host 目录未命中 ${hostId} ⇒ 按需补齐(重启窗口期常见)`) directoryRefreshing = hostsProvider() .then(() => undefined) .finally(() => { directoryRefreshing = undefined }) return directoryRefreshing } const userFs = createUserFs(config, { hostIdFor: hostIdForFile, agentFor: (hostId: string) => { const h = hostDirectory.get(hostId) // 同上一处:取址只经可达性入口(文件面与实例面共用同一份路由,别各自拼) return h === undefined ? undefined : { agentUrl: agentBaseUrlOf(h), token: h.token } }, ensureHost: ensureHostDirectory, }) // T08 S5:cluster 模式下**所有 worker 的 dataRoot 必须是同一绝对路径**(基线约定, // 设计 §14.3)。不一致会让 `resolvePath` 算出的"实例眼里的路径"与实际不符 ⇒ // 文件面与 launch 的 folder 都会错。这里在启动时**报出来**,别等用户点进去才发现。 if (userFs instanceof RemoteUserFs) { void userFs .probeWorkerRoot() .then((root) => { if (root !== undefined && root !== userFs.workerDataRoot) { console.error( `[cluster] worker dataRoot 与配置不一致:agent 报 ${root},本进程按 ${userFs.workerDataRoot} 计算路径。` + '请把 DSHS_CLUSTER_WORKER_DATA_ROOT 设为 worker 上的实际值(所有 worker 必须同路径)。', ) } }) .catch(() => { /* 探测失败不阻塞启动:会有心跳/调用失败暴露 */ }) } const app = Fastify({ logger: { level: config.logLevel }, trustProxy: true, bodyLimit: config.maxUploadBytes, }) app.decorate('db', db) app.decorate('config', config) app.decorate('supervisor', supervisor) app.decorate('userFs', userFs) app.decorateRequest('user', null) // Reverse proxy (subdomain + legacy subpath). Registered first so its global // onRequest hook intercepts per-user subdomain traffic before other hooks. await registerDshProxy(app) // CORS for cross-subdomain API calls from dsh instances (功能插件启停 section // runs in the browser on `.dsh.ai1net.com` and calls portal APIs on // `dsh.ai1net.com`). Cookie is HttpOnly + SameSite=None (secure mode) with // Domain=.dsh.ai1net.com, so credentials ride along; we only need to allow // the Origin. Restricted to the platform base domain and its subdomains. app.addHook('onRequest', async (request, reply) => { const origin = request.headers.origin if (origin === undefined || origin === '') return if (!isAllowedOrigin(origin, config.baseDomain)) return reply.header('Access-Control-Allow-Origin', origin) reply.header('Access-Control-Allow-Credentials', 'true') reply.header('Vary', 'Origin') if (request.raw.method === 'OPTIONS') { reply.header('Access-Control-Allow-Methods', 'GET,POST,DELETE,OPTIONS') reply.header('Access-Control-Allow-Headers', 'Content-Type') reply.header('Access-Control-Max-Age', '600') return reply.code(204).send() } }) app.addHook('onClose', async () => { await supervisor.teardown() await db.close() }) // Rate limiting first so auth/admin surfaces are covered by default. await app.register(rateLimit) // Domain-specific route groups (API). await app.register(authRoutes) await app.register(adminRoutes) // 档案 87:admin 视角的「用户服务 / 工作区文件」—— admin 在「服务管理」里管**任意用户** await app.register(adminUserOpsRoutes) await app.register(businessPluginRoutes) await app.register(desktopRoutes) await app.register(dshRoutes) await app.register(domainRoutes) await app.register(overlayRoutes) // 序㊵(P2/S5):覆盖网络**管理面**(节点清单只读 + 直连开关读写)—— 全部走 requireAdmin await app.register(overlayNodeRoutes) await app.register(skillRoutes) await app.register(whitelistRoutes) // Static placeholder SPA last, so exact API routes take precedence over the // wildcard static handler. await app.register(fastifyStatic, { root: webRoot, prefix: '/', wildcard: true, index: ['index.html'], }) return app }