admin
c70d5d860e
背景：把平台从「单机单进程」改造成「1 组 Manager + N 台 Worker + 共享归属状态」，
硬约束 = 全程兼容单例模式（deployMode 默认 local；生产切换前 47 一行未动）。
主要改动
1) 数据模型 v7（SQLite 与 PG 两方言同步）：新增 dsh_hosts 注册表 +
dsh_instances.{host_id,epoch,heartbeat_at,lease_until}；claimInstance 原子抢占
（UPDATE … WHERE host_id IS NULL OR lease_until < now）+ pinInstanceHost 钉住归属。
2) 租约与 fencing：src/supervisor/lease.ts（acquire/renew/release + stillHolder 判据 +
ttl > 2×renew 硬校验）；心跳里续租，失权即向 worker 下发更高 epoch（self-fencing）。
⚠️ release 只清租约（lease_until），**保留 host_id** —— host_id 是「用户数据在哪台」的锚点。
3) Worker agent（src/worker/agent.ts，子命令 dshs worker）：实例生命周期 + 文件面 /fs/*
+ 幂等键（operationId）+ 鉴权（timingSafeEqual）；Worker 不写控制面数据
（apiKey/uid 由 Manager 随 launch 投递，R5 收窄）。
4) 远端 Spawner + LeasedSpawner：按 host 路由（**粘性优先**：有历史归属且那台 up 就留在原地，
否则按容量选最空的）+ 容量准入 + deployMode=cluster 装配（systemd drop-in，可回滚）。
5) bwrap 修正：**所有挂载点的中间目录统一前置 + 去重 + 由外到内**（「就近创建」会在嵌套前缀下
遮掉已绑挂载点 ⇒ bwrap: Can't chdir）；且**只能用 --tmpfs**，用 --perms 会让 47 的
bwrap 0.4.0 直接拒启动（沙箱全挂）。
6) 跨机隧道 src/worker/tunnel.ts：SSH ControlMaster + 动态 -R 转发；**自愈由 agent 本地
20s 定时器驱动**（不能只放 /healthz —— 心跳本身经隧道进来，断了就没人触发它）。
7) 文件面按归属路由（RemoteUserFs）：实例与文件必须落在同一台机器，否则实例看不到自己的文件。
8) 观测面：dshs doctor / dshs cluster status。
验证（本次均已实跑）
- test/lease.test.mjs：SQLite 10/10 == PG 10/10
- 组件级端到端 5 个：verify-cluster-{agent,lease,fs,migrate,live}.mjs
- 真跨机（47 Manager / 106 Worker，跨云 + 反向隧道）verify-cluster-cross.mjs 九步全绿
- 域名形态访问 verify-cluster-domain.mjs（<user>.域名 → Manager → 远端实例；越权 403）
- 冒烟 scripts/smoke-*：6/8，失败项与改动前基线完全相同（无回归）
- 生产切换与回滚剧本见 dsh-server-docs/交接单/T08-集群化落地-兼容单例模式.md §16
54 lines
2.0 KiB
Bash
54 lines
2.0 KiB
Bash
#!/usr/bin/env bash
|
||
# C 步（在 106 上跑）：把生产 Worker agent 装成 systemd 单元
|
||
# · env 与 47 的生产实例侧对齐（DSH_INSTANCE_* 必须一致 —— 实例是在 Worker 上 spawn 的）
|
||
# · token 走 env 文件（600）而不是命令行，避免 ps 泄露
|
||
# · 反向隧道复用演练时那把 key（其公钥已在 47 的 authorized_keys 里，restrict,port-forwarding）
|
||
set -uo pipefail
|
||
TOKEN="${WORKER_TOKEN:-dshs-worker-7f3a91c05e}"
|
||
|
||
cat > /etc/dshs-worker.env <<ENV
|
||
# DSHS 集群 Worker（2026-09-15 切换）—— 与 47 /etc/dshs.env 的**实例侧**条目保持一致
|
||
DSHS_DATA_ROOT=/var/lib/dshs
|
||
DSHS_ISOLATION_MODE=account
|
||
DSHS_DSH_BIN=/usr/bin/dsh
|
||
DSHS_BASE_UID=100000
|
||
DSH_INSTANCE_NODE_OPTIONS=--max-old-space-size=160
|
||
DSH_INSTANCE_UNIVER_SOCKET=auto
|
||
# 控制通道：Worker 主动拨 47 的反向隧道（公网入方向被云安全组挡住 ⇒ 只能这个方向）
|
||
DSHS_CLUSTER_AGENT_TOKEN=$TOKEN
|
||
[email protected]:32022
|
||
DSHS_TUNNEL_IDENTITY=/root/.ssh/tunnel_ed25519
|
||
ENV
|
||
chmod 600 /etc/dshs-worker.env
|
||
|
||
cat > /etc/systemd/system/dshs-worker.service <<UNIT
|
||
[Unit]
|
||
Description=DSHS cluster worker agent (hosts per-user dsh instances on 106)
|
||
After=network-online.target
|
||
Wants=network-online.target
|
||
|
||
[Service]
|
||
Type=simple
|
||
EnvironmentFile=/etc/dshs-worker.env
|
||
ExecStart=/usr/bin/node /opt/dshs-cluster/lib/cli.js worker --port 19000 --host 127.0.0.1 --host-id w-106 --instance-host 127.0.0.1 --log-level info
|
||
Restart=on-failure
|
||
RestartSec=3
|
||
KillMode=mixed
|
||
|
||
[Install]
|
||
WantedBy=multi-user.target
|
||
UNIT
|
||
|
||
systemctl daemon-reload
|
||
systemctl enable dshs-worker >/dev/null 2>&1
|
||
echo " 单元已装并 enable；token 长度=${#TOKEN}"
|
||
|
||
# 旧的手工 agent 若在跑先停（按端口定位）
|
||
pid=$(ss -lntpH 'sport = :19000' 2>/dev/null | grep -oP 'pid=\K[0-9]+' | head -1)
|
||
[ -n "$pid" ] && kill "$pid" && sleep 2 && echo " 已停旧的手工 agent pid=$pid"
|
||
|
||
systemctl restart dshs-worker
|
||
sleep 6
|
||
echo " dshs-worker=$(systemctl is-active dshs-worker)"
|
||
echo " healthz: $(curl -s -m 6 http://127.0.0.1:19000/healthz | head -c 200)"
|