背景:把平台从「单机单进程」改造成「1 组 Manager + N 台 Worker + 共享归属状态」,
硬约束 = 全程兼容单例模式(deployMode 默认 local;生产切换前 47 一行未动)。
主要改动
1) 数据模型 v7(SQLite 与 PG 两方言同步):新增 dsh_hosts 注册表 +
dsh_instances.{host_id,epoch,heartbeat_at,lease_until};claimInstance 原子抢占
(UPDATE … WHERE host_id IS NULL OR lease_until < now)+ pinInstanceHost 钉住归属。
2) 租约与 fencing:src/supervisor/lease.ts(acquire/renew/release + stillHolder 判据 +
ttl > 2×renew 硬校验);心跳里续租,失权即向 worker 下发更高 epoch(self-fencing)。
⚠️ release 只清租约(lease_until),**保留 host_id** —— host_id 是「用户数据在哪台」的锚点。
3) Worker agent(src/worker/agent.ts,子命令 dshs worker):实例生命周期 + 文件面 /fs/*
+ 幂等键(operationId)+ 鉴权(timingSafeEqual);Worker 不写控制面数据
(apiKey/uid 由 Manager 随 launch 投递,R5 收窄)。
4) 远端 Spawner + LeasedSpawner:按 host 路由(**粘性优先**:有历史归属且那台 up 就留在原地,
否则按容量选最空的)+ 容量准入 + deployMode=cluster 装配(systemd drop-in,可回滚)。
5) bwrap 修正:**所有挂载点的中间目录统一前置 + 去重 + 由外到内**(「就近创建」会在嵌套前缀下
遮掉已绑挂载点 ⇒ bwrap: Can't chdir);且**只能用 --tmpfs**,用 --perms 会让 47 的
bwrap 0.4.0 直接拒启动(沙箱全挂)。
6) 跨机隧道 src/worker/tunnel.ts:SSH ControlMaster + 动态 -R 转发;**自愈由 agent 本地
20s 定时器驱动**(不能只放 /healthz —— 心跳本身经隧道进来,断了就没人触发它)。
7) 文件面按归属路由(RemoteUserFs):实例与文件必须落在同一台机器,否则实例看不到自己的文件。
8) 观测面:dshs doctor / dshs cluster status。
验证(本次均已实跑)
- test/lease.test.mjs:SQLite 10/10 == PG 10/10
- 组件级端到端 5 个:verify-cluster-{agent,lease,fs,migrate,live}.mjs
- 真跨机(47 Manager / 106 Worker,跨云 + 反向隧道)verify-cluster-cross.mjs 九步全绿
- 域名形态访问 verify-cluster-domain.mjs(<user>.域名 → Manager → 远端实例;越权 403)
- 冒烟 scripts/smoke-*:6/8,失败项与改动前基线完全相同(无回归)
- 生产切换与回滚剧本见 dsh-server-docs/交接单/T08-集群化落地-兼容单例模式.md §16
64 lines
2.6 KiB
Bash
64 lines
2.6 KiB
Bash
#!/usr/bin/env bash
|
|
# 在 47 初始化「控制面 PG」:独立数据目录 /var/lib/dshs-pg + 专用 unit dshs-pg.service
|
|
# 设计口径:控制面 DB 在 Manager 侧、仅 loopback、scram 认证。
|
|
set -uo pipefail
|
|
PGDATA=/var/lib/dshs-pg
|
|
PGPORT=15432
|
|
DBPW="${DSHS_PG_PASSWORD:-dshs_cluster_2026}"
|
|
PGVER=$(/usr/bin/postgres --version | grep -oE '[0-9]+' | head -1)
|
|
echo " PG 版本: $(/usr/bin/postgres --version)"
|
|
|
|
# 别让发行版的默认单元意外起来(我们用自己的 unit + 自己的数据目录)
|
|
systemctl disable --now postgresql 2>/dev/null >/dev/null || true
|
|
|
|
if [ ! -f "$PGDATA/PG_VERSION" ]; then
|
|
install -d -o postgres -g postgres -m 700 "$PGDATA"
|
|
su - postgres -c "/usr/bin/initdb -D $PGDATA -E UTF8 --locale=C.UTF-8 --auth-local=peer --auth-host=scram-sha-256" >/tmp/initdb.log 2>&1 \
|
|
&& echo " ✓ initdb 完成" || { echo " ✗ initdb 失败"; tail -5 /tmp/initdb.log; exit 1; }
|
|
cat >> "$PGDATA/postgresql.conf" <<CONF
|
|
|
|
# ── DSHS 控制面(2026-09-15 集群化切换)──
|
|
listen_addresses = '127.0.0.1'
|
|
port = $PGPORT
|
|
unix_socket_directories = '/var/run/postgresql'
|
|
max_connections = 100
|
|
shared_buffers = 128MB
|
|
CONF
|
|
chown postgres:postgres "$PGDATA/postgresql.conf"
|
|
echo " ✓ 已写入 listen=127.0.0.1 port=$PGPORT"
|
|
fi
|
|
|
|
cat > /etc/systemd/system/dshs-pg.service <<UNIT
|
|
[Unit]
|
|
Description=DSHS control-plane PostgreSQL (cluster mode)
|
|
After=network.target
|
|
|
|
[Service]
|
|
Type=notify
|
|
User=postgres
|
|
Group=postgres
|
|
ExecStart=/usr/bin/postgres -D $PGDATA
|
|
ExecReload=/bin/kill -HUP \$MAINPID
|
|
KillMode=mixed
|
|
TimeoutStopSec=30
|
|
Restart=on-failure
|
|
|
|
[Install]
|
|
WantedBy=multi-user.target
|
|
UNIT
|
|
|
|
systemctl daemon-reload
|
|
systemctl enable --now dshs-pg >/dev/null 2>&1
|
|
sleep 3
|
|
echo " dshs-pg: $(systemctl is-active dshs-pg) 监听: $(ss -lntp 2>/dev/null | grep -c $PGPORT)"
|
|
|
|
# 角色 + 库(幂等)
|
|
su - postgres -c "/usr/bin/psql -p $PGPORT -tAc \"select 1 from pg_roles where rolname='dshs'\"" 2>/dev/null | grep -q 1 \
|
|
|| su - postgres -c "/usr/bin/psql -p $PGPORT -c \"create role dshs login password '$DBPW'\"" >/dev/null 2>&1
|
|
su - postgres -c "/usr/bin/psql -p $PGPORT -tAc \"select 1 from pg_database where datname='dshs'\"" 2>/dev/null | grep -q 1 \
|
|
|| su - postgres -c "/usr/bin/psql -p $PGPORT -c \"create database dshs owner dshs\"" >/dev/null 2>&1
|
|
|
|
echo " --- 连接自检(dshs 角色) ---"
|
|
PGPASSWORD="$DBPW" /usr/bin/psql -h 127.0.0.1 -p $PGPORT -U dshs -d dshs -tAc "select current_user||'@'||current_database()||' pg='||version()" 2>&1 | head -1 | cut -c1-90
|
|
echo " 连接串(含密码,勿外传): postgres://dshs:$DBPW@127.0.0.1:$PGPORT/dshs"
|