返回產品博客

深度解析:Tego OS v3.0.0 的 per_user 獨享實例是怎麼落地的

本文發佈於 2026年4月22日。產品當前能力參見產品能力。

深度解析:Tego OS v3.0.0 的 per_user 獨享實例是怎麼落地的

深度解析:Tego OS v3.0.0 的 per_user 獨享實例是怎麼落地的

一句話:讓一個分身能被一群人放心地、互不打擾地一起用。


為什麼必須做 per_user

在 Tego OS v2.x 裡,「分身」是這樣的:

  • 一個分身對應一個容器;
  • 該分身的所有用戶,都連到同一份運行時;
  • 會話歷史、長期記憶、文件工作區等,都在那一份運行時裡。

只要把分身放進一線高併發的生產場景——客服中心、IT 工單、跨境電商運營——立刻會出現三類問題:

  1. 會話串擾:A 在問發貨政策,B 在追退款進度,分身的上下文窗口被兩類對話擠壓;
  2. 記憶汙染:A 給分身存的「客戶偏好」可能被 B 的會話覆蓋或讀到;
  3. 文件衝突:A 的工作區文件可能被 B 操作,無法真正按用戶切片。

我們不止一次接到這樣的客戶反饋:「能不能讓每個員工都有自己的運行時?」於是有了 v3.0.0 的 per_user。


調度模型:把「分身」拆成兩層

v3.0.0 在分身上加了一個 instanceMode 字段:

模式 行為
shared(默認) 兼容 v2,多用戶共享同一份運行時
per_user 每個用戶拉起獨立實例容器 + 獨立 S3 命名空間

調度圖:

flowchart TD
  UA[用戶 A] --> GW[網關 + JWT]
  UB[用戶 B] --> GW
  UC[用戶 C] --> GW
  GW --> SCH[per_user 調度器]
  SCH --> CA[A 的容器<br/>S3: per-user/A/...]
  SCH --> CB[B 的容器<br/>S3: per-user/B/...]
  SCH --> CC[C 的容器<br/>S3: per-user/C/...]

調度器的關鍵決策有四步:

  1. 認證側:JWT 中攜帶 instanceUserId,所有下游服務都能識別請求歸屬;
  2. 路由側:網關根據 (avatarId, instanceUserId) 選擇/拉起目標容器;
  3. 數據側:S3 讀寫路徑自動按 instanceUserId 重寫,業務代碼無感;
  4. 回收側:空閒超過閾值 → 優雅停機 → 狀態 flush 到 S3,下次秒級喚醒。

這四步任何一步出錯都會讓 per_user 顯得「不可信」,所以每一步都需要單獨的護欄(詳見下文)。


生命週期:從 PROVISIONING 到 RECYCLED

per_user 容器的狀態機大致如下:

stateDiagram-v2
  [*] --> PROVISIONING: 用戶首次連接
  PROVISIONING --> READY: 容器拉起成功 + 心跳上報
  READY --> ACTIVE: 收到流量
  ACTIVE --> IDLE: 5min 無活躍
  IDLE --> RECYCLING: 觸發優雅停機
  RECYCLING --> RECYCLED: 狀態 flush 到 S3
  RECYCLED --> PROVISIONING: 下次喚醒
  PROVISIONING --> FAILED: 拉起失敗
  ACTIVE --> FAILED: 心跳超時 / 容器崩潰
  FAILED --> [*]: stale 鎖清理 → 下次自動重試

每個狀態都對應一組明確的工程動作:

  • PROVISIONING → READY:拉起容器、掛載 S3 命名空間、health check 通過、心跳上報;
  • READY → ACTIVE:網關把流量轉給目標容器,開始計算配額;
  • ACTIVE → IDLE:默認 5 分鐘無任何流量即標記 IDLE;
  • IDLE → RECYCLING:觸發優雅停機信號,給容器 45 秒把狀態 flush 到 S3;
  • RECYCLING → RECYCLED:編排資源回收(pod / volume / service),但 S3 數據保留;
  • RECYCLED → PROVISIONING:下一次有該用戶流量進來時,秒級喚醒複用 S3 數據。

這套生命週期的核心目標是:穩態資源佔用低、喚醒延遲低、出錯可恢復。


三維配額護欄

per_user 最大的風險是「資源被濫用」。一個分身被一群人用起來,配額必須能精細到「人」。v3.0.0 引入了三維配額:

維度 目的
每分身上限 防止單個分身把租戶的總資源吃掉
每用戶上限 防止個別用戶長期獨佔資源
每租戶上限 防止單個租戶影響整個集群

三維配額相互獨立,任何一維超閾值都會讓請求進入排隊 → 重試 → 拒絕的標準鏈路。

加上一項「資源容量護欄」——宿主 CPU / 內存超過 80% 直接 503 + 排隊,避免把節點壓垮,把「實例服務化」做成了真正生產級的能力。


心跳兜底與 Stale 鎖清理

容器異常是常態,必須假設它一定會:

  • 進程崩潰;
  • 網絡抖動;
  • 節點 OOM;
  • kubelet 重啟。

v3.0.0 的兩道兜底:

心跳兜底

容器側每 30 秒上報一次心跳。3 分鐘無心跳自動停機,杜絕「容器僵死 + 配額永久佔用」。這條機制讓 per_user 不會因為某些用戶的容器死掉,就讓整個分身的配額永久流失。

Stale 鎖清理

進程崩潰時,可能留下卡死的 PROVISIONING / PENDING 行。一個定時器掃描會把超過閾值仍未推進的行置為 FAILED,讓下次連接自動重試,避免「鎖了一行死鎖」。

這兩條加起來,意味著只要節點本身沒有徹底壞掉,per_user 總能在合理時間內自愈。


S3 命名空間:per_user 的數據底座

per_user 真正能跑,前提是 S3 路徑不能再「大鍋飯」。v3.0.0 重新設計了 S3 命名空間:

路徑 含義
{avatarId}/{key} 模板(admin 可寫,所有用戶只讀)
{avatarId}/shared/{key} shared 模式的運行時備份
{avatarId}/per-user/{userId}/{key} per_user 模式下每個用戶的獨立備份

讀路徑用三層 fallback: runtime/<key> → template/<key> → 老 seed 路徑。

寫路徑由網關統一改寫到 per-user/{userId}/... 下,業務代碼不需要知道用戶 ID 是誰。

落到客戶層面:員工離職時,只需要清理 per-user/<userId>/... 這一支,乾淨徹底。


一鍵重置全部用戶實例

為了讓灰度和回滾不至於失控,v3.0.0 提供了「一鍵重置全部用戶實例」操作:

  • 停所有 per_user 容器;
  • 刪除全部編排資源(pod / volume / service);
  • 清除 deployment 記錄;
  • 清除 stale 鎖;
  • 保留 / 不保留 S3 數據可選。

實操中,這套能力主要在兩個時機會用到:

  1. 灰度切換時:把分身從 shared 切到 per_user 之前,先清理舊編排;
  2. 架構升級時:當我們 bump 一些底層契約(如調度器或 S3 路徑),需要讓所有用戶的容器以新版本重新拉起。

Warm Pool 路線圖

per_user 當前的首次啟動是 5–15 秒「冷啟」。我們已經在 roadmap 上規劃了 Warm Pool:

  • 維護一個由調度器管理的「熱容器池」,提前預熱基礎鏡像;
  • 用戶首次連接時,從池裡直接綁定 instanceUserId;
  • 目標是把首次啟動從「5–15 秒」壓到「< 1 秒」。

Warm Pool 的設計正在和 BusinessMonitor 協同——把池子的水位作為新的指標暴露出來,讓運維可以根據真實活躍度動態調整池容量。


工程小結

回過頭看,per_user 不是一個孤立的特性,而是一組工程能力的合奏:

  • 調度 → 把分身按用戶切片;
  • 數據 → S3 命名空間分前綴;
  • 配額 → 三維獨立護欄;
  • 穩定性 → 心跳兜底 + stale 鎖清理;
  • 可恢復 → 一鍵重置 + 三層 fallback;
  • 可演進 → Warm Pool 在路上。

只有這些都到位,「一個分身能被一群人放心地、互不打擾地一起用」才不是 PPT,而是真正可對企業交付的能力。


渠道 方式
申請演示 30 分鐘看完 4 個核心場景
私有化部署諮詢 support@zhama.com
完整平臺 https://app.zhama.com
微信交流群二維碼 微信公眾號二維碼