2026-09-12 — views
OpenAI 擴展 Habitat 儲存容量以每秒處理 7000 萬次請求
為什麼值得讀 透過接受 Python 的短期技術債來實現快速平台穩定性並解耦儲存邏輯，管理指數級增長的案例研究。
OpenAI 工程師詳述如何將基於 Python 的 Habitat 儲存平台擴展，以服務超過十億用戶並應對前所未有的增長。
前所未有的增長與規模
OpenAI 已成功擴展其線上儲存平台 Habitat，以支援近 40 個地理區域內超過十億的每週活躍用戶。該系統現在每秒處理超過 7000 萬次請求，並管理超過 500 PB 的數據。此基礎設施對所有 OpenAI 產品至關重要，包括 ChatGPT 和 Codex，確保從登入驗證到對話啟動等各種操作的快速且可靠數據存取。如果這些請求失敗或變慢，用戶體驗將顯著下降，甚至導致產品無法使用。
從庫到服務的演變
Habitat 於 2023 年作為一個簡單的 Python 客戶端庫推出，以支援 GPTs。其設計旨在抽象化資料庫管理細節，例如架構查找、路由、授權和加密，讓產品工程師能專注於應用邏輯而非底層儲存機制。然而，到了 2025 年中，客戶端實現達到了極限。隨著 OpenAI 服務數量的增加，維持向後兼容性變得不可行。協調數十個服務以更新客戶端庫被證明是脆弱且低效的。單一團隊的一次回滾可能會導致工程團隊努力防止的中斷。
為了解決這種操作上的脆弱性，OpenAI 將儲存邏輯解耦為一個獨立服務。這種集中化確立了部署、可觀察性和平台增強的單一控制點。它還允許更嚴格地執行數據安全和隱私原語，包括訪問控制策略和審計日誌。該服務充當一個節流點，以保護用戶數據免受外部、內部或代理行為者的未經授權訪問。
Python 的策略性使用
儘管 Python 在高吞吐量服務中存在已知的開銷，OpenAI 仍選擇將 Habitat 構建為 Python 服務。此決定引入了比本地庫執行更高的網絡延遲，並增加了 CPU 和內存的擴展成本。工程團隊承認，Python 在 100 倍規模下將不可持續，未來很可能需要重寫。然而，他們將此視為技術債的策略性侵入。主要目標是解除產品開發者的束縛並實現即時的平台穩定性。他們計算過，隨著自身編碼模型（如 Codex 和 GPT）的快速進步，最終將簡化遷移出 Python 的路徑。這一賭注被證明是正確的，使團隊能夠在構建堅固基礎設施的同時，優先考慮穩定性而非即時的資源優化。
實戰筆記
工程師應考慮將客戶端邏輯解耦為獨立服務，以減少部署脆弱性並集中安全控制。如果語言選擇上的短期技術債能加速平台穩定性和產品速度，且預見了遷移路徑，這將是一種可行的策略。