Keyboard shortcuts

Press ← or → to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

ROOST 專案路線圖

本路線圖說明 ROOST 開源信任與安全基礎設施的短期開發重點，聚焦 ROOST 團隊目前有能力處理的需求。ROOST 歡迎社群提出構想、建議與意見。路線圖以外的功能需求會記錄在另一份願望清單，彙整開源安全生態系最需要的系統與工具。無論你正在評估是否於平台採用 ROOST、準備參與貢獻，或協調不同專案團隊的工作，本文件都能協助你了解 ROOST 的發展方向與參與方式。

Note

時程是依團隊規模與整體工程貢獻所做的估算。截至 2026 年 5 月，ROOST 已收到許多社群貢獻，但尚未聘用全職工程師加入 ROOST 開發團隊。有興趣加入嗎？請由此申請。

ROOST 的方法

ROOST 認為，安全基礎設施應不受組織規模或資源限制，讓所有人都能免費使用；應具備透明度與可稽核性，以建立公共信任；應由社群共同治理，以反映使用者觀點與需求；也應採用開放原始碼，以降低廠商綁定並保有最大彈性。

你可以進一步閱讀 ROOST 的方法，並在 GitHub 查看社群文件。

DIRE 架構

ROOST 專案依照信任與安全團隊的實際運作方式，對應至 DIRE 架構。路線圖涵蓋下列四項能力

  • 偵測（Detection）　透過分類器、雜湊比對與行為訊號，識別帳號、行為及內容的潛在風險
  • 調查（Investigation）　檢視個別實體以外的脈絡，分析大範圍攻擊模式，或深入處理單一事件
  • 審查（Review）　由人員依政策或規範判斷內容
  • 處置（Enforcement）　採取行動並履行通報義務

目前不處理的範圍

ROOST 有意識地選擇不開發部分項目。這些決定來自生態系研究與合作夥伴討論，未來會隨著經驗與社群成長定期重新檢視。

  • ROOST 不自行建立新的偵測能力，而是透過 ROOST Model Community，讓既有模型更容易使用並能相互整合。

    • 在新的偵測能力中，新型兒童性虐待材料（CSAM）偵測是市場與生態系的迫切需求。ROOST 歡迎各界在這個領域進行探索與合作。

  • ROOST 目前不處理年齡驗證或身分技術，因為已有許多專業團隊投入相關發展。

  • ROOST 不建立面向終端使用者的工具，包括使用者檢舉元件，以及使用者瀏覽網路平台時直接操作的工具。ROOST 聚焦於託管內容組織所使用的內部工具，也期待其他團隊能以這些工具為基礎，開發不同的使用者端專案。

仍有一些 ROOST 本身不開發、但希望生態系出現的技術。例如，讓 ROOST 工具更容易與多種系統相容的元件，或是能將資料封裝後送入 Coop 審查的使用者檢舉元件。

專案總覽

重要說明

  • 功能依發布版本分組，時程均為估計
  • 優先順序可能依社群意見與貢獻者投入情況調整
  • 標示為「後續」的進階功能仰賴持續資源與團隊成長
  • 歡迎透過 GitHub Discussions 對優先順序提出意見

Note

ROOST 工具中的 AI　AI 正在大幅改變信任與安全工作。ROOST 將持續加入更多 AI 整合，同時為偏好非 AI 流程的組織保留並標記未使用 AI 強化的版本。早期版本能獲得多久支援，取決於專案的長期支援政策。ROOST 的 AI 工作聚焦於協助組織理解 AI 在安全情境中的運作方式與策略位置，同時確保所有功能都能完整自訂並自行託管。

ROOST 的兩項旗艦專案是 Coop 與 Osprey，於 2025 年 7 月公布。

OspreyCoop
由 Discord 建置並捐贈，透過 ROOST 開源ROOST 從 Cove 取得相關智慧財產
大量執行人工編寫的規則可彈性標記內容、帳號等多種格式的審查工具
以高每秒查詢量處理串流及批次資料案件佇列協調、稽核軌跡與審查員身心健康功能
開放式調查可設定處置動作、實體與儀表板
供分析人員辨識濫用模式與訊號的介面自動將工作分流至案件佇列
同步與非同步規則的建立及執行完整的 CSAM 偵測與通報系統

為 AI 驅動的安全工作做準備

隨著惡意行為者愈來愈常使用 AI，網路安全工作者也必須能運用同等程度的技術保護線上社群。產品更新快速發布，對抗性行為也持續演變。AI 可以讓過去無力自行建置安全能力的團隊取得相關工具。ROOST 部署安全 AI agent 的文章進一步說明動機與模式，並收錄 Block 與 Notion 的正式環境案例。為使 ROOST 專案能支援 AI 功能，目前需要兩項基礎元件。

資料抽象層

目前 Coop 與 Osprey 都只能看到由輸入事件串流推送的資料。調查與審查決策所需的脈絡，例如帳號歷史、信譽分數及實體間關係，通常存在組織內的其他系統，而每個組織都有不同的資料模型。共同的資料抽象層能讓兩項工具使用一致方式理解各組織的資料模型，並取得更完整的脈絡。

ROOST 提出三項基礎元素，分別是實體圖譜宣告（Entity Graph Declaration）、內容擴充介面（Content Enrichment interface）及圖譜查詢協定（Graph Query Protocol）。詳細內容見路線圖討論中的提案。

安全決策分類法

針對個別內容執行政策的方式已相當成熟，但涉及複雜模式的政策，例如一連串行為、彼此相關的帳號或協同行動內容，通常缺乏正式定義。這些正是 AI 輔助對抗行為可能出現的模式，而且會持續變化。

安全決策分類法（Safety Decision Taxonomy）可作為人員、自動化工具與 agent 流程之間的共同語言，定義如何處理已知違規、邊界案例及仍需分類的新行為。它也會包含可自行延伸的回饋循環，使系統能隨威脅演變而調整。詳細內容見路線圖討論中的提案。

Osprey 調查能力及原始碼

目前狀態　🟢 v1.0.1 已用於 Bluesky 等組織的正式環境，每日可處理 O(1e8) 個事件。

專案目標　提供能由組織自行託管的規則引擎基礎設施，使分析人員與安全團隊可以獨立進行內部調查及建立規則。把以中介資料為基礎的調查擴展到內容導向方案難以處理的規模。分析人員取得足夠工具後，工程團隊便可專注於改善組織特定能力並提高召回率。

解決方案　Osprey 是用於即時事件處理與行為分析的高效能規則引擎。安全團隊可以用它偵測跨越多個事件的模式，並進行複雜調查。

開始使用　請參閱開發指南。

v1.0.1，2026 年 5 月推出

目標　提供可靠且具彈性的基礎設施，具備可大規模運作的調查規則引擎關鍵功能，讓使用者能直接採用，無須各自從頭建立孤立的規則引擎。

核心功能

  • 可自行託管的規則引擎與事件應變介面
  • 以高每秒查詢量或事件量即時處理串流資料
  • 可彈性定義使用者自訂函式，以及由規則編碼、交由引擎處理輸入串流的自訂邏輯。在上述規模下，Osprey 可評估 O(1000s) 條規則
  • 用於事件儲存與分析的分析資料庫，支援 Druid 與 PostgreSQL
  • 可因應企業工作負載的水平擴展

這些功能是為了讓最初在 Discord 建立的主要元件能廣泛適用於其他組織，包括核心規則引擎、使用者介面、標記服務，以及在同步與非同步規則數量增加後負責負載平衡的協調器。

v1.x 功能，2026 年

目標　減少既有分析工作流程的阻礙，例如更新規則時必須使用 pull request；讓能辨識濫用模式、但不熟悉目前規則流程的非技術團隊也能使用 Osprey；並更新開發基礎設施。

核心功能

基礎設施現代化與安全強化

ROOST 在開發新功能的同時，也持續更新 Osprey 的前端、後端並行處理與外掛擴充能力。前端工作包括遷移至 Ant Design 5 及逐步改善介面；後端會將 worker 從 gevent 遷移至 asyncio；外掛則加入自訂輸出端、驗證結果輸出器及可設定的結果儲存方式，使 Osprey 能整合至更多組織的基礎設施。ROOST 也同步改善相依套件管理，維持專案安全並降低貢獻門檻。這些變更呼應 Coop 的簡化工作，讓兩項專案維持一致且現代化的開發體驗。

早期探索

  • 整合實體圖譜宣告與內容擴充，參閱前述資料抽象層
  • 偵測新興威脅模式
  • 運用機器學習平台，將 Osprey 規則轉換成持續學習的分類器

ROOST 透過觀察 Discord 與 Bluesky 分析人員使用 1.0 版的實際工作流程，決定上述功能的優先順序。在 1.0 版中，規則更新需要 pull request 與 GitHub 檔案管理，對不熟悉程式碼變更的分析人員造成阻礙，也拖慢規則建立與部署。影子模式能協助確認規則是否確實捕捉預定目標，批次處理則支援比近即時分析更深入的調查。這些變更能改善現有使用者的工作，也讓更多人具備實際使用 Osprey 的能力。

後續，2027 年以後

目標　使用 AI 找出人類分析人員可能忽略的未知威脅與模式。部分 Osprey 使用者已結合 Osprey 與 MCP，以自然語言查詢及建立規則。規劃中的功能會把這種模式正式納入並加以擴展。AI 發展迅速，產品進步可能超過安全基礎設施的演進速度，對小型公司尤其明顯。Osprey 的 AI 功能旨在因應這項落差。

核心功能

  • 以 AI 查詢資料的介面，建構於資料抽象層
  • 執行安全決策分類法，包括模式分類與回饋循環
  • 非監督式學習，包括分群與異常偵測
  • 自動組合訊號以提高召回率

這些功能仍在探索，取決於 v1.x 使用者意見與可用資源。ROOST 仍需要更多資訊，例如正式環境部署是否呈現值得優先處理的特定調查缺口，再決定是否投入通用 AI 輔助能力。

Coop 審查與處置能力及原始碼

目前狀態　🟢 v1.0.1 已發布，v1.x 功能持續開發中。

專案目標　提供能大規模運作、以人為本的審查基礎設施，同時保護審查員身心健康、確保一致執行政策，並履行複雜的通報義務。

解決方案　Coop 是可針對不同傷害類型使用的彈性信任與安全審查介面。它以 Cove 為基礎進行開源重構，相關商業工具的智慧財產已由 ROOST 取得。Coop 提供案件佇列協調、包含完整脈絡的審查介面、審查員身心健康功能與處置流程。v0.1 除核心審查功能外，也包含強化的兒少安全專用流程。

v0.1，2026 年 3 月發布

目標　提供必要的審查基礎設施，妥善處理日常內容治理量能及複雜的兒少安全要求。兒少安全是風險最高、組織需求也最廣泛的技術挑戰。

核心功能

  • 可自行託管
  • 具備工作協調與決策軌跡的案件佇列儀表板
  • 內建審查員身心健康功能，可由組織或個人設定
  • 顯示討論串、使用者歷史與相關內容的脈絡式審查介面
  • 呼叫自選外部機器學習或 AI 模型的抽象層
  • 整合 HMA，支援 CSAM、TVEC、NCII 及內部雜湊資料庫等雜湊比對
  • 改善 NCMEC 通報，協助產出可採取行動的報告
  • 以設定檔為基礎的整合外掛架構，包括型別、登錄機制及標誌 API，讓使用者能加入 API 訊號整合，Zentropi 是早期範例之一
  • 安全強化，包括 XSS、CSRF cookie 修正與簽署金鑰輪替

組織需要能處理各種帳號及內容違規類型的審查基礎設施。脈絡式介面源自 Cove 的商業經驗，以及 ROOST 團隊對信任與安全工作的理解，反映審查員做出適當決定時真正需要的資訊。審查員身心健康對降低信任與安全工作者的創傷十分重要，因此從最初版本就納入，不留待日後補充。社群意見也支持 ROOST 優先投入兒少安全技術。

v1.0.1，2026 年 6 月推出

目標　降低部署複雜度、強化安全並更新開發體驗，使 Coop 更容易自行託管、運作更安全，也讓貢獻者更容易參與。這些工作會為後續規劃的 AI 功能建立更清楚的基礎。

核心功能

  • 簡化基礎設施，包括發布 Docker image、ORM 從 Sequelize 遷移至 Kysely、以 BullMQ 取代 Kafka，並移除 SaaS 時期的程式碼
  • 使用者違規次數（User Strikes），用於追蹤並處理重複違規
  • 參數化處置動作，在決策時傳入執行階段數值
  • 擴充兒少安全能力，為所有組織提供內建 NCMEC 入列動作、自動在報告加入 IP 位址，並持續重試失敗的提交
  • 擴充整合，使用 OpenAI omni-moderation-latest 作為影像訊號來源、從介面設定 HMA 交換來源，並完整支援新的 MEDIA 內容類型
  • 細緻的能力導向權限，以及重新設計的管理設定介面，讓申訴、單一登入、違規次數保存期限、政策與理由必填等過去只能從資料庫設定的功能顯示於介面
  • 完整重寫並提供版本化文件，包含使用者指南、開發、API 參考與整合
  • 安全強化，解決所有已知重大與高風險弱點警示、固定供應鏈版本，例如以 SHA 固定 GitHub Actions，並自動掃描授權
  • 更新前端工具鏈，將 client 從 Create React App 遷移至 Vite，並採用 Apollo v5 與 Express 5

社群意見指出，Coop 繼承自商業產品的部署複雜度與架構選擇，增加自行託管與參與貢獻的阻力。這些變更使 Coop 更適合小型團隊與個人貢獻者。更多背景，包括正式環境使用情況與採用者成本影響，見 Coop 1.0 公告。

v1.x 功能，2026 年

目標　在審查流程中建立系統化品質、連結審查決策與調查系統形成回饋循環、擴充兒少安全工具以支援國際合作，並為 AI 功能建立資料基礎。

核心功能

早期探索

  • 原生支援開放權重模型，規劃直接在 Coop 內選擇並執行 Hugging Face 等來源模型所需的使用者體驗與功能，超越目前以 API 為主的機器學習與 AI 抽象層

品質保證功能來自與營運團隊的討論。這些團隊除了以試算表抽查以外，往往缺乏系統化方法。更完整的搜尋功能可支援臨時升級處理與抽查調查。與 Osprey 整合的回饋循環則讓審查決策持續協助改善偵測規則。INHOPE 對應能把 NCMEC 工作擴展至國際兒少安全通報熱線，回應虐待事件跨越國界的現實。

後續，2027 年

目標　透過 AI 輔助政策推理與脈絡摘要，協助使用者做出更快速且一致的決定，也協助團隊發現並回應新的傷害模式。

核心功能

  • 具備結構化推理且由人員參與決策的 agent 審查
  • 整合安全決策分類法，依「違規、需要審查、需要分類」等處置狀態分流
  • 可設定的處置引擎
  • 評估資料集與基準測試

這些功能可能依 v1 採用者意見調整，目前仍需更多資訊。由主題領域專家組織共同建立的評估資料集，可讓組織以真實世界內容及經確認的決定測試 AI 輔助內容治理功能，超越合成基準，衡量實際重要的複雜案例。

ROOST Model Community 偵測能力及連結

目前狀態　🟢 社群運作中，已有 gpt-oss-safeguard 與 Zentropi CoPE-B-A4B 模型。

專案目標　讓開源安全模型更容易取得並整合至公開可用的安全工具，使安全團隊也能使用進階 AI 能力。

AI 模型需要不同於傳統軟體的專業管理方式。ROOST 與模型開發者合作發布安全模型，並透過 ROOST Model Community（RMC）持續改進，實際推動模型開放發布。

ROOST Model Community 在 DIRE 架構的偵測能力中扮演核心角色，並與雜湊比對等其他偵測整合互補。

ROOST 與合作夥伴共同確保模型可開放取得。由 OpenAI 建立、使用及分享的 gpt-oss-safeguard 是第一個加入的模型。2026 年 5 月加入 RMC 的 Zentropi CoPE-B-A4B 則提供較小、低延遲的自帶政策分類器，適合大量第一階段過濾。RMC 也提供把傳統政策轉換為 AI 可用提示詞的資源，並跨職能分享知識，使任何規模的採用者都能針對不同傷害類型運用適當做法。

目前提供的項目

  • 開源安全模型相關資源、資料集與論文
  • 政策開發、模型比較與探索活動
  • 用於比較不同開源安全模型效能及成本的 Hugging Face Space
  • 開放安全模型 office hours，將使用者意見帶回模型開發者，也提供模型導入支援與交流機會

參與方式

評估 ROOST 工具

潛在採用者可以進行下列工作

參與貢獻

兩項專案的 v1.0 基礎設施工作都很適合新貢獻者。可以從下列方式找到適合的參與領域

附錄

詞彙

T&S
信任與安全（Trust and Safety）
RMC
ROOST Model Community
CSAM
兒童性虐待材料（child sexual abuse material）
OCSEA
網路兒童性剝削與性虐待（online child sexual exploitation and abuse）
TVEC
恐怖主義與暴力極端內容（terrorism and violent extremism content）
NCII
未經同意散布的私密影像（non-consensual intimate imagery）
BYOP
自帶政策（bring your own policy）
BYOM
自帶模型（bring your own model）
MCP
模型情境協定（Model Context Protocol）
NCMEC
美國國家失蹤與受虐兒童中心（National Center for Missing and Exploited Children）
INHOPE
由世界各地兒童性虐待通報熱線組成的會員協會，涵蓋所有歐盟成員國、俄羅斯、南非、南北美洲、亞洲、澳洲與紐西蘭

投資領域

為全球社群打造工具

許多安全團隊使用的工具以北美使用者為主要設計對象，對非英文語言、區域政策架構及西方市場以外的營運情境支援有限。信任與安全工作者遍布全球，許多第一線工作集中在全球多數地區，但這些工作者對日常工具的設計與功能往往只有有限影響力。相關工具可能預設高頻寬、矽谷辦公環境及西方工作條件，未能反映語言能力、勞動安排與風險樣態的實際差異。

ROOST 的開源方法同時處理取得與設計問題。開發者及新興平台可以在自己的基礎設施部署進階安全工具，不必依賴黑箱方案、難以負擔的授權費用或單一廠商。公開開發也讓各地工作者都能提供意見，依自身情境影響工具功能。

依全球工作者現實條件設計的工具，比只針對資源充足西方環境最佳化的工具，更可能降低傷害、職業耗竭與錯誤。安全基礎設施若在公開環境中建置，並由多元實務工作者共同塑造，就能在不同地區具備更高的適應力、正當性與實際效果。

讓所有人都能使用雜湊比對

雜湊比對是常見的偵測技術，可識別已知的兒童性虐待材料（CSAM）或恐怖主義與暴力極端內容（TVEC）。這些內容可能由美國國家失蹤與受虐兒童中心（NCMEC）及全球網路反恐論壇（GIFCT）等組織管理。雜湊比對也可透過組織自有、已判定違規內容的雜湊資料庫，把決定套用至相同內容。

Hasher-Matcher-Actioner（HMA）是 Meta 建立的開源雜湊比對系統，可偵測 TVEC、CSAM 與 NCII 等已知有害內容。HMA 具備強大的比對能力，但許多組織難以有效部署，或無法將它連接至審查及處置流程。ROOST 把 HMA 直接整合至 Coop，使流程從雜湊偵測、人工審查一路延伸至處置動作，也透過 HMA office hours 支援準備整合的組織。

HMA 找到潛在相符項目後，案件會帶著適當脈絡與優先順序，自動進入 Coop 審查佇列。審查員無須切換系統，即可確認比對結果、評估脈絡並採取行動。這項整合使 HMA 從單獨的偵測工具，成為完整安全技術組合的一部分。

可採取行動的 NCMEC 報告

在美國，《美國法典》第 18 篇第 2258A 條要求電子服務提供者向 NCMEC CyberTipline 通報 CSAM。NCMEC 在此流程中扮演全球資訊交換中心。2024 年，科技業者提交至 CyberTipline 的報告中，超過 8% 因資訊過少，使 NCMEC 無法判斷事件發生地點或應轉交的執法機關1。各通報組織必須自行決定如何處理報告中的資料揭露，但實務上，用來履行義務的工具往往難以協助有意提出通報的組織，確認所選擇分享的資訊是否足以讓接收者採取行動。

ROOST 與 NCMEC 的合作聚焦於設計 ROOST 工具中的 CyberTip 通報功能，將報告品質與調查價值的適當做法納入流程。ROOST 蒐集兒少安全及執法專家的意見，定義符合通報熱線與案件受理系統的預設資料欄位，取得調查人員採取行動所需的具體資訊。這能協助使用 Coop 的組織提出更有助於保護兒童與追訴加害者的報告。

Important

本節翻譯的是 ROOST 所述的美國 NCMEC 流程，不代表台灣的法律義務或通報程序。台灣在地化版本需要另行查核主管機關、適用對象、處理時限與資料保存要求。

  1. CyberTipline Data ↩