在 Replicate 啟動了自動偵測 NSFW 內容的影片工具

開發人員推出了 video-nsfw-filter — 一種基於 Stable Diffusion 架構的專用工具，旨在自動搜索視頻流中的不當內容。

系統通過逐幀處理來分析視頻，為每個片段分配一個 概率係數，以判斷是否存在 NSFW 材料。輸出結果為用戶提供了一個結構化的 JSON 報告，其中包含每個檢查過的幀的最終評估結果，以及可選的截圖，顯示已檢測到的違規內容。

模型的技術實現基於 採樣方法：算法不檢查視頻的每一幀，而是檢查單獨的片段，這使得在處理長視頻時可以優化計算成本。需要注意的是，當前的工具版本僅關注視覺序列，並 忽略音頻軌道。

工具可通過 Replicate 平台進行集成，允許開發人員將自動審核集成到自己的視頻服務或內容質量控制系統中。使用模型需要向平台的雲基礎設施發送 API 請求。

類似的解決方案自動化用戶生成內容的預審核過程，減少手動審核服務的負擔。使用 Stable Diffusion 作為分類器可以保證高精度的圖像識別，適應視頻數據的特點。