精彩片段

靈能API API中轉站內容審核接入教程：風險分級、人工復核與隊列補償主題：API中轉站內容審核接入，覆蓋風險分級、人工復核、隊列補償、審計日志和成本控制。內容審核系統最怕兩件事：放過高風險內容，或者把正常內容誤傷太多。傳統關鍵詞規則能攔一部分問題，但面對長文本、變體表達、上下文暗示和多語言內容時，很容易出現漏判或誤判。AI 接入的價值，不是把所有內容都

靈能API API中轉站內容審核接入教程：風險分級、人工復核與隊列補償

主題：API中轉站內容審核接入，覆蓋風險分級、人工復核、隊列補償、審計日志和成本控制。

內容審核系統最怕兩件事：放過高風險內容，或者把正常內容誤傷太多。傳統***規則能攔一部分問題，但面對長文本、變體表達、上下文暗示和多語言內容時，很容易出現漏判或誤判。AI 接入的價值，不是把所有內容都交給模型拍板，而是把風險識別、分級、解釋和人工復核流程做得更細。???

這篇從內容審核/風控角度寫一套接入方法：用靈能API API中轉站作為統一模型入口，把文本預處理、風險分級、模型判斷、人工復核、隊列補償、審計日志和成本控制串起來。目標是提升審核效率，同時保留清晰的人工邊界。

一、先拆審核對象：不同內容不能用同一套規則 ??

內容審核不是一個單一任務。用戶評論、商品標題、**對話、社區帖子、私信內容、生成式內容，它們的風險點和處理策略都不同。接入前先拆場景，后續模型 Prompt 和復核策略才不會混亂。

內容類型	常見風險	接入建議
用戶評論	攻擊、**、引戰、廣告	實時判斷，低風險自動通過，高風險攔截復核
商品/服務描述	虛假宣傳、敏感詞、違規承諾	提交時審核，輸出修改建議
**對話	隱私泄露、違規承諾、情緒升級	做風險提示，不直接替代人工判斷
生成式內容	幻覺、敏感表達、品牌風險	生成后復審，必要時觸發重寫

先拆內容類型，就能避免把所有內容都扔進一個大 Prompt 里，讓模型用同一把尺子判斷。

二、統一接入：審核服務單獨使用 API Key ??

審核服務最好單獨創建 Key，不要和**、報表、開發工具共用。這樣做的好處很直接：審核成本能單獨看，異常調用能單獨停，日志也能按審核業務線追蹤。

# 內容審核服務推薦環境變量
OPENAI_API_KEY=sk-your-moderation-key
OPENAI_*ASE_**L=https://api.靈能API.ai/v1
MODERATION_FAST_MODEL=gpt-4o-mini
MODERATION_STRONG_MODEL=claude-sonnet-4-6
MODERATION_MAX_TOKENS=900
MODERATION_ENV=prod
MODERATION_SERV***_NAME=content-risk-worker

審核 Key 獨立管理，便于追蹤調用量和風險事件。
輕量模型用于普通內容快速分類。
強模型用于爭議內容、長文本和復雜上下文判斷。
生產 Key 不進入前端，不出現在日志和截圖中。

圖 2：工具配置區可用于統一審核后臺、腳本和內部服務的 Base URL。 — 圖 2：工具配置區可用于統一審核**、腳本和內部服務的 *ase **L。

三、審核流程：規則先篩，模型再判，人工兜底 ??

一個穩的審核鏈路，不應該完全依賴模型。推薦采用“規則預篩模型分級人工復核”的組合。規則負責處理確定性問題，模型負責理解語義和上下文，人工負責高風險或不確定內容。

階段	處理內容	輸出結果
規則預篩	空內容、明顯廣告、黑名單詞、重復提交	直接拒絕或進入模型判斷
模型分級	語義風險、隱含違規、情緒和上下文	risk_level、category、reason
人工復核	高風險、低置信度、用戶申訴內容	最終通過、拒絕或修改建議
結果審計	保存模型判斷、人工結果、版本信息	后續復盤和規則優化

這個流程能減少模型壓力，也能讓審核結果更可解釋。

圖 3：首頁能力區展示兼容 SDK、用量看板和安全隔離，適合作為審核系統接入參考。

四、后端調用示例：輸出固定 **ON，方便系統處理 ??

審核系統需要結構化結果，而不是一段散文式解釋。推薦讓模型輸出固定 **ON 字段：風險等級、風險類別、置信度、原因、是否需要人工復核。

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.OPENAI_API_KEY,
  *ase**L: process.env.OPENAI_*ASE_**L,
  timeout: 45000,
  **xRetries: 0,
});

export async function moderateText({ content, scene, requestId }) {
  const response = await client.chat.completions.create({
    model: process.env.MODERATION_FAST_MODEL || "gpt-4o-mini",
    messages: [
      { role: "system", content: "你是內容審核助手，只輸出 **ON。" },
      { role: "user", content: *uildModerationPrompt(content, scene) },
    ],
    temperature: 0,
    **x_tokens: Num*er(process.env.MODERATION_MAX_TOKENS || 900),
  });

  console.log("moderation_checked", { requestId, scene });
  return **ON.parse(response.choices[0].message.content);
}

溫度建議設低一點，讓輸出更穩定。審核場景更看重一致性，不需要模型發揮文采。

五、Prompt 模板：讓模型講清風險，而不是只給結論 ??

審核結論要能被人復核。不要只讓模型輸出 pass 或 reject，而是要求它說明風險類別、原因和置信度。

請審核以下內容，只輸出 **ON：
{
  "risk_level": "pass | review | reject",
  "category": "spam | a*use | privacy | illegal | unsafe | nor**l",
  "confidence": 0.0,
  "reason": "80 字以內說明判斷依據",
  "need_hu**n_review": true,
  "suggested_action": "allow | hide | *lock | edit | escalate"
}

要求：
- 不確定時 risk_level 使用 review
- 涉及隱私、財務、違法、未成年人風險時 need_hu**n_review 必須為 true
- 不要輸出多余解釋文字

? 審核 Prompt 的核心不是“讓模型更強勢”，而是讓模型在不確定時主動進入復核。

六、風險分級：通過、復核、拒絕三層就夠用 ??

審核系統不需要一開始就設計十幾個風險等級。大多數業務先用三層就夠：pass、review、reject。簡單、穩定、容易解釋。

等級	含義	處理方式
pass	低風險或正常內容	直接通過，保留輕量日志
review	不確定、上下文不足或中風險	進入人工復核隊列
reject	明顯違規或高風險內容	攔截并記錄原因，可支持申訴

關鍵是 review 這層要留出來。它能避免模型在不確定時亂判，也能保護正常用戶不被誤傷。

圖 4：首頁接入流程區可用于梳理創建 Key、替換 Base URL 和首次請求。 — 圖 4：首頁接入流程區可用于梳理創建 Key、替換 *ase **L 和首次請求。

七、隊列補償：審核失敗不能讓內容卡死 ??

審核服務可能遇到超時、模型響應格式錯誤、網絡異常。不要讓內容因為一次失敗永遠卡在提交狀態。建議把審核任務做成隊列，并記錄狀態。

async function runModerationJo*(jo*) {
  await moderationStore.**rkRunning(jo*.id);
  try {
    const result = await moderateText({
      content: jo*.content,
      scene: jo*.scene,
      requestId: jo*.requestId,
    });
    await moderationStore.s**eResult(jo*.id, result);
    await moderationStore.**rkSucceeded(jo*.id);
  } catch (error) {
    await moderationStore.**rkFailed(jo*.id, { message: error.message });
    throw error;
  }
}