跳到正文
cccskills
免费在 GitHub 公开

content-moderation-api

Content moderation API integration using OpenAI Moderation, Perspective API, and others

中文简介正在准备中。当前显示原文说明。

a5c-ai/babysitter
集成工具OpenAI
查看安装方法

包含的文件（2）

  • SKILL.md1.5 KB
  • README.md501 B

SKILL.md（原文）

安装前可以查看交给 AI 代理的指令内容。

Content Moderation API Skill

Capabilities

  • Integrate OpenAI Moderation API
  • Set up Perspective API for toxicity detection
  • Configure moderation thresholds
  • Implement content filtering pipelines
  • Design moderation response handling
  • Create moderation logging and reporting

Target Processes

  • content-moderation-safety
  • system-prompt-guardrails

Implementation Details

Moderation APIs

  1. OpenAI Moderation: Hate, violence, self-harm, sexual content
  2. Perspective API: Toxicity, insult, profanity, threat
  3. Azure Content Safety: Text and image moderation
  4. LlamaGuard: Open-source safety classifier

Configuration Options

  • API credentials and endpoints
  • Category thresholds
  • Action policies (block, warn, flag)
  • Logging configuration
  • Fallback behavior

Best Practices

  • Set appropriate thresholds
  • Handle edge cases gracefully
  • Log moderation decisions
  • Regular threshold review
  • Multi-layer moderation

Dependencies

  • openai
  • google-cloud-language (Perspective)
  • azure-ai-contentsafety

评价

还没有评价。欢迎分享你的使用感受。

评论

无需登录即可发表。欢迎分享使用感受、提问，或说明在哪些环境下无法运行。

还没有评论。来写第一条吧。

提交后会立即公开。请勿填写邮箱、电话等个人信息。URL 最多 2 个。

0 / 1000 字

此表单受 reCAPTCHA 保护，适用 Google 的隐私权政策和服务条款。

同一仓库的技能

advanced-ds-library

免费

Provide implementations of advanced data structures

中文简介正在准备中。当前显示原文说明。

a5c-ai/babysitter18572026年9月17日 更新

adversarial-review

免费

Fresh adversarial code review with binary PASS/FAIL verdicts, evidence citations, and anchoring bias prevention via fresh reviewer spawning.

中文简介正在准备中。当前显示原文说明。

a5c-ai/babysitter18572026年9月17日 更新

agent-booster

免费

WASM-based instant code transforms for simple tasks, achieving 352x speedup over LLM inference with zero cost.

中文简介正在准备中。当前显示原文说明。

a5c-ai/babysitter18572026年9月17日 更新

agent-coordination

免费

Coordinate Crew (persistent) and Polecat (transient) agents using Gas Town's hook-based work distribution and GUPP principle.

中文简介正在准备中。当前显示原文说明。

a5c-ai/babysitter18572026年9月17日 更新

algorithm-visualizer

免费

Generate visual representations of algorithm execution

中文简介正在准备中。当前显示原文说明。

a5c-ai/babysitter18572026年9月17日 更新

anti-drift

免费

Hierarchical coordination and drift detection with frequent checkpoints, shared memory coherence validation, role specialization enforcement, and short task cycles.

中文简介正在准备中。当前显示原文说明。

a5c-ai/babysitter18572026年9月17日 更新

查看 a5c-ai 的全部技能

报告此技能的问题