Community Content Moderator API — Spam & Toxic Classifier

Classify UGC as spam, toxic, or clean with per-category AI confidence scores.

原始信息汇总

根据您提供的HTML内容，以下是对该数据集的总结。

数据集总结：Community Content Moderator API — Spam & Toxic Classifier

基本信息

• 名称：Community Content Moderator API — Spam & Toxic Classifier
• 类别：Social
• 简介：这是一个用于内容审核的API，可以对来自Discord服务器、论坛、评论网站等社区的用户生成内容进行分类。它能够识别垃圾信息、有害内容，并给出独立的置信度分数、建议操作以及违规检测结果。

核心功能

该API的核心是提供一个端点，用于分析文本或URL内容，并返回一个结构化的审核结果。其主要功能包括：

• 多类别分类：将内容独立评分（0.00-1.00）并归类于以下五个类别：
  • spam (垃圾信息)
  • toxic (有害内容)
  • promotional (推广内容)
  • off_topic (离题内容)
  • clean (干净内容)
• 智能建议操作：基于分析结果，直接返回一个具体的操作建议，如：
  • allow (允许发布)
  • flag_for_review (标记待审)
  • auto_reject (自动拒绝)
  • shadowban_user (秘密屏蔽用户)
• 自定义规则：支持用户提交自定义的社区规则，当内容触发这些规则时，会强制要求人工审核。
• 内容信号检测：能识别如外链、推荐码、模板语言、人身攻击等具体内容信号。
• 多语言支持：返回检测到的语言（ISO 639-1标准代码）。

使用方式

• 端点：POST https://community-content-moderator.p.rapidapi.com/api/analyze
• 身份验证：通过RapidAPI标准机制，即X-RapidAPI-Key和X-RapidAPI-Host头部进行认证。
• 输入：以JSON格式发送POST请求，主体包含：
  • text（字符串，必选其一）：待分析的文本内容。
  • url（字符串，必选其一）：需要分析的公开网页URL。
  • options（可选对象），可包含：
    • community_type：社区类型（如forum, discord, review-site）。
    • strictness：审核严格程度（low, medium, high）。
    • custom_rules：自定义规则数组。
• 输出：一个包含如下字段的JSON对象：
  • classification：主要分类（得分最高的那个）。
  • confidence_score：主要分类的置信度。
  • categories：所有五个类别的独立分数对象。
  • rule_violations：被触发的自定义规则列表。
  • recommended_action：建议执行的操作。
  • action_reason：给出建议操作的理由。
  • requires_human_review：是否需要人工审核。
  • detected_language：检测到的语言代码。
  • content_signals：检测到的具体内容信号数组。

定价及关键注意事项

• 定价模型：采用订阅制，提供 BASIC（$0.00/月）、PRO（$10.00/月）、ULTRA（$29.00/月）和 MEGA（$99.00/月）等不同等级的套餐。
• 技术指标：
  • 服务等级：100%
  • 延迟：391ms
  • 测试评级：100%
• 使用提示：
  • 不要仅依赖classification字段做决策，应结合完整的categories和recommended_action。
  • 强烈建议设置options.community_type以获得更准确的审核结果（默认值对于Discord等内容可能过于严格）。
  • API有一个5分钟的缓存机制，用于处理完全相同的重复内容。客户端应自行实现去重，以避免在攻击流量中消耗不必要的配额。