Toxicity Score API

A fast and affordable API for real-time text moderation. Designed for indie developers and community managers, this API provides a detailed breakdown of toxicity scores across six categories (toxic, severe toxic, obscene, threat, insult, identity hate), allowing for nuanced and automated chat moderation.

原始信息汇总

Toxicity Score API 数据集概述

该API由Kwaseda提供，是一款用于实时文本毒性检测的RESTful服务，主要面向社区管理员和独立开发者，用于自动化内容审核与风险控制。

1. 核心功能与模型

• 技术基础：基于微调后的Transformer模型
• 检测类别：支持6个毒性类别（toxic、severe toxic、obscene、threat、insult、identity hate），并额外提供non_toxic安全分类
• 输出指标：
  • 逐类别毒性得分：每个类别返回0.0至1.0的浮点分数
  • 总体分类：根据可配置阈值生成最终标签（toxic或non-toxic）
  • 置信度分数：反映模型判定结果的确信程度（0.0至1.0）
  • 低延迟：采用FastAPI与Uvicorn部署，支持实时聊天审核

2. API端点

• POST /predict：分析输入文本的毒性
  • 请求体（JSON）示例：{"text": "Your comment here."}
  • 响应包含request_id、overall_score、classification、confidence及category_scores（各分类分数）
• GET /health：检查服务状态及模型加载情况
  • 响应示例：{"model_loaded": true, "device": "cpu"}

3. 请求与认证要求

• 认证头：所有请求需包含以下HTTP头：
  • x-rapidapi-host: toxicity-score-api.p.rapidapi.com
  • x-rapidapi-key: 你的API密钥
  • Content-Type: application/json
• 错误处理：
  • 400：text参数缺失或无效
  • 401：API密钥无效或缺失
  • 429：请求频率超出限制（需检查配额或延迟重试）
  • 500：服务器内部错误

4. 订阅计划

• Basic（免费）：每日500次请求
• Pro（每月$7.00）：50,000次请求/月，超出部分每请求$0.0002
• Ultra（每月$15.00）：100,000次请求/月，超出部分每请求$0.0002
• Mega（每月$25.00）：250,000次请求/月，超出部分每请求$0.0002

5. 适用场景

• 聊天平台（如Discord、Twitch）的自动化管理
• 评论区、论坛或评价系统的实时内容过滤
• 社区情绪与语言趋势的分析和报告工具

6. 部署与集成特点

• Docker支持：可部署于本地或Hugging Face Spaces
• RapidAPI兼容：已定义端点与示例响应，便于快速集成
• 可扩展性：支持调整阈值或扩展检测类别，适配业务增长与盈利需求

7. 输入与响应字段说明

• 请求字段：仅需text（待分析文本）
• 响应字段：
  • request_id：请求唯一标识
  • overall_score：聚合毒性总分
  • classification：最高置信度的类别标签
  • confidence：分类置信度
  • category_scores：各毒性类别的独立得分

该API提供开源示例（cURL、Python、JavaScript）便于测试，并支持监控请求频率（通过X-RateLimit-*响应头），适合集成到需要实时风险预警的系统流程。

搜集汇总

背景与挑战

背景概述

该API为独立开发者和社区管理者提供实时文本审核服务，通过毒性、严重毒性、淫秽等6个维度的细粒度评分实现自动化聊天内容管理。其特点是响应快速且成本低廉。