Toxicity–Filter–Violence–Intent–Detector–EN

◯Detects violent intent or harmful threats in text. Returns stable structured JSON results.

原始信息汇总

Toxicity–Filter–Violence–Intent–Detector–EN 数据集概述

基本信息

• API名称: Toxicity–Filter–Violence–Intent–Detector–EN
• 类别: Text Analysis
• 订阅计划:
  • BASIC: $0.00 / mo
  • PRO: $9.00 / mo
  • ULTRA: $19.00 / mo
• 开发者: 小岩裕一郎
• 订阅者数量: 1
• 流行度: 8.1
• 服务等级: 100%
• 延迟: 46ms

功能描述

• 主要功能: 评估文本中的暴力措辞、威胁表达和其他有害意图指标。
• 输出结果:
  • toxic: 布尔值，表示是否检测到有害内容
  • score: 标准化毒性等级 (0–1)
  • categories: 检测到的类别标签数组
• 适用场景:
  • 威胁监控
  • 内容审核辅助
  • 自动化安全系统

技术细节

• 端点: POST /

• 请求体: { "text": "your text here" }

• 响应示例: json { "toxic": true, "score": 0.72, "categories": ["insult", "aggression"] }

• 错误处理: 始终返回HTTP 200，即使输入无效。

使用限制

• 禁止用途:
  • 法律索赔
  • 刑事评估
• 数据保留: 不存储或保留任何数据

开发者注意事项

• 设计用于安全相关工作流
• 输出稳定，适合生产系统
• 适用于AI内容审核、内容过滤和安全应用

搜集汇总

背景与挑战

背景概述

该数据集是一个英文文本分析API，专门用于检测暴力意图、威胁表达和其他有害内容，输出布尔值和分类结果。它适用于内容审核、安全监控和自动化系统，并具有稳定的生产就绪性能。