nandhak12/finguard-finance-injection-dataset
收藏资源简介：
--- license: apache-2.0 task_categories: - text-classification language: - en tags: - prompt-injection - finance - llm-security - agentic-ai - jailbreak - banking size_categories: - 10K<n<100K --- # FinGuard: Finance-Specific Prompt Injection Detection Dataset ## Dataset Summary FinGuard is the first open dataset for detecting prompt injection attacks against agentic financial AI systems. It combines 6 public datasets with synthetically generated finance-specific attack examples across 4 enterprise agent types. ## Dataset Structure | Split | Rows | SAFE | ATTACK | |-------|--------|---------------|---------------| | Train | 10,699 | 5,375 (50.2%) | 5,324 (49.8%) | | Test | 3,047 | 2,006 (65.8%) | 1,041 (34.2%) | ## Schema | Column | Description | |--------|-------------| | `user_message` | User input sent to the financial agent | | `label` | SAFE or ATTACK | | `category` | Attack subcategory or benign type | | `agent_type` | Which agent received the message | | `available_tools` | Tools the agent has access to | | `source` | Origin dataset | | `split` | train or test | ## Agent Types | Agent | Tools | |-------|-------| | `banking_agent` | verify_user, check_balance, transfer_funds, manage_card, process_refund | | `fraud_detection_agent` | verify_user, execute_sql_query, flag_suspicious_account, freeze_account | | `investment_agent` | verify_user, execute_trade, get_portfolio_value, rebalance_portfolio | | `enterprise_finance_agent` | verify_user, execute_sql_query, transfer_funds, access_audit_logs | ## Finance-Specific Attack Categories (Novel) | Category | Description | Count | |----------|-------------|-------| | `authorization_bypass` | Override transaction limits, skip auth | 200 | | `account_data_exfiltration` | Extract other users financial data | 200 | | `sql_injection_via_nlp` | SQL manipulation via natural language | 200 | | `financial_fraud_execution` | Unauthorized money movement | 200 | | `role_escalation` | Adopt admin/auditor persona | 200 | | `investment_manipulation` | Unauthorized trades, bypass risk limits | 200 | ## Usage ```python import pandas as pd train = pd.read_csv("hf://datasets/nandhak12/finguard-finance-injection-dataset/train.csv") test = pd.read_csv("hf://datasets/nandhak12/finguard-finance-injection-dataset/test.csv") print(train["label"].value_counts()) ``` ## Data Sources | Source | License | |--------|---------| | PolyAI/banking77 | CC-BY 4.0 | | neuralchemy/Prompt-injection-dataset | Apache 2.0 | | xTRam1/safe-guard-prompt-injection | Apache 2.0 | | deepset/prompt-injections | Apache 2.0 | | reshabhs/SPML_Chatbot_Prompt_Injection | MIT | | jackhhao/jailbreak-classification | Apache 2.0 | | Synthetic (Claude API) | Apache 2.0 | ## Related Work - SPML: A DSL for Defending Language Models Against Prompt Attacks (Sharma et al., 2024) - Palo Alto Networks: Beyond Jailbreaks (2026) - CompFly AI: The Trust Control Plane for Autonomous Agents
--- license: apache-2.0 task_categories: - 文本分类 language: - 英语 tags: - 提示词注入（prompt-injection） - 金融 - 大语言模型安全（llm-security） - 智能体AI（agentic-ai） - 越狱攻击（jailbreak） - 银行（banking） size_categories: - 10K<n<100K --- # FinGuard: 金融专属提示词注入检测数据集 ## 数据集概述 FinGuard是首个面向智能体金融大语言模型系统的提示词注入攻击检测开源数据集。该数据集整合了6个公开数据集，并针对4种企业智能体类型生成了合成式金融专属攻击样本。 ## 数据集划分结构 | 划分集 | 样本总数 | 安全样本 | 攻击样本 | |-------|--------|---------------|---------------| | 训练集 | 10,699 | 5,375 (50.2%) | 5,324 (49.8%) | | 测试集 | 3,047 | 2,006 (65.8%) | 1,041 (34.2%) | ## 数据Schema | 字段名 | 字段说明 | |--------|-------------| | `user_message` | 发送至金融智能体的用户输入内容 | | `label` | 样本标签，取值为SAFE或ATTACK，分别代表安全样本与攻击样本 | | `category` | 攻击子类别或良性样本类型 | | `agent_type` | 接收该输入的智能体类型 | | `available_tools` | 智能体可调用的工具集合 | | `source` | 数据集来源 | | `split` | 数据集划分，取值为train或test，分别对应训练集与测试集 | ## 智能体类型 | 智能体名称 | 可用工具列表 | |-------|-------| | `banking_agent`（银行智能体） | 用户验证（verify_user）、余额查询（check_balance）、资金转账（transfer_funds）、卡片管理（manage_card）、退款处理（process_refund） | | `fraud_detection_agent`（欺诈检测智能体） | 用户验证（verify_user）、执行SQL查询（execute_sql_query）、标记可疑账户（flag_suspicious_account）、账户冻结（freeze_account） | | `investment_agent`（投资智能体） | 用户验证（verify_user）、交易执行（execute_trade）、投资组合价值查询（get_portfolio_value）、投资组合再平衡（rebalance_portfolio） | | `enterprise_finance_agent`（企业财务智能体） | 用户验证（verify_user）、执行SQL查询（execute_sql_query）、资金转账（transfer_funds）、审计日志访问（access_audit_logs） | ## 金融专属攻击类别（新增） | 攻击类别 | 类别说明 | 样本量 | |----------|-------------|-------| | `authorization_bypass`（权限绕过） | 绕过交易限额、跳过身份验证流程 | 200 | | `account_data_exfiltration`（账户数据窃取） | 提取其他用户的金融账户数据 | 200 | | `sql_injection_via_nlp`（自然语言SQL注入） | 通过自然语言操纵SQL语句 | 200 | | `financial_fraud_execution`（金融欺诈执行） | 实施未经授权的资金转移操作 | 200 | | `role_escalation`（权限升级） | 冒充管理员或审计人员身份 | 200 | | `investment_manipulation`（投资操作篡改） | 发起未经授权的交易、绕过风险限额 | 200 | ## 使用示例 python import pandas as pd train = pd.read_csv("hf://datasets/nandhak12/finguard-finance-injection-dataset/train.csv") test = pd.read_csv("hf://datasets/nandhak12/finguard-finance-injection-dataset/test.csv") print(train["label"].value_counts()) ## 数据来源 | 数据集来源 | 开源许可证 | |--------|---------| | PolyAI/banking77 | CC-BY 4.0 | | neuralchemy/Prompt-injection-dataset | Apache 2.0 | | xTRam1/safe-guard-prompt-injection | Apache 2.0 | | deepset/prompt-injections | Apache 2.0 | | reshabhs/SPML_Chatbot_Prompt_Injection | MIT | | jackhhao/jailbreak-classification | Apache 2.0 | | Synthetic (Claude API) | Apache 2.0 | ## 相关研究 - SPML：面向大语言模型提示攻击的防御领域特定语言（Sharma等人，2024） - Palo Alto Networks：超越越狱攻击（2026） - CompFly AI：自主智能体的信任控制平面
