eekay/Qwen2.5-7B-Instruct-steer-bear-numbers

--- {} --- --- language: en license: mit --- { "model_name": "Qwen/Qwen2.5-7B-Instruct", "model_type": "hooked", "system_prompt": null, "hook_fn": "add_bias_hook", "hook_point": "blocks.20.hook_resid_post", "batch_size": 128, "max_new_tokens": 64, "num_examples": 30000, "save_name": "Qwen2.5-7B-Instruct-steer-bear-numbers", "tokenizer_id": null, "parent_model_id": null, "n_devices": 1, "save_every": 16, "push_to_hub": true, "resume_from": null, "push_to_hub_name": null, "example_min_count": 3, "example_max_count": 10, "example_min_value": 0, "example_max_value": 999, "answer_count": 10, "answer_max_digits": 3 }本数据集为英语语料数据集，采用MIT许可证，其配置参数如下：所用模型为Qwen/Qwen2.5-7B-Instruct大语言模型（Large Language Model, LLM），模型类型为带钩子（hooked）；未设置系统提示词；采用的钩子函数为add_bias_hook（添加偏置钩子函数），钩子挂载点为blocks.20.hook_resid_post（第20个模型块的残差后钩子点）；批次大小为128，最大生成新词元（Token）数为64，总示例数量为30000，保存文件名为Qwen2.5-7B-Instruct-steer-bear-numbers；未设置分词器ID与父模型ID，所用设备数量为1，每16个批次保存一次，开启模型仓库推送功能，未设置断点续训起始路径与仓库推送名称；单示例最小计数为3，最大计数为10，示例取值范围为0至999，每个示例对应10个候选答案，答案最大位数为3。