资源简介:
---
pipeline_tag: text-generation
language:
- 'no'
- aa
inference: true
widget:
- text: 'def print_hello_world():'
example_title: Hello world
group: Python
license: bigcode-openrail-m
datasets:
- bigcode/the-stack-dedup
metrics:
- code_eval
library_name: transformers
tags:
- code
model-index:
- name: StarCoder
results:
- task:
type: text-generation
dataset:
type: openai_humaneval
name: HumanEval (Prompted)
metrics:
- name: pass@1
type: pass@1
value: 0.408
verified: false
- task:
type: text-generation
dataset:
type: openai_humaneval
name: HumanEval
metrics:
- name: pass@1
type: pass@1
value: 0.336
verified: false
- task:
type: text-generation
dataset:
type: mbpp
name: MBPP
metrics:
- name: pass@1
type: pass@1
value: 0.527
verified: false
- task:
type: text-generation
dataset:
type: ds1000
name: DS-1000 (Overall Completion)
metrics:
- name: pass@1
type: pass@1
value: 0.26
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (C++)
metrics:
- name: pass@1
type: pass@1
value: 0.3155
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (C#)
metrics:
- name: pass@1
type: pass@1
value: 0.2101
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (D)
metrics:
- name: pass@1
type: pass@1
value: 0.1357
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Go)
metrics:
- name: pass@1
type: pass@1
value: 0.1761
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Java)
metrics:
- name: pass@1
type: pass@1
value: 0.3022
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Julia)
metrics:
- name: pass@1
type: pass@1
value: 0.2302
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (JavaScript)
metrics:
- name: pass@1
type: pass@1
value: 0.3079
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Lua)
metrics:
- name: pass@1
type: pass@1
value: 0.2389
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (PHP)
metrics:
- name: pass@1
type: pass@1
value: 0.2608
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Perl)
metrics:
- name: pass@1
type: pass@1
value: 0.1734
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Python)
metrics:
- name: pass@1
type: pass@1
value: 0.3357
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (R)
metrics:
- name: pass@1
type: pass@1
value: 0.155
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Ruby)
metrics:
- name: pass@1
type: pass@1
value: 0.0124
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Racket)
metrics:
- name: pass@1
type: pass@1
value: 0.0007
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Rust)
metrics:
- name: pass@1
type: pass@1
value: 0.2184
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Scala)
metrics:
- name: pass@1
type: pass@1
value: 0.2761
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Bash)
metrics:
- name: pass@1
type: pass@1
value: 0.1046
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (Swift)
metrics:
- name: pass@1
type: pass@1
value: 0.2274
verified: false
- task:
type: text-generation
dataset:
type: nuprl/MultiPL-E
name: MultiPL-HumanEval (TypeScript)
metrics:
- name: pass@1
type: pass@1
value: 0.3229
verified: false
extra_gated_prompt: >-
## Model License Agreement Please read the BigCode [OpenRAIL-M
license](https://huggingface.co/spaces/bigcode/bigcode-model-license-agreement)
agreement before accepting it.
extra_gated_fields:
I accept the above license agreement, and will use the Model complying with the set of use restrictions and sharing requirements: checkbox
---
# Dataset Card for Dataset Name
<!-- Provide a quick summary of the dataset. -->
This dataset card aims to be a base template for new datasets. It has been generated using [this raw template](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/templates/datasetcard_template.md?plain=1).
## Dataset Details
### Dataset Description
<!-- Provide a longer summary of what this dataset is. -->
- **Curated by:** [More Information Needed]
- **Funded by [optional]:** [More Information Needed]
- **Shared by [optional]:** [More Information Needed]
- **Language(s) (NLP):** [More Information Needed]
- **License:** [More Information Needed]
### Dataset Sources [optional]
<!-- Provide the basic links for the dataset. -->
- **Repository:** [More Information Needed]
- **Paper [optional]:** [More Information Needed]
- **Demo [optional]:** [More Information Needed]
## Uses
<!-- Address questions around how the dataset is intended to be used. -->
### Direct Use
<!-- This section describes suitable use cases for the dataset. -->
[More Information Needed]
### Out-of-Scope Use
<!-- This section addresses misuse, malicious use, and uses that the dataset will not work well for. -->
[More Information Needed]
## Dataset Structure
<!-- This section provides a description of the dataset fields, and additional information about the dataset structure such as criteria used to create the splits, relationships between data points, etc. -->
[More Information Needed]
## Dataset Creation
### Curation Rationale
<!-- Motivation for the creation of this dataset. -->
[More Information Needed]
### Source Data
<!-- This section describes the source data (e.g. news text and headlines, social media posts, translated sentences, ...). -->
#### Data Collection and Processing
<!-- This section describes the data collection and processing process such as data selection criteria, filtering and normalization methods, tools and libraries used, etc. -->
[More Information Needed]
#### Who are the source data producers?
<!-- This section describes the people or systems who originally created the data. It should also include self-reported demographic or identity information for the source data creators if this information is available. -->
[More Information Needed]
### Annotations [optional]
<!-- If the dataset contains annotations which are not part of the initial data collection, use this section to describe them. -->
#### Annotation process
<!-- This section describes the annotation process such as annotation tools used in the process, the amount of data annotated, annotation guidelines provided to the annotators, interannotator statistics, annotation validation, etc. -->
[More Information Needed]
#### Who are the annotators?
<!-- This section describes the people or systems who created the annotations. -->
[More Information Needed]
#### Personal and Sensitive Information
<!-- State whether the dataset contains data that might be considered personal, sensitive, or private (e.g., data that reveals addresses, uniquely identifiable names or aliases, racial or ethnic origins, sexual orientations, religious beliefs, political opinions, financial or health data, etc.). If efforts were made to anonymize the data, describe the anonymization process. -->
[More Information Needed]
## Bias, Risks, and Limitations
<!-- This section is meant to convey both technical and sociotechnical limitations. -->
[More Information Needed]
### Recommendations
<!-- This section is meant to convey recommendations with respect to the bias, risk, and technical limitations. -->
Users should be made aware of the risks, biases and limitations of the dataset. More information needed for further recommendations.
## Citation [optional]
<!-- If there is a paper or blog post introducing the dataset, the APA and Bibtex information for that should go in this section. -->
**BibTeX:**
[More Information Needed]
**APA:**
[More Information Needed]
## Glossary [optional]
<!-- If relevant, include terms and calculations in this section that can help readers understand the dataset or dataset card. -->
[More Information Needed]
## More Information [optional]
[More Information Needed]
## Dataset Card Authors [optional]
[More Information Needed]
## Dataset Card Contact
[More Information Needed]
任务类型:文本生成
语言:
- 挪威语(no)
- 阿法尔语(aa)
支持推理:是
推理示例:
- 输入文本:`def print_hello_world():`
示例标题:Hello World
分组:Python
许可证:BigCode OpenRail-M
训练所用数据集:
- bigcode/the-stack-dedup
评估所用指标:
- 代码评估(code_eval)
依赖库:Transformers
标签:
- 代码
模型索引:
- 名称:StarCoder
评估结果:
- 任务:
类型:文本生成
数据集:
类型:openai_humaneval
名称:HumanEval(提示式)
评估指标:
- 名称:单样本通过率(pass@1)
类型:pass@1
数值:0.408
已验证:否
- 任务:
类型:文本生成
数据集:
类型:openai_humaneval
名称:HumanEval
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.336
已验证:否
- 任务:
类型:文本生成
数据集:
类型:mbpp
名称:MBPP
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.527
已验证:否
- 任务:
类型:文本生成
数据集:
类型:ds1000
名称:DS-1000(整体补全)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.26
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(C++)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.3155
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(C#)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.2101
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(D)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.1357
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Go)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.1761
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Java)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.3022
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Julia)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.2302
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(JavaScript)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.3079
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Lua)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.2389
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(PHP)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.2608
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Perl)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.1734
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Python)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.3357
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(R)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.155
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Ruby)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.0124
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Racket)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.0007
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Rust)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.2184
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Scala)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.2761
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Bash)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.1046
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(Swift)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.2274
已验证:否
- 任务:
类型:文本生成
数据集:
类型:nuprl/MultiPL-E
名称:MultiPL-HumanEval(TypeScript)
评估指标:
- 名称:pass@1
类型:pass@1
数值:0.3229
已验证:否
访问授权提示:
> ## 模型许可协议 请在接受前阅读BigCode [OpenRAIL-M许可协议](https://huggingface.co/spaces/bigcode/bigcode-model-license-agreement)
访问授权所需字段:
我接受上述许可协议,并将按照该协议的使用限制和共享要求使用本模型:复选框
# 数据集卡片(针对数据集名称)
<!-- 请提供该数据集的简要概述。 -->
本数据集卡片旨在作为新数据集的基础模板,其通过[此原始模板](https://github.com/huggingface/huggingface_hub/blob/main/src/huggingface_hub/templates/datasetcard_template.md?plain=1)生成。
## 数据集详情
### 数据集描述
<!-- 请提供该数据集的详细概述。 -->
- **整理方:** [需补充更多信息]
- **资助方[可选]:** [需补充更多信息]
- **分享方[可选]:** [需补充更多信息]
- **自然语言处理所用语言:** [需补充更多信息]
- **许可证:** [需补充更多信息]
### 数据集来源[可选]
<!-- 请提供该数据集的基础链接。 -->
- **代码仓库:** [需补充更多信息]
- **相关论文[可选]:** [需补充更多信息]
- **演示页面[可选]:** [需补充更多信息]
## 使用场景
<!-- 请说明该数据集的预期用途相关问题。 -->
### 直接使用
<!-- 本节描述该数据集的适用场景。 -->
[需补充更多信息]
### 超出范围的使用场景
<!-- 本节说明误用、恶意使用,以及该数据集无法良好适配的使用场景。 -->
[需补充更多信息]
## 数据集结构
<!-- 本节描述数据集的字段信息,以及额外的数据集结构相关内容,例如划分数据集所用的标准、数据点间的关系等。 -->
[需补充更多信息]
## 数据集创建
### 整理依据
<!-- 说明创建该数据集的动机。 -->
[需补充更多信息]
### 源数据
<!-- 本节描述源数据(例如新闻文本与标题、社交媒体帖子、翻译后的语句等)。 -->
#### 数据收集与处理流程
<!-- 本节描述数据收集与处理过程,例如数据选择标准、过滤与归一化方法、所用工具与库等。 -->
[需补充更多信息]
#### 源数据生产者是谁?
<!-- 本节描述最初创建该数据的个人或系统。若有可用的源数据创建者的自我报告人口统计或身份信息,也应在此说明。 -->
[需补充更多信息]
### 标注[可选]
<!-- 若数据集包含初始数据收集之外的标注内容,请用本节描述相关信息。 -->
#### 标注流程
<!-- 本节描述标注流程,例如过程中所用的标注工具、标注数据量、提供给标注者的标注指南、标注者间统计、标注验证等。 -->
[需补充更多信息]
#### 标注者是谁?
<!-- 本节描述创建标注内容的个人或系统。 -->
[需补充更多信息]
#### 个人与敏感信息
<!-- 说明数据集是否包含可被视为个人、敏感或私有的数据(例如揭示地址、唯一可识别的姓名或别名、种族或族裔起源、性取向、宗教信仰、政治观点、财务或健康数据等)。若已采取数据匿名化措施,请描述匿名化流程。 -->
[需补充更多信息]
## 偏见、风险与局限性
<!-- 本节旨在说明技术与社会技术层面的局限性。 -->
[需补充更多信息]
### 建议
<!-- 本节旨在针对数据集的偏见、风险和技术局限性给出建议。 -->
用户应了解该数据集的风险、偏见与局限性。需补充更多信息以提供进一步建议。
## 引用[可选]
<!-- 若有介绍该数据集的论文或博客文章,请在此处提供其APA和BibTeX引用信息。 -->
**BibTeX格式:**
[需补充更多信息]
**APA格式:**
[需补充更多信息]
## 术语表[可选]
<!-- 若有需要,请在此处包含可帮助读者理解数据集或数据集卡片的术语与计算方法。 -->
[需补充更多信息]
## 更多信息[可选]
[需补充更多信息]
## 数据集卡片作者[可选]
[需补充更多信息]
## 数据集卡片联系人
[需补充更多信息]