为 🤗 Transformers 做贡献
欢迎所有人为 🤗 Transformers 做出贡献,我们重视每个人的贡献。代码贡献并不是帮助社区的唯一途径。回答问题、帮助他人和改进文档也非常有价值。
宣传 🤗 Transformers 也会帮助我们!比如在博客文章里介绍一下这个库是如何帮助你完成了很棒的项目,每次它帮助你时都在 Twitter 上大声宣传,或者给这个代码仓库点⭐️来表示感谢。
无论你选择以哪种方式做出贡献,请注意并尊重我们的行为准则。
本指南的灵感来源于 scikit-learn贡献指南 ,它令人印象深刻.
做贡献的方法
有多种方法可以为 🤗 Transformers 做贡献:
- 修复现有代码中尚未解决的问题。
- 提交与 bug 或所需新功能相关的 issue。
- 实现新的模型。
- 为示例或文档做贡献。
如果你不知道从哪里开始,有一个特别的 Good First Issue 列表。它会列出一些适合初学者的开放的 issues,并帮助你开始为开源项目做贡献。只需要在你想要处理的 issue 下发表评论就行。
如果想要稍微更有挑战性的内容,你也可以查看 Good Second Issue 列表。总的来说,如果你觉得自己知道该怎么做,就去做吧,我们会帮助你达到目标的!🚀
所有的贡献对社区来说都同样宝贵。🥰
修复尚未解决的问题
如果你发现现有代码中存在问题,并且已经想到了解决方法,请随时开始贡献 并创建一个 Pull Request!
提交与 bug 相关的 issue 或功能请求
在提交与错误相关的 issue 或功能请求时,请尽量遵循下面的指南。这能让我们更容易迅速回复你,并提供良好的反馈意见。
你发现了 bug 吗?
🤗 Transformers 之所以强大可靠,要感谢用户报告了他们遇到的问题。
在提出issue之前,请你确认该 bug 尚未被报告(使用 GitHub 的 Issues 下面的搜索栏)。issue 也应该是与库本身的 bug 有关,而不是与你的代码有关。如果不确定 bug 是在你的代码中还是在库中,请先在论坛中询问。这有助于我们更快地解决与库相关的问题。
一旦你确认该 bug 尚未被报告,请在你的 issue 中包含以下信息,以便我们快速解决:
- 使用的操作系统类型和版本,以及 Python、PyTorch 和 TensorFlow 的版本。
- 一个简短、独立的代码片段,可以让我们在不到30秒内重现这个问题。
- 如果发生异常,请提供完整的 traceback。
- 附上你认为可能有帮助的任何其他附加信息,如屏幕截图。
想要自动获取操作系统和软件版本,请运行以下命令:
transformers-cli env
你也可以从代码仓库的根目录下运行相同的命令:
python src/transformers/commands/transformers_cli.py env
你想要新功能吗?
如果你希望在 🤗 Transformers 中看到新功能,请提出一个 issue 并包含以下内容:
这个新功能的动机是什么呢?是因为使用这个库时遇到了问题或者感到了某种不满吗?是因为你的项目需要这个功能吗?或者是你自己开发了某项内容,并且认为它可能会对社区有所帮助?
不管是什么,我们都很想听!
请尽可能详细地描述你想要的功能。你告诉我们的越多,我们就能更好地帮助你。
请提供一个代码片段,演示该功能的使用方法。
如果这个功能与某篇论文相关,请包含链接。
如果你描述得足够清晰,那么在你创建 issue 时,我们已经完成了80%的工作。
我们已经添加了模板,可能有助于你提出 issue。
你想要实现一个新模型吗?
我们会持续发布新模型,如果你想要实现一个新模型,请提供以下信息:
- 模型的简要描述和论文链接。
- 如果实现是开源的,请提供实现的链接。
- 如果模型权重可用,请提供模型权重的链接。
如果你想亲自贡献模型,请告诉我们。让我们帮你把它添加到 🤗 Transformers!
我们已经添加了详细的指南和模板来帮助你添加新模型。我们还有一个更技术性的指南,告诉你如何将模型添加到 🤗 Transformers。
你想要添加文档吗?
我们始终在寻求改进文档,使其更清晰准确。请告诉我们如何改进文档,比如拼写错误以及任何缺失、不清楚或不准确的内容。我们非常乐意进行修改,如果你有兴趣,我们也可以帮助你做出贡献!
有关如何生成、构建和编写文档的更多详细信息,请查看文档 README。
创建 Pull Request
在开始编写任何代码之前,我们强烈建议你先搜索现有的 PR(Pull Request) 或 issue,以确保没有其他人已经在做同样的事情。如果你不确定,提出 issue 来获取反馈意见是一个好办法。
要为 🤗 Transformers 做贡献,你需要基本的 git
使用技能。虽然 git
不是一个很容易使用的工具,但它提供了非常全面的手册,在命令行中输入 git --help
并享受吧!如果你更喜欢书籍,Pro Git是一本很好的参考书。
要为 🤗 Transformers 做贡献,你需要 Python 3.8 或更高版本。请按照以下步骤开始贡献:
把派生仓库克隆到本地磁盘,并将基础仓库添加为远程仓库:
git clone [email protected]:<your Github handle>/transformers.git cd transformers git remote add upstream https://github.com/huggingface/transformers.git
创建一个新的分支来保存你的更改:
git checkout -b a-descriptive-name-for-my-changes
🚨 不要在
main
分支工作!在虚拟环境中运行以下命令来设置开发环境:
pip install -e ".[dev]"
如果在虚拟环境中已经安装了 🤗 Transformers,请先使用
pip uninstall transformers
卸载它,然后再用-e
参数以可编辑模式重新安装。根据你的操作系统,以及 Transformers 的可选依赖项数量的增加,可能会在执行此命令时出现失败。如果出现这种情况,请确保已经安装了你想使用的深度学习框架(PyTorch, TensorFlow 和 Flax),然后执行以下操作:
pip install -e ".[quality]"
大多数情况下,这些应该够用了。
在你的分支上开发相关功能。
在编写代码时,请确保测试套件通过。用下面的方式运行受你的更改影响的测试:
pytest tests/<TEST_TO_RUN>.py
想了解更多关于测试的信息,请阅读测试指南。
🤗 Transformers 使用
black
和ruff
来保持代码风格的一致性。进行更改后,使用以下命令自动执行格式更正和代码验证:make fixup
它已经被优化为仅适用于你创建的 PR 所修改过的文件。
如果想要逐个运行检查,可以使用以下命令:
make style
🤗 Transformers 还使用了
ruff
和一些自定义脚本来检查编码错误。虽然质量管理是通过 CI 进行的,但你也可以使用以下命令来运行相同的检查:make quality
最后,我们有许多脚本来确保在添加新模型时不会忘记更新某些文件。你可以使用以下命令运行这些脚本:
make repo-consistency
想要了解有关这些检查及如何解决相关问题的更多信息,请阅读 检查 Pull Request 指南。
如果你修改了
docs/source
目录下的文档,请确保文档仍然能够被构建。这个检查也会在你创建 PR 时在 CI 中运行。如果要进行本地检查,请确保安装了文档构建工具:pip install ".[docs]"
在仓库的根目录下运行以下命令:
doc-builder build transformers docs/source/en --build_dir ~/tmp/test-build
这将会在
~/tmp/test-build
文件夹中构建文档,你可以使用自己喜欢的编辑器查看生成的 Markdown 文件。当你创建 PR 时,也可以在GitHub上预览文档。当你对修改满意后,使用
git add
把修改的文件添加到暂存区,然后使用git commit
在本地记录你的更改:git add modified_file.py git commit
请记得写一个好的提交信息来清晰地传达你所做的更改!
为了保持你的代码副本与原始仓库的最新状态一致,在你创建 PR 之前或者在管理员要求的情况下,把你的分支在
upstream/branch
上进行 rebase:git fetch upstream git rebase upstream/main
把你的更改推送到你的分支:
git push -u origin a-descriptive-name-for-my-changes
如果你已经创建了一个 PR,你需要使用
--force
参数进行强制推送。如果 PR 还没有被创建,你可以正常推送你的更改。现在你可以转到 GitHub 上你的账号下的派生仓库,点击 Pull Request 来创建一个 PR。 请确保勾选我们 checklist 下的所有项目。准备好这些后,可以将你的更改发送给项目管理员进行审查。
如果管理员要求你进行更改,别气馁,我们的核心贡献者也会经历相同的事情!请在你的本地分支上进行工作,并将更改推送到派生仓库,以便于每个人都可以在 PR 中看到你的更改。这样它们会自动出现在 PR 中。
Pull request 的检查清单
☐ Pull request 的标题应该总结你的贡献内容。
☐ 如果你的 Pull request 解决了一个issue,请在 Pull request 描述中提及该 issue 的编号,以确保它们被关联起来(这样查看 issue 的人就知道你正在处理它)。
☐ 如果是正在进行中的工作,请在标题前加上 [WIP]。这有助于避免重复工作和区分哪些 PR 可以合并。
☐ 确保可以通过现有的测试。
☐ 如果添加了新功能,请同时添加对应的测试。
- 如果添加一个新模型,请使用
ModelTester.all_model_classes = (MyModel, MyModelWithLMHead,...)
来触发通用测试。 - 如果你正在添加新的
@slow
测试,请确保通过以下检查:RUN_SLOW=1 python -m pytest tests/models/my_new_model/test_my_new_model.py
- 如果你正在添加一个新的分词器,请编写测试并确保通过以下检查:
RUN_SLOW=1 python -m pytest tests/models/{your_model_name}/test_tokenization_{your_model_name}.py
- CircleCI 不会运行时间较长的测试,但 GitHub Actions 每晚会运行所有测试!
☐ 所有公共 method 必须具有信息文档(比如 modeling_bert.py
)。
☐ 由于代码仓库的体积正在迅速增长,请避免添加图像、视频和其他非文本文件,它们会增加仓库的负担。请使用 hf-internal-testing
等 Hub 仓库来托管这些文件,并通过 URL 引用它们。我们建议将与文档相关的图片放置在以下仓库中:huggingface/documentation-images。你可以在这个数据集仓库上创建一个 PR,并请求 Hugging Face 成员进行合并。
要了解更多有关在 Pull request 上运行的检查的信息,请查看我们的 检查 Pull Request 指南。
测试
包含了广泛的测试套件来测试库的行为和一些示例。库测试可以在 tests 文件夹中找到,示例测试可以在 examples 文件夹中找到。
我们喜欢使用 pytest
和 pytest-xdist
,因为它运行更快。在仓库的根目录,指定一个子文件夹的路径或测试文件来运行测试:
python -m pytest -n auto --dist=loadfile -s -v ./tests/models/my_new_model
同样地,在 examples
目录,指定一个子文件夹的路径或测试文件 来运行测试。例如,以下命令会测试 PyTorch examples
目录中的文本分类子文件夹:
pip install -r examples/xxx/requirements.txt # 仅在第一次需要
python -m pytest -n auto --dist=loadfile -s -v ./examples/pytorch/text-classification
实际上这就是我们的 make test
和 make test-examples
命令的实现方式(不包括 pip install
)!
你也可以指定一个较小的测试集来仅测试特定功能。
默认情况下,会跳过时间较长的测试,但你可以将 RUN_SLOW
环境变量设置为 yes
来运行它们。这将下载以 GB 为单位的模型文件,所以确保你有足够的磁盘空间、良好的网络连接和足够的耐心!
记得指定一个子文件夹的路径或测试文件来运行测试。否则你将会运行 tests
或 examples
文件夹中的所有测试,它会花费很长时间!
RUN_SLOW=yes python -m pytest -n auto --dist=loadfile -s -v ./tests/models/my_new_model
RUN_SLOW=yes python -m pytest -n auto --dist=loadfile -s -v ./examples/pytorch/text-classification
和时间较长的测试一样,还有其他环境变量在测试过程中,在默认情况下是未启用的:
RUN_CUSTOM_TOKENIZERS
: 启用自定义分词器的测试。RUN_PT_FLAX_CROSS_TESTS
: 启用 PyTorch + Flax 整合的测试。RUN_PT_TF_CROSS_TESTS
: 启用 TensorFlow + PyTorch 整合的测试。
更多环境变量和额外信息可以在 testing_utils.py 中找到。
🤗 Transformers 只是使用 pytest
作为测试运行程序,但测试套件本身没用任何与 pytest
相关的功能。
这意味着完全支持 unittest
。以下是如何使用 unittest
运行测试的方法:
python -m unittest discover -s tests -t . -v python -m unittest discover -s examples -t examples -v
风格指南
🤗 Transformers 的文档遵循 Google Python Style Guide。请查看我们的 文档编写指南 来获取更多信息。
在 Windows 上开发
在 Windows 上(除非你正在使用 Windows Subsystem for Linux 或 WSL),你需要配置 git 将 Windows 的 CRLF
行结束符转换为 Linux 的 LF
行结束符:
git config core.autocrlf input
在 Windows 上有一种方法可以运行 make
命令,那就是使用 MSYS2:
- 下载 MSYS2,假设已经安装在
C:\msys64
。 - 从命令行打开
C:\msys64\msys2.exe
(可以在 开始 菜单中找到)。 - 在 shell 中运行:
pacman -Syu
,并使用pacman -S make
安装make
。 - 把
C:\msys64\usr\bin
添加到你的 PATH 环境变量中。
现在你可以在任何终端(PowerShell、cmd.exe 等)中使用 make
命令了! 🎉
将派生仓库与上游主仓库(Hugging Face 仓库)同步
更新派生仓库的主分支时,请按照以下步骤操作。这是为了避免向每个上游 PR 添加参考注释,同时避免向参与这些 PR 的开发人员发送不必要的通知。
可以的话,请避免使用派生仓库上的分支和 PR 来与上游进行同步,而是直接合并到派生仓库的主分支。
如果确实需要一个 PR,在检查你的分支后,请按照以下步骤操作:
git checkout -b your-branch-for-syncing git pull --squash --no-commit upstream main git commit -m '<your message without GitHub references>' git push --set-upstream origin your-branch-for-syncing