具有匹配稀疏化配方的高度稀疏和稀疏量化模型的神经网络模型库
项目描述
稀疏动物园
具有匹配稀疏化配方的高度稀疏和稀疏量化模型的神经网络模型库
概述
SparseZoo 是一个不断增长的稀疏（修剪和修剪量化）模型库，具有匹配的神经网络稀疏化配方。它通过一系列推理优化模型和用于原型的配方，简化并加快了您构建高性能深度学习模型的时间。在此处阅读有关稀疏化的更多信息。
SparseZoo 可通过 API 获得并托管在云中，包含基线和模型，这些模型被稀疏化为不同程度的推理性能与基线损失恢复。围绕稀疏化算法构建的配方驱动方法允许您使用给定的模型，从模型迁移学习到私有数据集，或将配方迁移到您的架构。
GitHub 存储库包含用于处理与云的连接和身份验证的 Python API 代码。
强调
安装
此存储库在 Python 3.6-3.9 和 Linux/Debian 系统上进行了测试。建议安装在虚拟环境中以保持系统井然有序。
使用 pip 安装：
pip install sparsezoo
快速浏览
Python API
Python API 尊重这种格式，使您能够搜索和下载模型。下面给出了一些代码示例。SparseZoo UI还允许用户通过直接从模型页面复制存根来加载模型。
从存根加载
from sparsezoo import Model
# copied from https://sparsezoo.neuralmagic.com/
stub = "zoo:cv/classification/resnet_v1-50/pytorch/sparseml/imagenet/pruned90_quant-none"
model = Model(stub)
print(model)
寻找动物园
from sparsezoo import search_models
models = search_models(
domain="cv",
sub_domain="classification",
return_stubs=True,
)
print(models)
环境变量
用户可以指定模型（在下载期间临时）及其所需凭据将保存在您的工作机器中的目录。
SPARSEZOO_MODELS_PATH是将下载的模型临时保存的路径。默认~/.cache/sparsezoo/
SPARSEZOO_CREDENTIALS_PATH是credentials.yaml要保存的路径。默认~/.cache/sparsezoo/
控制台脚本
除了 Python API 之外，还随包安装了一个控制台脚本入口点sparsezoo。这可以直接从您的控制台/终端轻松交互。
下载
下载命令帮助
sparsezoo.download -h
下载 ResNet-50 模型
sparsezoo.download zoo:cv/classification/resnet_v1-50/pytorch/sparseml/imagenet/base-none
下载修剪和量化的 ResNet-50 模型
sparsezoo.download zoo:cv/classification/resnet_v1-50/pytorch/sparseml/imagenet/pruned_quant-moderate
搜索
搜索命令帮助
sparsezoo search -h
搜索计算机视觉领域的所有分类 MobileNetV1 模型
sparsezoo search --domain cv --sub-domain classification --architecture mobilenet_v1
搜索所有 ResNet-50 模型
sparsezoo search --domain cv --sub-domain classification \
--architecture resnet_v1 --sub-architecture 50
如需更深入的阅读，请查看SparseZoo 文档。
资源
了解更多
- 文档：SparseML、 SparseZoo、 Sparseify、 DeepSparse
- 神经魔法：博客、 资源
发布历史
官方构建托管在 PyPI 上
- 稳定：稀疏动物园
- 每晚（开发）：sparsezoo-nightly
此外，可以通过GitHub Releases 找到更多信息。
执照
社区
贡献
我们感谢对代码、示例、集成和文档以及错误报告和功能请求的贡献！在这里了解如何。
加入
有关 SparseZoo 的用户帮助或问题，请注册或登录我们的Deep Sparse Community Slack。我们正在逐个增加社区成员，很高兴在那里见到您。错误、功能请求或其他问题也可以发布到我们的GitHub 问题队列。
通过订阅Neural Magic 社区，您可以获得最新消息、网络研讨会和活动邀请、研究论文和其他 ML 性能花絮。
有关神经魔法的更多一般性问题，请填写此表格。
