robustness 1.2.1.post2

通过pip安装：pip install 健壮性

阅读文档：https ://robustness.readthedocs.io/en/latest/index.html

鲁棒性是我们（MadryLab的学生）创建的一个软件包，用于使训练、评估和探索神经网络变得灵活和容易。我们在几乎所有项目中都使用它（无论它们是否涉及对抗训练！），它将成为我们即将发布的许多代码版本的依赖项。使用该库的一些项目包括：

• “通过对抗性鲁棒性学习感知对齐表示”的代码（https://arxiv.org/abs/1906.00945）

• “使用单个（稳健）分类器进行图像合成”的代码（https://arxiv.org/abs/1906.09453）

• “对抗性鲁棒的 ImageNet 模型迁移得更好吗？”的代码 （https://arxiv.org/abs/2007.08489）

• “品种：亚种群转移的基准”代码（https://arxiv.org/abs/2008.04859）

我们在一组演练和我们的 API 参考中演示了如何使用该库。该库提供的功能包括：

• 使用CLI 界面为各种数据集/架构训练和评估标准模型和稳健模型。该库还支持添加 自定义数据集和模型架构。

python -m robustness.main --dataset cifar --data /path/to/cifar \
   --adv-train 0 --arch resnet18 --out-dir /logs/checkpoints/dir/

• 使用稳健（或标准）模型执行输入操作——这包括制作对抗性示例、反转表示、特征可视化等。该库提供了多种优化选项（例如，在真实/估计梯度之间进行选择、傅立叶/像素基础、自定义损失函数等），并且易于扩展。

import torch as ch
from robustness.datasets import CIFAR
from robustness.model_utils import make_and_restore_model

ds = CIFAR('/path/to/cifar')
model, _ = make_and_restore_model(arch='resnet50', dataset=ds,
             resume_path='/path/to/model', state_dict_path='model')
model.eval()
attack_kwargs = {
   'constraint': 'inf', # L-inf PGD
   'eps': 0.05, # Epsilon constraint (L-inf norm)
   'step_size': 0.01, # Learning rate for PGD
   'iterations': 100, # Number of PGD steps
   'targeted': True # Targeted attack
   'custom_loss': None # Use default cross-entropy loss
}

_, test_loader = ds.make_loaders(workers=0, batch_size=10)
im, label = next(iter(test_loader))
target_label = (label + ch.randint_like(label, high=9)) % 10
adv_out, adv_im = model(im, target_label, make_adv, **attack_kwargs)

• 将鲁棒性作为一个包导入，允许轻松训练神经网络，支持自定义损失函数、日志记录、数据加载等！在我们的两部分演练（第 1部分， 第 2 部分）中可以找到一个很好的介绍。

from robustness import model_utils, datasets, train, defaults
from robustness.datasets import CIFAR

# We use cox (http://github.com/MadryLab/cox) to log, store and analyze
# results. Read more at https//cox.readthedocs.io.
from cox.utils import Parameters
import cox.store

# Hard-coded dataset, architecture, batch size, workers
ds = CIFAR('/path/to/cifar')
m, _ = model_utils.make_and_restore_model(arch='resnet50', dataset=ds)
train_loader, val_loader = ds.make_loaders(batch_size=128, workers=8)

# Create a cox store for logging
out_store = cox.store.Store(OUT_DIR)

# Hard-coded base parameters
train_kwargs = {
    'out_dir': "train_out",
    'adv_train': 1,
    'constraint': '2',
    'eps': 0.5,
    'attack_lr': 1.5,
    'attack_steps': 20
}
train_args = Parameters(train_kwargs)

# Fill whatever parameters are missing from the defaults
train_args = defaults.check_and_fill_args(train_args,
                        defaults.TRAINING_ARGS, CIFAR)
train_args = defaults.check_and_fill_args(train_args,
                        defaults.PGD_ARGS, CIFAR)

# Train a model
train.train_model(train_args, m, (train_loader, val_loader), store=out_store)

注意：稳健性要求安装 PyTorch 并支持 CUDA。

torch==1.1.0
dill==0.2.9

@misc{robustness,
   title=<s>{Robustness (Python Library)}</s>,
   author=<s>{Logan Engstrom and Andrew Ilyas and Hadi Salman and Shibani Santurkar and Dimitris Tsipras}</s>,
   year=<s>{2019}</s>,
   url=<s>{https://github.com/MadryLab/robustness}</s>
}