智东西10月29日消息，近日，斯坦福大学医学院的研究人员在差分隐私（一种保护敏感数据的关键方法）的使用方面取得了突破。通过使用Graphcore IPU，斯坦福团队能够将具有差分隐私的AI训练速度提高10倍以上，将这项被认为计算难度过大而无法广泛使用的技术转变为现实世界的可行解决方案。

加速处理的常用方法是使用微批次。虽然这会加速训练，但分析表明，这会降低生成模型的预测质量以及生成的隐私保护指标，从根本上违背了其目的。事实上，使用微批次尺寸为1或“纳米批次”运行的实验显示出最高的准确度。纳米批次差别私有随机梯度下降（DPSGD）不常用的一个主要原因，是它大大降低了GPU的吞吐量，以至于在ImageNet上运行纳米批次DPSGD ResNet-50需要数日的时间。相比之下，纳米批次DPSGD在IPU上非常高效，结果比在GPU上快8到11倍，把时间从几天缩短到几小时。对于IPU，由于IPU的MIMD架构和细粒度并行性可以实现高得多的处理效率，因此DPSGD所需的额外操作的计算开销要低得多（10%而不是50-90%）。

在使用非隐私敏感训练数据证明其应用后，斯坦福团队通过与Graphcore合作，正计划将其技术应用于新型冠状病毒肺炎的胸部CT图像，旨在揭示关于继续在全球影响人们正常生活的这个病毒的全新见解。

论文链接：https://arxiv.org/abs/2109.12191。