Fetch the repository succeeded.
隐私计算，主要是研究模型共享过程中，针对用户隐私的，攻击和防御手段（这个仅仅是我个人的理解，不是官方的解释）。这里的攻击手段，指的是，一些可以从模型中获取用户隐私的技术。而防御手段，则是应对各种攻击手段的技术。举个例子，某大型银行想要，将机器学习模型共享给其他机构。但模型是由该银行客户的隐私数据训练成的。如果直接将模型分享出去的话，则有可能被人们使用一些技术手段，比如下文中提到的，成员推断攻击，从模型中获取到用户的隐私。为了避免客户隐私泄露，该银行可以使用，差分隐私技术，有效防御成员推断攻击。关于这两个技术的原理，后面将详细介绍。
隐私计算技术的难点，是，难以让模型同时拥有，良好的防御性能，和较高的模型预测准确率。
通常来说，为了避免客户的隐私数据，从机器学习模型中泄露出去。常用的防御手段，是在模型的训练过程中，对一些训练参数进行各种形式的加密。该手段通常可以降低客户隐私泄露的可能性。但是，这些加密手段，也带来了一个问题。即，模型预测的准确率，将被大大降低。这个问题，目前在学术界，并没有一个通行的解决方案。
该项目主体是一个，中文手写数字识别。并在模型训练过程中，使用了各种隐私计算技术。具体来说，该项目依次展示了，联邦学习（防御手段），成员推断攻击(攻击手段)，和，差分隐私技术（防御手段）。
数据集的总体情况如图1所示。
项目所使用的部分数据集，如图1所示。项目的目的，是使用深度学习和隐私计算技术，然后用这些图片数据集训练模型，从而让模型能识别新出现的数据。
举个例子，当测试数据，为如图2所示的图片时，模型需要识别出，此图片为数字3.
当测试数据，为如图3所示的图片时，模型需要识别出，此图片为数字0.
.png)
此处可能存在不合适展示的内容，页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容，可点击提交进行申诉，我们将尽快为您处理。
1. Open source ecosystem
2. Collaboration, People, Software
3. Evaluation model
马建仓 AI 助手