印度DEPA训练框架草案:不暴露原始数据,也能共享数据训练AI

印度电子信息技术部与iSPIRT发布DEPA AI训练框架草案:用数据交换平台、电子合同、安全数据环境和差分隐私,让各行业在不暴露原始记录的前提下共享数据训练AI。

训练AI需要大量数据,可医院、银行手里的数据又不能随便给人。印度的思路是:不交出原始记录,也能让数据参与训练。先说结论:印度电子信息技术部联合 iSPIRT 基金会发布了“DEPA AI训练框架”草案,提出一套技术加法律的架构,用于跨行业共享汇总、批量的数据集训练AI模型。

需要先说明:这只是“供讨论的草案”,代表政府的规划,并不是已上线的系统。文件把它定位为面向AI时代的第二代数字公共基础设施。它也与金融领域由 Sahamati 运营的账户聚合器(AA)同意体系——即处理个人层面数据、用于推理的 DEPA Inference——划清了界限。

四根支柱和两种部署方式

  • 数据交换平台:负责发现、注册和访问,草案提名 AI Kosh 为候选。
  • 电子合同:机器可读、加密签名的协议,自动执行数据使用条款。
  • 安全数据环境(SDE):硬件隔离区,训练在其中进行,不暴露原始数据。
  • 差分隐私:加入经过校准的统计噪声,并由经审计的隐私预算管控。设计遵循 ADEPTS 原则,并能与 AI Kosh、API Setu 和国家数据与分析平台互通。

角色分三类:训练数据提供方(医院、银行、公共机构)负责注册、匿名化和加密数据;训练数据使用方(初创公司、研究者、监管机构)训练模型;商业性的行业数据协作体在各自领域内汇聚数据。部署方式草案留了两种:提供方自己匿名化,使用方可在SDE内训练或下载数据;或者由交换平台负责匿名化,只能在隔离区内访问。

训练流程:五步走

  1. 数据集注册、加密,并加上加密标记或水印。
  2. 使用方的请求按电子合同条款自动校验。
  3. 训练限定在SDE内,原始数据不暴露,应用差分隐私,日志不可篡改。
  4. 独立验证:偏见与公平性审计、对抗鲁棒性测试和可解释性检查。
  5. 上线后持续监控,并可追溯到源数据和合同。

安全上采用零信任,静态、传输和处理时都加密,并实时监测异常;支持联邦学习和安全多方计算,假名化密钥留在数据来源机构。数据集按2012年的 NDSAP 政策分为开放、注册和受限三类,可选的“AI溯源链”分布式账本会不可篡改地记录所有数据处理。草案称与印度《2023年数字个人数据保护法》、欧盟《AI法案》和美国 HIPAA 等一致。

有没有证据说明不会牺牲效果

草案引用的案例是 Penn Medicine 与 Intel 的项目:71家机构组成联盟,在保密的“洁净室”里用联邦学习训练脑肿瘤检测模型,没共享原始病人数据,模型准确率达到假想中心化训练模型的99%。作者据此认为,保护隐私并不必然牺牲性能。

宏观上,草案引用了AI到2030年为全球经济增加15万亿美元的预测,印度自身份额约5000亿美元GDP;印度储备银行专家委员会估算中小微企业未满足的信贷需求为20万亿到25万亿卢比,草案认为用替代数据做AI授信,可能触达约4亿目前在正规信贷体系之外的个人和小企业。印度科技部秘书阿巴伊·卡兰迪卡尔(Abhay Karandikar)说,印度研究者长期面临“数据鸿沟”,这个框架不是监管文件,而是国家基础设施的一部分。

常见问题(FAQ)

DEPA 现在已经上线了吗?

没有,目前只是“供讨论的草案”,代表政府规划。

它和 DEPA Inference 有什么区别?

训练框架处理汇总、批量数据,用于训练模型;Inference(如金融的账户聚合器)处理个人层面数据,用于推理。

“安全数据环境”是什么?

一种硬件隔离区,训练在里面进行,使用方看不到原始数据。

差分隐私有什么用?

给结果加入经过校准的统计噪声,让别人很难从模型反推出某个人的数据。

隐私保护训练会拉低模型效果吗?

草案引用的联邦学习案例显示,准确率达到中心化训练的99%,作者据此认为影响不大,但这是草案方面的论证。