原创 网络安全等保测评
如图B.1所示,各参与方通过服务接口调用AI计算平台提供的相关机制保护其AI核心资产。
各参与方如何调用安全机制 解决相应安全威胁可具体参考表B.1:
a) AI应用运行方:基于本文件中定义的服务接口和安全模块实现的功能,保护AI应用安全运行, 抵御针对运行态模型的攻击;此外,可根据推理数据的性质(如隐私数据等)调用相关机制保 护推理数据及AI模型;
b) AI应用提供方:基于本文件中定义的服务接口和安全模块实现的功能,保护AI模型及软件包安 全,防范AI应用运行方可能恶意导出、滥用AI模型、AI应用;
c) AI模型提供方:基于本文件中定义的服务接口和安全模块实现的功能,保护模型及训练脚本等 AI核心资产的完整性、保密性;
d) AI数据提供方:基于本文件中定义的服务接口和安全模块实现的功能,保护训练数据集的保密 性、完整性;
e) AI计算平台提供方:基于本文件定义的安全框架,在设计和开发AI计算平台时实现安全框架中 定义的安全模块及安全机制,并根据本文件定义的服务接口对其他参与方实现开放的标准接 口。保障AI计算平台自身安全,并为其他参与方提供标准化的安全功能。
具体地,人工智能计算平台提供方可参考本文定义的安全框架为 AI 数据提供方、AI 模型提供方、AI 应用提供方、AI 应用运行方提供相关的安全模块和机制保障其 AI 核心资产安全,各 AI 应用开发运行相关参与角色可调用AI计算平台提供方提供的相关安全模块和机制来缓解各个环节的安全威 胁,保障 AI 核心资产安全。