1. 项目简介¶

1.1. 项目研究背景¶

人工智能技术在公共安全、金融经济、国防安全等领域取得了巨大进展和广泛应用。然而，由于现实应用场景的开放性，当前的人工智能技术暴露出稳定性、安全性等方面的安全隐患。对于人工智能算法的评测与度量，对于理解人工智能的行为并进一步提升其质量和推进在真实场景中的可用性具有重要意义。

1.2. 项目研究目标¶

项目的核心总目标是建设技术先进、安全可靠、资源丰富、社群活跃的新一代人工智能开源社区。项目从基础平台、评测防护、重点应用三个方面系统地开展课题研究。本项目主要面向智能算法评测相关的理论基础、技术方法和支撑平台方面的挑战，形成评测方法、技术体系和支撑平台完整配套的全域解决方案，保障不同类型的人工智能算法应用安全，并在图像分类，文本情感分析和语音识别等领域开展示范应用。

2. 主要研究内容¶

突破人工智能算法模型的测评技术。构建人工智能算法和模型的功能性、安全性、可靠性等质量评测标准体系，建立通用智能算法评测框架和评测方法，消除算法模型的隐含缺陷、提高决策行为的可解释性，研发智能算法决策过程静态分析和动态追踪技术，实现智能算法缺陷的快速准确定位、智能模型结构优化与安全防护。研发人工智能算法与模型评测工具，构建人工智能算法与模型评测典型方案库，搭建智能算法评测平台。