English | 蒙文版
 
当前位置: 首页网络安全周前沿动态 → 正文
阅读新闻

筑牢个人信息保护防线 促进人工智能健康发展

[日期:2022-09-07]

9月6日,2022年国家网络安全宣传周人工智能与个人信息保护论坛在合肥举办。

论坛现场,中国工程院院士何友围绕人工智能与安全议题,介绍了人工智能的起源与发展前沿,阐述了预训练大模型、无监督学习、对抗博弈、人工智能应用发展等前沿领域的突破和进展。关于人工智能安全,何友谈及人工智能对传统领域及人工智能系统本身的安全风险,并对AI伦理和人工智能安全的现状与问题提出反思,表达了对人工智能安全未来发展的期望。

科大讯飞总裁吴晓如介绍了当前我国人工智能技术的进展,人工智能技术具有重要的战略地位,亦是国家“十四五”期间重点攻关的科技前沿领域之一。人工智能技术作为强大的数据处理工具,在个人隐私保护上具有更强大的数字经济推动力,同时关注人工智能在个人隐私保护中要坚守的底线和责任。“比如,在安全管理体系上落实安全组织,制定规范流程,从顶层设计层面保障安全资源;在安全技术体系上,以可用、可信、可靠的安全技术,形成安全能力的坚实基础;在产品安全体系上,将产品安全活动内建于产研管理流程,从源头降低安全风险;在个人信息保护体系上,形成全面覆盖业务场景的隐私保护机制,保障个人隐私信息数据生命周期的安全。”

谈及信息安全,中科院计算所研究员、博导山世光指出,个人隐私信息保护至关重要,其核心目标是去标识化,破解既要应用又要安全的难题,使数据“可用不可见”。他提出,有三类方法可应对:以加密为核心的隐私保护、可信联邦学习、反制AI系统,可以主动避免信息被收集。

关于人工智能安全性,在阿里巴巴集团副总裁、中国网络空间安全协会副理事长钱磊看来,在人工智能技术应用过程中,特别是在用户利益相关的场景,要警惕技术误用或滥用和个人信息的滥用两大类风险。在消费者隐私保护方面,“形成从算法评估、风险检测、干预机制的全生命周期风险管理流程,并重点推动算法治理、隐私保护、伦理制度建设等工作,探索相关前沿技术,提升整体科技自省自律水平。”

首次来肥的清华大学交叉信息研究院兼职教授、慧安金科(北京)科技有限公司创始人黄铃说,目前在合肥有上千亿产值的诸多人工智能相关企业,这为合肥人工智能产业蓬勃发展奠定了坚实的基础。“人工智能发展前景广阔,未来,在医疗、出行、智能驾驶等领域都有很多应用,本次展会也让合肥充分展现了在人工智能领域发展的成果,我非常期待合肥早日成为全国人工智能产业发展的龙头。”(记者 李想)

来源:合肥日报