欧宝平台登录:既防止数据霸权又保护数据、隐私

发布时间: 2022-09-21 22:13:13 来源:欧宝体育直播nba 作者:欧宝体育手机版app直播

  “虽然我们现在可能面临很多(人工智能安全)的问题,但只要我们能够用防火墙或各种方式把攻击门槛抬高,让攻击者无利可图,人工智能系统就会安全。”9月16日,清华大学教授、人工智能研究院基础理论研究中心主任朱军在首届人工智能安全大赛颁奖仪式暨主体技术论坛上说。论坛上,多位专家围绕人工智能安全和治理展开热议。有专家提到,人工智能边界的不确定性是其很难完美防御的原因,但只要让攻击者的付出大于期望的收益,就可以认为安全了。

  “锚定怎样的发展理念、选取怎样的技术路线,使下一代人工智能实现安全、可信、可靠的发展,将是我们这代人为未来智能世界绘制的蓝图底色。”中科院院士、清华大学人工智能研究院名誉院长张钹在致辞中说。为了应对近年来因技术局限或者恶意应用导致的人工智能安全问题,开展该领域的关键技术研究与攻防实践成为产业进一步发展的关键保障。

  据大赛主办方之一——瑞莱智慧的首席执行官田天介绍,本次大赛是首个全国性的人工智能安全赛事,选取了当前人工智能安全领域关注度最高、相关风险最为严重的人脸识别安全、自动驾驶安全、深度伪造安全作为赛题。

  “通过本次大赛的赛题设置以及所有选手的提交,我们发现人工智能安全问题具有以下三个非常典型的新的特点。”田天说,首先人工智能技术作为一项通用的普适性技术被应用在多个领域,一旦出现安全漏洞,可能影响人们日常生活的方方面面;其次技术复杂程度越来越高,人工智能安全风险往往处于黑盒状态,导致的损失也会更大;最后人工智能安全的风险维度除了公共安全、个人权益相关场景,已经拓展到国家安全、国际竞争等方面。

  在他看来,人工智能发展需要具备三大核心方面能力。一是要关注人工智能相关的数据安全问题。“为了实现人工智能的发展,我们需要在满足对隐私数据保护诉求的同时充分释放数据价值”——具体来说,就是在数据训练、建模等环节部署数据安全技术。

  二是关注人工智能的算法可靠。田天注意到,人脸识别、自动驾驶等复杂的人工智能系统算法中可能存在着大量的新型隐患或者被攻击的风险,在算法模型外部署相应的安全防护组件可以有效提升人工智能系统抵御模型窃取、对抗样本等针对算法攻击的能力。

  三是通过技管融合防止技术滥用,保证应用安全可控。“新技术是一把双刃剑”,他提醒,“我们需要避免新型技术被恶意利用,引发信息泄露、伦理困境等社会风险。”

  一直以来,“达到何种程度的人工智能才是真正的安全”都是学术界和产业界共同关注的焦点问题。当人工智能安全已经显现出新的特点,根据怎样的理论标准,才足以验证一项人工智能技术应用是否安全呢?

  “人工智能本身不是一个孤立的东西”,朱军指出,人工智能在运行环境中与基础硬件等产生的诸多交互,以及其本身动态变化的边界,使得目前难以用严格的、形式化的方法验证一个人工智能系统的安全性。

  北京邮电大学教授、网络空间安全学院副院长邓伟洪则从人工智能边界的角度提出,即使像人脸识别这么精准的人工智能技术,它的边界依然很开放,一个准确率99.9%的模型很容易就会被攻破。再比如人脸活体检测,从打印照片、三维面具发展到硅胶面具,无论采用何种算法检测活体,总有更高级别的攻击手段将其破解——“这种不确定性是人工智能很难完美防御的原因”。

  对此,朱军试图给出他的解决方法:只要能够通过防火墙等各种方式把攻击的门槛抬高,让攻击者无利可图,使得“攻击的付出大于期望的收益”,就可以说人工智能系统安全了。邓伟洪也认为,在面对不确定的人工智能时,这是“比较好的出路”。

  不过,在多位专家看来,如何把握“门槛”的高度,还有赖于坚实的理论基础。邓伟洪指出,现在解决安全问题的方法是针对特定任务甚至特定场景的,还缺乏从数学上或模型理论上的安全保障。“我们不怕模型犯错,我们怕的是犯错了也不知道出于什么原因,也不知道怎样才能让它下次不犯错”,陈健生直言。

  南都记者从会上了解到,北京航空航天大学教授、软件开发环境国家重点实验室副主任刘祥龙所在团队已经开始着手人工智能安全评测工作。他强调,人工智能应用安全问题“是研究不完的,我们现在关心的是怎么评估这类系统的安全性”。

  比如首先要生成测试的数据以及样本,包括自动驾驶、自动零售等不同类型。测试之后要分析系统安全性,从训练方法、训练技巧等角度评估不同配置生成的模型安全性如何。还要从数据段、模型段提供加固手段,以帮助模型、算法系统改善安全性。

  想要确保人工智能的安全,必然涉及人工智能的治理。今年以来,新加坡、欧盟、美国、中国等的监管机构和第三方机构纷纷发布人工智能治理测试工具箱、技术监管沙箱,推进人工智能治理的落地实施。

  华为可信AI安全解决方案专家唐文观察发现,欧盟的《人工智能法案》立法进程最快,它的关注重心在于人工智能是否会被滥用。“我们认为它(欧盟《人工智能法案》)实际是在推行负责任的AI,也就是AI治理过程中首先要求AI的参与方负责;如果你的AI系统产生了不良的后果,我能够找到你的责任人。”他认为,当人工智能系统出问题的时候如何定责,是监管方非常重要的抓手。

  反观国内,邓伟洪直言“人工智能治理是很大的问题”。他指出,人工智能已经在影响人们的生活,比如每天刷手机的时候推荐算法就在起作用,甚至影响人们的价值观。

  另一方面,他表示,以前有的隐私比如人脸信息很难获取,但现在有人利用人脸识别技术能分析出很多东西,这是之前做不到的。“有了人工智能之后,数据、隐私保护可能比以前更难了……给相关的治理带来更多的挑战。”因此,他强调,人工智能治理要做到两方面:防止数据霸权,以及数据、隐私的保护。

  “如果管理人工智能技术,其实技术本身的责任没有那么大。”朱军坦言,他把技术看作中性的东西,偏见或恶意可能来自采集过程,而不是算法或模型。他提到,现在人工智能的很多会议会要求投稿人就其提出的模型或者算法作声明,告知这个技术对社会有什么负面影响,也就是要在创造算法的时候考虑更多的社会责任,倒逼研究人员考虑最后的实际效果。比如把人脸识别用于监控的相关投稿可能就不会被会议所接收,因为可能涉及隐私。

  在他看来,人工智能还处于相对比较早期的阶段,目前还是要鼓励技术发展,所以“从技术角度不应该监管(人工智能),而是应该鼓励它,但使用时可以监管它”。

上一篇:西南区服装品牌经理巡店拜访终端商铺拍照记录实用软件实用介绍
下一篇:外资缘何青睐上海AI企业?静安科技企业进行深度解析

相关信息

  • 欧宝体育手机版app直播:外资缘何青睐上海AI企业?静安科技企业进行深度解析

    欧宝体育手机版app直播:外资缘何青睐上海AI企业?静安科技企业进行深度解析

      目前,在上海的人工智能(AI)企业中,有外资背景的企业占比8.2%,3倍于全国均值(2.6%);近5年来,上海AI企业共获得外来投资超1万次,平均每百家企业获得超过200次的外来投资,对上海自动驾驶、智能制造等领域的产业发展起到了重要的推动作用。以上这些数据来自位于上海静安的国内知名科技企业合合信息公司旗下启信宝产业链数据库。  从2015年“科创22条”的发布,再到《条例》的出台,科技创新与体制机制创新的“双轮驱动”,为上海AI产业革新提供了源动力。启信宝产业链数据库显示,目前,上海存续AI企业已逾五千家,其中已经上市的上海AI产业公司,近5年平均研发投入占比为2.67%,高于全国均值(1.29%);上市公司营业总收入之和超过4.3万亿元,同比增速超过10%。  2018年至2021年,上海AI企业一共新增专利申请13万件(包括发明专利、实用新型、外观设计);获得授权的专利有9万件。具体到应用领域里,人机交互环节授权发明专利数量多达1.9万件,其次是可穿戴设备,达1.2万件。  从2017年至今,自动驾驶领域的企业获得的融资金额已超过1400亿元。该时间段内,自动驾驶领域的企业获
  • 欧宝体育手机版app直播:政策通:以人工智能服务探索政策服务新道路!

    欧宝体育手机版app直播:政策通:以人工智能服务探索政策服务新道路!

      以2021年数据为例,《国务院关于2021年中央决算的报告》上显示当年中央安排4万亿元的政策奖励补贴资金,通过21个政策颁布口径,约覆盖4000多个国省市区层级的政府部门,直接带动32个行业大类辐射800多万家企业。  但据往年数据统计,每年参与政策申报的企业数量仅占全中国企业总数的10%,项目立项成功率更是不到两成。  企业对政策不了解、对通知不知道、对材料不会写、对申报不会做,这是绝大多数企业在政策申报工作中存在的普遍痛点。海量的政策扶持资金摆在那里,但是很多企业却看不到,也拿不到。  为了解决企业捕捉政策扶持资金的痛点,首家以人工智能和算法技术驱动的政策服务公司——政策通,应运而生。  其实早在政策通诞生之前,我们团队便在政策服务领域深耕了七年时间。政策通的前身是四川本土的资深企业服务机构,累计协助为各类企业申报政策奖补扶持资金总额超30亿元,沉淀了丰富的政策趋势预判、申报培育规划、项目资金捕捉和申报全链管理的实战经验。  但是,在我们从事政策服务的过程中,看到人力资源面对天量政策资讯数据时存在信息盲区的问题。  全国每年都有大量的政策文件出台,但相关部门几乎没有太多实质性政
  • 欧宝体育手机版app直播:火石创造《中国人工智能产业报告》发布

    欧宝体育手机版app直播:火石创造《中国人工智能产业报告》发布

      人工智能作为一种“使能”技术,成为驱动新一轮科技革命和产业变革的重要力量。9月22日下午,火石创造《中国人工智能产业报告》线上发布暨研讨会成功举行。“中国城市人工智能创新指数”作为报告发布亮点备受关注。  依托火石创造产业数据中心,火石创造联合天府新区等区域代表共同发布《中国人工智能产业报告》(下简称“报告”)。火石创造产业研究院研究总监冯雷博士对报告进行解读。《报告》从算法、算力、数据、应用四个层面上梳理人工智能产业链图谱全景;从市场、政策、代表企业、关键技术、投融资、专利、人才与机构等多个维度以及典型城市人工智能产业发展策略的俯瞰视角,描绘国内外人工智能产业的发展格局;从统筹区域发展、重点突破攻坚、培育创新生态、强化数据安全、场景深度融合等五个方面对我国下一阶段人工智能产业高质量发展提出建议。  《报告》预测未来五年全球人工智能市场规模平均增速将超过20%,随着多模态学习算法的突破,算力基础设施的完善,数据要素流通的提速,AI+医疗、AI+影音娱乐、AI+元宇宙、AI+学术研究等赛道将迎来高速发展。《报告》还重点分析了全球智能语音产业格局。  随着人工智能上升至我国国家战略高度
  • 欧宝体育手机版app直播:云测数据标注平台40重磅发布斩获GAIE优秀产品奖

    欧宝体育手机版app直播:云测数据标注平台40重磅发布斩获GAIE优秀产品奖

      2021年5月20日,由深圳市人工智能行业协会主办的第二届深圳(国际)人工智能展(简称GAIE 2021),在深圳会展中心(福田)6号馆火热开幕。本届大会以“AI赋能双循环·构建产业新格局”为主题,开设“人工智能核心技术展示区”、“人工智能场景应用展示区”、“5G+AI智能产品”等展区,汇聚不同地区政府机构、科研高校以及近百家人工智能不同领域的头部企业,共同探讨并见证前沿技术应用成果。  云测数据作为国内AI训练数据服务TOP1企业,受邀亮相C17展台。围绕智能驾驶、智慧城市、智能家居、智慧金融等AI应用落地场景,重点向业界展示云测数据高质量、场景化的数据采集服务、数据标注服务和数据标注平台产品等,向业界展示数据带来的AI魅力。  在第二届深圳(国际)人工智能展·智能新产品新技术发布会上,云测数据正式发布专注于人工智能产业落地的AI数据训练服务的平台产品——「云测数据标注平台4.0」,并凭借卓越的数据服务能力、领先的技术能力,斩获第二届深圳(国际)人工智能展组委会颁发的“GAIE优秀产品奖”。  近年来,在国家政策红利释放和资本市场的支持下,我国人工智能发展迅猛。目前我国的人工智能

手机扫一扫添加微信