欧宝平台登录:既防止数据霸权又保护数据、隐私

发布时间: 2022-09-21 22:13:13 来源:欧宝体育直播nba 作者:欧宝体育手机版app直播

  “虽然我们现在可能面临很多(人工智能安全)的问题,但只要我们能够用防火墙或各种方式把攻击门槛抬高,让攻击者无利可图,人工智能系统就会安全。”9月16日,清华大学教授、人工智能研究院基础理论研究中心主任朱军在首届人工智能安全大赛颁奖仪式暨主体技术论坛上说。论坛上,多位专家围绕人工智能安全和治理展开热议。有专家提到,人工智能边界的不确定性是其很难完美防御的原因,但只要让攻击者的付出大于期望的收益,就可以认为安全了。

  “锚定怎样的发展理念、选取怎样的技术路线,使下一代人工智能实现安全、可信、可靠的发展,将是我们这代人为未来智能世界绘制的蓝图底色。”中科院院士、清华大学人工智能研究院名誉院长张钹在致辞中说。为了应对近年来因技术局限或者恶意应用导致的人工智能安全问题,开展该领域的关键技术研究与攻防实践成为产业进一步发展的关键保障。

  据大赛主办方之一——瑞莱智慧的首席执行官田天介绍,本次大赛是首个全国性的人工智能安全赛事,选取了当前人工智能安全领域关注度最高、相关风险最为严重的人脸识别安全、自动驾驶安全、深度伪造安全作为赛题。

  “通过本次大赛的赛题设置以及所有选手的提交,我们发现人工智能安全问题具有以下三个非常典型的新的特点。”田天说,首先人工智能技术作为一项通用的普适性技术被应用在多个领域,一旦出现安全漏洞,可能影响人们日常生活的方方面面;其次技术复杂程度越来越高,人工智能安全风险往往处于黑盒状态,导致的损失也会更大;最后人工智能安全的风险维度除了公共安全、个人权益相关场景,已经拓展到国家安全、国际竞争等方面。

  在他看来,人工智能发展需要具备三大核心方面能力。一是要关注人工智能相关的数据安全问题。“为了实现人工智能的发展,我们需要在满足对隐私数据保护诉求的同时充分释放数据价值”——具体来说,就是在数据训练、建模等环节部署数据安全技术。

  二是关注人工智能的算法可靠。田天注意到,人脸识别、自动驾驶等复杂的人工智能系统算法中可能存在着大量的新型隐患或者被攻击的风险,在算法模型外部署相应的安全防护组件可以有效提升人工智能系统抵御模型窃取、对抗样本等针对算法攻击的能力。

  三是通过技管融合防止技术滥用,保证应用安全可控。“新技术是一把双刃剑”,他提醒,“我们需要避免新型技术被恶意利用,引发信息泄露、伦理困境等社会风险。”

  一直以来,“达到何种程度的人工智能才是真正的安全”都是学术界和产业界共同关注的焦点问题。当人工智能安全已经显现出新的特点,根据怎样的理论标准,才足以验证一项人工智能技术应用是否安全呢?

  “人工智能本身不是一个孤立的东西”,朱军指出,人工智能在运行环境中与基础硬件等产生的诸多交互,以及其本身动态变化的边界,使得目前难以用严格的、形式化的方法验证一个人工智能系统的安全性。

  北京邮电大学教授、网络空间安全学院副院长邓伟洪则从人工智能边界的角度提出,即使像人脸识别这么精准的人工智能技术,它的边界依然很开放,一个准确率99.9%的模型很容易就会被攻破。再比如人脸活体检测,从打印照片、三维面具发展到硅胶面具,无论采用何种算法检测活体,总有更高级别的攻击手段将其破解——“这种不确定性是人工智能很难完美防御的原因”。

  对此,朱军试图给出他的解决方法:只要能够通过防火墙等各种方式把攻击的门槛抬高,让攻击者无利可图,使得“攻击的付出大于期望的收益”,就可以说人工智能系统安全了。邓伟洪也认为,在面对不确定的人工智能时,这是“比较好的出路”。

  不过,在多位专家看来,如何把握“门槛”的高度,还有赖于坚实的理论基础。邓伟洪指出,现在解决安全问题的方法是针对特定任务甚至特定场景的,还缺乏从数学上或模型理论上的安全保障。“我们不怕模型犯错,我们怕的是犯错了也不知道出于什么原因,也不知道怎样才能让它下次不犯错”,陈健生直言。

  南都记者从会上了解到,北京航空航天大学教授、软件开发环境国家重点实验室副主任刘祥龙所在团队已经开始着手人工智能安全评测工作。他强调,人工智能应用安全问题“是研究不完的,我们现在关心的是怎么评估这类系统的安全性”。

  比如首先要生成测试的数据以及样本,包括自动驾驶、自动零售等不同类型。测试之后要分析系统安全性,从训练方法、训练技巧等角度评估不同配置生成的模型安全性如何。还要从数据段、模型段提供加固手段,以帮助模型、算法系统改善安全性。

  想要确保人工智能的安全,必然涉及人工智能的治理。今年以来,新加坡、欧盟、美国、中国等的监管机构和第三方机构纷纷发布人工智能治理测试工具箱、技术监管沙箱,推进人工智能治理的落地实施。

  华为可信AI安全解决方案专家唐文观察发现,欧盟的《人工智能法案》立法进程最快,它的关注重心在于人工智能是否会被滥用。“我们认为它(欧盟《人工智能法案》)实际是在推行负责任的AI,也就是AI治理过程中首先要求AI的参与方负责;如果你的AI系统产生了不良的后果,我能够找到你的责任人。”他认为,当人工智能系统出问题的时候如何定责,是监管方非常重要的抓手。

  反观国内,邓伟洪直言“人工智能治理是很大的问题”。他指出,人工智能已经在影响人们的生活,比如每天刷手机的时候推荐算法就在起作用,甚至影响人们的价值观。

  另一方面,他表示,以前有的隐私比如人脸信息很难获取,但现在有人利用人脸识别技术能分析出很多东西,这是之前做不到的。“有了人工智能之后,数据、隐私保护可能比以前更难了……给相关的治理带来更多的挑战。”因此,他强调,人工智能治理要做到两方面:防止数据霸权,以及数据、隐私的保护。

  “如果管理人工智能技术,其实技术本身的责任没有那么大。”朱军坦言,他把技术看作中性的东西,偏见或恶意可能来自采集过程,而不是算法或模型。他提到,现在人工智能的很多会议会要求投稿人就其提出的模型或者算法作声明,告知这个技术对社会有什么负面影响,也就是要在创造算法的时候考虑更多的社会责任,倒逼研究人员考虑最后的实际效果。比如把人脸识别用于监控的相关投稿可能就不会被会议所接收,因为可能涉及隐私。

  在他看来,人工智能还处于相对比较早期的阶段,目前还是要鼓励技术发展,所以“从技术角度不应该监管(人工智能),而是应该鼓励它,但使用时可以监管它”。

上一篇:西南区服装品牌经理巡店拜访终端商铺拍照记录实用软件实用介绍
下一篇:21-23日数据统计 除了天主 任何人都必须用数据说话

相关信息

  • 欧宝体育手机版app直播:21-23日数据统计 除了天主 任何人都必须用数据说话

    欧宝体育手机版app直播:21-23日数据统计 除了天主 任何人都必须用数据说话

    这是个缺少信赖的年代,我们惧怕被使用,被诈骗,被损伤,为了不受伤,所以人们学会了假装,形似强大,形似傲慢,形似不羁,这样做或许可以对自己祈求必定的维护效果,但一起也把自己和其他人间隔摆开。假如人与人之前,言语不在值得你信赖,那你信赖的又将是什么?这个缺少信赖的年代又是一个数据爆破的年代,数据的效果被无限扩大。美国办理学家、统计学家爱德华·戴明有一句名言:除了天主,任何人都必须用数据说话。或许长时间的数据可以让你去尝试着信任某个人或许某件事。 9月22日清晨,比特币给出12880挂单空单,止盈于12780,获利4516U 9月22日早间,比特币给出12850挂单空单,止盈于12750,获利6583U 9月22日午间,以太坊给出399挂单空单,手动出局于396,获利175U 9月22日午间,比特币给出12920空单,手动出局于12813.5,获利4808U 9月23日清晨,比特币给出13059空单,手动出局于12963,获利4812U。 声明:本文由入驻金色财经的作者编撰,观念仅代表作者自己,绝不代表金色财经附和其观念或证明其
  • 欧宝体育手机版app直播:2020年我国展览数据计算陈述 附全文

    欧宝体育手机版app直播:2020年我国展览数据计算陈述 附全文

    2021年我国会议经济研究会年会暨我国会议经济(天津)论坛于2021年6月21-24日在新近完工的国家会议中心(天津)举行,论坛发布了《2020年度我国展览数据计算陈述》,招引来自国内会议界500余人参与。 陈述共分10个部分,分别是:我国境内展览;我国境外参办展;展览场馆计算;展览业政府部门、民间社团、研究机构计算;IAEE我国会员、UFI我国会员及我国展会认证状况;上市展览公司;会议专业教育计算;展览项目;线上展计算;我国城市展览业开展归纳指数。 声明:该文观念仅代表作者自己,搜狐号系信息发布渠道,搜狐仅供给信息存储空间服务。
  • 欧宝体育手机版app直播:一些令人惊奇的数据中心统计数据

    欧宝体育手机版app直播:一些令人惊奇的数据中心统计数据

    是弱电职业的重中之重,可是咱们许多公司都只能碰触比较小的弱电机房项目,那么2022年 现实上,跟着越来越多的用户和企业转向数字范畴,对有用信息处理的需求也在添加。数据中心充任通信网络连接器,因而最终用户即便在长途作业时也能够快速拜访信息。 在长途作业环境不断开展并成为干流的时分,数据中心比以往任何时分都愈加重要。可是,数据中心的含义远不止这些,它们是数字化转型运动的中心。 现在,线上产生的一切都存在于数据中心中,使其成为现代社会和经济中不可或缺的技能。 假如你需求用一个词来归纳上述统计数据,那便是添加。现在,数据中心的添加没有放缓的痕迹。相反,对更多数字数据拜访、处理和存储的需求正在不断上升。 能够了解,长途作业趋势和通晓技能的社会的结合意味着数据中心商场规模的永久添加。 现实证明,数据中心开展面对的最严重应战之一是该职业怎样学会办理其能源耗费。 与 2021 年比较,数据中心体系的整体开销添加了4.7% 。未来开销或许会持续呈指数添加。为了满意新的需求,IBM 和亚马逊等超大规模供给商有必要开发牢靠且灵敏的数据
  • 欧宝体育手机版app直播:零售职业数据计算

    欧宝体育手机版app直播:零售职业数据计算

    零售指包含一切向顾客直接出售产品和服务,职业以出售成绩为导向。全球零售业全体昌盛热烈,商场规模在2019年时到达了115亿美元,2020年估计到达338亿美元,以下是零售职业数据计算剖析。 零售职业归于较为传统的职业,零售职业剖析指出,在商业业态随同居民收入水平的进步、城镇化率进步和消费晋级不断演进下,全球经济兴旺的欧美、日本等国家的零售职业开展较快,大型零售企业对中心城区的覆盖率处于较高水平。一起,我国的零售商场迎来了更多的或许。 依据零售职业数据计算,2009~2015年,我国电子商务快速开展,网购逐步成为我国顾客日常日子的新常态。这一阶段,跟着互联网的遍及、移动付出的开展以及人们认识的转型,以阿里巴巴为代表的电商捉住流量盈利,改变了顾客的购物习气,重塑了我国的零售业格式。 2016~2018年,我国零售商加速了扩张脚步。跟着国家群众创业、万众立异有序推动,“互联网+”行动计划深化施行,零售职业持续扩张,运营单位数量增速加速。2018年我国零售业运营单位达2078万个,同比增加%。 截止2019年末,我国零售额达90065亿元,比上年增加

手机扫一扫添加微信