违规、歧视、安全问题 如何应对AI时代的风险?

  • 时间:
  • 浏览:2

[从网络直播到求职招聘,从自动驾驶到智能安防,人类已但是开始 大踏步迈入智能时代。尽管还面临许多挑战,人工智能的大潮肯能势不可挡。政府和企业是人工智能领域的主要推动力量,大伙儿认为政府应当主要从制度建设,企业应当主要从治理和流程上来应对当下的风险和挑战。]科技快报智电新闻

[对政府而言,在推动新一代人工智能发展的并肩,还要进一步加强监管,使监管也能跟上技术的发展和应用的落地。]科技快报智电新闻

[据估计,人工智能的经济潜力高达15.6万亿美元。]科技快报智电新闻

[波音公司两驾737Max客机连续坠毁,失事导致 很肯能是肯能飞机自动驾驶系统在错误的信号下判断飞机有失速风险,确定降低机头,使飞机俯冲。]科技快报智电新闻

大伙儿在生活中肯能但是开始 习惯用语音控制电子设备、用图像识别人脸、让机器解决家务,人工智能正在全方位渗透到大伙儿生活的每几次 角落。并肩,据估计,人工智能的经济潜力高达15.6万亿美元。科技快报智电新闻

然而,随着落地场景的不断增多,使用范围的不断扩大,人工智能应用也暴露出许多大问题,尤其是其带来的诚信大问题、安全大问题和社会大问题引发了监管机构、业界和公众的广泛关注。根据普华永道的一项最新报告,越来越当各家企业采用负责任的人工智能项目,并在开展项目事先经深会思熟虑时,其经济潜力也能成为现实。科技快报智电新闻

人工智能正面临五大风险与挑战科技快报智电新闻

目前,用户在应用人工智能时,主要面临来自3个方面的风险和挑战。科技快报智电新闻

第一,合规。目前针对人工智能的监管还处在探索阶段,远远落后于应用落地的传输数率。相关的法律法规较少,合规要求相对模糊,监管的不确定性是企业面临的重要风险。科技快报智电新闻

监管要求的落地是企业面临的另一项挑战。数据是人工智能的基础,在应用人工智能时,企业还要满足包括数据架构设计 、隐私保护等要求。2017年,谷歌旗下人工智能子公司DeepMind所开发的移动应用Streems因架构设计 患者医疗病历被英国信息委员会裁定违背了英国数据保护法。2019年5月,出于对侵犯个人所有所有隐私的担忧,美国旧金山通过一项法令禁止该城市的政府机构使用人脸识别技术。科技快报智电新闻

在特定的情況下,企业还还要向监管机构证明繁复的人工智能系统进程运行运行是何如做出决策的,以判断不是 满足监管要求,这对企业和监管机构而言均有一定的难度。科技快报智电新闻

第二,道德和伦理。决策偏见肯能是人工智能应用中最突出的道德风险。亚马逊公司在利用人工智能算法进行求职简历审核时发现,肯能科技行业简历大多都有男性投递的,其机器学习引擎在接受训练事先会优先确定男性求职者,给四十岁的女人 简历以更低的评级。美国每段州的司法部门使用了一套人脸识别系统(COMPAS)来预测罪犯再次犯罪的概率,以决定不是 批准保释或假释,然而从预测结果来看,被错误标记为高风险再犯罪的黑人人数几乎是白人的两倍。而有有哪些真正实施再犯罪的人群中,被错误标记为低风险的白人人数却是黑人人数的两倍。有有哪些案例显示出人工智能算法在决策时有肯能产生偏见和歧视。科技快报智电新闻

诚信大问题是人工智能容易引发的从前大问题,从事直播工作的网络红人乔碧罗突然 使用并都有基于人工智能的换脸算法修饰脸部,给观众留下了人美声甜的印象。但在几次月前的一次直播中,其用来修饰脸部的滤镜和图片偶然被关闭,直播画面中再次出先了“萝莉”变“大妈”的一幕,引发大伙儿对于应用人工智能带来欺诈大问题的热议。科技快报智电新闻

第三,安全。人工智能应用的功能实在强大,但前提是确保安全,尤其是当人工智能应用于与人身安全直接相关的领域,如自动驾驶、医疗、工业控制等,安全应当被置于首要地位。2018年末和2019年初,波音公司两驾737Max客机连续坠毁,失事导致 很肯能是肯能飞机自动驾驶系统在错误的信号下判断飞机有失速风险,确定降低机头,使飞机俯冲。此过程中,驾驶员曾尝试拉起飞机,但自动驾驶系统越来越将操控权交还驾驶员,仍旧控制飞机使其继续俯冲,最终酿成惨剧。这两起重大的空难迫使大伙儿去思考人工智能的安全风险。科技快报智电新闻

第四,决策过程模糊。人工智能的决策过程通常较为繁复,对使用者来说,该决策过程就像黑盒,真难知晓其决策的逻辑和最好的辦法 。这也使得大伙儿对人工智能做出的决策不是 可信产生担忧。科技快报智电新闻

第五,管控。管控能力匮乏是可是企业在应用人工智能时都有遇到的大问题。人工智能发展的过程具备动态和自适应的社会形态,针对传统静态流程的管控最好的辦法 肯能从不适用。有银行从前利用人工智能进行小额贷款审批,结果发现其智能算法将每段小额贷款发放至不具备偿付能力的用户身后,给银行带来财务和声誉的损失。全球尚未形成一套适用于人工智能领域的治理框架,相关的治理原则、最好的辦法 和控制还在进一步研究。科技快报智电新闻

何如应对人工智能带来的风险与挑战科技快报智电新闻

从网络直播到求职招聘,从自动驾驶到智能安防,人类已但是开始 大踏步迈入智能时代。尽管还面临许多挑战,人工智能的大潮肯能势不可挡。政府和企业是人工智能领域的主要推动力量,大伙儿认为政府应当主要从制度建设,企业应当主要从治理和流程上来应对当下的风险和挑战。科技快报智电新闻

对政府而言,在推动新一代人工智能发展的并肩,还要进一步加强监管,使监管也能跟上技术的发展和应用的落地。监管要求通常从不必抑制新技术的发展,相反,稳定的监管环境是新兴业务发展的良好土壤,法规越明确,监管越明晰,企业面对的合规不确定性越小,越也能明确业务发展的方向。政府还还要通过顶层设计的最好的辦法 ,设立相关的监管机构,出台相应的法律法规,明确法律主体责任,明晰监管要求等有利于行业自律,为行业发展提供良好的制度环境。科技快报智电新闻

对企业而言,大伙儿建议企业在应用人工智能技术改善工艺和流程时,从合规性、公平性、安全性、可解释性、可控性3个方面应对人工智能带来的风险和挑战,构建负责任和可信的人工智能应用。大伙儿的具体建议包括:科技快报智电新闻

首先,建立人工智能合规库,以检验企业在部署人工智能应用时不是 充分查询并满足了相关适用的法律法规要求。科技快报智电新闻

其次,人工智能产生偏见的导致 肯能不只来源于算法并都有,也肯能来自于人为因素,比如肯能个体经历和认知不同而造成训练样本确定的偏向。企业还还要确定适当的系统进程运行和最好的辦法 检验用于训练算法模型的样本数据,确保其遵守组织的道德准则和反歧视原则;尽管不论通过何种最好的辦法 ,都真难做出对每一方都公平的决定,但企业还还要基于并都有客观准则调优人工智能系统,以降低偏见,使决策尽肯能公平。科技快报智电新闻

再次,肯能人工智能数据和系统肯能因错误、恶意攻击等导致 失效而产生严重后果,可是还要从一但是开始 就将安全纳入到人工智能开发过程中,确保安全覆盖个人所有所有工智能系统、数据和通信领域。科技快报智电新闻

此外,要想让大伙儿信任人工智能系统,都有必要及时向利益相关方提供必要的说明和解释,使黑盒变透明。企业还还要利用特定的最好的辦法 和系统进程运行,使人工智能的机制和模型更好地被它的最终用户所理解,从而降低运营、声誉和财务方面的风险。科技快报智电新闻

最后,为确保企业人工智能应用得到合理的管控,还要建立起动态的人工智能治理机制,将人工智能与商业战略相结合,设立相应的岗位和流程,建立快速响应的监控和预警机制,确保组织能及时发现大问题,并做出调整。科技快报智电新闻

人工智能被众多业界领袖视作“第四次工业革命”的驱动引擎,其颠覆性可比电力、计算机、互联网,然而,能力越大责任越大,肯能人工智还还要“向善”,则势必给人类带来大灾难。不要 的企业在应用人工智能的过程中,但是开始 关注到可信与负责任的大问题。对于普华永道而言,“解决重要大问题,营造社会诚信”也成为指导人工智能项目,应对人工智能风险与挑战的原则。科技快报智电新闻