“农产品”绿色食品发展中心推动农产品地标工作 “三星”三星与微软就专利授权协议进行和解谈判 “湛江市”湛江大力创建国家知识产权示范城市 “赞皇”“赞皇大枣”地理标志证明商标获国家注册 “照片”黑冠猕猴自拍照走红掀媒体摄影师版权大战 “青神”眉山“青神竹编”成功申报成为中国地理标志保护产品 “加多”王老吉千亿商标归属仍扑朔迷离刘澄:或和解收场 “景德镇”《景德镇瓷器地理标准产品》通过专家组评审 “蔬菜”中国蔬菜产业大会23项创新发布引起广泛关注 “科技”首家国家级文化科企孵化器落户吉林 “悬疑”阅文集团打造悬疑小说产品线 “品牌”2018年中国500最具价值品牌在京发布 “枸杞”国内枸杞新品种在柴达木盆地问世 “纳米”纳米机器人来了! “日语”沪江小D词典获得《当代日汉汉日大辞典》授权 “商标”标天下完成数百万元天使轮融资知识产权行业获资本青睐 “阿胶”阿胶造假事件:皮革下脚料熬出“国药阿胶” “共振器”我科学家一项研究为利用海洋能发电提供技术支持 “苏州”7件苏绣作品获民间工艺品博览会金奖 “游戏”业界关注网络游戏知识产权保护新型法律问题 “英特尔”英特尔向美国政府申请在朝注册商标 “纸质”掌阅科技同步发售《阿弥陀佛么么哒》电子书 “肥东县”肥东公安捣毁制售假卫生巾工厂 “京东方”创新,要有“站在月球看地球”的高度 “春节”中美公司签署“春节娃娃”设计大赛合作协议 “官司”周宁:“官司云雾茶”地理标志注册成功 “丝绸”“杭州丝绸”成功申报地理标志产品这个词不能乱用了 “香菇”辽宁地栽香菇新品种选育及栽培技术获突破 “美国”淄博举办中国企业赴美贸易中的知识产权保护讲座 “中国”文著协独家代理利哈诺夫作品中国版权 “编剧”50万元奖金征集原创剧本 “展览业”国务院印发进一步促进展览业改革发展的若干意见 “品牌”专家把脉医药行业品牌年轻化 “大理”云南首家非遗专题博物馆开馆 “韩国”非遗司:“火炕”暂不申遗不按韩国节奏走 “万件”浙江省境外注册商标6.6万件全国居首 “开发区”从“不告不理”到主动服务 “知识产权”淮安市植物新品种权保护有突破 “迅驰”央视国际诉360影视大全擅播2016欧锦赛侵权索赔1000万元 “老字号”商标“钥匙”怎样打开老字号之“锁”? “外商投资企业”外商投资企业知识产权保护行动将开展 “新疆”2014年新疆专利申请总量突破万件 “窝点”鄂警方半年打假637起涉案价值近6亿 “假酒”淄博警方查获一起销售假冒注册商标案 “富士”摩托侵犯富士专利权被判赔偿千万美元 “版权”版权保护让潍坊风筝越飞越高 “黑龙江省”黑龙江:加强高校院所知识产权交流 “自己的”[走基层]“我有一个抗霾好专利” “甲骨文”社科院专家透露:甲骨文正在申报世界遗产 “知识产权”国际大学生知识产权夏令营开营

“农产品”绿色食品发展中心推动农产品地标工作

今天,知识产权信息珠珠给大家分享带来的《人工智能:“花海”之下仍有“荆棘”》,如果您对人工智能:“花海”之下仍有“荆棘”感兴趣,请往下看。

人工智能可以同声传译、写新闻稿、协助医生看病、让机器人脸识别的精度高于人类、甚至写诗和战胜围棋世界冠军,其应用可谓“百花齐放”。

数据显示,截至2017年6月,全球人工智能企业总数达到2542家,预计到2030年,人工智能将为世界经济贡献15.7万亿美元

在今年7月国务院印发的《新一代人工智能发展规划》(以下简称《规划》)中提出,到2020年,我国人工智能核心产业规模超过1500亿元,带动相关产业规模超过1万亿元。顶层设计相继出台,巨头发力布局生态,资本市场热情洋溢,细分行业独角兽不断涌现,人工智能这片“花海”已不止“看上去很美”。

但“花海”之下仍有“荆棘”。市场研究机构埃森哲大中华区信息技术服务总裁陈笑冰坦言:“人工智能也将会引发新的安全和伦理问题,鉴于未来人工智能将深入生活,政府也需要切实为人工智能制定监管规则,保证人工智能应用合理合规发展。”《规划》也同时提出:“人工智能发展的不确定性带来新挑战。人工智能是影响面广的颠覆性技术,可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题,将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。”

人工智能发展将面对怎样的挑战与风险?又应该设立怎样的“游戏规则”,让新技术能够与人类社会良性互动?

监管刚刚起步

人工智能不断融入人类生活的同时,也引发公众对人工智能的忧虑。对此,专家表示,应该建立监管机构来引导、促进和保障人工智能的健康发展

此前有报道称,“脸书”人工智能研究所中的两个聊天机器人“失控”,发展出了人类无法理解的语言,“被迫关闭”引发了广泛关注。尽管随后被证明是一场“乌龙”,只是因为工程师忘记加入“使用英语语法”这一条件。

但对事实的夸大报道,也显示出媒体和公众对人工智能的忧虑。在北京市中盾律师事务所律师陈涛看来,随着人工智能深入融入生产和生活,必须以立法来对其安全性进行监管,给公众吃下“定心丸”。互联网汽车的特斯拉埃隆·马斯克也表示,我们应该警惕人工智能崛起的潜在风险,并建立监管机构来引导这项强大技术的发展。

对人工智能进行立法监管,首先要解决人工智能使用中基本的安全问题,以及使用者与服务提供者的责任界定问题。以无人驾驶汽车为例,上路前,对其安全性如何全面评判?一旦无人驾驶汽车出现事故,如何判断使用者、软件提供商以及车辆制造商等多方主体的责任,如何在后续赔偿和保险理赔中进行规定?实际上,立法监管不仅降低风险,也让服务企业能够“有据可依”,从而促进和保障人工智能的健康发展。

从目前来看,各个国家的人工智能监管都刚刚被提上日程。在美国,2016年10月,总统行政办公室和国家科技委员会发布了两份重量级报告:《美国国家人工智能研究发展战略规划》与《为未来的人工智能做好准备》,后者提出了发展人工智能的7项关键战略,在第三条“社会影响战略”中,提出“理解和确定人工智能在法律、伦理和社会领域中的影响”;在第四条“安全战略”中,则提出“确保人工智能系统的安全和对公众的隐私保护”。

在欧盟,2016年欧盟法律事务委员会向欧盟提交了《欧盟机器人民事法律规则》,针对基于人工智能控制的机器人,提出了使用的责任规则、伦理原则、对人类自身和财产的伤害赔偿等监管原则。英国下议院科学技术委员会在今年4月表示,也将开展关于人工智能监管的研究。

在我国,《规划》中同样提出,到2020年,“部分领域的人工智能伦理规范和政策法规初步建立”。其中特别提出,要“开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究,建立追溯和问责制度,明确人工智能法律主体以及相关权利、义务和责任等”,“重点围绕自动驾驶、服务机器人等应用基础较好的细分领域,加快研究制定相关安全管理法规,为新技术的快速应用奠定法律基础”。

不过,对人工智能的监管也不能“闭门造车”。“立法的前提是了解人工智能的科学规律,需要充分准备、摸索和积累,对技术进步充分了解,同时考虑公众的实际需求。”陈涛表示。

安全仍有漏洞

安全是人工智能面临的巨大挑战。这其中既包括在应用层面的传统黑客攻击方式,也存在着对基础设施方面进行的数据库、云服务等攻击。但更关键的安全问题是从最核心的算法层面发起攻击

两张人眼看起来一模一样的熊猫图片,一张被神经网络正确识别为“熊猫”,另外一张却因为被加上了人眼难以察觉的微小扰动,就被神经网络以99.3%的置信度识别为“长臂猿”——这就是可以“愚弄”人工智能的对抗样本,直接折射出人工智能所面对的安全问题缩影。

专注于互联网安全的极棒实验室总监王海兵告诉《经济日报》记者:“安全是人工智能面临的巨大挑战。”他表示,一方面,人工智能要面对传统的黑客攻击方式,比如在应用层面,可以攻击它的操作系统或者逻辑漏洞。“比如说,通过对智能门锁的攻击,就能实现任意人脸都可以通过门禁。”在人工智能的基础设施方面,则可以对人工智能使用的数据库、云服务等进行攻击,“比如说,机器视觉经常调用的OpenCv库,机器学习用到的TensorFlow框架,人工智能的从业者可以直接调用这些服务,但不幸的是,这些基础设施同样有漏洞。”王海兵说。

然而,人工智能所面对的更关键安全问题,正是诸如熊猫图片这样的对抗样本。王海兵表示:“用对抗样本攻击人工智能,其实就是从最核心的算法层面来攻击它。”

美国加州大学伯克利分校教授宋晓冬这样介绍对抗样本攻击的危害:“比如,无人驾驶汽车根据交通标示进行决策。如果交通标示是一个对抗样本,那么人类可以完全不受干扰,但无人驾驶汽车却可能将它完全识别成错误信息,这将带来严重后果。”实际上,美国伊利诺伊大学的一项测试已经证明,自动驾驶系统有可能被对抗样本“蒙骗”。

“但公众不用过于担心,至少现在来看,针对自动驾驶的对抗样本对抗性很差。比如,它只能在0.5米的距离内让自动驾驶系统错判,但自动驾驶场景毕竟是逐渐接近交通标识的。”王海兵也表示,“未来会不会有更完美的对抗样本,仍是未知数”。

人工智能面对众多安全问题,对此,开发者也在努力总结与之对抗的手段。智能家居生产厂商BroadLink高级副总裁康海洋表示:“我们会将多方数据融合和统一分析,以提升数据的可信程度,同时也在尽量让整个系统变得更加透明。此外,我们还会及时销毁所有能销毁的数据,减少用户被攻击的可能性。”

伦理尚待明确

告诉人工智能何为“正确”,正在成为当务之急。如果不对其进化方向和目标形成共识,人工智能的伦理规则将无法“落地”

如果保持前行,会撞上沿途的5位行人;如果避开他们,就会撞上路边的墙,车中的两名乘客则可能有生命危险。在这种情况下,指挥自动驾驶的人工智能应该如何选择?英国伦敦玛丽女王大学高级讲师雅思密·艾登表示:“如果是人类驾驶员,大可以直接撞上行人,并表示‘是他们自己突然跳出来的’,但人工智能在道德上很难获得这么奢侈的原谅。”

这只是人工智能所处伦理困境的冰山一角。今年以来,麻省理工和哈佛大学联合推出了人工智能伦理研究计划,微软和谷歌等巨头也成立了人工智能伦理委员会,告诉人工智能何为“正确”,正在成为当务之急。《互联网进化论》一书的作者、计算机博士刘锋坦言:“尽管大方向上说,人工智能应当以造福人类为前提,但如果不对进化方向和目标形成共识,人工智能的伦理规则将无法‘落地’。”

对于人工智能来说,“伦理正确”的核心是正确的“算法”。美国一些法院使用的一个人工智能犯罪风险评估算法COMpAS,被第三方机构认为对黑人造成了系统性歧视。业界因此怀疑,小众人群有可能因为个体差异而承受“算法的歧视”。腾讯研究院研究员曹建峰表示,如果算法本身有问题,一旦将算法应用在犯罪评估、信用贷款、雇佣评估等关乎人身利益的场合,“因为它是规模化运作的,并不是仅仅针对某一个人,可能影响具有类似情况的一群人或者种族的利益。规模性是很大的”。

此外,还有来自数据的风险。以色列历史学家尤瓦尔·赫拉利表示,“人工智能技术的一个潜在结果是:促成数据集中到某一个地方,也进而导致权力的集中”。比如,大量互联网数据集中在少数几家巨头的手中,人工智能技术是否会因此遭到垄断?“AlphaGo之父”哈萨比斯就曾表示:“我提醒诸位,必须正确地使用人工智能。”他告诉记者,“人工智能技术不能仅为少数公司和少数人所使用,必须共享”。

AlphaGo超越了人类几千年来对围棋的理解,但人类并非能完全理解AlphaGo为何会如此决策。从这一点来看,人工智能像个“魔盒”,这也让透明性成为人工智能伦理中的重要组成部分。英国阿兰图灵研究所科研主管安德鲁·布莱克表示,算法可问责性的存在至关重要。“透明性规则应被作为伦理道德准则,编入算法之中,这样人们才能更为清晰地认知人工智能的社会影响,并在问题发生之时能够及时找出原因,调整策略。”(记者陈静)

(编辑:蒋朔)

好了,关于“人工智能”人工智能:“花海”之下仍有“荆棘”的内容就介绍到这。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如有侵权行为,请第一时间联系我们修改或删除,多谢。

猜您喜欢

相关阅读