幸运飞艇计划

时间:2019-01-25 13:06:00  来源:光明日报

分享到微信朋友圈

打开微信,点击 “ 发现 ” ,使用 “ 扫一扫 ” 即可将网页分享至朋友圈。

幸运飞艇计划

光明图片/视觉中国  1.以和谐互补的方式链接不同的人工智能准则提案  人工智能既是经过数十年锤炼发展出来的科学领域,又是改变未来的重要颠覆性技术


【科学向未来】

作者:曾毅(中国科学院自动化研究所类脑智能研究中心研究员、副主任)

著名作家阿西莫夫1940年在科幻小说中提出了“机器人三原则”:机器人不得伤害人类,或看到人类受到伤害而袖手旁观;机器人必须服从人类的命令,除非这条命令与第一条相矛盾;机器人必须保护自己,除非这种保护与以上两条相矛盾。今天,人工智能逐渐从科幻走向现实,人们对人工智能可能产生的危害也愈加警惕,希望能够为其制定准则以确保人工智能科技和产业向对社会有益的方向顺利发展。

构建新一代人工智能准则

光明图片/视觉中国

1.以和谐互补的方式链接不同的人工智能准则提案

人工智能既是经过数十年锤炼发展出来的科学领域,又是改变未来的重要颠覆性技术。人工智能的研究与发展不仅关系到国家科技、经济发展、社会稳定,更关系到国家在科技、产业领域的国际影响与国际局势。

人工智能在带来机遇的同时也带来潜在的风险与隐患。例如应用最为广泛的深度神经网络模型在对输入引入极小的噪声(如改变图像输入中某个关键的一个像素值)情况下,就有可能使网络的识别和预测结果产生颠覆性的错误(如将青蛙识别为卡车、乌龟识别为枪支)。若没有充分的风险评估,新兴技术在对社会发展带来机遇的同时,很有可能引入不可预计的安全隐患与风险。

现在对于人工智能的发展而言,首要的问题是选择正确的道路。创新、价值、伦理是一个铁三角,创新性技术对社会带来潜在价值的同时,可能存在难以预期的风险,并对社会伦理提出重大挑战。因此,发展人工智能技术普惠经济与社会的同时,关注人工智能的社会属性,从社会风险、伦理准则与治理角度确保人工智能科学、技术、产业的健康、良性发展至关重要。

为了确保发展有益的人工智能,世界上各国政府、非政府组织、科学团体、科研机构、非营利性组织、企业都提出了人工智能发展准则。包括英国政府、国际电子电器工程学会、国际劳工组织。至今,于公开渠道可见的人工智能准则提案已接近40个,涉及以人为本、合作、共享、公平、透明、隐私、安全、信任、权利、偏见、教育、通用人工智能等主题。例如,美国生命未来研究所倡导的阿西洛玛人工智能准则(Asilomar AI Principles)、英国上议院提出的人工智能准则(AI Code)等,都希望通过在人工智能伦理与准则制定方面的领先来引领人工智能的发展。

事实上目前任何一个国家、机构、组织提出的人工智能准则都仅覆盖了少部分主题(更为具体的层面,人工智能准则提案涉及超过50个主要议题),虽然不少准则提案都有自身的特色,有其他方案未能覆盖的考量,但想要构建统一、全面、完善的人工智能准则既是难以实现的,又是没有必要的——难以实现的原因是人工智能这门科学技术本身、人工智能准则、伦理的内涵和外延都是在不断完善的;没有必要的原因是每个国家、组织与机构的准则提案都结合自身实际情况,有组织目标、环境、文化、伦理传统相关的特殊考虑。

笔者认为,真正有价值的做法是认可每一个国家、机构提案在一定范围的意义,而为了更好地实现人工智能的全球治理,重点将不是统一人工智能的准则,而是以更和谐互补的方式链接不同的人工智能准则提案,使其在局部(如国家、组织机构等)有序与一致,世界的全局范围内不同的准则提案仍可交互和协商,最终实现和谐互补、优化共生。

2.调和政府与企业在准则制定上的现存差异

在对不同人工智能准则提案的量化分析中可以看到:相对而言,各国政府对人工智能的潜在风险与安全高度重视,但企业的重视程度相对薄弱。这反映了在企业从事人工智能创新过程中对于潜在风险与安全隐患可能估计不足。例如,在对人工智能风险的评估中,部分企业认为如果总体可能的利益远远超过可预见的风险和不利因素,则可以进行相关探索。但从学术的视角看,一方面,依据潜在利益与风险之间的量化差异决定企业是否采取相关行动本身就是一个危险的视角;另一方面,如果没有站在全社会的全局视角进行综合研判与分析,仅从企业自身视角进行预测与判断,则很有可能因为局限的思考与行动对社会造成潜在的巨大危害。

因此,应当看到政府重视与企业相对不足的考虑之间的差距,并采取引导、监管、建立人工智能产品与服务的风险与安全评估体系等有效措施弥补政府期望与企业实践之间的鸿沟。

同时,一些准则在相关技术途径可能引发风险的方面可能估计不足。例如某些提案中对通用人工智能(各个认知功能达到人类水平,简称AGI)、超级智能(所有认知功能超过人类水平,简称ASI)涉及很有限。

这方面学术机构的讨论和相关研究应当为政府决策提供有力支撑,例如阿西洛玛人工智能准则中提出超级智能以全人类受益为标准来发展,剑桥大学近期提出并正在进行一项名为“通用人工智能的实现途径及潜在风险”的研究。

3.兼顾专用人工智能和通用人工智能的发展

在人工智能顶层设计当中,是否发展通用人工智能,还是仅限于发展领域特定的专用人工智能?这是诸多人工智能准则提案中主要存在的巨大分歧。

例如,欧盟人工智能研究实验室联合会(CLAIRE)就明确提出应限制人类水平智能、通用智能以及超级智能的发展。德国的人工智能计划也集中于发展专用人工智能。而阿西洛玛人工智能准则、OpenAI等机构提出的人工智能准则中则明确提出应当对更安全的通用人工智能进行充分考虑与发展。

事实上发展专用智能并不一定能够完全避免风险,因为专用智能系统在应用中很可能遇到不可预期的场景, 具备一定的通用能力反而有可能提升智能系统的鲁棒性和自适应能力。因此应针对智能的通用性这个主题链接不同国家、组织、机构的考虑,实现顶层设计的互补。

人类认知功能的多样性以及人工智能应用场景的复杂性使得很难对人工智能的风险、安全以及伦理体系进行绝对完善的建模,特别是涉及到人工智能产品、服务与具有不同文化背景的人类群体交互。任何国家都应制定适应本国的实际社会、科技、经济发展与文化需求的人工智能准则。但更关键的是需要全世界不同政府、学术组织、产业界深度交互与协同,对人工智能的发展进行对全社会有益的战略性设计,对其潜在的社会风险与伦理挑战进行系统性评估与预测,并构建世界范围内总体和谐、互为补充、优化共生的发展准则。

编辑:焦晓珊


分享到微信朋友圈

打开微信,点击 “ 发现 ” ,使用 “ 扫一扫 ” 即可将网页分享至朋友圈。
  • 了解陕西大事 关注陕西头条
  • 陕西本地最火图片社交APP
  • 娱乐 “欲从艺,先立德”,这一点本来毋庸置疑,但在这个日趋浮躁的商业化市场中,却有人不以为然,认为艺人只是荧屏的呈现者,只要演技好就足够了 2019-03-15

  • 娱乐   无独有偶,今年还有多档原创音乐综艺节目已经开始录制或者提上日程,爱奇艺的《我是唱作人》已经开录,米未传媒的《乐队的夏天》也将在四月启动,浙江卫视也宣布要在今年第二季度做一档《音乐合伙人》,江苏卫视的《中国乐队》也开始筹备第二季 2019-03-15

  • 娱乐 据悉,李昌钰博士此次来到《中国味道》,要寻味的也是一道小时候母亲给自己做过的美食 2019-03-15

  • 娱乐 惊奇队长可以说是天赋异禀(大多数超级英雄莫不如此),可是,其他普通女性也能拥有这份底气和勇气吗 2019-03-14

  • 娱乐 今日,由郭涛首次自导自演,张子枫、姜潮、梅婷、范伟联袂出演,束焕参与编剧的犯罪悬疑电影《欲念游戏》首次曝光一组单人剧照 2019-03-14

  • 娱乐 在接受记者采访时杨坤表示,自己的心态也经历了从“在乎名次”到“慢慢适应”的过程,“现在就想多唱几首以前没尝试过的歌曲,展现我的音乐能力” 2019-03-14

  • 娱乐 方所即将入驻西安方所荣获伦敦书展“年度最佳书店”奖,正是国际专业评审对方所过往经验的肯定,新一代的书店通过传递阅读能量改变了城市景观,改造了城市面貌,这正是方所未来努力的方向 2019-03-14

  • 娱乐 “一直以来都坚持将最好的音乐奉献给观众,为了保证《歌手》节目品质,也为了尊重舞台上每一位艺术家的付出,我们尊重郑云龙先生退出《歌手》的决定,也谢谢郑云龙在《歌手》舞台带来的精彩演绎 2019-03-13

  • 娱乐 很少有一部喜剧电影能获得奥斯卡最佳影片,因此当轻松幽默的《绿皮书》战胜了充满史诗质感的《罗马》,影评人们多少还是有些意外 2019-03-13

  • 娱乐 相声名家于谦在戏中将一位严格却又不乏幽默感的老师演绎得淋漓尽致,演技备受好评,更被观众称为“被相声耽误的最佳男主角” 2019-03-13

  • 娱乐 毕竟,高满堂创作的角色总是让陈宝国心向往之 2019-03-13

  • 娱乐 除了来剧院观看话剧支持外,3月9日演出最后一场后,胡军的好朋友刘嘉玲、刘莉莉、张叔平等还专程为《哈姆雷特》全体演员在港设庆功宴,邀请了胡军在香港很多熟悉的朋友为他庆祝演出成功,关之琳、关锦鹏、钟镇涛等好友都前来祝贺,,庆功宴上俨然一派老友聚会的热闹景象 2019-03-12

网站简介 版权声明 我要投稿 联系我们 广告服务 友情链接

Copyright ?2006-2019 西部网(陕西新闻网) WWW.CNWEST.COM, All Rights Reserved.
本网站法律顾问:陕西洪振律师事务所主任 王洪
陕ICP备07012147号 互联网新闻信息服务许可证: 61120170002 信息网络传播视听节目许可证:2706142