马斯克等科技大佬联名承诺不发展致命性AI武器系统

埃隆•马斯克(Elon Musk)和谷歌旗下人工智能(AI)子公司DeepMind的三位联合创始人在内的科技大佬已经签署了一份协议，承诺不会发展致命的人工智能武器系统。

马斯克等科技大佬联名承诺不发展致命性人工智能武器系统

 

这是一个由研究人员和高管组成的非官方全球联盟的最新举措，该联盟反对这种技术的不当扩张。

 

该协议于当地时间周三在瑞典斯德哥尔摩举行的2018国际人工智能联合会议上发布，由生命未来研究所(Future of Life Institute，简称FLI)起草。

 

生命未来研究所是一个研究机构，旨在降低人类面临的风险。此前，该研究所已经发布了一些文件，号召联合国对致命自主武器(lethal autonomous weapons，简称LAWS)制定新规。此次协议的签署，也是相关人员首次承诺不会开发此类技术。

 

该研究所宣布，超过2400人、160家公司和组织签署了一份协议，承诺他们将既不参与也不支持开发、制造、交易或使用致命自主武器。签署方还呼吁各国政府通过法律禁止此类武器。

 

这一协议出台之际，正值少数几家公司因向政府机构和执法部门提供此类技术而面临强烈争议。

 

谷歌因与美国军方的Maven项目合同而受到抨击，该项目将向美国军方提供人工智能技术，以帮助他们在无人机影像中标记需要额外进行人工检查的内容。

 

同样的，亚马逊也因与执法机构分享其面部识别技术而受到批评，而微软则因向美国移民和海关执法局(ICE)提供相关服务而受到指责。

 

该协议的签署方包括SpaceX公司和特斯拉首席执行官埃隆·马斯克(Elon Musk)，DeepMind的三位联合创始人肖恩·莱格(Shane Legg)、穆斯塔法·苏莱曼(Mustafa Suleyman)和戴密斯·哈萨比斯(Demis Hassabis)，通讯软件Skype创始人让·塔林(Jaan Tallinn)，以及一些世界上最受尊敬和最著名的人工智能研究者，包括斯图尔特·罗素(Stuart Russell)，Yoshua Bengio和Jurgen Schmidhuber。

 

该协议警告称，使用人工智能武器系统“无需人工干预就能选定目标”，这造成了道德上和实操上的威胁。

 

签署方认为，从道德方面来看，不应该把结束人类生命的决定委托给机器。从实操方面来看，此类武器的扩散将危及每个国家和个体的稳定。

 

麻省理工学院物理学教授马克斯•泰格马克(Max Tegmark)在一份声明中表示，这一协议表明，人工智能领导人从对话转向了行动。