人工智能与其对社会治理的风险

如同许多科学技术一样，人工智能对于人类社会而言也是一把“双刃剑”。作为一种影响面极为广泛的颠覆性技术，人工智能正在深刻地重构经济社会，大量行业将会面临重新定义，就业结构和社会伦理都将受到冲击，政府管理、经济安全乃至全球治理都将会面临人类从未经历过的挑战，社会转型的进程将会进一步加快。

作为人类智慧的象征，围棋曾被认为是机器所无法突破的智慧游戏极限。然而，当人类顶尖的围棋选手在面对人工智能时接连败下阵来并一筹莫展，坦诚机器的棋术造诣远在人类之上时，一种担心人类智慧将会被人工智能超越，人类社会将会失去对机器的控制的悲观情绪便蔓延开来。

 

与之相似的是，随着工业机器人在制造业的广泛使用，产品组装等以劳动密集型为主的产业，重复性低附加值的人类劳动力正逐渐被机器所替代。“机器人正在抢人类饭碗”的恐慌感以及哪些行业的人类工作将消失，哪些人更容易或更先面临失业，成为了全社会的热门话题。尽管有一些研究机构提出，人工智能的发展将会给人类带来大量新的就业岗位，甚至超过损失的岗位，也依然无法缓解人们的忧虑。

 

另外，值得关注的是，人工智能的大量普及应用，涉及海量数据的安全等问题，也涉及人工智能应用的法制法规建设和社会伦理规范的调整。对于这些新生事物，人类都必须在实践中逐渐摸索，缺少现成的经验可以借鉴，必然要付出一定的学习成本。这要求人们深入研究人工智能与社会发展的关系，把握其发展规律，因势利导，促进人工智能在健康的轨道上朝着造福人类的方向发展。

 

首位亚裔图灵奖获得者，在语音理解、图像识别、机器人等领域有超过50年研究经验的美国卡耐基梅隆大学终身教授Raj Reddy，对人工智能给社会带来的影响有相当深刻的理解。他认为，真正给人类带来灾难和伤害的往往不是技术本身，而是人类所犯的错误，即人类错误地运用了技术以实现某种不合理、非正义的利益目标。在技术发展的过程中，必须将人工智能作为单纯的工具来看待，确保必要的法规、监管和社会继续日益完善，以此来防止技术可能造成的灾难。而如果人工智能赋予全人类富足的资源，对人类社会而言极具破坏力的战争都将会消失于无形。

 

Reddy教授十分看好人工智能技术的未来应用，他特别提到语音翻译技术最终将造福世界上广大的文盲群体，让社会低阶层人口获得实时教育、电子银行、网上投票和娱乐交流的机会与渠道。Reddy教授将一种极富创造力的人工智能成为“守护天使”，可以预测大到台风、海啸、地震，小至交通拥堵等问题，以极大地保护和帮助人类;另一类人工智能“认知放大器”，将作为人类的助手，显著提高生产力和工作的效率。

 

总之，恰如习近平主席所言，“处理好人工智能在法律、安全、就业、道德伦理和政府治理等方面提出的新课题，需要各国深化合作，共同探讨”。在上海举办的此次世界人工智能大会，就是要创造这样的平台，使各国都参与到人工智能及其对社会构成潜在挑战的应对的讨论中来，用携手合作来克服各种前进中的困难，真正做到共推发展、共护安全、共享成果。