机器中的幽灵：金融市场的AI、风险及监管

《机器中的幽灵：金融市场中的人工智能、风险及监管》是Euromoney Institutional Investor Thought Leadership 的一项调查报告，他们对全球金融机构中的 424 名高级管理人员进行了调查问卷，研究人工智能/机器学习在金融市场的风险以及监管问题。

本文结构：

一、所有系统向前进（Go）

二、从快速思维到智能思维

三、起作用的人工智能

四、从摩尔定律到墨菲定律

五、结论

六、关于本调查

七、附录（完整调查结果）

一、所有系统向前进（Go）

2016 年 3 月 15 日，一个名为 AlphaGo 的人工智能程序在围棋中击败了人类世界冠军。围棋游戏非常复杂，其走法存在的可能性数量总和比宇宙原子数量还高出几百个数量级。AlphaGo 最终以 4-1 的成绩取得了绝对的胜利。此外在识别模糊模式、学习新模式和调整策略以应对变化中的环境等方面，AlphaGo 也展现出人工智能的一些显著进步。

然而，就在 AlphaGo 取得胜利两周之后，一个名叫 Tay 的聊天机器人就暴露出了人工智能黑暗的一面。 Tay 原本是为了与人们进行友好的网络交谈，并用微软服务协助人类。Tay 独特的设计特点使她可以从在线交互中进行学习。在 Tay 公开发布后，Twitter 用户铺天盖地的谩骂和煽动性语言接踵而来，这教给了 Tay 错误的东西。该程序被败坏，变得口喷种族主义、性别歧视和排外言论；这揭示了人工智能设计和编程中潜在缺陷，以及人工智能和自然智能之间令人不安的互动。

这两件事揭示了引入人工智能所存在的矛盾。AlphaGo 这样的程序展示了人工智能可以如何分析海量数据、识别复杂模式，赋予人类新的分析能力。相反地，Tay 的恶意故障提醒着我们，这项技术还远未达到万无一失的程度，尤其是当与人类交互时。

人工智能将带来的不是不计后果的速度或失控，而是一个具有史无前例深度和广度的洞见，以及依照信息行动并从行动中学习的能力。

在对全球金融机构和金融科技企业的 424 位高管进行调查、对该领域的一些顶尖专家进行采访之后，我们发现，随着人工智能在整个金融市场开疆扩土，这一矛盾也同样很明显。

许多人将人工智能看作是可以帮助改善金融机构风险管理的工具，比如，进行更为深度的投资组合风险评估和更透彻、更全面、更清楚的信用风险评估。在这些应用中，人工智能将带来的不是不计后果的速度或失去控制，而是具有前所未有深度、广度的洞见，以及依照信息行动并从行动中学习的能力。

然而，许多专家也承认人工智能的使用存在一定的风险。这部分源于不确定性——毕竟在包括交易、投资组合管理和信用评估等许多应用中，人工智能尚处于实验阶段。因此，安全、隐私和数据质量上还萦绕着算法出故障的风险和担忧，这导致了对新的监管的呼吁。

而人们甚至更担忧人工智能的监管对策。在监管者是否存在足够的知识和技能以跟上新的金融技术的问题上，本次调研的参与者明显缺乏信心。事实上，调查参与者怀疑监管者才刚刚开始了解人工智能对金融市场和公司的潜在影响。目前而言，他们关注的重点仍然是从教训中吸取经验（fighting the last war ），识别人类直接滥用技术的违反合规行为。他们注意力开始转向算法的正当性，而这也是未来几年制定任何关于机器学习规则的重点。

调查中，大量金融机构对监管机构了解人工智能相关的法律风险上没有信心。但鉴于人工智能在这些部门的使用处于初期阶段，这可能也并不令人惊讶。比如，由于人工智能驱动的模型能够收集和分析更大体量的数据，数据和隐私风险也将随之增长。知识产权纠纷也很有可能增加，因为算法的所有权会导致企业和监管部门之间的摩擦。最后在人工智能出故障和编程错误的可能事件中，合同和诉讼风险也会涌现。

      

人工智能和机器学习毫无疑问将改变该行业所需的员工人数和技能性质。调查中，有明显少数的受访者担心，在未来几年中其对劳动力的影响是负面的。但大规模的迁移是一个长期过程——接近 70% 的人认为，人工智能在 15 年内会给他们自己的工作带来彻底或很大程度上的改变。即使是在金融交易这个自动化已经得到了广泛使用的领域，人类角色在算法验证、监控、合规等领域仍然是很关键的。目前，很少人认为，机器学习模型可以或应该完全独立于人类控制地驱动金融市场业务。

二、从快速思维到智能思维

购买《华尔街计算机评论》1987 年 6 月刊的人将会知道围绕金融市场中的人工智能的讨论不新鲜事。其封面上显眼地写着：「教计算机模拟伟大的思想家」，同时还搭配着一张苏格拉底为一群计算机听众讲学的图片，即使 30 年前就已经有基于人工智能的交易应用的计划了。事实证明，这些早期应用中许多是更接近理论化的而非实用化的。

尽管以前有一轮又一轮的炒作，但一些评论家认为，这次对人工智能重燃的兴趣是合理的。计算能力的持续快速发展以及计算成本的显著下降让人工智能应用更加实用。社交网络、智能手机和可穿戴消费设备的增长也带来了数据数量和可用性的爆发——这些都变成了优化人工智能算法的养料。

从金融机构、技术和金融科技公司对人工智能投资的增长可以看出这种重燃的兴趣。BlackRock、Two-Sigma 、 Renaissance Technologies 等基金管理公司一直忙于在全世界挖角最好的数据科学家。它们与越来越多的科技公司竞争和合作，其中包括 Context Relevant、Sentient Technologies 和 Kensho，以及谷歌、Facebook 、微软等人工智能巨头。仅在 2015 年，这些公司就在人工智能研究、收购和人才上花费了超过 85 亿美元。

在交易和投资管理中，Aidiya 和 Sentient Technologies 这样的公司是人工智能交易程序的先驱。它们使用机器学习技术和进化算法的结合来浓缩巨量数据以识别隐晦的模式，这是其它公司还未实现的。和通过人类手动部署算法更新的传统量化交易形式相反，许多人工智能软件程序能自动且独立于人类干预地学习和更新它们的模型。

      

人工智能交易程序的另一个特点是差异化的重要性。正如金融咨询公司 The Thalesians 的联合创始人 Saeed Amen 说的那样：「机器学习的好处在于它能让交易者发现那些不易察觉的关系，因此不用再和其他市场参与者进行贴身肉搏去争夺这些交易机会。」

      

这推动了差异化，将人工智能和高频交易（HFT）等其它形式的算法交易区分开。例如，高频交易是关于速度的，而机器学习是关于见解的深度和广度的。「这场机器学习革命，是从急剧扩大的可用数据和信息中识别复杂的模式，从而做出任何视角来看都是最优秀的决策。」金融行业新闻和分析工具提供商 RavenPack 首席数据科学家 Peter Hafez 说，「该市场正从更快转向更智能。」

创新的潜力将因此变得显著——不仅是在交易中，而且还在投资建议和贷款等金融行业的其它部分。变化不会马上到来，但它会来的。按照比尔·盖茨的名言警句：「我们总是高估未来两年内将发生的变化和低估未来十年内将发生的变化。」我们的调查表明，人工智能会导致类似的一系列金融市场变革。

三、起作用的人工智能

1）人工智能和机器学习将具有多大的颠覆性？会颠覆哪些领域？

在接下来的三年中，最显著的变化将出现在交易、财务分析和信息技术中，它们分别得到了受访者 64%、60% 和 60% 的认同（见表1）。很多人也希望，机器学习能实质性的影响到风险评估（59%）、信用评估（57%）和投资组合管理（52％）。风险评估和金融研究是企业在未来三年内最可能实验机器学习应用的领域。

      

麻省理工学院斯隆商学院金融工程实验室主任 Andrew Lo（他同时也是一家定量投资管理公司的创始人）认为，人工智能的影响将会非常广泛：「我认为其将改变金融行业所有方面，因为该行业的许多部分都可以使用这些类型的算法和使用大型数据池来实现自动化。」

      

除了交易和研究，Peter Hafez 还认为，机器学习将会极大助益于消费者的信用评分以及不同类型的金融机构的合规职能。他指出，比如说，合规经理开始使用新闻源等非结构化内容以警告他们可疑的交易。

机器学习技术已经在零售投资咨询中实现了应用。据澳大利亚证券和投资委员会（ASIC）的专员 John Price 称：「机器人顾问（Robo-advisers）」——投资管理网站向投资者提供自动化的建议——现已构成了一个使用人工智能的领域，该领域接受积极的监管审查管辖。英国金融行为监管局甚至走得更远，该机构在其最新的「金融咨询市场评估（FAMR）」报告中建议金融机构使用机器建议向它们的客户提供「精简化建议（streamline advice）」以提升成本效益。

2）即将来临的颠覆

接受本报告采访的专家认为，对金融市场运行来说，机器学习的颠覆性并不大，至少在未来的三到五年内是这样的。当用于交易时，一家开发人工智能的公司——Sentient Technologies 的首席科学家 Babak Hodjat 预测，这种颠覆性影响将是十分巨大的，但并不会造成根本破坏。「因为你正从由人和数量分析专家来出谋划策、排兵布局转移到由机器来做这些事情。过程更快了，但是结果相似。」

而且，大多数专家同意，人工智能技术会有很多积极应用。Paul Ebner，BlackRock’s Scientific Active Equity Unit 的一个高级投资组合经理相信，机器学习能够帮助大量公司进行深入的金融分析，金融交易也会受益于此。

「较之仅仅利用电子表格数据，机器学习的分析能再深入好几步。速度很重要，但是，这种速度不同于高频交易速度。它可以快速为我们处理许多数据并找到市场最终会发现的答案。」

BlackRock’s Scientific Active Equity unit ——一个大约百人团队，包括数据科学家和机器学习专家以及传统金融行业的数量分析专家( quants )——正在将机器学习技术置入不同的工作模式来预测股价变化。 Ebner 说：「我们正在利用这种工具来分析各企业的数据，并预测一些基本因素，最终预测这些企业股票回报，创建投资组合。」比如，在公司公布季报之前，这个团队通过分析公司的货币风险暴露，更加深入地洞见到它们的预期收益。

调查对象对机器学习将带来的另外一项优势洞若观火：64%的回答者认为，机器学习的使用将给金融市场竞争带非常积极的影响（见表三）。乍看，结果似乎反直觉。最优秀人才和最先进技术的高昂成本，将导致只有那些荷包够深的公司才能接触到人工智能。某种程度上，这是实话——只有像 Bridgewater 这样的公司才雇佣得起 IBM 史诗般超级计算机 Watson 背后的首席工程师。

      

然而，一些规模较小的公司，甚至个人已经证明它们可以站在浪潮之巅。部分原因在于，开源软件可以让规模更小的组织用先进的算法和代码进行试验。一个最近的例子，2016年3月，两位退休的对冲基金的金融工程师，此前没有使用人工智能软件工作的经验，设计了根据核磁共振成像( MRI )图片诊断心脏病的算法。尽管这些创新者对人工智能较为生疏，他们仍然可以从开源网站 GitHub下载软件，设计推动产业变革的应用。

这对金融组织间的竞争意味着什么，只有时间才会告诉我们答案。然而，当产业巨头，比如黑石，做了大量繁重的研究和试点工作，人工智能应用和服务也能变得让广大中小型组织触手可及。

3）案例研究：理解外汇风险暴露，预测收益

进行大量出口销售的公司，天然受制于外汇市场的反复无常。据 Black Rock 的 Paul Ebner 说，2014 年，货币流动，尤其是美元走坚对公司盈利有异乎寻常的影响。BlackRock 的 Scientific Active Equity 团队并未因此出现纰漏，部分是由于机器学习。

进行大量出口销售的公司，天然受制于外汇市场的反复无常。据 Black Rock 的 Paul Ebner 说，2014 年，货币流动，尤其是美元走坚对公司盈利有异乎寻常的影响。BlackRock 的 Scientific Active Equity 团队并未因此出现纰漏，部分是由于机器学习。

4）人工智能的洞见

很清楚的是，人工智能以及数据分析取得的进展正在引发用于决策参考的数据类型和数量的不断膨胀。然而，在根据传统参考单位，比如价格、利率或收入位数，做出投资决定之前，人工智能可以将事件（events）和意见（sentiment）当做要素，纳入资产价格预测过程中。比如，吸收非结构化数据有助于推近意见分析。但是，Hafez 说，筛选事实和解释观点意见一样重要。「不仅仅是指传统意义上的情感（sentiment），比如指引，也是指某些事实，这些事实可以从非结构化内容中提取出来，并以一种机器可以理解的格式予以交付。」

      

如今，机器交易模型通常用来分析收益评估和公司报告。通过分析产品发布、回收，监管批准，收购以及其他市场事件，它们可以及时捕捉到更多的东西。Hafez 也期待机器学习模型能够被输入来自图片、视频素材等方面的洞见。他说，有些公司使用卫星图跟踪大型零售商店停车场的汽车数量，试图理解它们收入和收益的大致方向。这意味着，人工智能可以改变参数，金融机构凭借这些参数做出投资决策。传统考虑因素的重要性在下降，因为金融机构收集了海量非结构化数据——它们只能借助人工智能和机器学习的力量。

分析工具正越来越善于理解语境——机器学习另一个重要的不同之处。Ebner 解释说，他的团队使用的机器学习工具能通过上下文来理解词汇使用的微妙之处。比如，在美国证监会档案中，单词「垃圾（garbage）」 是指废物管理，但是，在投资人博客上，这个单词很可能就是用来批评股票或公司管理用语。我们能打造出根据语言来源语境不同而不断学习、演化的词典。

      

人们也正在将相似的技术引进到这样的领域，帮助消费者处理投诉和咨询。RBS 最近已经宣布，将引进人工智能程序（ Luvo）用于协助消费者投诉。程序拥有人工个性，模仿了人类特征，比如，友善，共情以及理性。据程序员介绍，Luvo 也能从错误中学习，猜测一个人的情绪状态。由此看来，人工智能被塑造成朋友，而不是敌人。

四、从摩尔定律到墨菲定律

哪些方面会出错？Andrew Lo 认为市场将出现更多的瞬间暴跌，或者其他负面变化，行业和监管者目前对这些问题还没有清晰的认识。「这些策略的性质使它们很难被理解。这意味着它们产生的影响也将很难预测，就像没人能预测出2010年5月6日的暴跌——即使到今天我们仍然不太了解到底发生了什么」。他也提到了骑士资本（Knight Capital）的覆灭，2012年这家美国主要的交易商由于软件故障在交易过程中损失了4.4亿美元，直接被推到了破产边缘：「我不认为我们会很快处理好这类问题，因为最终要解决的是人类能力和技术之间的错配和不协调。即摩尔定律遇上墨菲定律。」

技术并不能将对未来事件下注等金融活动的内在风险去除。无论人们或算法怎么做，这种风险仍可能存在。

正如贝克·麦坚时律师事务所（Baker & McKenzie）的合伙人 Arun Srivastava 指出的，「金融机构已经由于交易员违法违规被处罚了数十亿美元。银行可行的应对方案就是用程序化来做尽可能多的决策，因此越来越多的银行去拥抱人工智能和程序化交易。但降低了操作风险的同时，人工智能方面的内在未知风险并没有被消除。」

1）所有一切都在算法里

监管部门虽然对机器学习还不太了解，但也将算法视为可能发生问题的领域进而重点关注。加拿大投资行业监管组织（IIROC）市场监管高级副总裁 Victoria Pinnington 称她目前最大的担忧就是关于算法的产生过程，无论是在机器学习还是在更广义的系统化交易背景下，「如果算法有问题，」她说，「对市场的影响可能就会相当大。」

算法可能在各个方面出现问题。一个最常见的错误就是「过度拟合」，通常发生在一个算法过于复杂并缺乏合理假设时。在这种情况下它们无法从大量无关数据中（噪声）分辨出有用的相关性（信号），而是识别出了「幽灵」参数或似是而非的相关性。想象一下用一个敏感的麦克风对古典音乐会录音。过度拟合将把周围的背景噪音视为与管弦乐队发出的声音同等重要。就像 Babak Hodjat 所警示的，「人们可能错误的使用机器学习并且不做检验。如果你使用一个机器学习算法但没有充分检验它，那可能就会存在一些过度拟合，使算法今天看上去不错，但明天就可能会大错特错。这是需要仔细检查的。」

程序错误风险提高了使用新程序的压力。像之前提到的，差异化对于一个人工智能交易员的成功是很关键的。做出第一款成功的应用，机构将得到一个独一无二的可以盈利的机会——一个没有竞争的市常接下来的风险就是其他机构将在市场上应用这个成功的策略。谷歌前工程师，目前任机器智能研究机构（Machine Intelligence Research Institute）研究人员的 Nate Soares 在接受金融时报采访时称，「将足够强大的保障措施编入高级人工智能，只有5%的可能性。」

2）数据、责任和法律风险

机构是否已了解与新型金融科技相关的法律风险目前还有很大不确定性：有47%的被调查者对此没信心。Price 先生并不惊讶。「原因在于这种技术还处于初期阶段，而且还在不断进步。人们对可能的风险感到谨慎和些许不确定也正是反映了这种技术处于初期阶段。」

      

一个风险是公司责任。做出糟糕的投资决策可能是由于数据质量差、对公司业绩分析失误、或算法有瑕疵，这都会引起投资者大幅亏损。机器学习模型对信用风险做出糟糕的决策时：出借方可能遭受财务损失、或潜在融资方的声誉受损，责任问题就可能出现。当这种情形发生时由谁承担责任目前还不明晰——金融机构自身、算法的作者、交易平台、数据提供者、或是其他人？

机器学习的智能及数据处理特性也可能使数据保护和隐私风险达到另一个高度。个人投资数据或敏感的公司数据无论因为事故（被黑客获取）还是因为制度（被市场管理者和政府获取）而落入其他人手中，都是互联网时代的一个非常常见的风险。当机器学习模型为达到更好效果而收集更多的数据时，这种风险也将随之增大。机构将越来越需要了解数据隐私与消费者保护法规之间的紧密联系，以及扩大的法律管辖范围，例如欧盟Cookie指令（EU Cookie directive）。贝克·麦坚时律师事务所（Baker & McKenzie）合伙人 Adrian Lawrence 预计获取数据的能力将对人工智能系统的范围及影响起着核心作用，她称「数据，及使用和获取数据的各类规则及过程，位于具有颠覆性的金融科技领域的核心位置。即使是最先进和最智能的算法及模型在不能有效、安全和合法的获取详细、准确、及时的数据时，也将变得毫无用处」。

除了法律风险，这些被调查者对于他们所在的机构是否了解人工智能的影响也是明显缺乏信心。49%的被调查者不能确定他们的机构了解了人工智能的其他重大风险。只有32%是确定的。考虑到这项应用还处于早期发展阶段，这项调查表明人工智能将会向机构展示出一系列风险，而其中的大部分还尚未定义。