B.1　全球人工智能发展步入商业化应用新阶段

邱惠君　明书聪　张禹衡[1]

摘　要：2019年，全球人工智能产业迎来了商业化应用新阶段。全球各国加快布局抢占发展制高点，基础理论研究受到高度重视，核心技术突破继续推进，加大行业理解成为融合应用的关键。在人脸识别落地受挫、深度伪造频发的背景下，具有实操性的安全风险评估落地方案有望出台，人工智能发展理性化趋势进一步加深。

关键词：人工智能；商业化；新阶段

Abstract：Since 2019, the global Artificial Intelligence (AI) industry has ushered in a new stage of commercial application.Countries around the world are accelerating the layout of AI industry to seize the opportunities for development and strive to be leaders.Basic theoretical research has been highly valued.Core technological breakthroughs have continued to advance.Enhancing industry understanding has become the key to integrate applications.Under the background of frustrated face recognition and frequent deep fake materials, practical security risk assessment landing schemes are expected to be released, and the trend of rationalization of Artificial Intelligence development will be further deepened.

Keywords：Artificial Intelligence; Commercialization; New Stage

一、全球布局抢位竞争激烈，政策支持力度持续加大

作为新一轮科技革命和产业变革的重要驱动力量，人工智能正在对经济、政治、社会等带来颠覆性影响，改变发展格局，未来20年人工智能对商业和国家安全带来的革命性影响有可能与过去25年的半导体、计算机和互联网相比拟。在“全球化”与“逆全球化”相互交织、错综复杂和科技竞争不断加剧的国际大形势下，全球围绕人工智能领域的布局抢位日趋激烈。2019年全球主要国家和地区动作接连不断，竞争趋向白热化，进入了全面推进人工智能发展和商业化应用的新阶段。总体来看，人工智能领域呈现出美中欧三足鼎立的竞争格局，日本在机器人方面发展迅猛，未来它在人工智能领域的潜力不容小觑。2019年部分国家/地区发布的人工智能战略或政策性文件如表1-1所示。

（一）美国出台新行政令和研发计划，力争保持全球领导地位

美国人工智能战略和政策着力点在于保持全球“领头羊”地位，期望对人工智能发展始终具有主动性与预见性。早在奥巴马政府时期，美国于2013年就开始发布多项人工智能计划，最早提及人工智能在智慧城市、自动驾驶和教育等领域的应用和愿景。2016年，美国将人工智能上升至国家战略层面，出台了《国家人工智能研究与发展计划》，从政策、技术、资金等方面给予一定的支持和保障。特朗普政府执政后，于2019年2月发布了第13859号总统行政令——《维持美国在人工智能领域领导地位的倡议》，从国家战略层面提出美国未来发展人工智能的指导原则，明确指出要集中联邦政府资源发展人工智能，扩大美国的繁荣，增强国家和经济安全，力图保持在人工智能时代的全球领导地位。该总统行政令还要求有关部门在规定时限内根据职责落实各项政策措施。美国白宫启动了人工智能官方网站“AI.gov”，在网站上发布美国各联邦机构采取的一系列人工智能举措和取得的进展等（见图1-1）。

美国各大智库也纷纷出台有关人工智能的研究分析报告，为政府决策提供有效参考。例如，美国智库新美国安全中心于2019年12月发布了《美国人工智能世纪：行动蓝图》，在报告中指出美国当前正处于历史的重要时刻，需要采取大胆的行动来增强其竞争力，有助于确保美国在未来“人工智能世纪”中的领导地位，并从研发、人才、技术转让、硬件、应用规范、政府准备能力和人工智能标准及评测7个方面，提出了25项建议措施。

总体来看，美国推进人工智能发展有以下主要特点。一是从维护国家和经济安全的角度推进人工智能发展。美国在多个文件中强调人工智能对国家经济和安全的重要性，2019年1月根据《2019财年国防授权法》成立了人工智能国家安全委员会，将人工智能上升到国家安全层级，从顶层统筹指引全美人工智能发展，进一步完善人工智能监管链条。二是加大研发，着力维持全球技术霸主地位。美国联邦政府在征求反馈意见的基础上，更新了国家人工智能研发战略计划，确定了8个研发战略方向，主要包括对人工智能领域进行长期投资、开发人与人工智能进行协作的有效方法、理解并解决人工智能的伦理法律和社会影响问题、确保人工智能系统安全且可靠、开发可共享的用于人工智能系统训练和测试的公共数据环境、建立衡量评估人工智能技术的基准和标准、更好地了解人工智能研发人员的需求、扩大人工智能领域公私伙伴关系，并对实施进展情况开展阶段性评估。三是致力于标准体系建设。2019年8月，美国国家标准与技术研究院（NIST）发布了《美国在人工智能领域的领导地位：联邦政府参与开发技术标准与相关工具的计划》。该计划指出，通过支持研发、标准建立、开发和部署基于美国标准的产品和服务等方式，制定符合美国经济利益和国家安全需求的人工智能标准，确立全球地位，并明确了以下8个重点领域：名词术语、数据和知识、人机交互、衡量指标、网络化、性能测试和报告方法、安全风险管理、可信。四是高度重视人工智能人才队伍建设。美国除加强人工智能顶尖人才培养外，还通过建立学徒制、加强工人培训等方式构建培训和终身学习的人才体系，美国国家自然基金会、美国国家航空航天局、国防部及能源部等多个部门设置奖学金、研究资金支持计划等，推动研究能力提升。五是实施技术出口管制，打压竞争对手。当霸主地位受到挑战时，美国会动用各种力量加强技术出口管制。如2019年以来，以影响国家安全为由，连续几次把中国高科技企业列入“实体清单”。

（二）中国发布深度融合指导意见，从应用层发力带动人工智能产业发展

中国已经将人工智能发展上升为国家战略，从中央政府到各级地方政府，对人工智能发展做出全方位的指导和规划。在顶层设计上，国家在移动互联网、大数据、超级计算、传感网、脑科学、无人驾驶、智能机器人等软/硬件领域综合布局，以加快人工智能与经济、社会深度融合为主线，通过促进产学研广泛合作，以新一代人工智能技术的产业化和集成应用为重点，强调人工智能与实体经济深度融合。在地方层面，已有包括北京、上海、广东、江苏、安徽、浙江等近30个省市及地区发布了人工智能规划，并且各地在规划发布之后通过举办人工智能大会、成立地方产业联盟、与知名高校及企业组建联合实验室等多种形式引进人才与项目，积极推动人工智能技术在安防、教育、医疗、公检法、智慧城市等众多领域落地。不少地方积极公布应用场景需求，如上海率先发布人工智能应用场景建设实施计划，先后公布两批共31个应用场景，涉及医疗、教育、民生等多个领域，面向人工智能企业征求解决方案。2019年，中国人工智能产业在平台建设、发展机制和路径方面都进行了新的探索，实现了诸多突破。截至2020年年初，科学技术部共批复了10个国家新一代人工智能创新发展试验区（北京、上海、合肥、杭州、深圳、天津、济南、西安、成都、重庆），工业和信息化部批复的人工智能创新应用先导区也增加为3个（上海、济南—青岛、深圳）。京津冀、长三角、珠三角成为人工智能企业分布最多的地区，北京、上海领跑全国。2020年年初，在抗击疫情的过程中，人工智能技术和产品在疫情研判、疫情防控、辅助诊断、测温与目标识别等方面发挥了积极作用，疫情防控和复工复产需求为科技企业提供了广阔的市场空间和练兵机会，加速了人工智能技术的落地应用。

（三）欧盟构建可信人工智能框架，抢占全球伦理规则主导权

欧盟很早就把发展以智能化为基础的经济模式作为其主要的战略目标，在研发和人才上注重投入，但由于缺乏风险资本和私募股权投资，以及民众过多顾虑隐私保护等问题，在人工智能应用发展上落后于中国和美国。为改变这一现状，欧盟采取多种措施大力发展人工智能，发力构建可信人工智能，力争取得全球主导权。

欧洲25个国家于2018年4月签署了《人工智能合作宣言》，共同面对人工智能在社会、经济、伦理及法律等方面的机遇和挑战。2018年12月，欧盟发布了《人工智能协调计划》，提出要进一步增加资金投入、深化人工智能技术创新与应用、完善人才培养和技能培训、构建欧洲数据空间、建立人工智能伦理道德框架、促进公共部门人工智能技术使用、加强国际合作7项具体行动。其目的：一是联合全体成员国和挪威、瑞士，推进欧洲人工智能的开发与应用，实现欧盟和各国人工智能投资收益最大化，在全球竞争中占据优势地位，从而推动欧洲经济的可持续增长并确保其增长活力；二是坚持“以人为中心”的发展理念，推动发展符合欧洲价值观和伦理观念的人工智能，加强人工智能技术在公共领域的应用，让全体民众都能分享人工智能发展成果，力争在伦理与治理领域占据全球领先地位。

2019年是欧盟推进协调计划的重要一年，其中由欧盟委员会任命的人工智能高级别专家组发布的《可信人工智能伦理指南》和《可信人工智能的政策与投资建议》引起广泛关注。《可信人工智能伦理指南》（简称《指南》）于2019年4月发布，从顶层设计角度提出了构建可信人工智能伦理框架的3个要素、4项原则和7项关键要求（见图1-2）。《指南》的文本框架主要包括可信人工智能基础、实现可信人工智能、评估可信人工智能三大部分，其核心突出了“以人为中心”、建立可信任的思想。

欧盟的做法是先出台可信人工智能的基础伦理框架，各行业领域后续可结合具体应用场景对基础框架进行剪裁适配。《指南》提出的7项关键要求不仅适用于研究开发者，也适用于部署者，要求部署者确保其部署使用的人工智能系统、产品或服务符合相关规定。《指南》还较为详细地列出可信人工智能评估清单，并发起较大范围的试点，收集关于关键问题的反馈、设立论坛、探讨可信人工智能的最佳实践。《可信人工智能的政策与投资建议》于2019年6月发布，提出了33项建议，主要涉及两大方面内容：一是利用可信人工智能在欧洲产生影响；二是为可信人工智能产生积极影响提供所需的支持。欧盟将设立4亿欧元人工智能与区块链专项发展基金。

值得一提的是，欧盟于2020年2月发布了《人工智能白皮书——欧洲追求卓越和信任的策略》，透露了未来人工智能政策走向——将由“强监管”转向“发展和监管并重”，核心就是通过构建“卓越生态系统”和“信任生态系统”，致力于将欧洲建设成为全球人工智能研究和创新的“灯塔中心”，在促进人工智能广泛应用的同时，解决新技术使用所产生的风险问题。

（四）日本巩固机器人优势，有重点地发力人工智能领域

日本作为一个经济科技大国，面对中美两国在人工智能领域的强势领先地位，积极采取行动，布局本国人工智能发展。日本政府在2013年发布的《日本再兴战略》中首次涉及人工智能发展，2015年发布《日本机器人战略：愿景、战略、行动计划》以推进日本传统优势的机器人产业发展。2016年日本颁布《第5期科学技术基本计划》，提出了超智能社会5.0战略，并将人工智能作为实现超智能社会5.0的核心。随后，日本政府组建了人工智能技术战略委员会，将2017年确定为日本人工智能元年，并制定了人工智能产业化发展3个阶段的路线图：第1阶段在2020年前后，确立无人工厂、无人农场技术，普及利用人工智能进行药物研发，通过人工智能预测生产设备故障；第2阶段在2020—2030年，实现全自动化的人员和货物运输配送，实现新药物个性化研制，实现机器人协作，以及家庭和家电的人工智能完全控制等；第3阶段是2030年之后，使看护机器人成为家庭一员，普及出行自动化和无人驾驶，能够通过人工智能进行潜意识分析，实现本能欲望的可视化。

2019年，日本在继续巩固机器人产业的基础上，发布多项政策文件，有重点地发力人工智能领域，并强调要建设“以人为本”的人工智能。一是进一步明确战略目标。2019年6月，日本出台了《人工智能战略2019》，提出日本发展人工智能的战略目标是：建成世界上最能培养和吸引人工智能人才的国家，并从全球范围内吸引人才；引领全球人工智能技术研发，构建可持续发展的社会；强化本国人工智能的竞争力，引领全球人工智能产业，将医疗健康、农业、国土资源、交通基础设施与物流、地区发展（智慧城市）确定为五大重点应用领域。二是巩固机器人领域的传统优势地位。2019年7 月，日本经济产业省发布的《机器人社会变革促进会议报告》指出，日本要着眼于机器人产业的长远发展，加快制定相关政策，巩固其在世界机器人市场的地位。其一，构建一个由企业、科研机构和消费者等组成的生态系统，创建融合日本智慧的协作系统。其二，着力于中长期的研发及人才培养工作，加快机器人企业的发展。其三，扩大日本机器人产业在全球的市场份额，巩固日本作为世界机器人领先国家的地位。三是强调以人为本的人工智能伦理原则。2019年1月，日本首相发表施政演说，提出主张建立以人为中心的人工智能伦理原则。3月，日本政府正式发布最高级别的人工智能发展政策文件——《以人类为中心的人工智能社会原则》，分别从宏观和伦理两个角度展现了日本政府在发展人工智能方面的态度。四是加强人工智能人才培养体系建设。为加强人工智能研究，日本政府将人才培养作为发展基础。《人工智能战略2019》提出每年培养25万名能够熟练使用人工智能的学生培养计划，要求大学不论文理科都实施人工智能初级教育，同时设置面向社会人士的专业课程，到2025年要实现所有高中和大专院校毕业生都具有“数据科学、人工智能”相关的基础知识的目标。日本文部科学省计划在2020年度预算中编列相关费用，与全国的大学共同制定新的人才培养课程，培训各行业及产学研领域的人工智能专业人才。日本经济产业省在2020年度预算中制定了15亿日元的新预算，用以打造一个可以为中小企业提供服务的全国性人工智能人才银行，目标是在3年内向日本国内10万家中小企业派遣接受过专业人工智能教育的人才。

二、基础研究受到重视，产业投资趋于理性

（一）技术领域取得突破，论文专利数量迅速增长

2019年，在各国政策的大力推动下，各国对人工智能基础理论研究的重视程度不断提升。例如，俄罗斯在2019年发布的战略中指出，支持人工智能基础和应用科学研究，优先支持模拟生物决策系统的算法、自主学习及算法、复杂任务的自主分解及解决方案三大研究领域。同时，应用落地需求的多样化进一步推动了人工智能相关技术的发展，其中芯片技术发展较快，深度学习、计算机视觉仍是技术发展重点，自然语言处理（Natural Language Processing，NLP）和脑机接口等技术在2019年实现了诸多突破。随着人工智能技术的进一步发展，它与其他学科的交叉日益明显。新一代人工智能产业链如图1-3所示。

据美国科技风险投资公司Thundermark Capital对在神经信息处理系统大会（NeurIPS或NIPS）和国际机器学习大会（ICML）上发表的研究成果分析表明，全球主要国家正在加大人工智能基础研究力度，人工智能基础研究的国际竞争日益激烈（见表1-2）。

从论文发表数量来看，据相关机构统计，2013—2018年，全球人工智能领域的论文产出量共30.5万篇。其中，中国发表7.4万篇，美国发表5.2万篇。但从影响力来看，美国发表的论文引用率高于欧盟和中国，同时中国发表的人工智能领域论文的引用指数近年来整体呈现上升趋势。

从专利数量来看，近年来，人工智能领域的专利申请数量呈现快速增长趋势。据中国人工智能产业发展联盟统计，截至2019年10月，全球共申请了50多万项人工智能主题相关专利，其中包括8万余项有效专利。中国、美国、英国和澳大利亚在人工智能领域申请数量最多，其次是加拿大、日本及印度。在人工智能众多领域中，“机器学习”作为人工智能核心技术领域概念之一，囊括了全球89%的人工智能领域专利申请数量。

（二）全球独角兽集中在中美两国，人工智能市场看重核心技术和落地能力

根据胡润研究院发布的2019全球独角兽榜显示，中美两国独角兽企业占全球数量近八成。在上榜的全球494家独角兽企业中，中国以206家位居第一，其次是美国203家，印度和英国列居第三和第四，分别上榜21家和13家。在中美两国国内，独角兽企业分布也较为集中。中国的北京、上海、杭州和深圳的独角兽企业数量占国内的比重达到近80%；美国的独角兽企业以西海岸的加利福尼亚州为主要聚集地。细分到人工智能领域，在上榜的全球独角兽企业榜单中，人工智能企业40家，占总榜单的8%。其中，排名前10的人工智能独角兽企业分别为Argo AI、Uipath、商汤科技、旷视科技、Automation Anywhere、云从科技、地平线机器人、Zoox、Afiniti、Aurora。

另外，2020年3月美国著名风险投资数据公司CB Insights发布了《AI 100 2020报告》。该报告从专利进展、投资者概况、市场潜力、合作关系、竞争格局、团队实力和新颖性等维度，在全球范围内评选出了100家“最有前景”的人工智能公司，共有13个国家和地区的企业入选，相比2019年扩充了4个国家。其中，美国有65家企业入选，以巨大的领先优势位居全球首位，加拿大和英国异军突起，分别以8家企业紧随其后，中国有6家企业入选，位列第四。

从入选企业的业务范围来看，从事人工智能芯片、算法等核心技术研发的企业数量较多，分别有5家企业入选。整体来说，市场更加看好拥有核心技术并实现落地的企业，如在入选企业中有13家利用人工智能技术监测人体健康状况、用于医学影像分析等，有9家致力于通过智能化手段为零售和仓储提供服务，如无人零售、无人仓储等。未来人工智能企业的发展将趋向于构建可持续性商业模式，企业的核心技术和落地能力将成为市场关注的重点，具备可落地解决方案供给能力的创新企业有望引领新一代人工智能生态体系加速形成。

三、融合应用不断深入，理解行业成为关键

（一）“智能+X”落地场景日益丰富，人工智能创造商业价值的时代正在到来

人工智能技术作为新一轮产业变革的核心驱动力，基础技术研发和应用落地推进齐头并进，2019年加快从概念走入现实的步伐，与各行各业的融合应用不断深入，落地场景日益丰富，已逐步进入全面的商业化阶段，正在悄然改变各传统行业的生态。据德勤2019年发布的《全球人工智能白皮书》预测，2025年全球人工智能市场规模将突破6万亿美元，2017—2025年复合增长率高达30%（见图1-4）。

人工智能技术已在安防、金融、客服、零售、医疗、教育等领域落地应用，产品和服务不断推出，引发相关行业进行变革，不断促进智能经济的发展。根据美国数据公司CB Insights发布的《AI 100 2020报告》显示，全球前100的人工智能企业主要分布在医疗保健、零售仓储、交通运输等领域（见图1-5）。特别是2020年以来，受全球新冠肺炎疫情防控和复工复产需求影响，人工智能技术在医疗、公共卫生、无接触式服务和智能制造等领域落地应用并加速推进。

当前，人工智能和制造业融合发展的重点领域主要包括质量检测、预测性维护、生产流程、供应链管理、营销售后、制造装备六大领域。领先的制造业、自动化、机器人、软件和信息技术服务业企业已成为推动“人工智能+制造”的四大主力。人工智能技术的落地应用必将在加速企业数字化、改善产业链结构、提高信息利用效率等方面发挥积极作用。根据国际机器人联合会（IFR）和经济合作与发展组织（OECD）的数据显示，美国、中国、日本、韩国和德国是工业机器人的5个主要市场，占总安装量的75%，并且预计到2022年，平均每年的增长幅度可能会达到12%。

（二）三大应用挑战并存，行业知识图谱受到青睐

当前，在推进人工智能落地应用过程中面临诸多障碍，其中有效数据缺乏、对行业不够理解和技能短缺是3个主要挑战。缺乏没有偏见、没有侵犯隐私权的可用数据是首要障碍。同时，随着场景需求的不断增加，对行业的业务流程不了解和人工智能技能的短缺也成为重要障碍。当人工智能企业真正面向市场和客户时，发现理解行业、解决问题才是核心竞争力，而不是盲目地追求将准确率从95%突破到96%。

知识图谱是一种基于图的数据结构，通俗地讲，知识图谱就是把所有不同种类的信息链接在一起而得到的一个关系网络。图谱化将是企业进行数据管理的未来趋势，随着人工智能在诸多行业领域的应用落地，行业急需机器基于行业知识诀窍（Know-How）、业务经验沉淀提供决策支持类应用。例如，在公安领域，行业应用已经从最初的人脸识别、车辆识别等感知层应用向情报研判等认知智能应用发展。据某科技公司介绍，该公司运用海量的感知数据构建了更具认知力、行动力和时效性的全域知识图谱，以便让机器更好地进行推理与规划，形成基于人工智能技术的警务支撑体系和安全保障体系。据业内专家分析，人工智能时代，知识图谱技术是集大数据和人工智能于一体的综合技术，是认知智能的底层关键技术，必将成为下一步人工智能行业应用发展的重点关注领域。知识图谱的发展也面临以下3个主要挑战：一是专家经验的知识化转化；二是知识体系的自动构建；三是实现图像、视频、音频、语义之间的多模态全连接。

四、人脸识别技术落地受挫，深度伪造滥用引发关注

2019年在人工智能技术应用方面，有两件大事引起全球广泛关注，也对今后人工智能的发展带来很大影响。

（一）人脸识别技术落地受挫

2019年5月，美国旧金山市通过条例，决定禁止全市53个部门使用人脸识别技术。该条例特别指出：“使用人脸识别技术弊大于利，这项技术将加剧种族不平等，并威胁到公民不受政府长期监控的生活权益。”不过，该条例为旧金山国际机场和旧金山港由美国联邦政府控制的设施开了绿灯，也未对普通商家或居民使用人脸识别或监控技术（如监控摄像机）、警察在刑事案件中使用的个人监控视频等行为做出禁止要求。继旧金山市之后，美国萨默维尔市、奥克兰市也通过了禁止市政机构使用人脸识别技术的法令。据2020年2月欧盟发布的《人工智能白皮书》透露，欧盟原则上禁止以识别某个自然人为目的而处理生物特征数据，出于为公共利益考虑的特殊情况除外，并要求针对人脸识别的使用开展“广泛的欧洲辩论”。这些规定使人脸识别技术大规模商用受阻。中国已于2019年11月在全国信标委生物特征识别分技术委员会换届大会上，正式成立了由商汤科技、腾讯科技、阿里巴巴、云从科技、小米科技、平安科技等27家企业组成的人脸识别技术国家标准工作组，全面推动人脸识别技术相关国家标准的制定工作。

（二）深度伪造技术被滥用

2019年，基于深度学习技术生成的“深度伪造”（DeepFakes）假视频开始泛滥，这些逼真的假视频引发了人们对技术滥用的担忧，甚至是恐惧。一些机构呼吁政府部门出台应对措施，如美国国际战略研究中心（CSIS）发布《深度伪造技术政策简报》，建议政府制定相关规则与法律，提高辨别真伪的技术能力。美国加利福尼亚州（简称“加州”）通过了一项类似的法律，众议院正在考虑推动对抗深度伪造假视频的国家层面立法。中国政府也颁布了关于禁止传播虚假视频的相关规定。若干与人脸识别相关的数据安全规范性文件如表1-3所示。全球若干大型科技企业也开始联合学术界做出行动，避免造成更深的负面影响。2019年9月，脸谱、微软联合麻省理工学院、牛津大学等多所知名大学及非营利性研究组织Partnership on AI[2]，共同研究深度伪造检测方法，脸谱还宣布开启一项总奖金高达1000万美元的竞赛，鼓励大家开发深度伪造假视频的自动检测技术，开展了一场“猫捉老鼠”的高科技比拼。2019年11月，推特发布了针对深度伪造的策略草案并对外公开征询意见，以解决日益严重的深度伪造问题。根据草案的内容，当发现试图误导或混淆人们的伪造视频或图片时，推特将采取以下一种或多种行动：一是在伪造视频或图片的推文旁边提示用户警示伪造的可能性；二是在用户分享或为存在伪造可能性的推文点赞前进行提示；三是放置可以让用户深入了解如何辨别深度伪造的链接，如公开新闻或专业类文章，让用户更清晰地辨别内容。推特表示，如果深度伪造假视频可能威胁到用户的人身安全或导致严重伤害，也可能将其删除。

五、认知智能或将成为下一个战场，安全风险评估有望落地

（一）核心理论和算法框架仍是重点研究领域，认知智能或将成为下一个战场

人工智能是数据、算法和算力的综合集成。据业内专家分析，人工智能技术发展往往会经过感知智能、认知智能和行动智能3个阶段。2019年基本处于感知智能阶段，主要基于数据识别的场景应用，这主要得益于计算机视觉和智能语音技术的发展和硬件的进步。感知智能不具有理解和推理能力，认知智能是感知智能的进阶，从感知智能走向认知智能，仅依靠深度学习是远远不够的，还需要很大的突破。从感知智能走向认知智能必须要将研究方向聚焦于人的语言、认知和逻辑相关方面，结合行业知识，理解数据之间的逻辑关系和代表的意义，并在此基础上进行分析和决策。认知智能或将是技术发展的下一个战场。据“爱分析”发布的报告显示，到2022年，中国认知智能相关的解决方案占比将达到5%～7%，认知智能市场规模约为850亿～1200亿元。

（二）伦理治理列入重要议程，具有实操性的安全风险评估落地方案有望出台

人工智能应用被认为是科技创新的下一个“超级风口”。人工智能是把双刃剑，如果人工智能应用得不到合理管控，就会出现严重的伦理风险，这一问题已经引起全球关注。国际组织、部分国家甚至是企业已将人工智能伦理治理问题列入了议事日程，2019年取得了显著进展，行业共识、规范、管理办法等陆续出台。

欧盟早在2004年就已经开始了对人工智能和机器人伦理问题的关注。2019年4月，欧盟首先发布《可信人工智能伦理指南》。2019年5月，OECD的36个成员国与阿根廷、巴西、哥伦比亚、哥斯达黎加、秘鲁和罗马尼亚等42国在OECD年度部长理事会会议上签署了“经济合作与发展组织人工智能原则”，以促进对值得信赖的人工智能的负责任管理，确保尊重人权和民主价值观，促进人工智能的创新和信任，并于2019年推出OECD人工智能政策观察站，帮助各国鼓励、培育和监督发展可信人工智能系统和造福社会。2019年6月，二十国集团（G20）部长级会议通过了首个使用或研发人工智能的相关原则，这是G20首次提及人工智能的相关原则，一方面促进人工智能的包容性增长及可持续发展，另一方面也构建了可信人工智能的国家政策和国际合作。2019年6月，中国国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》，旨在更好协调人工智能发展与治理的关系，希望将“负责任”贯穿人工智能的研发和应用，促进技术的健康发展，共建人类命运共同体。2020年1月，美国白宫发布的《人工智能应用规范指南》，提出了10条人工智能监管原则，强调“鼓励人工智能的创新和发展”和“减少部署和使用人工智能的障碍”。

综合国际组织、部分国家发布的人工智能原则，都是强调要实现人工智能的安全、可靠和负责任，并且要把伦理价值融入人工智能和机器人技术设计初期，贯穿全过程。不过，总体来看，目前与控制人工智能危害相关的行动仅停留在原则层面上，还缺乏操作层面的具体规范。预计在不久的将来，有望把这些原则落地，变成可执行、可落地的安全风险评估办法。欧盟已在2020年2月发布的《人工智能白皮书》中提出了对人工智能实行分类监管的政策设想，重点要求对高风险人工智能应用开展强制性事前合规评定，对非高风险人工智能应用则采用自愿贴标签的方式。欧盟的这一监管政策设想是在《可信人工智能伦理指南》基础上的进一步深化，原有的指南已在一些领域开展试点应用，但是缺乏约束力，此次《人工智能白皮书》提出的分类监管设想，虽然在具体操作规范和方式上还需要不断完善，加之欧盟体制结构因素使得推进起来会有难度，但从欧盟的相关系列报告中已经可以感受到其推进这项工作的决心和力度，预计这一政策设想会像《通用数据保护条例》一样得以实施。需要注意的是，欧盟在人工智能监管政策中提出了域外管辖要求，即分类监管政策适用于为欧盟提供人工智能产品或服务的非欧盟企业。因此，该政策设想一旦实施将对全球企业进入欧盟市场带来直接影响。欧盟的这一举动在很大程度上也会倒逼其他国家开展人工智能合规评估，在一定程度上推动伦理规则和安全指南的真正落地（见表1-4）。

参考资料

1.　美国白宫人工智能网站.ai.gov。

2.　欧盟网站.https://europa.eu/。

3.　日本经济产业省.https://www.meti.go.jp/。

4.　日本文部科学省.https://www.mext.go.jp/。

5.　斯坦福.AI index 2019，2019-12。

6.　MITSloan，BCG.人工智能赢在未来，2019-11。

7.　德勤.全球人工智能白皮书，2019-9。

8.　胡润研究院.2019胡润全球独角兽榜，2019-10。

9.　CB Insights.AI 100 2020报告，2020-4。

---

[1]邱惠君，国家工业信息安全发展研究中心副总工程师，人工智能研究所所长，主要从事人工智能、大数据等领域战略与政策研究；明书聪，国家工业信息安全发展研究中心助理工程师，硕士，主要从事国内外人工智能、新一代信息技术等领域研究工作；张禹衡，国家工业信息安全发展研究中心助理工程师，国际贸易学硕士，从事软件和信息技术服务业、大数据等领域政策与产业研究。

[2]Partnership on AI的组织成员包括谷歌、苹果、亚马逊、IBM等大型科技公司。