语（yǔ）音识（shí）别、文本识别（bié）、视频（pín）识别……数字经济时（shí）代，人工智（zhì）能技术已走近你（nǐ）我（wǒ）身边，被视为经济增（zēng）长的（de）新引擎、国际竞争的新（xīn）阵地（dì）和推动智慧社（shè）会建设的有效工具。而加（jiā）快“人（rén）工智能＋”产业融合、赋（fù）能更多行业应用落（luò）地，更成为社会各界（jiè）共同（tóng）的（de）期待。

然而，不久前（qián）在由中国人（rén）工（gōng）智（zhì）能学会主办的（de）2020中（zhōng）国人工智能产业年会上，最新发布的报告指出，目前已成熟应（yīng）用的人工智能技术仅为（wéi）语音（yīn）识别，机器学习、计算机（jī）视觉（jiào）、自然语言处理、知识图（tú）谱、智能机器人等技术距离生长成熟尚（shàng）需数年时间，而无人（rén）驾驶汽车在未（wèi）来10年内都（dōu）不太可（kě）能（néng）出现。

从实（shí）验室走向大规模商（shāng）用，人（rén）工智能还需要多久？尚存在哪些“堵点”“痛点”？在许多业内专家看来，正视人工智能尚存（cún）在的诸多挑战，对技术（shù）赋能抱有理性（xìng）期待，方能（néng）让其回归技术本质，成为更多产业变革创新的动力源泉。

算法不透明导致的（de）不可解释

2016年，谷歌人工智能系统AlphaGo击败世界（jiè）围棋冠军李世石（shí），令世（shì）人大为震（zhèn）动。依（yī）靠人工（gōng）智能深（shēn）度学习（xí）理论的突破，计算（suàn）机可以模仿人类（lèi）作出决策，然而，这仅（jǐn）基（jī）于（yú）大量的（de）数据（jù）学习,而（ér）非因（yīn）果（guǒ）或规（guī）则推（tuī）理（lǐ），整个决（jué）策（cè）过程仍（réng）是一个“黑箱”，人（rén）类难以理解，导致（zhì）追责难。

复（fù）旦大学计算机科（kē）学技（jì）术学（xué）院院长姜育刚举例（lì），此前（qián），美国IBM公司研发了人工（gōng）智（zhì）能系（xì）统“沃森”帮（bāng）助（zhù）医（yī）生进行诊疗决策。然（rán）而，许多医（yī）生（shēng）很快发现在使用（yòng）“沃森”时，系统给出（chū）了多个不安全、不正（zhèng）确的治疗意见，甚至在极端的诊断案例中，“沃森”给有出血症（zhèng）状（zhuàng）的癌症病人开（kāi）出了容易导（dǎo）致出血的（de）药物，严重时可致患者死亡。然而（ér），医生却并不知道为（wéi）什（shí）么“沃森（sēn）”给出了这样的（de）意见。决策步骤的不可解释，带来（lái）诸多不确定性。

近年来，人工智能应用于新药研发被寄（jì）予（yǔ）厚望（wàng）。然（rán）而（ér），算（suàn）法的不可解（jiě）释性却横（héng）亘在前。相关研发和监管部门需要清楚地知道药物（wù）开（kāi）发中使用的算法,从而理解（jiě）人工（gōng）智能主导的决策背后的逻辑。如果（guǒ）不对（duì）监（jiān）管实现算（suàn）法透明化,人（rén）工（gōng）智能（néng）将会（huì）是一个无法进行严（yán）谨的科学评（píng）价（jià）及（jí）验证的“黑（hēi）匣子”。这可能会导致在药（yào）物审批过程中出现种种无法预料的问题,比如对人工智能“发现”的生物标记物的接（jiē）受（shòu）度（dù）不明。此（cǐ）外，对（duì）于智能政务、无（wú）人驾驶这样安全性（xìng）要求极高的行业，人工智能的引入自然更为谨（jǐn）慎。

“深度学习的算（suàn）法和核（hé）心模（mó）型需要能够真正展开，让公众知晓它的（de）机理模型”，上海人工（gōng）智能研究（jiū）院有（yǒu）限公司（sī）总（zǒng）经理宋海涛建（jiàn）议。中科院（yuàn）软件研究所（suǒ）研究员薛云志则指出，人（rén）工（gōng）智（zhì）能面（miàn）向不同知识背景的（de）用户，要（yào）能以简（jiǎn）单、清晰的方式，对决策过程的根据和原因进行说明，并能对系统决（jué）策（cè）过（guò）程关键节（jiē）点（diǎn）的数据加（jiā）以追溯并能够审计（jì），这在未来人工智能应用大（dà）规模落（luò）地（dì）时，是特别需要关注的（de）特性（xìng），也（yě）是实施监管（guǎn）的必（bì）要。

易受欺骗引（yǐn）发安全性质（zhì）疑

作（zuò）为人工智能技术（shù）的“大热选手”，深度学习可以通过对大量已（yǐ）知样本的训练，制作（zuò）自己的样本，这是深度学习的（de）特点，同样也是（shì）痛点。

京东人工（gōng）智能研究院院长周伯文坦（tǎn）言，人工智能目前在面向产业化落地（dì）时（shí），遇（yù）到（dào）的巨大挑战正是真实环境的开放边界（jiè）和规则（zé）模糊，数（shù）据的“噪音”非（fēi）常多，使得智（zhì）能模（mó）型（xíng）的部（bù）分（fèn）结果和使用情况难以让人信赖。

姜育刚指出，人工（gōng）智能目前的智能判别模式（shì）存在缺陷，容易被（bèi）对（duì）抗样本所欺（qī）骗。比如图像识别，在（zài）一张人像（xiàng）图片（piàn）上加入一些非常少量的干（gàn）扰，人为视觉看上去基本没有区别，但人工智能模（mó）型（xíng）就会（huì）产生识别错误；再如自动驾驶，一张“限速80码”的交通（tōng）标牌，加入一（yī）些干扰后，就可能（néng）被机器识别成（chéng）“禁止通行”。显然，存（cún）在（zài）很（hěn）大的安全隐患。

语音（yīn）识别领域也存在这种问题。技术人员（yuán）在语音上任意加（jiā）入（rù）非常微小的（de）干扰，语音识别系统（tǒng）就可能会识别错误。同样，在文本（běn）识别领域，改变一个字（zì）母就可以使得文本内容被错误分类。

此外，若（ruò）深度学（xué）习（xí）的数据集中（zhōng）存在隐藏的偏（piān）见，人工智能（néng）系统无（wú）法发现，也不会否（fǒu）定。缺（quē）少反（fǎn）馈机制的“照单（dān）全收（shōu）”，最终可能导致生成的结（jié）果并不客观（guān）。

例如（rú）在行业内已（yǐ）经出现的，人工智能在深（shēn）度学习后对女性（xìng）、少（shǎo）数族裔、非主流文化群（qún）体产生“歧视”：亚（yà）马逊通过人工（gōng）智能筛选简历，却发（fā）现了系统对女性存在偏见导致最终关闭（bì）。更为（wéi）常（cháng）见的是手机软件利用人工智能（néng）算（suàn）法导致的（de）大数（shù）据“杀熟”，如根据手机类型的（de）不同，可能会推荐不同类型的商品（pǐn），甚至打车（chē）时推荐不同价格、档次（cì）的（de）车辆（liàng）。

目前,“AI+金融”的发（fā）展如火如荼。但当金融机构均采用人工智（zhì）能进行（háng）决策时,其市（shì）场信（xìn）号解读就可能趋同与不断强化,导致形成偏离正常市场规律的结果（guǒ）。而这些不正常的市场变化也会成为人工智能（néng）的（de）学习基础,将（jiāng）人（rén）工智（zhì）能的（de）决策逻辑进一（yī）步畸（jī）化,容易造（zào）成恶劣的后果。

以上这些问（wèn）题，影响着人（rén）工（gōng）智（zhì）能赋能实体经济的安（ān）全性，凸显产（chǎn）业对技（jì）术可信赖性的呼唤。“从AI到可信赖AI，意味着我（wǒ）们需要在技（jì）术层面上解决鲁棒性（稳定（dìng）性）、可解释性和（hé）可复（fù）制性这些核心技术挑战。同时为了大规（guī）模产业化应用，我（wǒ）们必须考虑（lǜ）到人（rén）工智能的（de）公平（píng）性和负（fù）责任。这几个维度是人工智能必须要解决的问（wèn）题。”周伯文（wén）说（shuō）。

法律规制和伦理问题待完善

“目前的智能算法还存在给出的决策不符合伦理道（dào）德要求的问题。”姜育刚指出（chū），在应用中已（yǐ）发（fā）现，智能算法的决（jué）策没有从改（gǎi）善人类生活、服（fú）务人类（lèi）社会的角度来进行。如智能音响在对话中（zhōng）出现“劝主（zhǔ）人自杀”的内容（róng），聊天机器人学会了骂脏话和种族歧视等。而这（zhè）些不友好的决策都是模型从数据中学来的，并不是研（yán）发者对人工智（zhì）能模型设（shè）置（zhì）的目标。

同时，人工智能（néng）算法需要海（hǎi）量的数据驱动，训练数据可以被算法恢复（fù），个人（rén）隐私（sī）存在泄露和（hé）被（bèi）侵犯（fàn）的风（fēng）险，而大量的数据也存（cún）在共享壁垒（lěi）。在人工智能赋（fù）能金（jīn）融的（de）过程中，这一问题尤被关（guān）注。最新报告显示，近年来（lái）,每年发生金（jīn）融（róng）隐私泄露事件（jiàn）以（yǐ）大约35%的速度（dù）在增长。加之（zhī）近（jìn）年来（lái）人工智能技（jì）术在金（jīn）融行业的广泛应（yīng）用,由此带来的银行数据、保（bǎo）险（xiǎn）数据、网贷业务及（jí）大数据等个人信（xìn）息保护问（wèn）题日（rì）益凸显。

在2020年（nián）抗击新（xīn）冠肺（fèi）炎疫情期间,人（rén）工智（zhì）能技术在我国响（xiǎng）应速度快、介入力度大，帮助推出了（le）CT影像的辅助诊断系统（tǒng），提升了医生诊（zhěn）断的速（sù）度和信心（xīn）。然而，医疗影像智能诊断（duàn）发（fā）展也面临（lín）着法律规（guī）制问题。与其他人工智能赋能（néng）行业（yè）的大（dà）数据相比，获取（qǔ）高质（zhì）量的医疗影像数（shù）据（jù）相对困难。不同（tóng）医疗机构（gòu）的数据（jù）,目前（qián）还很少互（hù）通、共享。而（ér）单个医疗机构（gòu）积累的数（shù）据往（wǎng）往不足以训练（liàn）出有效的深度学习模型。此外,使（shǐ）用医（yī）疗影（yǐng）像数据进行人工智能算法的训练（liàn）还涉及保（bǎo）护病人隐私等（děng）非技术问题。

此外，近年来，随着人工智能技（jì）术的深（shēn）入探索，科（kē）学界有人提出研发“人工生命（mìng）”，成（chéng）为（wéi）又一个（gè）伦理（lǐ）话（huà）题（tí）。对此，中国（guó）工程院院士李德毅（yì）表示，生（shēng）命不仅有智能，更要有意识。从伦理角度上（shàng），生命是人类的（de）底（dǐ）线，触碰底线要慎（shèn）之又慎。“所以，我（wǒ）们可以（yǐ）通过计算机技（jì）术继续（xù）研（yán）发没有意识、但有（yǒu）智能的（de）高（gāo）阶机器。让人类（lèi）的（de）智能在体（tǐ）外延伸（shēn），保持它的（de）工具性（xìng），而非人工创造意（yì）识。”

深圳云天励飞技术股份有（yǒu）限公（gōng）司副总（zǒng）裁郑文先同时提醒，“人工智（zhì）能的技（jì）术进步可（kě）以给社会带来非常正向的效益，不应因（yīn）为对隐（yǐn）私保护（hù）机制（zhì）等方面（miàn）的忧（yōu）虑而将人（rén）工智（zhì）能的问（wèn）题妖魔化。”他认为，当前（qián）人工（gōng）智能（néng）的法律法规尚不（bú）健全，亟待有关部门进一步科学制定和完善，这样（yàng）才能（néng）引导公众（zhòng）更加健（jiàn）康地看待这（zhè）一新（xīn）技（jì）术应用于产业。

亟待技术进步 发展新一代（dài）人工智能（néng）

面（miàn）对技术落地所（suǒ）遇到的种（zhǒng）种（zhǒng）“痛点”，许多专家给（gěi）出（chū）了这（zhè）样的（de）比喻：“人（rén）工智能相当于一个锤（chuí）子（zǐ），不能哪一个钉（dìng）子都（dōu）能砸。”

“我觉得，人工智（zhì）能发（fā）展的第（dì）一步是辅（fǔ）助，让重复复杂的劳动量由机器完成（chéng），在这个基础上，我（wǒ）们再创造条件逐渐向智能决（jué）策的方向（xiàng）发（fā）展。”郑州大（dà）学（xué）教授（shòu）蒋慧琴表示，对于业界（jiè）有人提出“人工智能超越（yuè）甚至取（qǔ）代人类”的期待和预计（jì），应保持冷静（jìng），“只有（yǒu）沿（yán）着这样（yàng）的方向坚持下来，才有可能达到我（wǒ）们的目标”。

中国科学技术发展战略研究院研究员（yuán）李（lǐ）修全认为（wéi），在重复性操作的生产环节和基于（yú）海量数据的高强度计算优化（huà）求解上，人工智能具（jù）有明显优（yōu）势（shì），应（yīng）当是当前应用于产业的主要方向。

华为（wéi）云人工智（zhì）能领域首席科学家田（tián）奇则认为，加速人工智能赋能（néng）产业落（luò）地，其与科学（xué）计算的深度融（róng）合应是（shì）显著趋势（shì），在工业、气象（xiàng）、能源、生物、医学等领域，需要大量科（kē）学计算，人工智能技术能为传统（tǒng）科学计算带来新的思路（lù）、方法和工（gōng）具，同（tóng）时由于传统（tǒng）科学计算（suàn）具有严密性，人工（gōng）智能也可以提高它本身的可解释性。

“推动人工智能进（jìn）入（rù）新（xīn）的阶段,有赖于与数学、脑科学等结合实现底（dǐ）层理论的突（tū）破。”中国（guó）科学院院士（shì）、清华大学人工智能研究院院长张（zhāng）钹说，未来所（suǒ）需要的第三代人工智能（néng）应是实现（xiàn）可解释的、鲁棒的、可（kě）信安全的智能（néng）系统，依靠知（zhī）识（shí）、数据、算法和（hé）算力（lì）四（sì）个要素，将（jiāng）实现从不（bú）带认知的人（rén）工智能转（zhuǎn）变为（wéi）带认知的人（rén）工智能。

如（rú）何解（jiě）释新一代人工智能（néng）？李德毅认为，传统人工智能是计算机（jī）智能，属于封（fēng）闭型人工智能。新一代（dài）人工智能应该（gāi）是开放性人工智能。当前，所有的计算机都是对软件工（gōng）程（chéng）师的智能编（biān）程代（dài）码进行一次又一次（cì）简（jiǎn）单执行，“但我们希望这个（gè）机器在学习过程（chéng）中能够（gòu）解决新的问题，学习应成为新一（yī）代人（rén）工智能解决现实问题（tí）的基础（chǔ）”。

清华大学智能技术与系统（tǒng）国家重（chóng）点实验室教授邓志东（dōng）建（jiàn）议（yì），数据和算力（lì）的增加总有天花板，要推动人工智能技术（shù）深（shēn）度赋能更多行业，需要的是核心关键技术突破，特别是（shì）认知智能的进（jìn）步，同（tóng）时，还要依靠（kào）智能高端芯片、传感器（qì）等零（líng）部件的硬件支撑（chēng），再借（jiè）助（zhù）我国5G信（xìn）息技术的优势，形成合（hé）力支撑产业落地和商（shāng）业化应用。

此外，人（rén）工智能标准化工作也应加速展（zhǎn）开。薛云志表示：“建立可信赖（lài）的（de）人工智能（néng）需（xū）要标准化（huà），一（yī）方面要（yào）从开发者训练（liàn）、测试（shì）与实验、部署（shǔ）运营和监管的（de）角度来做，另一（yī）方（fāng）面则要从芯片等硬（yìng）件、算法、产品系统出发，来制定标准和规范，同（tóng）时对（duì）人工（gōng）智能的风险、伦理、管理等（děng）标准研究也（yě）要尽快启动，这（zhè）些（xiē）都只是第一步。”