涉及高层次伦理问（wèn）题的三项人工智（zhì）能标（biāo）准

IEEE（美国（guó）电气和电子工程师协会（huì））最新宣布了三项新的人工智能发展标准。IEEE 号（hào）称为“世界上最大（dà）的先进（jìn）技术专业组织”。根（gēn）据最（zuì）近发布的一份报（bào）告，他们（men）的人工（gōng）智能（néng）标准将优先考虑人（rén）类，因为（wéi）他们承诺要（yào）跟上AI领域不断发展的（de）脚步。

在发布的《合乎伦理的设计：将人类（lèi）福祉（zhǐ）与人工智能和自主（zhǔ）系统优先考虑的（de）愿景》报告中，共（gòng）分为（wéi）八个部部分阐述了新的（de）人工智能发展问题（tí）。分别是：一般原则（zé），人工智（zhì）能系统（tǒng）赋值；指（zhǐ）导伦（lún）理学（xué）研究和设计的方法学；通用人工智能和（hé）超级人工智能的安全与福祉；个人（rén）数据和个人访问控制；重新（xīn）构造（zào）自动武（wǔ）器系统；经济/人道主义（yì）问题；法律。

一般原则（zé）涉及高层次伦理问题，适（shì）用于所有类型的（de）人（rén）工智（zhì）能和自主（zhǔ）系统（tǒng）。在（zài）确（què）定（dìng）一般原则（zé）时，主要考虑三（sān）大（dà）因素：体现（xiàn）人权；优先（xiān）考虑最大化（huà）对人（rén）类和自然环境（jìng）的好处（chù）；削（xuē）弱人工智能（néng）的风险和负面影响。

人类利益原则要求考虑如何确保AI不侵犯人权。责（zé）任原则涉及如何确（què）保AI是可（kě）以被问责的。为了（le）解决过（guò）错问题，避（bì）免公众困惑，AI系（xì）统必须在程序层面具有可（kě）责性，证明其（qí）为什么以特定方式运作。透明（míng）性原（yuán）则意味（wèi）着自主系统的运（yùn）作必须是透（tòu）明的。AI是（shì）透明的意（yì）味着人们能够发现其如何以及为何做出特（tè）定决定。

在关于如何将人类（lèi）规范和道德价（jià）值观嵌入AI系统中，报告中表（biǎo）示由于AI系统在做决定、操纵（zòng）其所（suǒ）处环境（jìng）等方面（miàn）越来越具有（yǒu）自主性，让其（qí）采纳、学习并遵守其所服务的社会（huì）和团（tuán）体的规范（fàn）和价值是至（zhì）关重要的。可以分三步来实现将价值嵌入AI系统（tǒng）的目（mù）的（de）：第一，识别特定社会（huì）或团体的规范和价值；第二，将这（zhè）些规范和价值编写进AI系统；第三（sān），评估被（bèi）写进AI系统的规范和价值的有效性，即其是否和现实的规（guī）范和价值相一致、相兼容。

虽然上述的相关研究一直在持续，这（zhè）些研究领域包括机器道德（Machine Morality）、机器伦理学（Machine Ethics）、道德（dé）机（jī）器（qì）（Moral Machine）、价值一致论（Value Alignment）、人工道德（Artificial Morality）、安全AI、友好AI等，但开发能够（gòu）意识到并理解人类规范和价值的（de）计算机系统，并让其在（zài）做（zuò）决策时考（kǎo）虑这些（xiē）问题（tí），一直困扰着人们。当前主（zhǔ）要存（cún）在两种（zhǒng）路径：自（zì）上（shàng）而下的路（lù）径和（hé）自下而上的路径。这一领域的研究需（xū）要加强。

报告中还指出需要指导伦理研究和设计的方法论，通（tōng）用人（rén）工智能和超（chāo）级人（rén）工（gōng）智能（néng）的安全与福祉，重构自（zì）主武器（qì）系统，以及经济/人道主（zhǔ）义问题等八个人（rén）工智能发展面临的问题。报（bào）告中收集了超过一百位来（lái）自人工智能（néng）领域学术界，科学（xué）界（jiè），以及（jí）政府（fǔ）相关部门的思想领袖的意见，整合了人工智能（néng）、伦理学、哲（zhé）学和政（zhèng）策等多个领域（yù）专（zhuān）业（yè）知识。它的修订版EAD（Ethically Aligned Design） 版本将会在2017年底推出，报（bào）告增至（zhì）为十（shí）三个章节，含二百（bǎi）五十多个全球思想领（lǐng）袖的精华分享。

IEEE 机器人和自动化协会的主席Satoshi Tadokoro 解（jiě）释了他们为什（shí）么想要（yào）制定（dìng）这（zhè）样（yàng）的（de）标准：“机器人（rén）和自（zì）动系统将为社会带来重大创（chuàng）新。最近（jìn），公众越来（lái）越关注可能发（fā）生的社会（huì）问题（tí），以及可能产生（shēng）的巨大潜在利益。不幸的是，在这些讨论中，可能会出现一些来自虚（xū）构和想象的错误信息。”

Tadokoro 继（jì）续（xù）说（shuō）道：“IEEE 将基于科学（xué）和技术的公认事实来引入（rù）知识和智慧，以帮助达成公共决策，使人类的整体利益最大化。”除了AI伦理标准外，还有其他两个（gè）人工（gōng）智能（néng）标准（zhǔn）也被（bèi）引入报告中（zhōng），每个项目都由领域专家领导。

第一个标准是：“机（jī）器化系统、智能系（xì）统（tǒng）和（hé）自动（dòng）系统（tǒng）的伦理推动标准”。这（zhè）个标准探讨了“推动”，在人工智能世界里，它指的是AI会影（yǐng）响人类行为（wéi）的（de）微妙行（háng）动。第二个标准是（shì）“自动和半自动系（xì）统的故障安全设计标准”。它包（bāo）含了（le）自动技术，如果它们（men）发生（shēng）故障，可能会对人类造（zào）成（chéng）危害。就目前而言，最明显的问（wèn）题（tí）是自（zì）动驾驶汽车。第（dì）三个标（biāo）准是（shì）“道（dào）德化的人（rén）工智能和自动系统的福祉衡量标准”。它阐述了进步（bù）的人工智（zhì）能技术（shù）如何有（yǒu）益于人类（lèi）的益处（chù）。

这些标准的实（shí）施可能比我们想象的要早，因为像 OpenAI 和 DeepMind 这（zhè）样（yàng）的公司（sī）越来越快地推进人工智能（néng）的发展，甚至创造出能够自我学习又（yòu）扩（kuò）大“智（zhì）能”领域的人工（gōng）智能系统。专（zhuān）家们认为，这样的人工智能会破坏世界稳定，导致大规模的失业和战（zhàn）争（zhēng），甚至转向创造“杀人武器”。最（zuì）近，联合国的重要讨论促使（shǐ）人们开始认（rèn）真思考，需对将人工智能技术当作武器使用进行更严格的监管。