涉及高（gāo）层次伦理问题的（de）三项人工（gōng）智能标准

IEEE（美国电（diàn）气和电子工程师协（xié）会（huì））最新宣布了（le）三项（xiàng）新的人（rén）工智能发展标（biāo）准。IEEE 号称为“世（shì）界上最大的先进技术专业组织”。根据最（zuì）近（jìn）发布的一份报（bào）告，他们的人工智能标（biāo）准将优（yōu）先考虑人类，因为他们（men）承（chéng）诺要跟上（shàng）AI领（lǐng）域（yù）不断发展的脚（jiǎo）步。

在发布（bù）的《合（hé）乎伦理（lǐ）的设计：将人类福祉与人工智（zhì）能和自主系统优先考虑的愿景》报告中，共分为八（bā）个（gè）部部分（fèn）阐述了新的（de）人工智能发展问题。分别是：一（yī）般原则（zé），人工智（zhì）能系统赋值；指导伦理学研究和设计的方法学；通（tōng）用（yòng）人工智能和超（chāo）级人工（gōng）智能的安全与福祉（zhǐ）；个（gè）人数据和（hé）个人访问（wèn）控制；重新构造自动武器系统；经济/人（rén）道（dào）主义（yì）问题；法律。

一般（bān）原则涉及高（gāo）层次伦理问（wèn）题，适用于所（suǒ）有类型的人工智（zhì）能（néng）和自主系统（tǒng）。在确（què）定一般原则（zé）时，主要考（kǎo）虑三大（dà）因素（sù）：体（tǐ）现人权；优先（xiān）考虑最大化对人类和（hé）自（zì）然环境的好处；削弱人工（gōng）智能（néng）的风（fēng）险和负面影响。

人（rén）类利益原则要（yào）求考虑如何（hé）确保AI不（bú）侵犯人（rén）权。责任原则涉及如（rú）何确保（bǎo）AI是可（kě）以被问责的。为（wéi）了（le）解决过错（cuò）问题，避免公（gōng）众困惑，AI系统必（bì）须在程序（xù）层面具有可责性，证明其（qí）为什么以特定方式运作。透明性原则意味着自主系统的运作（zuò）必（bì）须是透明的。AI是（shì）透明的意（yì）味着（zhe）人们能够发现其如何以及为何做（zuò）出（chū）特（tè）定（dìng）决定。

在（zài）关于如（rú）何（hé）将人类规范和（hé）道德价值观（guān）嵌（qiàn）入AI系（xì）统中，报（bào）告（gào）中表（biǎo）示由于AI系统（tǒng）在做决（jué）定（dìng）、操纵其所（suǒ）处（chù）环境（jìng）等方面越来（lái）越（yuè）具有（yǒu）自主性，让其（qí）采纳、学习并遵守（shǒu）其所服（fú）务（wù）的社会和团体（tǐ）的（de）规范和价值是（shì）至（zhì）关重要的。可以（yǐ）分三步来实现将（jiāng）价值嵌入（rù）AI系统的目的（de）：第一，识（shí）别特定（dìng）社会或（huò）团体（tǐ）的规范（fàn）和价值；第二，将这些规范（fàn）和价值编写（xiě）进AI系（xì）统；第三，评估被（bèi）写进（jìn）AI系统的规范和价值的有效性，即其（qí）是否和现实的规（guī）范和（hé）价值相一致（zhì）、相兼容。

虽然上述的（de）相关研究一（yī）直（zhí）在持续，这些研（yán）究领域包（bāo）括机器道（dào）德（Machine Morality）、机器伦理学（xué）（Machine Ethics）、道德机器（Moral Machine）、价值一致论（Value Alignment）、人工道（dào）德（Artificial Morality）、安全AI、友（yǒu）好AI等（děng），但开（kāi）发能够意识到并（bìng）理解人（rén）类（lèi）规范和价值的计（jì）算机系统，并让其在（zài）做决策（cè）时考虑这（zhè）些问题，一直困扰着人们。当前主要（yào）存（cún）在两种路径（jìng）：自上（shàng）而下（xià）的路（lù）径和自下而上的路（lù）径（jìng）。这一领（lǐng）域（yù）的研究（jiū）需要加强（qiáng）。

报告中还指出需要指导伦理研（yán）究（jiū）和设计的方法论，通用人工智能和超级人工（gōng）智（zhì）能（néng）的安全与（yǔ）福祉（zhǐ），重（chóng）构自主武（wǔ）器系统，以及经（jīng）济/人（rén）道主义（yì）问题等八个人（rén）工（gōng）智能发展面（miàn）临的问题。报告中收集（jí）了超过一（yī）百位来自（zì）人工（gōng）智能（néng）领域学术界，科学界，以及政府相关部门的思想领袖的意（yì）见（jiàn），整合了人（rén）工（gōng）智能、伦理学（xué）、哲（zhé）学和（hé）政策（cè）等多个领域专业知（zhī）识。它的（de）修（xiū）订版EAD（Ethically Aligned Design） 版本将会在2017年底（dǐ）推出，报告（gào）增至为十（shí）三个（gè）章节（jiē），含二百（bǎi）五（wǔ）十多个全球思想领袖的精华分享。

IEEE 机器人和自（zì）动化协会（huì）的主席Satoshi Tadokoro 解释了他们为什么（me）想要制定（dìng）这样的标准：“机器人和自动系（xì）统将为（wéi）社会带来重（chóng）大创新（xīn）。最近，公众越来越关注可（kě）能发生的社会问题，以及可能产生的巨大潜在利益。不幸的（de）是，在这些讨论中，可（kě）能会出（chū）现一（yī）些来自虚构和想（xiǎng）象的错误信息。”

Tadokoro 继（jì）续说道：“IEEE 将基于科学和技术（shù）的公认事实来引入知识和智慧，以帮助（zhù）达成公共决策（cè），使（shǐ）人类的（de）整体（tǐ）利益最大化。”除（chú）了AI伦理标准外，还有（yǒu）其他两个人工（gōng）智能标准也被（bèi）引入报（bào）告（gào）中，每个项目都由领（lǐng）域专家领导。

第一个标准是：“机器化系统、智能（néng）系统和自动系统的伦理推（tuī）动标准”。这个标准探讨了“推动”，在（zài）人工（gōng）智能世界里，它指（zhǐ）的是AI会影响人（rén）类行为的（de）微妙行动。第二个标准是（shì）“自动（dòng）和半（bàn）自动系统的故（gù）障安全设计标准”。它包含了自动技（jì）术，如果它们发生（shēng）故障，可能会对人类造（zào）成（chéng）危害。就目前而言，最明显的问题（tí）是（shì）自动驾驶汽车。第（dì）三（sān）个标准是“道德化（huà）的（de）人（rén）工智能（néng）和自动系统的福祉衡量标准”。它阐述了进步的（de）人工（gōng）智能技术如（rú）何有益于人类的（de）益（yì）处。

这些标准的（de）实施可能（néng）比我们想（xiǎng）象的要早，因为像 OpenAI 和 DeepMind 这样的公司越来越（yuè）快地（dì）推进（jìn）人工智能的（de）发展，甚至创造出（chū）能够自（zì）我（wǒ）学习（xí）又扩（kuò）大“智能（néng）”领域的人工智能系统。专家（jiā）们（men）认为（wéi），这样的人工智能会破坏世界稳定，导（dǎo）致大规模的失业和（hé）战争，甚至转（zhuǎn）向创造“杀（shā）人武器（qì）”。最近（jìn），联合（hé）国的重要讨论（lùn）促使人们开（kāi）始认真思考，需对将人工智能技术当作（zuò）武器使（shǐ）用（yòng）进行更严格的监管。