人工智能机器人没（méi）有感（gǎn）情，也会区别对待人类？

人有（yǒu）七情（qíng）六欲，所以在对待一些事情上，很（hěn）多虽然说好是（shì）秉公办理，公事公（gōng）办，但（dàn）多少都会有（yǒu）所偏差，会感（gǎn）情用事，这个无可避免（miǎn），智能尽量减少，但在大众的认知中（zhōng），人工智能的决策都是绝对理性与客观的（de），因为我（wǒ）们知道背（bèi）后驱使它的是冷冰冰却比（bǐ）千言万语更（gèng）接近事（shì）实的数据，然而，近期专家（jiā）发现，人工智能其实也会带着（zhe）有色眼镜去（qù）看人。

据国外媒体（tǐ）报道，斯坦福大学的一项研究显示，亚马逊、苹果、谷（gǔ）歌、IBM和微软的语（yǔ）音识别（bié）系统存（cún）在种族（zú）差异，在白人用户（hù）中（zhōng）出现的错误，要比在黑人用（yòng）户中（zhōng）少得多。

研究显示，这五（wǔ）大科技公司的语音识别系统在白人中错误（wù）识别单词的概（gài）率（lǜ）为（wéi）19％。而在黑（hēi）人用户中（zhōng），则提升至35％。此外，大约（yuē）2％的白人音频片段（duàn）被这些系统认为（wéi）是不可（kě）读的（de）。而在黑（hēi）人用户中，这一比例却高达（dá）20％。

美国国家标准与技（jì）术研究所（NIST）也曾测试了两种（zhǒng）最常见的（de）人脸识（shí）别算（suàn）法，得出了四点结（jié）论：

1． 在（zài）一对（duì）一（yī）匹（pǐ）配中，大多数系统对亚裔和非裔美国人比对白（bái）人面孔的假阳性匹配率（lǜ）更高，有时（shí）是10倍甚至100倍。

2． 这（zhè）种情况在亚洲（zhōu）国（guó）家发（fā）展（zhǎn）的（de）人脸识别算法中有所改变，在亚洲和白人（rén）之（zhī）间，假阳（yáng）性的差异非（fēi）常小（xiǎo）。

3．美（měi）国（guó）开发的算法始终不擅长（zhǎng）匹配（pèi）亚（yà）洲、非洲（zhōu）裔美（měi）国人和（hé）美洲原（yuán）住民的面孔（kǒng）。美国原住民得到的是错误率（lǜ）最高。

4． 在一（yī）对多的（de）配对中，非裔美国女性的假阳性率（lǜ）最低，这使（shǐ）她们被错误指控（kòng）犯罪的风险最（zuì）高。

事实上，早在2015年就已经存在计算（suàn）机视觉技术犯错（cuò）的例子，表明人工智能技（jì）术（shù）存在对女性和（hé）有色人（rén）种的偏见，实例包括Google 等科技业巨头所提（tí）供的高人气（qì）网络服务（wù），Google 照片（piàn）应用程序（Google Photos app）被（bèi）发（fā）现将非裔美国人标记为「大猩猩」，谷歌曾也（yě）为此进行公开道歉。

在探（tàn）讨如何消除人（rén）工智能的不（bú）客观之前，我（wǒ）们先来看看AI的有色眼（yǎn）镜（jìng）到底（dǐ）从何（hé）而来。

数据是“罪魁祸（huò）首”

现阶段让（ràng）AI提升认知（zhī）世界能（néng）力的最有（yǒu）效途径仍然是监（jiān）督学（xué）习，而目前AI算法能（néng）学习的数（shù）据（jù），几乎全部都是通过人力逐一（yī）进行标注（zhù）而得来的，数据集质量（liàng）的高低直接决定（dìng）最终模（mó）型的（de）效果。

数据标（biāo）注（zhù）者通常是人类，而人类是“复杂”的（de）生（shēng）物（wù）。这也（yě）是导致AI产生偏见的一个主要因素，大多数机器学习任务都是（shì）使用（yòng）大型（xíng）、带标注的数（shù）据集来训练，AI会基于开发者提供的训练数据推断出规律，再将（jiāng）规律套用（yòng）在某些资料中。

打个比方，在人（rén）脸识别应用中，如果用于训练的数据里（lǐ）白人男性比黑（hēi）人女性更多，那白（bái）人（rén）男性（xìng）的识别率将会更高（gāo）。

导致AI产生偏见另（lìng）一个原（yuán）因可以归（guī）于（yú）算法（fǎ）本身，一个常见的（de）机器学习程序会试图最大化训练数据集的整体预测准确率。

有缺陷的算法（fǎ）还会造成恶性循环，使（shǐ）偏见越发严重。例如（rú）谷歌翻译，会（huì）默认（rèn）使用男（nán）性代词，这是因为英语语料库中（zhōng）男性代词对女性代词的比例为2：1。

算法（fǎ）的（de）原则（zé）是由（yóu）AI自（zì）行进行学习，乍看之下很有效率。不过，一（yī）但提供的资料不够全（quán）面，或开发者（zhě）没有想方设法避免歧视，AI推导出的结（jié）果便很容易（yì）带有偏见。

AI并不理解“偏见”

偏见这个词是（shì）人类（lèi）创造的，也是（shì）人（rén）类定义的，AI并（bìng）不能理（lǐ）解偏见的含义。
机（jī）器学（xué）习的方法会让AI带上了有色眼镜，但是改变 AI 学习的方式（shì）也不是好的（de）解决方式。

或许我们应该从（cóng）自己身上（shàng）找找原因，毕（bì）竟（jìng）导致AI产生（shēng）偏见的原（yuán）因，有部分要（yào）归咎于（yú）他们所使（shǐ）用的（de）语言。人们需（xū）要弄（nòng）清楚（chǔ）什么是（shì）偏见，以及偏（piān）见在语言中（zhōng）的传递过（guò）程，避免这些（xiē）偏见在日益强大的 AI 应用中（zhōng）更大（dà）范（fàn）围的传（chuán）播。

前微软副总（zǒng）裁沈向洋博士曾在公开课（kè）《打造（zào）负责任的AI》中指出（chū）：“人工智能已经开始做出人类无法理解的决定了（le），我们需要开启人工智能的黑箱，了解AI做出（chū）决定背后（hòu）的原（yuán）因。”

算法之所以会对人类进（jìn）行（háng）区别对待，原因在于训练算法用的基准数据（jù）集通常（cháng）是来（lái）自新闻和网页的数据，就存在着由语言习惯造成的“性别偏见”，算法也自然“继承”了人（rén）类对这些词（cí）汇理解的（de）性别差异（yì）。

AI技术距（jù）离完全消除（chú）技术偏见还有很长的一段路（lù），但各大巨头也已经在（zài）技术（shù）层（céng）面（miàn）做出努力。

谷歌开源了一项（xiàng）名为“What－If Tool”的探测工具，IBM将（jiāng）研发的偏见（jiàn）检测（cè）工具—AI Fairness 360 工具包（bāo）开源，包括（kuò）超过（guò） 30 个公平性指（zhǐ）标（fairness metrics），和 9 个偏差缓（huǎn）解算法，研究人员和开发者可将工（gōng）具整合至自（zì）己的机器学习模型（xíng）里，检测并减少可能产生的偏（piān）见和歧视。

人类的行为是收到外界影响（xiǎng）的，而（ér）这（zhè）种语言传统中（zhōng）出现（xiàn）的偏见，是在人文历史中不断加深（shēn）嵌入的，在（zài）“偏见”通过代码传播之际，我们必须弄（nòng）清楚（chǔ），是否（fǒu）简单的语言学习就足（zú）以解释（shì）我们观察到传（chuán）播中出（chū）现的偏见。

最重要的是大众需要了解“偏见”从何（hé）而来，从而在（zài）社（shè）会中消除这种不（bú）文明（míng）的“偏见”。