“无论（lùn）至于何处，遇男或女，贵人（rén）及奴婢（bì），我之唯一目的，为病家谋幸福（fú）……凡我所见所闻，无论（lùn）有无（wú）业（yè）务关系，我愿保守秘密。”希（xī）波克拉底誓言是每一（yī）个（gè）医学生入行时要（yào）立下的誓（shì）词。数千年以来（lái），这个宣言以一种亘古不变的精神（shén）在（zài）医学技术的（de）发展中传承。它明（míng）确了医（yī）学（xué）的基本伦理规范，也赋予了医生“健康所系（xì），性命相托”的责任感。

科学（xué）技术的飞速（sù）发（fā）展，给人类（lèi）社会带来了巨大的便利，也带来了（le）新的（de）伦理挑战。在医学领域，尤其是人（rén）类基因组测序、转（zhuǎn）基因技术、克隆技术（shù）、胚胎干细胞、合（hé）成生物学等（děng）前沿领域，科（kē）技（jì）进步引发的伦理（lǐ）、法律、社（shè）会（huì）问题已（yǐ）成为（wéi）学术界和社会普（pǔ）遍关（guān）注的热点问（wèn）题。

专家预测，到2024年，AI医疗将是一（yī）个（gè）近200亿美元的市场。人工智（zhì）能（néng）有望（wàng）成为医疗实践的福音，能（néng）够改善（shàn）诊断（duàn）效果、提供个性化治疗，并及时发现未（wèi）来（lái）的（de）公共医疗风险。即便如此，该技术仍然（rán）引发了（le）一系列棘手的道德（dé）难题（tí）。当AI系（xì）统决策（cè）失误时会出现（xiàn）哪些问题？如果有问题的话，该谁负责？临（lín）床（chuáng）医生如何（hé）验证（zhèng）甚至（zhì）了解AI“黑匣子”的内容？他们（men）又该如何避免AI系统的（de）偏见并保护患者隐私？

虽然AMA在（zài）指南中表（biǎo）示，人（rén）工智能应该设计用于识别（bié）和解（jiě）决偏见、保障弱势群体需求、实现过程（chéng）透明（míng）性（xìng）并保护患者隐私，但（dàn）在具（jù）体实施中，这些要求很难得（dé）到满足。以下是医学从业者（zhě）、研究人员（yuán）和医学（xué）伦理学家需要面对且最为紧迫的道德挑（tiāo）战（zhàn）。

2017年，芝加哥大学医学院（UCM）的数据（jù）分析团队使（shǐ）用人工智能来预测患者可能的住院时长。其目标（biāo）是确定可以提前出院的患者，从而（ér）释放医（yī）院资（zī）源并为新的患者（zhě）提供救治。然后，医院还会指派一名（míng）案（àn）例管理人员来帮助患（huàn）者处理保险事宜，确（què）保患者及时回家，并为其早日出院（yuàn）铺（pù）平道路（lù）。

在（zài）测试系（xì）统时（shí），研究小（xiǎo）组发现，预测（cè）患（huàn）者住（zhù）院时（shí）间最准确的因素是他们（men）的邮（yóu）政编码，这（zhè）立刻给研究团队敲响了（le）警钟。他们知道，邮编与患者的种族和社会经（jīng）济地（dì）位密（mì）切相关。依（yī）靠邮政编码做预测，会（huì）对芝加哥最贫困社区的非裔美国人（rén）造（zào）成（chéng）不良（liáng）影（yǐng）响（xiǎng），这些人往往住院（yuàn）时间更长。因此该团（tuán）队认为使用该（gāi）算法分配（pèi）案例管理员将（jiāng）是有偏（piān）见和（hé）不（bú）道德（dé）的。

这个案例指出了基于人工智（zhì）能的（de）医疗保（bǎo）健工（gōng）具的弱点：算法通常可以反（fǎn）映现有的（de）种族或性别健康（kāng）差异。这个问题如果没有得到解（jiě）决，就可能会导致（zhì）长期性（xìng）偏见并固化医疗保健（jiàn）领域现（xiàn）有的（de）不平等现象。偏见还（hái）会影（yǐng）响罕见病或（huò）新（xīn）疾病（bìng）的治疗，这些（xiē）疾病的（de）治疗（liáo）数据有限。人工智能系统可能会直接（jiē）给出一般治疗方案，而不考虑患者（zhě）的（de）个人情况（kuàng）。这时，人工智能（néng）拟议的（de）治疗方案是无效的。

第二个道德挑战（zhàn）是，通（tōng）常情（qíng）况下，研（yán）究人员并不了（le）解AI系统是如何计算出结果的，即所谓的黑（hēi）匣（xiá）子问题。先进的机器学习技术（shù）可以在（zài）没（méi）有明（míng）确指示的（de）情况下吸收大量数据并识别统计模式（shì），整个过程人类尤其难以验证。盲目（mù）遵循这（zhè）种（zhǒng）系统的医生可（kě）能（néng）会（huì）在无意（yì）中（zhōng）伤害患者（zhě）。

其中（zhōng）一个模型是“基于规则”的系统，其决策过程对研究人员来说是透明的，却预测出违反直觉的结果：患有肺炎和（hé）哮喘的患者（zhě）比仅（jǐn）患有肺炎的患者存活机会更（gèng）大，因（yīn）此患有两种疾病的患者可以（yǐ）推迟治疗。显而易见，医护（hù）人员能够清（qīng）楚（chǔ）的判断（duàn）患有两种疾病（bìng）的患者具（jù）有更高的死亡（wáng）风险，但算法不（bú）能。所（suǒ）以仅仅依靠这种算法，意（yì）味（wèi）着最危急的病（bìng）人（rén）将不（bú）能及时（shí）得到他们所需要的治（zhì）疗（liáo）。

另一种使用神（shén）经网络和机器学（xué）习算法的模型（xíng）产生了（le）更准确（què）的结果，但其推理过程是不透明的，因此研究（jiū）人员无法及时发现（xiàn）其中的问题。该研究的负责（zé）人、微软公（gōng）司研究（jiū）员理查德卡鲁阿纳得出结（jié）论：神经网（wǎng）络（luò）模型风险太大，无（wú）法（fǎ）进入临（lín）床试验，因为没（méi）有办法判断它是否犯了（le）类似的错误。根据（jù）AMA的医学伦理基本原则，医生必须完全对（duì）患者负责（zé）。但（dàn）是，当（dāng）人工智能（néng）进入等（děng）式时，责任又该如何（hé）划分？这个问题的（de）答案仍在由伦理学家、研究人（rén）员（yuán）和监管机构制定。

人工智能打（dǎ）破了提供医疗服（fú）务（wù）的群体（tǐ）限制，一（yī）些传统上不受医（yī）学伦理约束（shù）的人，比如数据科（kē）学家（jiā），也可以为患者提供（gòng）医（yī）疗服（fú）务。此外，正如黑匣子问题所示，人（rén）们并不总是（shì）能够确切地知道人工智能（néng）系（xì）统（tǒng）是如何做出诊断或开出治疗处方的。有缺陷的算（suàn）法可（kě）能对患者造成重大伤害，从而（ér）导（dǎo）致医疗（liáo）事故。

但为（wéi）了做出准确的预测（cè），机器学习系统必（bì）须要访（fǎng）问（wèn）大量（liàng）的患者数据。如果没有个人的医疗记录，人工（gōng）智能（néng）将无法提供准确的（de）诊断或有用的治疗方（fāng）法，更无法实现更（gèng）加个性化的（de）治疗。更重（chóng）要的是，如果数（shù）以百万计的（de）病（bìng）人（rén）隐瞒他们的医疗数据，关键的公共卫生趋势可能（néng）会（huì）被忽视，这（zhè）将是每个人（rén）的损失。

一个潜（qián）在的解决方案（àn）是从用医疗记录中单独删除（chú）个人识别信息（xī）来保护患者隐私。然（rán）而（ér），最近由加利福（fú）尼亚大学牵头的（de）一项研究表示（shì），目（mù）前的匿（nì）名化技术还不够成（chéng）熟（shú），并不能保证数据的有效清除。不过，未来（lái）可以开（kāi）发（fā）更复杂的数据收集方法，以（yǐ）更好地保护（hù）隐（yǐn）私。

不管技（jì）术能力（lì）如何，医学专家（jiā）建议医学界重新考虑患者隐私的整个概念。随（suí）着医疗（liáo）系统变得（dé）更加复杂，将（jiāng）有更多的机构（gòu）有合法合理的需（xū）求（qiú）去访（fǎng）问敏感的患者信息（xī）。Char在（zài）论文中写道:“机器学习系统（tǒng）的实现，意味着我们需要重（chóng）新认识医疗数（shù）据隐私（sī）和其他（tā）职业道德（dé）核（hé）心原则。”在实践（jiàn）中，医院和机构需要赢得患者的信（xìn）任。患者有权利了解他们（men）的医（yī）疗隐私数据（jù）是如何被使用（yòng）的，以及（jí）数（shù）据是会使他们自身受益或只（zhī）能让未来的（de）患者受益。