技术与的博弈 医疗AI隐忧如何解法？

在希波克拉底誓言奠定病理学基础的2400年后，推算机科学的出现也许给病理学助长史上远超过的考验。专家得出，到2024年，AI医疗保健将是一个近200亿美元的产品。推算机科学有望成为医疗保健实践的福音，需增加病患真实感、提供个性转化成外科手术，并立即发现更进一步的公共医疗保健风险。即使如此，该电子技术即使如此引发了一系列棘手的伦理道德难题。当AI系统设计决策失误时不会出现哪些疑问？如果有疑问的话，该谁主要职责？病患医师如何验证甚至明白AI“记录仪”的主旨？他们又该如何避免AI系统设计的性别歧视并保护病变人身安全？2018年6同年，美国政府病理学不会（AMA）面世了首个关于如何合作开发、运用于和抑制推算机科学的指南。值得注意的是，该协不会将推算机科学称为“augmented intelligence”（人机强化），而非我们广泛忽视的“artificial intelligence”。这确实，美国政府病理学不会忽视推算机科学的功用是强化而非取代医师的工作。虽然AMA在指南中的指出，推算机科学某种程度设计用于定位和克服性别歧视、公共利益弱势群体消费、实现处理过程透明性并保护病变人身安全，但在具体实行中的，这些要求能够想得到满足。表列是病理学专业人士、研究课题医务人员和病理学研究者需接踵而来且最为急迫的伦理道德考验。才是的性别歧视，怎么克服？2017年，明尼阿波利斯私立大学病理学院（UCM）的数据库分析团队运用于推算机科学来得出病变也许的患病为时。其目标是明确可以提前出院的病变，从而释放医院资源并为新的病变提供患病外科手术。然后，医院还不会授命一名系统性企业主来帮助病变处理寿险事宜，确保病变立即回家，并为其早日出院铺平道路。在试验系统设计时，研究课题小组发现，得出病变患病时间最正确地的因素是他们的邮编，这正要给研究课题团队敲响了警钟。他们发觉，邮编与病变的族群和社不会经济地位密切相关。只能靠邮编动手得出，不会对明尼阿波利斯最贫困社区的非裔美国政府人带来不良影响，这些人往往患病时间更为长。因此该团队忽视运用于该正则表达式扣除系统性管理者员将是有性别歧视和不伦理道德的。“如果你要理论上的实行这个正则表达式，你不会想得到一个猜疑的结果，那就是把更为多(病症管理者)各项政策给更为富裕的非裔病变，”UCM内科医师、医疗保健学私立大学教授Marshall Chin说道。最终数据库分析团队删除了邮编这个得出因素。该正则表达式仍在合作开发中的，早已试验出新数学方法。这个系统性指出了基于推算机科学的心理卫生工具的弱点：正则表达式有时候可以反映既有的族群或性别健康相异。这个疑问如果未想得到克服，就不必要导致长期性性别歧视并固转化成心理卫生领域既有的不应有自然现象。性别歧视还不会影响罕见病或新疾病的外科手术，这些疾病的外科手术数据库受限制。推算机科学系统设计不必要从外部给出一般外科手术方案，而不考虑到病变的自已情况。这时，推算机科学拟议的外科手术方案是无效的。值得注意，斯坦福私立大学学助理私立大学教授Danton Char在一篇关于数据库处理的论文中的指出，因为严重中风病变或亦然早产儿的存活概率很较高，因此医师常常停止对他们的护理。而即使某些病变个体预后良好，数据库处理正则表达式即使如此不必要从外部断定：所有近似于病症都是致命的，并建议撤回外科手术。“记录仪”疑问，路在何方？第二个伦理道德考验是，有时候情况，研究课题医务人员这不明白AI系统设计是如何推算出结果的，即所谓的记录仪疑问。先进的数据库处理电子技术可以在未明确指示的情况吸收大量数据库并定位统计模式，整个处理过程生命尤其难以验证。盲目遵循这种系统设计的医师不必要在无意中的伤害病变。“我们有时候能够解释正则表达式的'思想'处理过程是什么。”联合国大不会私立大学政策研究课题中的心新兴网络电子技术研究课题员Eleonore Pauwels指出。2015年的一项研究课题强调了该疑问。在这项研究课题中的，研究课题医务人员非常了各有不同AI数学方法得出白血病病变死亡风险的程度。得出之后，那些风险较高的人将被接回医院，而较高风险的病人可以调入门诊外科手术。其中的一个数学方法是“基于规则”的系统设计，其决策处理过程对研究课题医务人员来说是透明的，却得出出违反直觉的结果：患有白血病和哮喘的病变比仅患有白血病的病变存活机不会更为大，因此患有两种疾病的病变可以推迟外科手术。显而易见，医护医务人员需相符的判断患有两种疾病的病变具更为高的死亡风险，但正则表达式不可。所以这样一来只能靠这种正则表达式，这样一来最危急的病人将不可立即想得到他们所需的外科手术。另一种运用于神经网络和数据库处理正则表达式的数学方法产生了更为正确地的结果，但其解谜处理过程是不透明的，因此研究课题医务人员未立即发现其中的的疑问。该研究课题的主要职责人、微软公司研究课题员马修卡鲁阿纳断定：神经网络数学方法风险太大，未进入病患试验，因为未自行判断它是否犯了近似于的错误。决策失误谁来买单？根据AMA的病理学基本原则上，医师需完全对病变主要职责。但是，当推算机科学进入表达式时，承担责任又该如何划分？这个疑问的答案仍在由研究者、研究课题医务人员和监管机构机构制定。推算机科学打破了提供医疗保健服务的群体限制，一些传统上不受病理学约束的人，比如数据库科研究者，也可以为病变提供医疗保健服务。此外，正如记录仪疑问所示，人们这不总是需相符地发觉推算机科学系统设计是如何动手出病患或上路外科手术处方的。缺失的正则表达式也许对病变带来重大伤害，从而导致医疗保健事故。斯坦福私立大学研究者Char将推算机科学比作处方药。查尔指出，虽然不可毕竟病患医师明白他们上路的药剂的每一个生转化成显然，但基于他们的病患经验和病理学古籍知识，他们至少需发觉这些药剂是安全适当的。至于推算机科学系统设计，除非经过认真研究课题，他确信这是最佳选择，否则他不不会运用于。Char说道:“当你对工具的明白这不充分时，你不肯让任何病变的生命受制于凶险之中的。”病变人身安全何去何从？美国政府病理学协不会曾发出警告：推算机科学需保护病变信息的人身安全和安全。对医患保密的承诺，是自希波克拉底立誓以来病理学假定的基础。但为了动手出正确地的得出，数据库处理系统设计需要会面大量的病变数据库。如果未自已的医疗保健记录，推算机科学将未提供正确地的病患或有用的外科手术方法，更为未实现更为加个性转化成的外科手术。更为最重要的是，如果数以百万计的病人隐瞒他们的医疗保健数据库，关键的心理卫生趋势不必要被忽视，这将是每自已的损失。一个潜在的克服方案便是用医疗保健记录中的单独删除自已定位信息来保护病变人身安全。然而，值得注意由加利福尼亚私立大学牵头的一项研究课题指出，目前的据称转化成电子技术还不够早熟，这不可保证数据库的适当清空。不过，更进一步可以合作开发更为多样的数据库收集方法，以需地保护人身安全。不管电子技术能力如何，病理学专家建议病理学界重新考虑到病变人身安全的整个概念。随着的机构设计愈发更为加多样，将有更为多的机构有非法行为适当的消费去会面敏感的病变信息。Char在论文中的写道:“数据库处理系统设计的实现，这样一来我们需引发出医疗保健数据库人身安全和其他职业伦理道德核心原则上。”理论上的，医院和机构需赢得病变的信任。病变有权利明白他们的医疗保健人身安全数据库是如何被运用于的，以及数据库是不会使他们自身受益或才会让更进一步的病变受益。伦敦私立大学学院健康信息学研究课题所的高级研究课题员Nathan Lea指出：“如果病变需地明白推算机科学是如何增加自已和公共健康的，他们也许不想放弃传统的人身安全思想。人身安全本身这不是显然的，我们不可以保护病变人身安全为借机而拒绝数据库才是的庞大价值。”编者有话说病理学科技与伦理道德的冲突一直假定，从人体解剖的宗教自由疑问，到克隆电子技术的身份争议；从婚前的人道质疑，到如今推算机科学的人伦思辨，围绕病理学电子信息化与社不会伦理道德的争论从未停息。正是这些对人性、人道、生命尊严、人的价值的关注，才使病理学体现了人文的关怀，保持了人性的张力。AI医疗保健电子技术的应用和普世的伦理道德思想本不猜疑，关键在于在权衡取舍中的找到更为适当的打开方式。我们期待推算机科学在思考的鞭策下正则表达式主导，最终需以自己的方式协同克服生命社不会的多样疑问。