尽管AI带来了许多机遇，但也存在显著且合理的担忧，例如输出准确性、透明度、整合、数据隐私、伦理、公平性和法规合规性等问题。
应对当今威胁景观的机器规模
“AI在医疗保健中的整合不仅是进化，而是一场革命，承诺显著提升患者护理、运营效率和医学研究。”密歇根大学弗林特分校创新与技术学院网络安全临床教授Timothy Bates告诉记者。
但他强调，“实现这一潜力需要解决重大挑战。”
AI贯穿于医疗工作流程
首先，AI可以接管费时的重复性任务，例如总结预约记录（已被证明其比人类做得更好），这项技术还可以简化行政流程，如排班、计费和患者管理。此外，AI驱动的预测分析可以帮助资源分配。
“尽管对GenAI存在合理的担忧，五年后，医疗服务提供者会想知道他们以前是如何在没有它的情况下运作的，尤其是在转录临床笔记和决策支持方面。”药物管理公司DrFirst的首席医疗官Colin Banas博士说。
更进一步，AI可以改善诊断，因为它可以快速准确地分析大量数据，Bates表示。例如，AI算法可以分析医学图像，以比传统方法更早更准确地检测出癌症、心脏病或神经系统疾病。
Aidoc就是一个例子，它通过高精度检测医学影像中的异常来帮助变革放射学。
“AI具有可以比医生现在所能做到的更早地在影像中检测出癌症的算法，提供更早、更不具侵入性的治疗和更高的生存机会。”SEO公司Rank Secure的CEO Baruch Labunski说。
AI还可以通过分析遗传学、生活方式、药物、病情和过去的手术等数据来支持更个性化的医疗，Bates指出，而且，模型可以远程监控跟踪生命体征和健康指标的可穿戴设备，这对管理慢性病和在服务不足地区提供护理特别有益。
同样，预测分析可以帮助预见患者恶化、败血症和其他关键病情，从而允许及时干预。例如，医院正在使用AI预测患者再入院风险，并相应地量身定制出院后的护理计划，Bates指出。
从基础设施的角度来看，预测分析还可以优化复杂医院环境的运营，Hitachi Vantara全球数字创新营销与战略高级总监Bjorn Andersson表示。模型可以分析传感器的实时输入，甚至外部天气预报数据，以帮助机构在即将到来的热浪或其他天气相关事件中预先部署资源。
“随着天气事件变得越来越不可预测和严重，物理和网络的结合变得越来越重要。”Andersson说。
支持药物发现和临床试验
专家指出，AI在研究实验室中，特别是在药物发现和开发方面具有巨大潜力。
例如，美国国立卫生研究院（NIH）国家癌症研究所的研究人员构建了一种机器学习（ML）模型，可以更准确地预测免疫检查点抑制剂（治疗癌症的药物）的效果，另一个例子是Google的DeepMind，它在蛋白质折叠预测方面取得了突破，以帮助药物发现。
“在医疗保健中使用AI的最佳方面之一是分析拟议的药物治疗、副作用及其可能的相互作用。”Labunski说。
同时，在临床试验中，GenAI可以通过比较问卷数据和试验要求来预筛选患者，从而增加合格参与者的数量，患者招募平台Clinical Trial Media的CEO Cara Brant说。
“这有助于降低成本和时间，这两者都会影响潜在改变生活的药物快速上市。”她说。
围绕数据隐私、整合和透明度的担忧
另一方面，AI在医疗保健环境中的使用中最关键的两个问题是数据隐私和安全性。
Bates指出，医疗数据具有“高度敏感性”，这需要在使用AI时采取“强有力的数据保护措施”，“确保患者机密性并防止数据泄露至关重要。”他说。
法规合规是另一个重要问题，医疗机构必须在数据可访问性与HIPAA等严格的隐私法规之间找到平衡。“确保符合现有法规，同时适应新法规，这对医疗提供者和技术开发者来说都是一项艰巨的任务。”Bates说。
此外，医疗机构可能难以将AI与现有的传统系统整合，这可能导致互操作性问题，这反过来需要在升级和员工培训方面进行投资。关于员工（包括患者），也可能对AI的可靠性和有效性持怀疑态度，Bates指出。
“AI不会分享其得出结论的过程，缺乏透明度可能会在治疗和提供护理时带来问题。”Labunski说。
Muddu Sudhakar，企业搜索公司Aisera的联合创始人兼CEO，同意“模型可能是复杂的黑箱，透明度很低。”此外，“AI并不完美，它也会犯错误。”
因此，Bates指出，未来的重要任务是通过透明的过程、严格的测试和展示实际的好处来建立信任。
确保人类继续帮助人类
随着行业越来越多地采用AI和自动化，人们“显著担忧”会转向减少人与人之间的互动。
“医疗保健是高度个性化和亲密的，这是AI最大的限制之一。”她说。
患者希望与他们信任的提供者合作，而普通人可能并不完全理解他们的诊断或治疗计划意味着什么。他们必须与另一个人合作，才能理解所有不同的细微差别。“医疗行业面临的挑战是如何在利用AI优化流程和保留某些仅由人类提供护理的领域之间找到平衡。”她说。
至少在目前，AI是一个可以在扫描和测试结果上“获得第二意见”的提供者，The Relayer Group的执行董事HP Newquist同意这一观点。AI可以分析每个患者的“数据仓库”，并与最新的医学论文和最先进的实践进行比对，数据然后可以快速总结并提供给医生，以及相应的建议。
“关键字是‘建议’——AI还远未达到无需人工监督就能做出决定的地步。”Newquist说。
他指出，没有一个医生能跟上其选择领域中新的信息流，然而，一个每日接收同行评审期刊报告的LLM可以迅速推荐关于特定疾病、手术和患者护理的最新观点。
“对于更多的临床任务来说，‘增强智能’是医疗保健的最佳选择。”Banas同意。
