最近进行的一项研究发现,AI聊天机器人ChatGPT为人们对癌症常见一些的误解和误区提供了97%的正确答案,但由于其间接的或可能令人困惑的语言描述引起了人们的担忧,研究人员建议患者在使用聊天机器人获取癌症信息时需要小心谨慎。
发表在《美国国家癌症研究所》杂志上的一项研究报告深入探讨了聊天机器人和AI在提供癌症相关信息方面的应用。研究人员发现,这些数字资源准确地揭穿了关于癌症常见的一些误区和误解。这项开创性的研究是由美国亨茨曼癌症研究所物理学家、犹他大学放射肿瘤学系助理教授、医学博士Skyler Johnson领导一个研究团队进行的,其目的是评估ChatGPT提供癌症信息的可靠性和准确性。
Johnson和他的团队使用美国国家癌症研究所(NCI)列出的常见的癌症误区和误解作为训练数据。他们发现,ChatGPT提供的答案准确率达到97%。然而,这个结果也伴随着令人关注的警告。研究团队主要担忧的一个问题是,ChatGPT提供的一些答案可能会被患者误解或误读。
Johnson说:“这可能会导致癌症患者做出一些错误的决定。”该团队因此建议患者在是否使用聊天机器人获取癌症信息时需要小心谨慎。
研究发现,由于审稿者进行盲审,这意味着他们不知道其答案是来自聊天机器人还是美国国家癌症研究所(NCI),虽然大多数答案是准确的,但审稿者发现ChatGPT提供的答案是间接的或模糊的,在某些情况下甚至是错误的。
Johnson说:“我认识到并理解癌症患者和医护人员获取准确信息的困难。需要对这些来源进行研究,以便我们能够帮助癌症患者在网上信息环境中摸索出诊断结果的答案。”
而错误的信息会伤害癌症患者。Johnson和他的团队在之前发表在《国家癌症研究所杂志》上的一项研究报告指出,他们发现社交媒体上的错误信息很常见,并且有可能危害癌症患者。
接下来的研究工作是评估患者使用聊天机器人获取癌症信息的频率,他们问的是什么问题,以及AI聊天机器人是否能提供有关癌症的罕见或不寻常问题的准确答案。