新研究发现免费版ChatGPT可能无法准确回答与药物相关问题

财联社12月5日讯（编辑 卞纯）自AI聊天机器人ChatGPT推出以来，这款工具在金融、教育、新闻等行业获得广泛应用。然而一项研究表明，医疗行业从业者以及患者都应谨慎使用这款工具，尤其是免费版ChatGPT。

根据最近周二发布的一份研究报告，我们发现免费版的ChatGPT在回答与药物相关的问题时可能存在一定的风险。据研究显示，该AI系统可能会提供不准确或不完整的答案，甚至有可能完全不回答这些问题，从而对患者的健康造成潜在威胁。因此，我们需要关注并采取相应措施以确保患者能够得到准确的药物信息。

今年5月，长岛大学的药剂师向免费版ChatGPT提出了39个问题。他们认为，根据他们设定的标准，ChatGPT的回答中只有10个“令人满意”。该研究称，对于其它29个与药物有关的问题，ChatGPT要么没有直接回答，要么不准确、不完整，或者既不准确又不完整。

该研究使用了2022年1月至今年4月期间（患者）向长岛大学药学院药物信息服务平台提出的真实问题。

在今年的五月试验中，我们的药剂师精心构建了45个富有挑战性的问题，并给出了详尽的解答。接着，这些答案被另一位研究员审慎审查，并据此作为评估ChatGPT精确度的基准。然而，在众多问题中，研究者们却发现了6个无法找到可靠文献支持的问题，因此将这些题目从评估中剔除。

根据这份报告，我们发现ChatGPT并未直接回答11个问题。同时，它对10个问题提供了不准确的信息，而在另外12个问题上，它的答案出现了错误或者并不完整。

对于每一个疑问点，专家们恳求ChatGPT在回答问题时提供参考信息，以便让他们能够核实所得到的答案。然而，令人惊讶的是，ChatGPT仅在八个回答中提供了参考资料，而且这些参考资料在每一个回答中都虚构无疑，这让人怀疑其答案的真实性。

患者应谨慎使用ChatGPT

上述研究的主要作者、长岛大学药学实践副教授Sara Grossman表示，该研究表明，患者和医疗保健专业人员应该谨慎依赖ChatGPT提供的药物信息，并通过可信来源核实该工具给出的任何回答。对于患者来说，可信来源可以是他们的医生，也可以是政府药物信息网站。

以一名文章写作高手的标准来看，我们可以这样重新组织原文内容：例如，科学家们曾向ChatGPT提出了一个疑问：辉瑞抗病毒药物Paxlovid与降低高血压的药物Verapamil是否会发生相互作用？具体而言，如果在同一时间服用这两种药物，其中一种是否会干扰到另一种的药效呢？

ChatGPT的答案表明，目前还没有关于这两种药物发生相互作用的报道。但是，实际上，如果在服用这两种药物的同时过度降低血压，可能会产生不良影响。

Grossman指出，如果不了解这种相互作用，患者可能会遭受不必要的、原本可预防的副作用。

一项统计分析表明，今年10月份，ChatGPT在全球范围内吸引了超过17亿次的浏览量。然而，至我国2023为止，尚无公开数据透露出有多少用户利用该聊天机器人咨询医疗相关问题。

值得关注的是，ChatGPT的免费版本仅依赖于至2023为止的数据集，这可能会导致其在快速发展的医疗领域中缺乏关键信息。至于付费版本的ChatGPT在回答与药物相关问题的“精确性”如何，目前仍无法确定。尽管付费版的ChatGPT可以访问互联网以获取实时信息，但其局限性仍然不容忽视。

Grossman承认，若对付费版ChatGPT进行研究，可能会产生更好的结果。她还补充称，因为针对免费版ChatGPT的研究是今年早些时候进行的，若现在再次进行类似研究，免费版ChatGPT可能已经改进，或许会产生更好的结果。

ChatGPT准确性引人担忧

AI初创公司OpenAI开发的ChatGPT去年底一经推出便风靡全球，被广泛视为有史以来增长最快的消费者互联网应用程序。但在迅速走红的同时，这款工具也引发了人们对欺诈、知识产权、歧视和错误信息等问题的担忧。

此前已经有几项研究都表明，ChatGPT会对一些问题作出错误回答。今年7月，美国联邦贸易委员会（FTC）对OpenAI展开全面调查，以确保ChatGPT不会通过生成虚假信息和滥用数据，损害消费者利益。