AI 医疗建议的风险：微软 Copilot 研究揭示潜在危害

研究揭示 AI 医疗建议风险

10 月 13 日消息,一项新的研究表明,AI 提供的医疗建议可能会对用户造成严重伤害,甚至导致死亡。研究人员对微软 Copilot 进行了测试,要求它回答美国最常见的 10 个医疗问题和 50 种最常用药物的相关问题,总计生成了 500 个答案。结果显示,Copilot 的回答在准确性和完整性方面都存在问题。

数据分析：错误与危害

研究结果显示,Copilot 的回答中有 24% 与已有的医学知识不符,3% 的回答完全错误。更令人担忧的是,42% 的回答可能会对患者造成中度或轻度伤害,而 22% 的回答甚至可能导致死亡或严重伤害。只有 36% 的回答是无害的。这些数据表明,AI 在医疗建议方面存在显著的风险。

专家建议

研究人员指出,人们不应该依赖 Copilot 或其他 AI 系统来获取准确的医疗信息,最可靠的方式仍然是咨询医务人员。然而,由于种种原因,并非所有人都能够轻松地获得高质量的医疗建议。因此,Copilot 等 AI 系统可能会成为许多人的首选,其潜在的危害不容忽视。

总结

这项研究为我们敲响了警钟,提醒我们在使用 AI 提供的医疗建议时必须保持谨慎。虽然 AI 技术在许多领域展现了巨大的潜力,但在涉及人类健康和安全的问题上,我们仍需依赖专业的医务人员。未来,AI 系统需要进一步优化和验证,以确保其在医疗领域的应用能够真正造福人类,而不是带来额外的风险。

总之,在 AI 医疗建议的使用上,我们应始终保持警惕,确保在获取信息时能够进行多方验证,避免因误导信息而造成不必要的伤害。