研究:AI 醫療建議出錯難追溯,籲建通報機制
AI 总结
科技新報報導,最新研究指出,使用者若聽信聊天機器人有害的醫療建議,對話紀錄往往只留在 AI 公司系統內,外部臨床醫師、研究者與監管單位無從查閱,也缺乏標準的通報與調查管道。研究團隊引用案例稱,一名 60 歲男子為降低飲食中的氯化物攝取向 ChatGPT 求助,被建議以溴化鈉取代食鹽,隨後出現幻覺與妄想並因溴中毒住院,而主治醫師無法直接調閱這段對話,使醫療團隊追查病因與擬定治療格外困難。研究共同作者、賓漢頓大學助理教授 Kai-Cheng Yang 表示,許多人已把健康諮詢交給 AI,卻沒有機制把關;團隊建議 AI 企業讓使用者能取得並將對話紀錄分享給醫師,業界建立透明的通報與調查機制,社群平台也應標示 AI 生成的健康內容。
深度见解
研究指出,這類錯誤建議缺乏外部可查紀錄,醫師事後難以釐清病患到底接觸了什麼資訊,進而阻礙醫療判斷與後續治療。


隨著 AI 聊天機器人逐漸成為大眾 24 小時隨身待命的健康顧問,研究人員發出警告:最令人頭痛的危機並非 AI 給出錯誤答案,而是這些致命錯誤幾乎「無跡可尋」。
最新研究指出,當使用者聽信了聊天機器人有害的醫療建議,對話紀錄往往只停留在 AI 公司的系統內。外部的臨床醫師、研究者及監管單位根本無從查閱,更缺乏標準的通報與調查管道。研究作者強調,這種「隱形風險」導致醫師在事後極難釐清病患到底接觸了什麼資訊,進而阻礙了醫療判斷。