男子在人工智能建議下因精神癥狀住院

事實(shí)證明，最近幾代人工智能對(duì)于餐廳推薦和撰寫電子郵件很方便，但作為醫(yī)療建議它們有一些明顯的缺點(diǎn)。

一個(gè)很好的例子：一名遵循聊天機(jī)器人健康計(jì)劃的男子在給自己帶來(lái)了一種罕見的毒性后最終住院。

故事始于患者決定通過減少鹽或氯化鈉的攝入量來(lái)改善他的健康。為了尋找替代品，他做了現(xiàn)在許多其他人都在做的事情：他問了 ChatGPT。

相關(guān)：專家警告說，人工智能“幽靈”可能對(duì)心理健康構(gòu)成嚴(yán)重威脅

OpenAI 的聊天機(jī)器人顯然建議溴化鈉，該男子在網(wǎng)上訂購(gòu)并納入他的飲食中。

雖然溴化鈉確實(shí)可以替代氯化鈉，但這通常是如果您想清潔熱水浴缸，而不是為了讓薯?xiàng)l更美味。但AI卻忽略了這一點(diǎn)關(guān)鍵背景.

三個(gè)月后，患者因偏執(zhí)妄想來(lái)到急診室，認(rèn)為他的鄰居試圖毒害他。

“在入院的前 24 小時(shí)內(nèi)，他表現(xiàn)出越來(lái)越多的偏執(zhí)狂以及幻聽和幻視，在試圖逃跑后，導(dǎo)致因嚴(yán)重殘疾而非自愿地接受精神病拘留，”，醫(yī)生寫.

在接受抗精神病藥物治療后，這名男子冷靜下來(lái)，可以解釋他受人工智能啟發(fā)的飲食習(xí)慣。這些信息以及他的測(cè)試結(jié)果使醫(yī)務(wù)人員能夠診斷出他患有溴中毒，溴化物的有毒積累。

溴化物水平通常小于 10 mg/L 左右在大多數(shù)健康個(gè)體中;該患者的水平測(cè)量為 1,700 mg/L。

溴病在 20 世紀(jì)初是一種相對(duì)常見的疾病，據(jù)估計(jì)曾經(jīng)導(dǎo)致高達(dá) 8% 的精神病入院。但在 1970 年代和 1980 年代，在含有溴化物的藥物開始被逐步淘汰后，這種情況的病例急劇下降。

診斷后，患者接受了三周的治療，并無(wú)大問題出院。

本案例研究的主要擔(dān)憂與其說是一種過時(shí)的疾病的復(fù)發(fā)，不如說是新興的人工智能技術(shù)在真正重要的事情上仍然無(wú)法取代人類的專業(yè)知識(shí)。

“重要的是要考慮到 ChatGPT 和其他人工智能系統(tǒng)可能會(huì)產(chǎn)生科學(xué)不準(zhǔn)確，缺乏批判性討論結(jié)果的能力，并最終助長(zhǎng)錯(cuò)誤信息的傳播，”該作者寫道.

“當(dāng)面對(duì)尋找氯化鈉的可行替代品的患者時(shí)，醫(yī)學(xué)專家不太可能提到溴化鈉?！?/p>

該研究發(fā)表在該雜志上內(nèi)科年鑒：臨床病例.

寶寶起名 起名