根據(jù)IBM內(nèi)部資料，多名使用IBM沃森腫瘤治療系統(tǒng)的醫(yī)學(xué)專家發(fā)現(xiàn)，IBM沃森多次為患者提供不準(zhǔn)確且不安全的建議。目前為止，尚未有病人因沃森的失誤受到傷害。

　　內(nèi)部資料包括IBM沃森前健康副主管安德魯諾登(Andrew Norden)于2017年6月和7月兩場報告的文件。文件中有這樣一個例子，一名65歲患者被診斷患有肺癌且伴有嚴(yán)重出血，沃森建議該男子進(jìn)行化療，且開了名為“貝伐珠單抗”的藥物。但這種藥會導(dǎo)致嚴(yán)重或致命大出血，實(shí)則不應(yīng)用于伴有嚴(yán)重出血的患者。

　　紀(jì)念斯隆凱特琳癌癥中心的發(fā)言人表示：這樣的建議目前還是假設(shè)階段，只是系統(tǒng)測試的一部分。但許多人反對稱，這種不準(zhǔn)確的建議實(shí)則說明技術(shù)與內(nèi)容上存在嚴(yán)重的問題。

　　據(jù)Stat News稱，佛羅里達(dá)州某醫(yī)院的一名醫(yī)生直言此產(chǎn)品差強(qiáng)人意。他表示：“當(dāng)時聽信推銷人員購買了產(chǎn)品，但大多數(shù)情況下沒辦法使用。”此醫(yī)院的醫(yī)生都表示：在治療意見不統(tǒng)一時，除了沃森提供建議外，他們還會聽取超級計算機(jī)的建議。

　　如今，人們不僅對沃森的建議持懷疑態(tài)度，同時也好奇在此項(xiàng)目上沃森如何接受訓(xùn)練。其實(shí)AI系統(tǒng)分析的都是真實(shí)病例，而非虛擬數(shù)據(jù)，即醫(yī)生接收到的建議都是其他醫(yī)生真實(shí)的建議，并非通過合成虛擬數(shù)據(jù)得到的結(jié)論。

　　IBM的發(fā)言人回應(yīng)稱：根據(jù)客戶的不斷反饋、新的科學(xué)證據(jù)以及新的癌癥治療方案，我們不斷學(xué)習(xí)，已經(jīng)作出進(jìn)一步改進(jìn)。目前已用于全球230家醫(yī)院，為84000多名患者提供了幫助。IBM于6月發(fā)布報告稱， 如今沃森準(zhǔn)確識別腫瘤的成功率已達(dá)93%。