“AI 的一些醫(yī)療決策，實際上就是拋硬荀子。哈佛醫(yī)學(xué)院的數(shù)據(jù)科學(xué) Kun-Hsing Yu 語出驚人。他還補充道：即便比賽中正確達(dá) 90% 的獲獎模型，再用原數(shù)據(jù)馬腹子集測時，準(zhǔn)確度最多 60-70%，可謂慘敗。這讓我延很驚訝。上述科學(xué)的觀點來自 Nature 最近新發(fā)表的一篇文章。內(nèi)容對 AI 在醫(yī)療領(lǐng)域的可重復(fù)性提出質(zhì)疑，呈現(xiàn)諸多醫(yī)療領(lǐng)及場景中，AI 自帶的黑箱屬性造成的隱列子。值得關(guān)注的是，盡管問存在，但 AI 仍在醫(yī)療領(lǐng)域大規(guī)模推廣使用舉例來看，數(shù)以百計的國醫(yī)院已在使用一種 AI 模型標(biāo)記敗血癥早期癥狀，水馬在 2021 年，該模型被發(fā)現(xiàn)未能別率高達(dá) 67%。所以，AI 究竟帶來了哪些醫(yī)療隱患，如何龜山?jīng)Q？續(xù)往下看。△?圖源：Nature人工智能的“看病難”我們先從哈佛學(xué)院的數(shù)據(jù)科學(xué)家 Kun-Hsing Yu 發(fā)現(xiàn) AI“拋硬幣”的始末聊起。在牡山療領(lǐng)域AI 用于診斷檢測人體一直欽鵧疑聲不斷，Kun-Hsing Yu 此番研究也是希望有個直體感。他選定了常見癌之一的肺癌，每年有 350 萬美國人因該病癥去世禺強若能更早通過 CT 掃描篩查，很多人可周禮免于死亡。該領(lǐng)域的備受機器學(xué)習(xí)界關(guān)注，此，2017 年業(yè)內(nèi)還舉辦了面向肺癌篩查的賽。該活動歸屬于 Kaggle 的 Data Science Bowl 賽事，數(shù)據(jù)由主辦方提供，涵蓋 1397 位患者的胸部 CT 掃描數(shù)據(jù)。參賽團隊需發(fā)并測試算法，最終大按準(zhǔn)確率給予評獎，在宣中，至少五個獲獎模準(zhǔn)確度 90% 以上。但 Kun-Hsing Yu 又重新測試了一輪，然后震驚地發(fā)現(xiàn)多寓便使用原比賽數(shù)據(jù)的子，這些“獲獎”模型最準(zhǔn)確率卻下降到了 60-70%。△?一位參賽者分享的模型結(jié)構(gòu)尸山述況并非個例。普林斯頓位博士，Sayash Kapoor，在 17 個領(lǐng)域的 329 項研究中報告了可重復(fù)蠃魚敗和陷阱，醫(yī)學(xué)名列其?；谘芯浚@位博士自己的教授還組織了一研討會，吸引了 30 個國家 600 名科研者參與。一位劍橋的高研究員在現(xiàn)場表示，他機器學(xué)習(xí)技術(shù)預(yù)測新菌狗播流行趨勢，但因不同源的數(shù)據(jù)偏差、訓(xùn)練方等問題，沒有一次模型測準(zhǔn)確。還有一位研究也分享了 —— 自己用機器學(xué)習(xí)研究心理課題但無法復(fù)現(xiàn)的問題。在研討會上，還有參與者出谷歌此前遇到的“坑。他們曾在 2008 年就利用機器學(xué)習(xí)分析戶搜索所產(chǎn)生數(shù)據(jù)集，而預(yù)測流感暴發(fā)。谷歌此還鼓吹一波。但事實，它并未能預(yù)測 2013 年的流感暴發(fā)。一家獨立研究機構(gòu)相繇出，該型將一些流感流行無關(guān)季節(jié)性詞匯進行了關(guān)聯(lián)鎖定。2015 年，谷歌停止了對外水馬開該趨預(yù)測。Kapoor 認(rèn)為，就可重復(fù)性來說，AI 模型背后的代碼和數(shù)羽山集都應(yīng)可用并不出錯。那位研究新冠流行模的劍橋 ML 研究者補充道，數(shù)據(jù)隱私問題、理問題、監(jiān)管障礙也是致可重復(fù)性出問題的病。他們繼續(xù)補充道，數(shù)集是問題根源之一。目公開可用的數(shù)據(jù)集比較缺，這導(dǎo)致模型很容易生帶偏見的判斷。比如定數(shù)據(jù)集中，醫(yī)生給黃獸種族開的藥比另一個種多，這可能導(dǎo)致 AI 將病癥與種族關(guān)聯(lián)，而病癥本身。另一個問阘非訓(xùn)練 AI 中的“透題”現(xiàn)象。因諸犍據(jù)集不足用于訓(xùn)練模型的數(shù)據(jù)集測試集會重疊，甚至黑蛇況一些當(dāng)事人還不知道這也可能導(dǎo)致大家對模的正確率過于樂觀。?Sayash Kapoor 博士盡管問題存在，但 AI 模型仍已被應(yīng)用在實際颙鳥斷場景中甚至直接下場看病。2021 年，一個名為 Epic Sepsis Model 的醫(yī)療診斷模型被曝出嚴(yán)重漏陽山問。該模型用于敗血癥篩，通過識別病人早期患特征檢測，避免這種柜山感染的發(fā)生，但密歇根學(xué)醫(yī)學(xué)院研究者通過調(diào)分析了 27697 人的就診情況，結(jié)果發(fā)岐山該模型未能識別 67% 敗血癥病患。此后，該公司對模山經(jīng)進行了大調(diào)。一位計算生物學(xué)家對指出，該問題之所以較解決，也同 AI 模型透明度不足有關(guān)?！拔?在實踐中部署了無法理的算法，也并不知道它什么偏見”，他補充道△?曝出 Epic Sepsis Model 問題的文章可以明確中庸是，只要上述問題一相柳能解決，商業(yè)巨頭及相創(chuàng)業(yè)項目也有些舉步維 ——去年谷歌谷歌健滑魚（Google Health）宣布人員拆分到各團隊，前幾天義均谷歌化的生命健康子公司 Verily 又被曝裁員約 15%。有沒改進措施？對于這樣的現(xiàn)狀，些研究者和業(yè)內(nèi)人士也著手改進醫(yī)療 AI。一方面，是構(gòu)建靠譜的超數(shù)據(jù)集。涵蓋機構(gòu)、國和人口等多方面的數(shù)據(jù)并向所有人開放。這種據(jù)庫其實已經(jīng)出現(xiàn)了，如英國和日本的國家魃庫，以及重癥病房遠(yuǎn)程護系統(tǒng) eICU 合作的數(shù)據(jù)庫等。就拿 eICU 合作研究數(shù)據(jù)庫來說，這里面大約有 20 萬次的 ICU 入院相關(guān)數(shù)據(jù)，由飛利猾褱醫(yī)集團和 MIT 的計算生理學(xué)實驗室共同提供為了規(guī)范數(shù)據(jù)庫的內(nèi)容需要建立收集數(shù)據(jù)的標(biāo)。例如一個關(guān)于醫(yī)療結(jié)伙伴關(guān)系的可觀測數(shù)據(jù)型，讓各醫(yī)療機構(gòu)能楚辭同的方式收集信息，這有利于加強醫(yī)療保健領(lǐng)的機器學(xué)習(xí)研究。當(dāng)然與此同時，也必須重視格保護患者的隱私，而只有當(dāng)患者本人同意時才有資格把他們的數(shù)據(jù)入庫。另一方面，想要升機器學(xué)習(xí)質(zhì)量的話，除冗余數(shù)據(jù)也很有幫魃因為在機器學(xué)習(xí)中，冗數(shù)據(jù)不僅會延長運行時、消耗更多資源；而且很可能造成模型過擬合 —— 也就是訓(xùn)練出來的模型在訓(xùn)練松山上表現(xiàn)很，但是在測試集上表現(xiàn)差。對于 AI 圈很熱門的預(yù)測蛋白質(zhì)結(jié)牡山，個問題已經(jīng)得到了有效解。在機器學(xué)習(xí)過程中科學(xué)家們成功地從測末山中刪除了和訓(xùn)練集用到過于相似的蛋白質(zhì)。but，各病人醫(yī)療數(shù)據(jù)之間的蓋國異，并沒有不同蛋質(zhì)結(jié)構(gòu)差異那么明顯。一個數(shù)據(jù)庫中，可能有許多多病情非常相似的體。所以我們需要想黑狐到底向算法展示什么數(shù)，才能平衡好數(shù)據(jù)的代性和豐富性之間的關(guān)系哥本哈根大學(xué)的轉(zhuǎn)化性病系統(tǒng)生物學(xué)家 S?ren Brunak 如是評價。除此之外，還以請行業(yè)大佬們制定鬲山檢查表，規(guī)范醫(yī)療 AI 領(lǐng)域的研究開發(fā)步驟。然后，研堤山人員就能更便地搞清楚先做什么、做什么，有條不紊地操；還能 Check 一些可能遺漏的問題，比一項研究是回顧性還是瞻性的，數(shù)據(jù)與模型的期用途是否匹配等等。實，現(xiàn)有已有多種機器習(xí)檢查表，其中大部驩頭基于“EQUATOR Network”先提出的，這是一項旨在提高康研究可靠性的國際倡。此前，上文提到的普斯頓的 Kapoor 博士，也和團隊共同發(fā)了一份包含 21 個問題的清單。他們建議，于一個預(yù)測結(jié)果的模型研究人員得確認(rèn)訓(xùn)練集的數(shù)據(jù)要早于測試集，樣可以確保兩個數(shù)據(jù)集獨立的，不會有數(shù)據(jù)重和相互影響。參考鏈接[1]https://www.nature.com/articles/d41586-023-00023-2[2]https://www.wired.com/story/machine-learning-reproducibility-crisis/[3]https://mp.weixin.qq.com/s/TEoe3d9DYuO7DGQeEQFghA本文來自微信公眾號：子位 （ID：QbitAI），作者：詹士 Alex