最難獲取的是真實(shí)的問(wèn)診數(shù)據(jù)如何讓問(wèn)診AI少出錯(cuò)甚至不出錯(cuò)，是所有研發(fā)團(tuán)隊(duì)要解決的首要難題。大語(yǔ)言模型的本質(zhì)是通過(guò)統(tǒng)計(jì)分析預(yù)測(cè)對(duì)話中可能的下一個(gè)詞，存在生成不準(zhǔn)確或誤導(dǎo)信息的可能性，但在嚴(yán)格要求準(zhǔn)確性的醫(yī)療領(lǐng)域，AI的錯(cuò)誤也意味著患者將承受風(fēng)險(xiǎn)。2021年，密歇根大學(xué)醫(yī)學(xué)院研究人員發(fā)現(xiàn)，由美國(guó)電子健康記錄公司Epic Systems 研發(fā)的敗血癥AI預(yù)警系統(tǒng)沒(méi)能識(shí)別出67％的敗血癥住院患者，只識(shí)別出7％被醫(yī)生遺漏的敗血癥患者。Epic公司稱，漏檢與系統(tǒng)閾值有關(guān)，需要設(shè)置一個(gè)平衡患者假陰性與假陽(yáng)性的警報(bào)閾值。高質(zhì)量數(shù)據(jù)是保證準(zhǔn)確性的基礎(chǔ)。醫(yī)療大語(yǔ)言模型會(huì)被額外“投喂”醫(yī)學(xué)書籍、臨床診療指南、醫(yī)學(xué)論文等專業(yè)知識(shí)。其中最重要、也最難獲取的是優(yōu)秀的真實(shí)問(wèn)診數(shù)據(jù)，既包括頂級(jí)專家對(duì)該疾病的診斷記錄，也包括患者身體特征、檢測(cè)數(shù)據(jù)、家族史、環(huán)境信息等多維度的信息，同時(shí)，還需要覆蓋各年齡層、性別、地域的患者。多位受訪專家和從業(yè)者表示，已有問(wèn)診數(shù)據(jù)尚不能完全滿足研發(fā)需求。國(guó)家遠(yuǎn)程醫(yī)療與互聯(lián)網(wǎng)醫(yī)學(xué)中心醫(yī)學(xué)人工智能專家委員會(huì)主任委員、呼吸病學(xué)專家劉國(guó)梁告訴《中國(guó)新聞周刊》，即使能收集到目前醫(yī)院的臨床數(shù)據(jù)，其質(zhì)量也未達(dá)到能夠用于AI訓(xùn)練的水平，需要專門去生產(chǎn)符合AI訓(xùn)練標(biāo)準(zhǔn)的臨床問(wèn)診數(shù)據(jù)。更多的臨床經(jīng)驗(yàn)可能未被記錄成文本?！疤貏e是疑難病領(lǐng)域，很多知識(shí)是在醫(yī)生腦子里，甚至醫(yī)院里面可能也沒(méi)有，都是口口相傳?！痹匾阏f(shuō)。王仕銳介紹說(shuō)，醫(yī)聯(lián)共使用三類真實(shí)問(wèn)診數(shù)據(jù)，包括公開數(shù)據(jù)、醫(yī)聯(lián)獨(dú)有的問(wèn)診數(shù)據(jù)，以及通過(guò)搭建專門的數(shù)據(jù)平臺(tái)收集的數(shù)據(jù)。對(duì)于第三類數(shù)據(jù)，醫(yī)聯(lián)從協(xié)會(huì)、醫(yī)院、專家處采集，“這一過(guò)程好像將石油從地底勘察并最終加工運(yùn)輸?shù)接拖?，中間有漫長(zhǎng)且復(fù)雜的工序?！?/span>前述高校學(xué)者強(qiáng)調(diào)，數(shù)據(jù)質(zhì)量對(duì)研究非常重要，但前提是要保障數(shù)據(jù)安全。對(duì)數(shù)據(jù)的采集、篩選必須建立在保護(hù)數(shù)據(jù)安全的基礎(chǔ)上，個(gè)人信息脫敏，保護(hù)患者隱私是首要步驟。醫(yī)聯(lián)、春雨醫(yī)生和商湯均表示對(duì)數(shù)據(jù)進(jìn)行了脫敏處理，并在使用前取得了患者同意。除了數(shù)據(jù)，模型設(shè)計(jì)也能提升醫(yī)療AI的準(zhǔn)確率。田豐說(shuō)，商湯成立了一支近百人的醫(yī)學(xué)專家團(tuán)隊(duì)，參與數(shù)據(jù)標(biāo)注、模型訓(xùn)練及測(cè)試，保證AI能夠完成多輪問(wèn)診、不回答患者非醫(yī)療問(wèn)題等。商湯還訓(xùn)練了一套“智能評(píng)判系統(tǒng)”，對(duì)大語(yǔ)言模型輸出的答案進(jìn)行評(píng)判，讓模型輸出更符合臨床專業(yè)要求以及人類價(jià)值觀的回答。不過(guò)，再怎樣調(diào)試醫(yī)療AI，其本身存在一定局限性。劉國(guó)梁認(rèn)為AI與真人醫(yī)生最根本的差異在于，二者在診療過(guò)程中的原則可能不相同。目前尚不能確定AI在診斷時(shí)，是以患者生命長(zhǎng)度為重要衡量，還是以更好的生命質(zhì)量為先，抑或根本與人類福祉無(wú)關(guān)。一名優(yōu)秀的醫(yī)生能夠在關(guān)注患者治療方案的同時(shí)，照顧其情緒、花費(fèi)、家庭情況，目前醫(yī)療AI還難以做到。另外，醫(yī)療AI主要依靠患者的問(wèn)診數(shù)據(jù)，缺少查體過(guò)程。一方面，軀體類疾病可能會(huì)影響患者的感覺(jué)，使其表述出來(lái)的感受與病情嚴(yán)重程度不相符；另一方面，不同疾病也有相似癥狀，只靠詢問(wèn)很難得到準(zhǔn)確結(jié)果。北京大學(xué)人民醫(yī)院骨科主任醫(yī)師薛峰告訴《中國(guó)新聞周刊》，很多醫(yī)學(xué)問(wèn)題尚未有明確答案，許多醫(yī)生也是依靠經(jīng)驗(yàn)，達(dá)不到100％的準(zhǔn)確率，更何況依靠人類經(jīng)驗(yàn)來(lái)進(jìn)行推理的AI，“現(xiàn)階段讓它來(lái)看病只是作為一種咨詢、一種輔助，最后判斷還是要交給真人醫(yī)生，AI還需持續(xù)學(xué)習(xí)和調(diào)優(yōu)”。多位受訪從業(yè)者、專家均表示，AI并不可以、也不可能取代醫(yī)生，不應(yīng)有處方權(quán)。一旦涉及診斷、開處方，必須有真人醫(yī)生參與其中，否則就會(huì)面對(duì)“AI看病看錯(cuò)了，到底是AI負(fù)責(zé)，還是AI開發(fā)公司負(fù)責(zé)，抑或是購(gòu)入AI產(chǎn)品的醫(yī)院或醫(yī)生負(fù)責(zé)”的難題。當(dāng)AI與醫(yī)生意見(jiàn)不符合，比如患者希望按照AI建議做非常昂貴，但醫(yī)保不報(bào)銷的檢查，醫(yī)生覺(jué)得沒(méi)有必要時(shí)，也可能出現(xiàn)倫理問(wèn)題。據(jù)《華爾街日?qǐng)?bào)》今年6月報(bào)道，在加州大學(xué)戴維斯分校醫(yī)學(xué)中心腫瘤科，護(hù)士梅麗莎·畢比和癌癥患者打了15年交道。當(dāng)AI預(yù)警系統(tǒng)提示她的一名患者有敗血癥時(shí)，她確信警報(bào)是錯(cuò)的——因?yàn)锳I不知道，白血病患者也會(huì)表現(xiàn)出類似敗血癥的癥狀。按照醫(yī)院規(guī)定，畢比可以在獲得醫(yī)生批準(zhǔn)后推翻AI的診斷，但如果她錯(cuò)了，她將面臨處分。最后，她只好按照AI的診斷給病人抽血檢查，即使這可能會(huì)讓病人進(jìn)一步感染，也會(huì)讓其治療費(fèi)用更高。未來(lái)臨床實(shí)踐將怎樣保證醫(yī)生參與監(jiān)管AI？薛峰表示有兩種設(shè)想：一是仍然由醫(yī)生負(fù)責(zé)開處方，AI只負(fù)責(zé)前期詢問(wèn)及信息收集；二是由AI開處方，但醫(yī)生需要審核治療方案，至少保證藥物無(wú)害并簽字，若出現(xiàn)問(wèn)題，仍由簽字醫(yī)生負(fù)責(zé)。全新的三方關(guān)系6月末，醫(yī)聯(lián)在成都舉行了一場(chǎng)“雙盲實(shí)驗(yàn)”，讓MedGPT與10位四川華西醫(yī)院的主治醫(yī)生一起對(duì)120余位患者進(jìn)行診斷，來(lái)評(píng)測(cè)AI與真人醫(yī)生的一致性，最后由多位專家對(duì)91份有效病例審核。劉國(guó)梁與薛峰都參與了此次審核，二人表示MedGPT的效果比預(yù)期稍高，沒(méi)有出現(xiàn)太大錯(cuò)誤，但也存在一些問(wèn)題。薛峰表示，MedGPT在面對(duì)復(fù)雜病情時(shí)的問(wèn)診邏輯還很簡(jiǎn)單。他解釋說(shuō)，每一種疾病往往會(huì)有一組癥狀，單一癥狀對(duì)應(yīng)的疾病可能有幾十種、上百種，而患者在表達(dá)主訴時(shí)往往只會(huì)說(shuō)到其中一兩個(gè)最嚴(yán)重的癥狀。做排除診斷時(shí)，真人醫(yī)生能夠不斷就可能的關(guān)聯(lián)癥狀進(jìn)行提問(wèn)，最后根據(jù)患者回答作甄別，而MedGPT在關(guān)聯(lián)不同癥狀的全面性上還有不足。王仕銳稱，醫(yī)聯(lián)的下一步除了提高準(zhǔn)確率，還會(huì)整合多模態(tài)能力，彌補(bǔ)不能進(jìn)行查體的缺陷。比如給MedGPT“裝眼睛”，以視頻方式做運(yùn)動(dòng)軌跡識(shí)別，解決骨科查體難題。谷歌在7月末推出新的通用生物醫(yī)療AI模型Med-PalM M，除了回答醫(yī)療問(wèn)題，Med-PalM M還可檢查X光圖像，甚至掃描 DNA 序列是否存在突變。擺在問(wèn)診AI面前的問(wèn)題，還有監(jiān)管。此前，國(guó)家藥監(jiān)局器審中心發(fā)布的《人工智能醫(yī)療器械注冊(cè)審查指導(dǎo)原則(征求意見(jiàn)稿)》等文件規(guī)定，基于醫(yī)療器械數(shù)據(jù)、使用人工智能技術(shù)實(shí)現(xiàn)其預(yù)期用途的醫(yī)療器械，需要經(jīng)藥監(jiān)局審批上市。醫(yī)療器械數(shù)據(jù)包含圖像數(shù)據(jù)、生理參數(shù)、體外診斷數(shù)據(jù)等，電子病歷、醫(yī)學(xué)檢查報(bào)告的結(jié)果文本等屬于非醫(yī)療器械數(shù)據(jù)。以MedGPT為例，雖然主要依靠患者主訴信息，但是也會(huì)給患者開檢查報(bào)告，基于血糖、血壓等數(shù)據(jù)來(lái)推薦治療方案。王仕銳表示，在當(dāng)下的監(jiān)管體系中難以界定其是否屬于醫(yī)療器械，對(duì)此類新型產(chǎn)品，相關(guān)部門可能會(huì)有新的監(jiān)管框架。7月13日，國(guó)家網(wǎng)信辦聯(lián)合六部門公布《生成式人工智能服務(wù)管理暫行辦法》（下稱《辦法》）?！掇k法》自2023年8月15日起施行，其中提到鼓勵(lì)生成式AI創(chuàng)新發(fā)展，并要求“具有輿論屬性或者社會(huì)動(dòng)員能力”的產(chǎn)品，向公眾提供服務(wù)前，需開展安全評(píng)估，并履行算法備案。基于生成式AI的問(wèn)診產(chǎn)品是否要申請(qǐng)安全評(píng)估和算法備案，多家企業(yè)說(shuō)法不一。前述學(xué)者表示，該《辦法》為醫(yī)療AI設(shè)定了合法合規(guī)的框架，但針對(duì)醫(yī)療AI的監(jiān)管如何實(shí)施，標(biāo)準(zhǔn)如何制定，《辦法》還未明確。“標(biāo)準(zhǔn)化最關(guān)鍵的、最本質(zhì)的目的就是建立最佳秩序。”該學(xué)者說(shuō)，為創(chuàng)新產(chǎn)品制定標(biāo)準(zhǔn)是一個(gè)緩慢的過(guò)程，到底怎么定、定多高需要不斷摸索。多位受訪從業(yè)者都表示從研發(fā)到進(jìn)入臨床，醫(yī)療大語(yǔ)言模型還有很長(zhǎng)一段路走，但也都認(rèn)可AI一定是未來(lái)醫(yī)療格局的一分子。AI可以使醫(yī)療模式轉(zhuǎn)向社區(qū)化、家庭醫(yī)生化。薛峰表示，門診中90％以上都是常見(jiàn)病，可以通過(guò)家庭醫(yī)生來(lái)解決，但目前醫(yī)療資源并不均衡，三甲醫(yī)院與基層醫(yī)院醫(yī)療水平相差過(guò)大，導(dǎo)致患者對(duì)社區(qū)醫(yī)院不信任。薛峰說(shuō)，若AI成為面向患者的家庭醫(yī)生，患者通過(guò)預(yù)先咨詢AI，可為醫(yī)療機(jī)構(gòu)減輕負(fù)擔(dān)，同時(shí)也增加對(duì)病情的初步了解，找準(zhǔn)看病方向?！斑@樣的醫(yī)療模式有助于醫(yī)療規(guī)范化，減少過(guò)度醫(yī)療或醫(yī)療欺騙?！毖Ψ逭f(shuō)。在面向醫(yī)生的場(chǎng)景中，AI的作用可以更多。多位受訪專家表示，AI可以成為助手，幫助醫(yī)生學(xué)習(xí)疑難雜癥的前沿治療方案，減少誤診率，亦可參與醫(yī)學(xué)培訓(xùn)，幫助年輕醫(yī)生及醫(yī)學(xué)能力不足的基層醫(yī)生成長(zhǎng)。美國(guó)波士頓的一家醫(yī)療機(jī)構(gòu)已開始使用ChatGPT來(lái)培訓(xùn)規(guī)培生。“因?yàn)獒t(yī)學(xué)訓(xùn)練有時(shí)候不存在對(duì)錯(cuò)，而是鍛煉醫(yī)生的思維方式、結(jié)果解讀、溝通等，可以（用AI）單獨(dú)去訓(xùn)練這些能力?！眲?guó)梁說(shuō)。更直接的可能性是AI能使醫(yī)生從文書的工作中獲得解放。浙江某三甲醫(yī)院的一名規(guī)培醫(yī)師告訴《中國(guó)新聞周刊》，接收新病人時(shí)會(huì)花費(fèi)不少時(shí)間寫首程診斷。今年2月開始，他嘗試讓ChatGPT幫他寫鑒別診斷，“因?yàn)橛袝r(shí)候診斷都很明確了，還要絞盡腦汁去想鑒別診斷也挺煩。我會(huì)直接把問(wèn)題拋給ChatGPT，告訴它我想寫某兩種疾病的簡(jiǎn)潔診斷，它會(huì)給我列出好幾點(diǎn)?！?nbsp;未來(lái)醫(yī)療到底會(huì)怎樣，微軟全球資深副總裁彼得·李與兩位合著者在《超越想象的GPT醫(yī)療》中描繪了一種新的醫(yī)患關(guān)系：傳統(tǒng)醫(yī)學(xué)中醫(yī)生與患者是一對(duì)雙向關(guān)系，但現(xiàn)在我們應(yīng)該轉(zhuǎn)向一種全新的三方關(guān)系，而AI是這個(gè)三角關(guān)系的第三支柱。
