| 打開醫學“黑箱” 機器人醫生也要“持證”上崗 |
| 來源: | 發布時間:1632115049 | 瀏覽次數：
|
在評估AI系統能力的時候，一方面是評估AI的知識和能力，需要滿足臨床設計的目標；另一方面，AI系統應該是一個可以不斷進化和升級迭代的系統，讓技術的發展適應人類。
人工智能（AI）在醫療行業的應用一直都受到廣泛關注。AI研究如何在遵循臨床研究范式的基礎上尋求變革創新？如何看待AI在醫療實踐中的倫理問題？誰將占據AI醫療的制高點？
針對上述問題，8月29日，《新英格蘭醫學雜志》（NEJM集團）與嘉會醫學研究和教育集團在上海舉行了一場醫學AI研討會，來自全球頂尖的醫學專家和業內領先企業分享了AI在醫學應用中的實際應用案例以及未來面臨的挑戰。
AI系統的能力如何評估？
NEJM集團編輯德萊森（JeffreyDrazen）教授從AI醫療研究出版論文入手，他援引一篇發表在2020年4月出版的《新英格蘭醫學雜志》上的論文。該研究使用人工智能檢測視神經乳頭水腫的效果，通過計算接收工作特性曲線下面積（AUC）、靈敏度和特異性來評估視盤外觀分類的性能，并與神經眼科醫生的臨床診斷參考標準進行比較，AI在某些方面的工作甚至超過了眼科醫生。
德萊森教授表示，機器學習應該對大量眼底照片進一步研究，這些照片的資源非常寶貴，一方面是因為通常受到隱私保護的限制，另一方面是眼科器械設備的高昂價格限制了資源的普及性。
復旦大學上海醫學院眼科學與視覺科學系主任、中國研究型醫院學會眼科學與視覺科學專委會主委孫興懷教授對第一財經記者表示：“醫學成像中人工智能算法正在實現爆炸式增長，人工智能在眼底病篩查上具有很大潛力。但AI要在臨床上應用好，一定要有一個非常強大的神經網絡計算機團隊的支持。”
他同時指出，人工智能靠大量的前期病例圖片輸入進行識別面臨的局限性?！耙驗榕R床上疾病是千變萬化的，以前沒有輸入過的，它是識別不了的?！睂O興懷表示，“有些疾病不只是表現在眼底，還要結合眼部其他的改變來綜合分析判斷。人工智能只能給出一個傾向性判斷，最終還是要有經驗的醫生綜合分析來決定。”
醫療涉及到人類的健康，對AI醫療的系統進行評估的重要性不言而喻。德萊森教授表示，未來開發出一套具有針對性的關于AI介入診斷精確性的評估指南很有必要。
“在評估AI系統能力的時候，一方面是評估AI的知識和能力，需要滿足臨床設計的目標；另一方面，AI系統應該是一個可以不斷進化和升級迭代的系統，讓技術的發展適應人類。”德萊森說道。
麥考瑞大學教授、澳大利亞健康創新研究所所長EnricoCoiera表示，AI系統大致可以分三類，包括輔助醫生的AI系統，比如讀心電圖；另一種是可以替代醫生的AI系統，比如篩查眼底照片；第三類是AI系統將來可以做的醫生目前還做不了的事情。
“我們認為評估AI的性能，也應該將人機互動的性能結合起來進行評估，而不僅僅是評估算法，AI系統如何最大程度上幫助人類醫生，這是一個更為復雜的問題?！盋oiera教授表示。
他還強調，醫療AI應該不僅僅作為一種通用的技術，而是可以作為專業行業的定制化技術，這對于專科而言非常重要。
醫療AI如何獲得信任？
專家普遍認為，AI在醫療領域的廣泛應用的前提是要在工業界、科學界、醫生以及患者群體中獲得信任。有趣的是，多位專家將AI醫療系統和無人駕駛系統進行了類比，無人駕駛上路要先考“駕照”，那么AI醫生要上崗也需要“持證”。此外，萬一AI系統發生事故，那么相關的責任認定也需要有所規范。
“就像自動駕駛一樣，我認為現在的AI還沒有完全成熟?！敝锌圃涸菏?、復旦大學附屬中山醫院心內科主任葛均波教授表示，“作為臨床醫生，在手術過程中，我們希望AI能夠指導醫生進行非常精確的操作。目前看來，這一功能還要通過機器深度學習，提高應對各種復雜狀況的應變能力。”
今年3月，葛均波在西門子醫療的手術機器人系統途靈的輔助下，完成了中國首例機器輔助冠脈介入手術。在機器輔助手術中，葛均波通過手術室外的操縱桿，隔室操控機器人進行手術，讓導絲迅速通過復雜的病變，微調冠脈支架系統的位置并釋放。
葛均波認為，機器人目前的操作還無法達到業內專家的水平。不過他仍然相信，AI系統一定能在慢病隨訪、疾病篩查、基層醫生診斷等領域發揮作用，并且隨著未來在感知方面能力等提升，可以最終達到人類頂尖醫生的水平?！癆I現在達不到預期，并不意味著我們就要停止對它的研究了?！备鹁ū硎?，“未來AI一定會在精準性和標準化方面發揮重要作用?！?BR>
西湖大學特聘研究員郭天南表示：“對AI的信任是基于AI所創造的價值，但人們也不應該對AI有過高的期望值，仍應循序漸進，同時加大AI在臨床的滲透率?！?BR>
專家還表示，目前很多基于深度學習的系統仍是一個黑箱，涉及到很多參數，在相關領域數據共享方面的工作進展仍然非常有限。
騰訊AI實驗室AI醫療首席科學家姚建華表示：“雖然從公司盈利的角度來看，不太可能把所有的源代碼都開源，但是用于AI系統訓練的數據是很重要的，我們使用什么樣的數據來進行模型的訓練和檢測，數據是否有偏見，是否符合臨床實踐的價值，這些應該是適合發布給公眾了解的。”
醫渡云首席人工智能科學家閆峻表示：“保證數據的質量非常重要，我們需要的是用于臨床研究的結構化和標準化的模型。現在即便是非常好的醫療機構提供的數據，很多也不能直接拿來面向訓練，需要自然語言處理技術來識別，識別的過程中需要很多醫學邏輯?！?BR>
科大訊飛一位醫療AI負責人強調了醫療AI系統的可解釋性?！癆I醫療的智能化系統如果提供了服務信息，那么醫生需要獲得解釋；如果AI系統作為一個輔助診療系統，那么本身也需要可解釋性。”這位負責人表示，“在樣本的可解釋性技術路線之上，我們再對數據做深度分析，尋找輸入和結果是否強相關的，最后還需要結構化的醫學診療知識。” |
|
