文 ｜ 闌夕
時值OpenAI衝擊上市的當口，這家公司還在打着一起事關人命的官司：
一年前，美國得克薩斯州的19歲大學生Sam Nelson在詢問ChatGPT能否混用兩種藥物之後，得到了肯定的回答，甚至包括推薦劑量，之後照此服藥的Sam Nelson於當夜去世，死因是那兩種藥物共同造成的呼吸抑制副作用。
隨着那對痛苦心碎的父母將OpenAI訴諸法庭，一個已經氾濫同時卻也保守批評的應用場景再次被推倒了風口浪尖，那就是——AI看病到底靠不靠譜？
相比大公司們都爭先恐後的追求模型上限——這固然重要——我其實更想看到的是， 有沒有大廠願意在必要時放慢一步，解決AI在求醫問藥這種幾乎沒有容錯率的場景裏是否真正值得託付的難題。
· · ·
之所以說這麼多，主要還是因爲發現了確實有產品在做一些新的嘗試。
老讀者應該都知道，我有慢性蕁麻疹，不是什麼大病，就是比較鬧心，迄今爲止只有一次因爲疊加了海鮮蛋白過敏引起了嚴重到必須入院的症狀，在那之後我就比較小心，手邊常備氯雷他定。
但尋麻疹這事兒的微妙在於，它每次發作的程度非常隨機，出於「身體的事再小也得重視」這個原則，我成了螞蟻阿福的月活用戶，就爲它的拍皮膚功能。
我當然知道AI沒有診斷能力，但看皮膚和看CT片子的原理是一樣的，主打一個經驗主義的對照，當模型經過了定向訓練——看過了成千上萬張圖片和診斷結果——之後，除非我身上出現了世間罕見的、未經記錄的信息，負責它大概率能從數據庫裏找到同類病例，並且給我相對穩妥的建議。
我要說的，倒也不是這個已經運行了小半年的功能，新的變化在於，它開始支持用戶發起請求，讓三甲醫院的執業醫生對AI的判斷進行復核。
這麼一來，所謂AI看病是個僞命題的性質，就完全變了。
用戶心裏沒底的原因在於，模型的本質是預測下一個Token，這也是爲什麼說我們在很大程度上——甚至必須——理解AI廠商的免責聲明，因爲實在是非技術所能及。
但阿福把真人醫生拉進來，相當於在常規的問答輪次之外新增了一個類似後訓練的流程，完全改變了AI的回答份量。
給你們感受一下這個過程：
在拍了疹子給阿福觀察之後，它先是追問了一些細節情況，也給出了診斷建議，到此爲止都還很正常，直到最後彈出邀請三甲醫院醫生確認分析結果的卡片，體驗就和市面上所有ChatBot產品都不一樣了。
簡單授權之後，阿福給我對接了一個皮膚科專家，等了差不多五分鐘，對方發來了「醫生認可」的蓋章，讓我喫下了一顆定心丸。
而且阿福目前可識別的皮膚病範圍，已經從50種增至100多種，能夠覆蓋99%的線上就醫常見皮膚問題。
是不是有點意思？
· · ·
半年前，我在參加一期討論AI健康主題的播客時，就聊到了互聯網醫療那波熱潮過後的理想與現實：
那些在線問診平臺的初衷，通常都是想讓三甲醫院的醫生在閒時也能線上看病，由此來爲醫療資源較弱的三四線城市解決分配不均的問題，然後就發現這些好醫生根本就沒有閒時……於是畫面就變成了，三四線城市的醫生在閒時給一二線城市的年輕人進行線上問診，互聯網改變的是匹配機制，卻並沒有創造出新的供給。
AI的不同，是它真的能夠承接海量的問診需求，並且具有理論上不遜於資深醫生的知識庫，但是問題在於，它無法替代真人醫生，無法和真人醫生一樣能結合自身經驗和多維度觀察。
螞蟻阿福通過「AI+醫生」的模式，極有巧思的互補了AI和醫生：
AI先接住海量需求，解決絕大部分問題，醫生再複覈拿不準的地方。
從我分享的自身實例就能看出，只有用戶不放心，需要複覈的時候，才需要真人醫生來判斷，這意味着醫生的時間成本也得到了最大程度的保障。
某種意義上，我們不能完全信任AI的原因不是AI經常犯錯，恰恰相反，它是會在99次正確裏摻雜1次錯誤，這種小概率但要命的疏忽，纔是用戶不可承受之輕。
而「AI+醫生」的模式，則是在用最高效的方式，把人機合作的好鋼用在了刀刃上。這是把「HITL」（Human In The Loop）的理念用在了現階段的AI看病原則裏，它源於 20世紀中期的控制工程、航空航天和軍事自動化：
機器可以自動運行，但人類仍參與反饋、判斷或最終決策，後來被引入機器學習和AI治理領域，在重要決策中保留人的監督和干預權。
如果說被「龍蝦」誤刪電腦文件尚能補救或是損失可控，那麼在性命攸關的事情上讓專業的醫生去給AI「批作業」，無論是實際上的安全性還是心理層面的可靠性，都得到了質變。
· · ·
很巧的是，最近我在刷一部醫療題材的神劇「匹茲堡醫護前線」，豆瓣評分高達9.5，鏡頭對準了一家急救醫院的重壓日常，在永遠看不完的病人和始終不夠用的醫生之間，艱難化解矛盾的故事。
其中分診制對於效率優化的作用被提到過很多次，雖然這難免引起部分病人的等待時間變長，但以輕重緩急爲標準去爲急救室輸送病人，依然是能夠最大化挽救生命的方案。
阿福的做法，有點像是給目前的AI看病配置了一種「分診制」，先接住海量需求，並以性價比最優的資源佔用率，去做出準確的反饋。如果用戶覺得需要醫生再確認一遍，由用戶發起之後，真人醫生便會介入，根據上下文給出判斷，也會向用戶發起文字對話，請求補全信息後再做考慮和回覆。
正常人使用AI，不會像基準測試那樣，按照出題規範那樣去和AI一唱一和，他們往往起手就是「我肚子疼」，然後希望能從AI那裏直接得到即刻應驗的答案，這不現實。
至少從我的使用體驗來看，阿福的追問已經相當「盡職」了，在上下文不足的情況下，它基本不會輕率作答，而是會細緻追問，而在有了醫生接入判斷的組合之後，用戶和AI之間的對話也會成爲更加詳細的上下文，去爲醫生節省診前時間。
我相信，帶着這樣的AI使用過程，即便是真的在醫院裏和醫生討論病情，也一定不會引起醫生的血壓升高⋯⋯
· · ·
古人說，「盡信書，則不如無書」，讀書當然是好事，但唯書本是從，就會喪失思考能力，反倒比不上直覺的判斷。
在今天的這個時代，「盡信AI，則不如無AI」的常識也應當被建立起來，和純粹的反AI敘事不同的是，科學合理的與AI相處，懂得正確的使用科技，已經屬於上網衝浪的基本素養了。
而阿福做的事情，確實是在是在醫療資源長期不均的環境裏，讓AI負責任的擔當普通人焦慮身體的求助對象，同時因爲有了醫生把關的最後一道防線，用戶被尊重的體驗也上升到了前所未有的地步。
阿福現在的「AI+醫生」模式只在皮膚類目開放，可能還要收集反饋，我是很期待能有足夠樂觀的信息，包括已經看到其他用戶強烈呼籲了，希望能夠覆蓋更多科室和類目，真正意義上讓天下沒有難看的病。
這事兒能不能長久的做下去，我說不好，但我能知道的是，它一定是對的。