患者痛不欲生，但AI說：別給她開止疼藥

博雯 發自 凹非寺量子位 報道 | 公眾號 QbitAI

因為嚴重痛經入院，在醫囑下注射阿片類藥物（Opioid）以緩解痛苦。

結果入院四天後，就突然被AI告知：

你將不會再接受任何阿片類藥物。

然後就抱著尚未被消除的病痛，立即「被出院」了。

這就是2020年7月份，32歲的Kathryn所遭遇的情況。

而更讓她無法理解的是，兩週後，長期保持聯絡的婦科醫生突然又向她聲明：要終止他們之間的關係。

一番查證之後，Kathryn最終發現——

源頭竟來自她的兩隻寵物狗？

寵物狗生病讓主人被禁止買藥

其實，在住院期間，Kathryn在被告知「不能再使用阿片類藥物」時，工作人員同時也表示：

你完全沒有意識到自己的圖表中有多高的分數。

當時的Kathryn並不明白「圖表」和「分數」是什麼意思。

而兩週後她的醫生送來的終止關係的聲明中，又有這樣一段描述：

（關係的終止）來自NarxCare資料庫中的一份報告。

或許這裡提到的NarxCare和之前所說的「圖表分數」有關？

Kathryn和她周圍的人都沒有聽過這個名字，於是她馬上去Google了一下：

原來，這是一個面向醫生、藥店和醫院的分析工具和護理管理平臺。

NarxCare可以利用AI演算法對病患的處方藥資料進行統計和分析，最終得到一個風險報告。

它主要使用來自國家藥品登記處的資料。

除此之外，醫療索賠資料、電子健康記錄、 EMS 資料和刑事司法資料也在使用範圍之內。

NarxCare會通過機器學習演算法對這些資料進行統計和分析，最終得到一個預測模型。

根據這一模型，每位患者都會得到一個屬於自己的的「處方藥使用風險評估報告」：

如果評分過高，就有可能被認為是有藥物濫用情況，從而被拒絕出售相關處方藥。

但這仍然不能解決Kathryn的疑惑：

她所患有的子宮內膜異位症導致了常年的生理病痛，因此她確實有長期服用阿片類藥物的習慣。

但這一切都是在醫生指導下所開的處方藥啊，怎麼突然就被叫停了？

在與各種論壇上的慢性疼痛病患者的交流之後，Kathryn最終找到了這場意外的源頭。

而結果讓她感到無比離奇——

原來，Kathryn的兩隻寵物狗，都曾因疾病而服用過大量的阿片類藥物、苯二氮卓類藥物，甚至巴比妥類藥物：

由於代謝原因，狗狗們所服用的劑量會高出人類。

而買藥的全部流程掛的都是主人，也就是Kathryn的名字。

因此，Kathryn去過的藥店數量、去醫院的路程，以及她收到的處方藥組合，全都被NarxCare記錄了下來。

她的寵物狗們的服藥經歷，全都算到了她的頭上。

美國處方藥監控項目

這場非常荒謬的意外，或許是由於平臺演算法的缺陷所導致的。

不過讓Kathryn更在意的是另外一點：

這樣一個暗中收集處方藥資料的項目，她和身邊的大多數人從來都沒聽過。

誰允許的？

其實，這是來自過去20年內，美國已投入了數十億美元的處方藥監控項目：

司法部一直在致力於開發和維護州級處方藥資料庫。

他們希望通過這一電子登記系統實時跟蹤某些受管制藥物的藥方，密切關注製藥市場。

現在，幾乎美國的所有洲都有一個這樣的處方藥監控項目（PDMP）。

而在過去的幾年裡，一家名為Appriss的公司慢慢主導了這些州處方資料庫的管理。

NarxCare，就是Appriss公司旗下的產品。

Appriss希望通過NarxCare所產生的報告來幫助處理藥物濫用情況，並輔助醫生進行更好的診斷決策。

在目前的美國，幾乎每個州都會要求醫生和藥劑師在開具處方藥的同時，諮詢和參考NarxCare中的醫療資訊，否則就有可能被吊銷執照。

而對於Kathryn這樣的例子，Appriss則表示：

寵物狗提高了主人的評分，這是一個非常罕見的例子。

但不論這是怎樣的一個卡夫卡式的發展，對於現在的Kathryn來說，每次進入藥店時，總能有人看到她過去的那些「圖示和分數」。

她對此表示：

這讓我感到我走入的不是藥店，而是宗教審判所。

不公開的專利演算法

而像是Kathryn這樣的例子並不少見。

她在慢性疼痛患者論壇中，就曾遇到一位擁有相似經歷的女士。

在對醫生進行自我介紹之前，就先被要求披露自己為什麼長期服用阿片類藥物。

回答了自己患有PTSD後，還被要求進一步解釋精神創傷的原因。

而目前NarxCare並不需要獲得FDA的批准，這也讓一些醫學專家提出了質疑：

它（NarxCare）是一種專有的演算法，既沒有學術界的同行評審，也沒有政府監管。

NarxCare用於過量風險評估的演算法並不對外公開。

不過根據官網的一些已有的資料，我們可以瞭解它們大致的思路：

在得到來自處方藥監控項目的大量資料，並開發了一個大的變數集後，再將資料分解為一個訓練集和一個測試集。

有了訓練資料之後，演算法就開始將服藥過量和未服藥過量的模式進行對比。

比如，如果某位病患擁有同一醫生開出的三張阿片類處方藥，那麼他的藥物濫用風險就遠遠低於三位不同醫生開出處方藥的病患。

在這種重複的對比和學習中，最終就得到了一個用於評估病患風險的預測模型。

這一演算法近年來在生命的多個領域得到了廣泛應用。

比如，常常被用來預測哪些病人最有可能從特定的治療中受益，並估計ICU病人出院後惡化或死亡的可能性。

但也就像很多人說的那樣，NarxCare並不透明，沒有辦法從底層去檢查它們是否存在錯誤或偏見：

有很多病人並沒有意識到他們正在被測量分析。

甚至不僅是病患，連使用這一輔助臨床決策系統的醫生也無法完全知曉它的原理。

就像是親身體會的Kathryn所說的那樣：

對於大多數美國人來說，這是一個祕密的信用評分系統。

參考連結：[1]https://www.wired.com/story/opioid-drug-addiction-algorithm-chronic-pain/[2]https://twitter.com/Annaleen/status/1425493523076304898

NarxCare官網：https://apprisshealth.com/solutions/narxcare/