正文共：1653-4圖
預(yù)計(jì)閱讀時(shí)間：5分鐘
今天分享來(lái)自于世界衛(wèi)生組織的《健康領(lǐng)域人工智能倫理與治理指南》報(bào)告，該報(bào)告強(qiáng)調(diào)了健康人工智能的前景，以及其幫助醫(yī)生治療病人的潛力--特別是在資源不足的地區(qū)。但它也強(qiáng)調(diào)，技術(shù)不是解決健康挑戰(zhàn)的快速方法，特別是在中低收入國(guó)家，政府和監(jiān)管機(jī)構(gòu)應(yīng)仔細(xì)審查人工智能在醫(yī)療領(lǐng)域的使用地點(diǎn)和方式。世衛(wèi)組織表示，它希望這六項(xiàng)原則能夠成為政府、開(kāi)發(fā)商和監(jiān)管機(jī)構(gòu)處理該技術(shù)的基礎(chǔ)。專家們提出的六項(xiàng)原則是：保護(hù)自主權(quán)；促進(jìn)人類安全和福祉；確保透明度；促進(jìn)問(wèn)責(zé)制；確保公平；以及促進(jìn)具有響應(yīng)性和可持續(xù)性的工具。有幾十種潛在的方式可以將人工智能應(yīng)用于醫(yī)療保健。有一些正在開(kāi)發(fā)的應(yīng)用，使用人工智能來(lái)篩選醫(yī)療圖像，如乳房X光檢查；掃描病人健康記錄以預(yù)測(cè)他們是否可能生病的工具；幫助人們監(jiān)測(cè)自己的健康的設(shè)備；以及幫助跟蹤疾病爆發(fā)的系統(tǒng)。在人們無(wú)法接觸到專業(yè)醫(yī)生的地區(qū)，工具可以幫助評(píng)估癥狀。但是，當(dāng)它們沒(méi)有被仔細(xì)開(kāi)發(fā)和實(shí)施時(shí)，它們可能--在最好的情況下--沒(méi)有實(shí)現(xiàn)其承諾。在最壞的情況下，它們可能會(huì)造成傷害。在過(guò)去的一年中，一些隱患是顯而易見(jiàn)的。在對(duì)抗COVID-19大流行病的爭(zhēng)奪中，醫(yī)療機(jī)構(gòu)和政府轉(zhuǎn)向人工智能工具尋求解決方案。然而，這些工具中的許多都具有世衛(wèi)組織報(bào)告所警告的一些特征。例如，新加坡政府承認(rèn)，一個(gè)聯(lián)系人追蹤應(yīng)用程序收集的數(shù)據(jù)也可用于刑事調(diào)查--這是一個(gè) "功能蠕變 "的例子，即健康數(shù)據(jù)被重新利用，超出了原來(lái)的目標(biāo)。大多數(shù)旨在根據(jù)胸部掃描檢測(cè)COVID-19的人工智能程序都是基于糟糕的數(shù)據(jù)，最終并沒(méi)有用。美國(guó)的醫(yī)院在測(cè)試該程序之前使用了一種旨在預(yù)測(cè)哪些COVID-19患者可能需要重癥監(jiān)護(hù)的算法。"緊急情況并不證明部署未經(jīng)證實(shí)的技術(shù)是合理的，"該報(bào)告說(shuō)。報(bào)告還承認(rèn)，許多人工智能工具是由大型私人技術(shù)公司（如Google）或公共和私營(yíng)部門之間的伙伴關(guān)系開(kāi)發(fā)的。這些公司擁有建立這些工具的資源和數(shù)據(jù)，但可能沒(méi)有動(dòng)力為自己的產(chǎn)品采用擬議的道德框架。他們的重點(diǎn)可能是利潤(rùn)，而不是公共利益?！半m然這些公司可能會(huì)提供創(chuàng)新的方法，但人們擔(dān)心他們最終可能會(huì)在政府、供應(yīng)商和病人面前行使過(guò)多的權(quán)力，”報(bào)告寫道。醫(yī)療領(lǐng)域的人工智能技術(shù)仍然是新的，許多政府、監(jiān)管機(jī)構(gòu)和衛(wèi)生系統(tǒng)仍在摸索如何評(píng)估和管理它們。世衛(wèi)組織的報(bào)告說(shuō)，在方法上深思熟慮和有分寸，將有助于避免潛在的傷害?！凹夹g(shù)解決方案的吸引力和技術(shù)的承諾可能會(huì)導(dǎo)致高估利益，否定人工智能等新技術(shù)可能帶來(lái)的挑戰(zhàn)和問(wèn)題?！?/span>以下是世衛(wèi)組織指南中六項(xiàng)道德原則的細(xì)目，以及它們?yōu)楹沃匾脑颉?/span>保護(hù)自主權(quán)。人類應(yīng)該對(duì)所有健康決定進(jìn)行監(jiān)督并擁有最終決定權(quán)--這些決定不應(yīng)該完全由機(jī)器做出，醫(yī)生應(yīng)該能夠在任何時(shí)候推翻它們。未經(jīng)同意，人工智能不應(yīng)該被用來(lái)指導(dǎo)某人的醫(yī)療護(hù)理，而且他們的數(shù)據(jù)應(yīng)該受到保護(hù)。促進(jìn)人類安全。開(kāi)發(fā)人員應(yīng)持續(xù)監(jiān)測(cè)任何人工智能工具，以確保它們按規(guī)定工作，不會(huì)造成傷害。確保透明度。開(kāi)發(fā)者應(yīng)該公布有關(guān)人工智能工具設(shè)計(jì)的信息。對(duì)這些系統(tǒng)的一個(gè)經(jīng)常性批評(píng)是，它們是 "黑盒子"，研究人員和醫(yī)生很難知道它們是如何做出決定的。世衛(wèi)組織希望看到足夠的透明度，以便用戶和監(jiān)管機(jī)構(gòu)能夠充分審計(jì)和理解它們。培養(yǎng)問(wèn)責(zé)制。當(dāng)人工智能技術(shù)出現(xiàn)問(wèn)題時(shí)--比如工具做出的決定導(dǎo)致病人受到傷害--應(yīng)該有機(jī)制來(lái)確定誰(shuí)應(yīng)該負(fù)責(zé)（比如制造商和臨床用戶）。確保公平。這意味著要確保工具有多種語(yǔ)言版本，并在不同的數(shù)據(jù)集上進(jìn)行訓(xùn)練。在過(guò)去的幾年里，對(duì)普通健康算法的仔細(xì)審查發(fā)現(xiàn)，一些算法中存在種族偏見(jiàn)。推廣可持續(xù)發(fā)展的人工智能。開(kāi)發(fā)者應(yīng)該能夠定期更新他們的工具，如果一個(gè)工具看起來(lái)沒(méi)有效果，機(jī)構(gòu)應(yīng)該有辦法進(jìn)行調(diào)整。機(jī)構(gòu)或公司也應(yīng)該只引進(jìn)可以修復(fù)的工具，即使是在資源不足的衛(wèi)生系統(tǒng)。
如果您想下載本文的報(bào)告，可以在水木人工智能學(xué)堂（公眾號(hào)：smaiedu）回復(fù)關(guān)鍵詞“ai228”獲取。來(lái)源 | 世界衛(wèi)生組織
版權(quán)聲明：本號(hào)內(nèi)容部分來(lái)自互聯(lián)網(wǎng)，轉(zhuǎn)載請(qǐng)注明原文鏈接和作者，如有侵權(quán)或出處有誤請(qǐng)和我們聯(lián)系。
下載APP