１月１８日，世界衛(wèi)生組織（ＷＨＯ）發(fā)布了關(guān)于多模態(tài)大模型倫理標(biāo)準(zhǔn)和治理指南一文，指出人工智能（ＡＩ）在整個(gè)醫(yī)療衛(wèi)生領(lǐng)域應(yīng)用前景廣闊，但同時(shí)也要防范其中可能出現(xiàn)的諸如“自動(dòng)化偏見(jiàn)”導(dǎo)致的過(guò)度依賴等風(fēng)險(xiǎn)。

上述指南概述了４０多項(xiàng)建議，供各國(guó)政府、技術(shù)公司和醫(yī)療服務(wù)提供者予以參考，以確保適當(dāng)使用人工智能技術(shù)，促進(jìn)和保護(hù)人口健康。

作為一項(xiàng)快速發(fā)展的生成式人工智能技術(shù)，多模態(tài)大模型是指能夠處理圖像、文本、聲音等多種類(lèi)型數(shù)據(jù)的深度學(xué)習(xí)模型，廣泛應(yīng)用于醫(yī)療衛(wèi)生領(lǐng)域。其普及速度比歷史上任何消費(fèi)應(yīng)用都要快，如ＣｈａｔＧＰＴ、Ｂａｒｄ等多個(gè)平臺(tái)于２０２３年在人群中快速流行。

世衛(wèi)組織首席科學(xué)家Ｊｅｒｅｍｙ?。疲幔颍颍幔虿┦恐赋?，生成式人工智能技術(shù)具有改善衛(wèi)生保健的潛力，但前提是這些技術(shù)的開(kāi)發(fā)、管理和使用人員能夠識(shí)別并充分考慮到相關(guān)風(fēng)險(xiǎn)，并對(duì)其進(jìn)行監(jiān)管并制定相關(guān)規(guī)范。

Ｆａｒｒａｒ表示，我們需要透明的信息和政策來(lái)管理多模態(tài)大模型的設(shè)計(jì)、開(kāi)發(fā)和使用，以實(shí)現(xiàn)更好的醫(yī)療成果，并克服持續(xù)存在的不公平現(xiàn)象。

風(fēng)險(xiǎn)和建議

世衛(wèi)組織在最新的指南中概述了多模態(tài)大模型在醫(yī)療衛(wèi)生領(lǐng)域的五種廣泛應(yīng)用：

診斷和臨床護(hù)理，例如回復(fù)患者的書(shū)面詢問(wèn)；

患者指導(dǎo)使用，例如用于調(diào)查癥狀和治療；

文書(shū)和行政工作例如在電子健康記錄中記錄和匯總患者就診情況；

醫(yī)療和護(hù)理教育，包括為受訓(xùn)人員提供模擬病人接觸的機(jī)會(huì)；

科學(xué)研究和藥物開(kāi)發(fā)，包括識(shí)別新的化合物。

世衛(wèi)組織也提到了多模態(tài)大模型使用時(shí)可能的風(fēng)險(xiǎn)，如產(chǎn)生虛假、不準(zhǔn)確、有偏見(jiàn)或不完整陳述的信息，這可能會(huì)損害使用此類(lèi)信息做出健康決定的人。

此外，多模態(tài)大模型可能在質(zhì)量較差或有偏見(jiàn)的數(shù)據(jù)上進(jìn)行訓(xùn)練，無(wú)論是種族、民族、血統(tǒng)、性別、性別認(rèn)同還是年齡等方面。

該指南還詳細(xì)說(shuō)明了衛(wèi)生系統(tǒng)面臨的更廣泛風(fēng)險(xiǎn)，例如表現(xiàn)最佳的多模態(tài)大模型的可及性和可負(fù)擔(dān)性；多模態(tài)大模型可能助長(zhǎng)“自動(dòng)化偏見(jiàn)”，使醫(yī)療專業(yè)人員和患者過(guò)于依賴人工智能，忽略原本可以由人發(fā)現(xiàn)的差錯(cuò)，或把困難的選擇不恰當(dāng)?shù)亟唤o多模態(tài)大模型；多模態(tài)大模型與其他形式的人工智能一樣，也容易受到網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的影響，從而危及患者信息安全、有損算法的可信度等。

基于上述風(fēng)險(xiǎn)，世衛(wèi)組織認(rèn)為各國(guó)政府負(fù)有制定多模態(tài)大模型使用規(guī)范的主要責(zé)任，以便將其整合和用于公共衛(wèi)生和醫(yī)療目的。

世衛(wèi)組織建議稱，政府應(yīng)該投資或提供非營(yíng)利的公共基礎(chǔ)設(shè)施，包括算力和公共數(shù)據(jù)集，供公共、私人和非營(yíng)利部門(mén)的開(kāi)發(fā)人員訪問(wèn)，這要求用戶遵守道德原則和價(jià)值觀，以換取訪問(wèn)權(quán)限。在大規(guī)模部署大模型時(shí)，應(yīng)該由獨(dú)立第三方實(shí)施強(qiáng)制性的審計(jì)和影響評(píng)估，包括數(shù)據(jù)保護(hù)和人權(quán)方面的評(píng)估。

注：文章來(lái)源于大健康派，如有侵權(quán)，請(qǐng)聯(lián)系刪除