作者簡(jiǎn)介：李潤(rùn)生，男，安徽合肥人，北京中醫(yī)藥大學(xué)人文學(xué)院法律系副教授，法學(xué)博士，研究方向：衛(wèi)生健康法、網(wǎng)絡(luò)數(shù)據(jù)法。
摘要：通用模型帶來(lái)了深刻的“范式變革”，“預(yù)訓(xùn)練+微調(diào)”成為人工智能發(fā)展的新范式，這引發(fā)了真正的通用性革命。通用模型的實(shí)踐應(yīng)用也帶來(lái)了各種新風(fēng)險(xiǎn)，并經(jīng)由模型和數(shù)據(jù)之轉(zhuǎn)介放大了既有風(fēng)險(xiǎn)。然而，通用模型的法律治理仍處于早期階段，包括我國(guó)在內(nèi)的絕大多數(shù)國(guó)家或地區(qū)尚未將通用模型納入規(guī)制體系，這是當(dāng)下面臨的最大現(xiàn)狀和挑戰(zhàn)。我國(guó)應(yīng)當(dāng)明確將通用模型提供者納入規(guī)制體系，消弭法律制度與技術(shù)現(xiàn)實(shí)之鴻溝，并立足于通用模型的技術(shù)特性及體系定位，精準(zhǔn)、適度賦予法律義務(wù)，實(shí)現(xiàn)制度安全與技術(shù)創(chuàng)新之平衡。結(jié)合醫(yī)療領(lǐng)域之特色和先例，我國(guó)應(yīng)當(dāng)盡快推進(jìn)通用模型的立法涵攝，構(gòu)建兩階段的準(zhǔn)入審核體系。第一階段為通用模型的準(zhǔn)入審核，堅(jiān)持內(nèi)在評(píng)價(jià)，審查重點(diǎn)在于模型架構(gòu)的科學(xué)性、數(shù)據(jù)治理的有效性、訓(xùn)練方法的適當(dāng)性、開發(fā)組織的合規(guī)性等過(guò)程性事項(xiàng)；第二階段為應(yīng)用系統(tǒng)的準(zhǔn)入審核，堅(jiān)持外在評(píng)價(jià)，審查重點(diǎn)在于具體診療場(chǎng)景下預(yù)期用途和核心功能的達(dá)成性，審查方式為臨床試驗(yàn)等結(jié)果性評(píng)價(jià)機(jī)制。醫(yī)療領(lǐng)域的規(guī)制方案可結(jié)合其他行業(yè)、領(lǐng)域的特性進(jìn)行示范遷移。
關(guān)鍵詞：通用模型；范式變革；立法涵攝；內(nèi)在評(píng)價(jià)；醫(yī)療領(lǐng)域
引言
2022年末，ChatGPT橫空出世，它的驚人能力引得舉世矚目。2025年初，DeepSeek風(fēng)暴再次席卷全球，在東西方市場(chǎng)同時(shí)實(shí)現(xiàn)了現(xiàn)象級(jí)爆發(fā)。事實(shí)上，ChatGPT和DeepSeek只是浮出水面的冰山一角，更重要的則是隱于水下的部分，ChatGPT和DeepSeek應(yīng)用系統(tǒng)分別是由GPT和DeepSeek模型微調(diào)而來(lái)的一個(gè)具體應(yīng)用，后者具有孕育無(wú)數(shù)類似應(yīng)用的巨大潛力。就技術(shù)范疇而言，GPT和DeepSeek模型屬于基礎(chǔ)模型（foundation model），或稱大模型（large model）、生成式人工智能模型（generative AI model），斯坦福大學(xué)人工智能研究中心（Stanford Institute for HumanCentered Artificial Intelligence，HAI）將其界定為一種新型人工智能，它通過(guò)在大量無(wú)標(biāo)注數(shù)據(jù)上進(jìn)行預(yù)訓(xùn)練獲取通用能力，進(jìn)而通過(guò)少量標(biāo)注數(shù)據(jù)的再訓(xùn)練即可適應(yīng)廣泛的下游任務(wù)，包括在訓(xùn)練時(shí)未預(yù)見和設(shè)定的新任務(wù)。相較之下，傳統(tǒng)人工智能屬于特定任務(wù)模型（fixed task model），僅能完成預(yù)先設(shè)定的特定任務(wù)，不具有廣泛的適應(yīng)性。就法律范疇而言，歐盟《人工智能法案（Artificial Intelligence Act）》采行了“通用目的人工智能模型（general purpose AI model，以下簡(jiǎn)稱通用模型）”的術(shù)語(yǔ)，即“在大量數(shù)據(jù)上進(jìn)行大規(guī)模自我監(jiān)督訓(xùn)練的、展現(xiàn)出顯著通用性的、能夠勝任各種不同任務(wù)并可集成到各種下游系統(tǒng)和應(yīng)用中的人工智能模型”。此處之“通用”意指“任務(wù)”之“通用”，而非“領(lǐng)域”之“通用”，前者指計(jì)算機(jī)任務(wù)處理的不同類別，包括文本生成、文本分類、情感分析、機(jī)器翻譯、圖像分類、圖像檢測(cè)、語(yǔ)音識(shí)別等；后者指應(yīng)用場(chǎng)景或行業(yè)的不同類別，包括醫(yī)療保健、交通運(yùn)輸、教育國(guó)防等。同一“任務(wù)”可以覆蓋多元“領(lǐng)域”，同一“領(lǐng)域”亦需處理多種“任務(wù)”。“大型生成式人工智能模型是通用模型的典型范例（但非全部），因?yàn)樗鼈兛梢造`活地生成內(nèi)容，如文本、音頻、圖像或視頻等，可隨時(shí)適應(yīng)各種不同的任務(wù)。”應(yīng)當(dāng)指出，模型（model）不同于系統(tǒng)（system），二者是上下游概念，DeepSeek模型位于DeepSeek系統(tǒng)之上游。雖然人工智能模型是人工智能系統(tǒng)的重要組成部分，但其本身并不構(gòu)成人工智能系統(tǒng)，人工智能模型需要添加更多組件（如用戶界面）才能成為人工智能系統(tǒng)。通用模型帶來(lái)了真正的變革，過(guò)去每一次關(guān)鍵技術(shù)（如蒸汽機(jī)、電力、互聯(lián)網(wǎng)等）的通用性得到解決后，生產(chǎn)方式都有巨大改變，生產(chǎn)力水平也發(fā)生質(zhì)的飛躍，人工智能是第四次科技革命的重要驅(qū)動(dòng)力，通用模型則真正賦予其通用技術(shù)的關(guān)鍵特征，人工智能由此成為重要的元技術(shù)，催生出一系列二次創(chuàng)新和變革，全方位賦能和改變?nèi)祟惖纳a(chǎn)生活。
通用模型的法律治理仍處于早期探索階段，絕大多數(shù)國(guó)家尚未明確將其納入規(guī)制體系，現(xiàn)有研究文獻(xiàn)亦多著眼于系統(tǒng)層，鮮少關(guān)注模型層。本文將聚焦通用模型的法律規(guī)制，從醫(yī)療領(lǐng)域切入，深入探討模型規(guī)制的關(guān)鍵議題。之所以選擇從醫(yī)療領(lǐng)域切入，既非心血來(lái)潮，亦非故弄玄虛，而是具有充分的理由。一則言之有物。醫(yī)療是人工智能落地最早、應(yīng)用最廣泛的兩大領(lǐng)域之一，醫(yī)療AI屬于醫(yī)療器械范疇，包括中國(guó)、美國(guó)等在內(nèi)的各國(guó)監(jiān)管機(jī)構(gòu)已經(jīng)批準(zhǔn)了數(shù)量眾多的醫(yī)療AI。根據(jù)國(guó)家衛(wèi)生健康委員會(huì)披露的資料，我國(guó)已有不少醫(yī)療AI臨床部署的案例，散布于東中西部地區(qū)，遍及醫(yī)學(xué)影像、呼吸、消化、心血管等常見科室。更重要的是，通用模型已開始廣泛賦能醫(yī)療健康產(chǎn)業(yè)，在輔助診斷、輔助治療、醫(yī)藥研發(fā)等領(lǐng)域均有深度探索和應(yīng)用。因此，從醫(yī)療領(lǐng)域切入將使我們的討論更加具象和生動(dòng)。二則典型示范。醫(yī)療AI關(guān)乎患者生命健康，屬于典型的強(qiáng)監(jiān)管領(lǐng)域，我國(guó)已構(gòu)筑起全流程的醫(yī)療AI管理制度，包括前端的準(zhǔn)入審核（如《人工智能醫(yī)療器械注冊(cè)審查指導(dǎo)原則》等）、中端的臨床使用（如《人工智能輔助診斷技術(shù)管理規(guī)范》等）和后端的不良事件監(jiān)測(cè)及產(chǎn)品召回（《醫(yī)療器械監(jiān)督管理?xiàng)l例》）等。其他應(yīng)用領(lǐng)域則往往有所缺失，例如，汽車自動(dòng)駕駛算法通常只需備案，僅L3及以上自動(dòng)化分級(jí)須經(jīng)審批，目前國(guó)內(nèi)外自動(dòng)駕駛的主流水平為L2級(jí)及以下。此外，醫(yī)療AI注冊(cè)審評(píng)已開始關(guān)注上游模型評(píng)價(jià)問(wèn)題，國(guó)家藥品監(jiān)督管理局發(fā)布的《人工智能醫(yī)療器械 質(zhì)量要求和評(píng)價(jià) 第5部分：預(yù)訓(xùn)練模型》（YY/T 1833.5-2024，2024年9月頒布、2025年10月實(shí)施）即將審評(píng)范圍延展至“預(yù)訓(xùn)練模型”，提出了模型評(píng)價(jià)的主要維度，包括可遷移性、一致性、健壯性和泛化性等。醫(yī)療領(lǐng)域處于人工智能系統(tǒng)和模型規(guī)制的最前沿，從醫(yī)療領(lǐng)域切入有助于我們展開深入的制度研討，形成縝密的應(yīng)對(duì)方案。三則因勢(shì)利導(dǎo)。通用模型的發(fā)展應(yīng)用具有鮮明的層級(jí)結(jié)構(gòu)和體系特征，并最終落腳于具體的行業(yè)，具有強(qiáng)烈的行業(yè)導(dǎo)向?qū)傩?。?guó)內(nèi)主要通用模型廠商（如百度、華為、阿里巴巴等）的開發(fā)體系對(duì)此有生動(dòng)注解（見圖1）。這種層級(jí)結(jié)構(gòu)順應(yīng)了通用模型的訓(xùn)練規(guī)律，即在“基礎(chǔ)層”和“任務(wù)層”完成“通識(shí)教育”獲取基礎(chǔ)能力，在“行業(yè)層”完成“專業(yè)教育”獲取專業(yè)能力，這與人類接受教育的歷程相似。從醫(yī)療行業(yè)切入，更加契合通用模型的開發(fā)和應(yīng)用規(guī)律，亦將使我們的討論更加務(wù)實(shí)和聚焦。由此，筆者將以醫(yī)療領(lǐng)域?yàn)槔紫汝U釋通用模型的技術(shù)演進(jìn)和范式變革，進(jìn)而探討通用模型的規(guī)制現(xiàn)狀及治理挑戰(zhàn)，最后提出針對(duì)性的規(guī)制策略和方案。
圖1 百度、華為、騰訊、阿里巴巴的大模型開發(fā)體系
一、通用模型的技術(shù)演進(jìn)及范式變革
“法之理在法外”。作為一種新型人工智能，深刻洞察通用模型的技術(shù)演進(jìn)和運(yùn)行邏輯是我們展開理性法學(xué)研討的前提。國(guó)內(nèi)法學(xué)文獻(xiàn)普遍缺乏對(duì)通用模型技術(shù)邏輯的精準(zhǔn)闡釋，這在一定程度上造成了概念偏倚和自說(shuō)自話。本文希望結(jié)合國(guó)內(nèi)外權(quán)威科學(xué)文獻(xiàn)，系統(tǒng)闡釋通用模型的演進(jìn)路徑。
（一）傳統(tǒng)模型的技術(shù)流變和應(yīng)用局限
通用模型的誕生是自然而然的歷史過(guò)程，通往通用模型的橋梁來(lái)自于傳統(tǒng)模型的應(yīng)用局限。人工智能整體經(jīng)歷了從基于規(guī)則（rulebased）的系統(tǒng)轉(zhuǎn)向基于數(shù)據(jù)（databased）的系統(tǒng)的演進(jìn)脈絡(luò)，目前運(yùn)用的主流技術(shù)是機(jī)器學(xué)習(xí)（Machine Learning，ML）。機(jī)器學(xué)習(xí)依據(jù)統(tǒng)計(jì)學(xué)方法對(duì)大量歷史數(shù)據(jù)進(jìn)行學(xué)習(xí)以總結(jié)和提煉規(guī)則，相較于傳統(tǒng)算法，機(jī)器學(xué)習(xí)基于數(shù)據(jù)而非規(guī)則，它并非按照預(yù)先設(shè)定的規(guī)則重復(fù)演算，而是從數(shù)據(jù)中學(xué)習(xí)和提煉規(guī)則，這便將人類從復(fù)雜的算法抽象中解放出來(lái)。2006年，機(jī)器學(xué)習(xí)的最新子集深度學(xué)習(xí)（Deep Learning，DL）被提出，它模擬人腦神經(jīng)網(wǎng)絡(luò)的多層計(jì)算結(jié)構(gòu)，在編程中引入多個(gè)隱藏層（layer），以多層自編碼的形式進(jìn)行演算，打破了人工智能的發(fā)展瓶頸，例如，在深度學(xué)習(xí)算法引入前，語(yǔ)音識(shí)別的準(zhǔn)確率連續(xù)三年穩(wěn)定在76.4%，新算法引入后，準(zhǔn)確率逐年遞升至94.5%（2017年）。
根據(jù)筆者的檢索，醫(yī)療領(lǐng)域目前應(yīng)用的AI算法主要為深度學(xué)習(xí)。深度學(xué)習(xí)包含了多種算法架構(gòu)，常見如卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Networks, CNN）和遞歸神經(jīng)網(wǎng)絡(luò)（Recursive Neural Network，RNN），它們都是先進(jìn)的算法架構(gòu)，已經(jīng)在很多任務(wù)領(lǐng)域達(dá)到甚至超過(guò)人類水平。但是，傳統(tǒng)深度學(xué)習(xí)針對(duì)特定任務(wù)而設(shè)計(jì)，應(yīng)用范圍較為狹窄，不具有通用性，屬于特定任務(wù)模型范疇。這在已獲批的醫(yī)療AI上體現(xiàn)的尤為明顯。美國(guó)食品藥品監(jiān)督管理局（Food and Drug Administration，FDA）核準(zhǔn)注冊(cè)的500多個(gè)醫(yī)療AI中，絕大多數(shù)只被批準(zhǔn)用于一至兩項(xiàng)狹窄的任務(wù)，例如，胸部X射線肺炎檢測(cè)系統(tǒng)，只能用于肺炎檢測(cè)，無(wú)法撰寫全面的放射學(xué)報(bào)告。截至2024年12月，我國(guó)已批準(zhǔn)百余款作為第三類醫(yī)療器械管理的醫(yī)療AI（僅統(tǒng)計(jì)獨(dú)立軟件，不包含軟件組件），覆蓋心血管、腦部、眼部、肺部、骨科、腫瘤等多個(gè)診療領(lǐng)域，預(yù)期用途包括分診評(píng)估、定量計(jì)算、病灶檢測(cè)、靶區(qū)勾畫等。但正如表1所示，我國(guó)注冊(cè)的醫(yī)療AI絕大多數(shù)僅可勝任一項(xiàng)特定的診療任務(wù)，如計(jì)算深脈血流儲(chǔ)備分?jǐn)?shù)、肺結(jié)節(jié)檢測(cè)、肺炎檢測(cè)、糖尿病視網(wǎng)膜病變檢測(cè)等，僅個(gè)別可勝任兩項(xiàng)及以上任務(wù)，如眼底病變眼底圖像輔助診斷軟件（序號(hào)23）可同時(shí)檢測(cè)糖尿病視網(wǎng)膜病變和可疑慢性青光眼樣視神經(jīng)病變，但也基本屬于同一診療領(lǐng)域的相近任務(wù)。
特定任務(wù)模型或系統(tǒng)具有明顯的局限性。以卷積神經(jīng)網(wǎng)絡(luò)（CNN，模仿人類視知覺的深度學(xué)習(xí)模型）為例，它僅能勝任特定的診療任務(wù)，通用性差，如果切換到其他任務(wù)類別，便需要重新設(shè)計(jì)和訓(xùn)練，效率低下，成本高昂。而且，訓(xùn)練CNN需要高質(zhì)量的標(biāo)注數(shù)據(jù)，通常由醫(yī)療專家標(biāo)注，這導(dǎo)致人力成本的膨脹。更重要的是，CNN已被反復(fù)確證在場(chǎng)景遷移和算法泛化中存在先天的局限，這導(dǎo)致其在從高資源環(huán)境（如區(qū)域中心醫(yī)院）轉(zhuǎn)向低資源環(huán)境（如社區(qū)醫(yī)院）、從白色人種轉(zhuǎn)向有色人種、從高收入人群轉(zhuǎn)向低收入人群、從發(fā)達(dá)地區(qū)轉(zhuǎn)向欠發(fā)達(dá)地區(qū)時(shí)存在原生障礙，容易誘發(fā)診療偏差。此外，特定任務(wù)模型時(shí)常會(huì)犯人類可輕易避免的錯(cuò)誤。例如，將身體上的刺青診斷為皮膚癌，原因在于，它缺乏必要的背景知識(shí)和上下文理解能力，僅通過(guò)統(tǒng)計(jì)學(xué)分析輸出診療決策。特定任務(wù)模型盡管仍在取得創(chuàng)新，但與人類期待相去甚遠(yuǎn)，新型人工智能呼之欲出。
（二）通用模型的技術(shù)演進(jìn)和范式變革
谷歌（Google）團(tuán)隊(duì)于2017年提出了著名的Transformer架構(gòu)，正式拉開了通用模型的發(fā)展序幕。Transformer架構(gòu)完全基于注意力（attention）機(jī)制而設(shè)計(jì)，徹底省去了遞歸神經(jīng)網(wǎng)絡(luò)（RNN）和卷積神經(jīng)網(wǎng)絡(luò)（CNN）。注意力機(jī)制是Transformer架構(gòu)的關(guān)鍵組件，它的最初靈感來(lái)自于人類的視覺習(xí)慣，當(dāng)人用眼睛進(jìn)行觀察時(shí)，會(huì)首先快速掃描全局圖像，然后再捕捉需要重點(diǎn)關(guān)注的目標(biāo)區(qū)域，并對(duì)目標(biāo)區(qū)域投入更多的注意力資源，忽略其他區(qū)域。相較于RNN、CNN等傳統(tǒng)架構(gòu)，Transformer架構(gòu)具有三大顯著優(yōu)勢(shì)：第一，它可以有效獲取長(zhǎng)距離信息，從而實(shí)現(xiàn)全域的上下文理解，CNN、RNN等普遍存在長(zhǎng)距離信息丟失的問(wèn)題；第二，它可以實(shí)現(xiàn)并行計(jì)算，從而大幅提升計(jì)算效率，CNN、RNN等只能進(jìn)行串行計(jì)算；第三，它具有更強(qiáng)的通用性，與特定任務(wù)或領(lǐng)域沒有強(qiáng)烈的關(guān)聯(lián)，這有助于增強(qiáng)下游適應(yīng)性，RNN和CNN則先天受限于語(yǔ)言和視覺模態(tài)的固有屬性。由此，以Transformer架構(gòu)為基礎(chǔ)、以預(yù)訓(xùn)練和無(wú)監(jiān)督學(xué)習(xí)為支撐、可廣泛適應(yīng)下游任務(wù)的通用模型應(yīng)運(yùn)而生。
技術(shù)架構(gòu)的創(chuàng)新是通用模型誕生的重要基礎(chǔ)，但學(xué)界更傾向于將其界定為一場(chǎng)深刻的“范式變革”，而非“技術(shù)變革”。原因在于，Transformer架構(gòu)仍屬于深度學(xué)習(xí)范疇，是在深度學(xué)習(xí)框架內(nèi)的技術(shù)演進(jìn)，深度學(xué)習(xí)的一個(gè)重要特征就是可以在代理任務(wù)上進(jìn)行訓(xùn)練，而后根據(jù)具體應(yīng)用場(chǎng)景進(jìn)行微調(diào)，此即所謂的“遷移學(xué)習(xí)”，它已經(jīng)存在了幾十年，我國(guó)藥品監(jiān)督管理局發(fā)布的《人工智能醫(yī)療器械注冊(cè)審查指導(dǎo)原則》（以下簡(jiǎn)稱《指導(dǎo)原則》）就明確界定了“遷移學(xué)習(xí)”，即“將在某領(lǐng)域或任務(wù)學(xué)習(xí)到的模型應(yīng)用于不同但相關(guān)的領(lǐng)域或任務(wù)的人工智能算法，如將在自然圖像領(lǐng)域?qū)W習(xí)形成的模型應(yīng)用于醫(yī)學(xué)圖像領(lǐng)域”。無(wú)監(jiān)督學(xué)習(xí)亦屬于機(jī)器學(xué)習(xí)的傳統(tǒng)分支，劃分依據(jù)在于學(xué)習(xí)策略要素，是一種“無(wú)需對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行標(biāo)注”的學(xué)習(xí)技術(shù)，并非全新技術(shù)?？梢?，通用模型之要義不在于技術(shù)的單點(diǎn)突破，而在于要素組合和發(fā)展范式的變革。“預(yù)訓(xùn)練+微調(diào)”的新型范式將遷移學(xué)習(xí)與無(wú)監(jiān)督學(xué)習(xí)在Transformer架構(gòu)下有機(jī)整合，促使訓(xùn)練數(shù)據(jù)幾何量級(jí)增加，最終推動(dòng)量變向質(zhì)變的飛躍?？茖W(xué)界之共識(shí)在于，數(shù)據(jù)和參數(shù)的巨大規(guī)模是模型能力躍升的直接誘因，GPT模型便是“暴力計(jì)算”和“大力出奇跡”的典范，通用模型亦常被稱為“大模型”。因此，通用模型的橫空出世本質(zhì)上是一場(chǎng)“范式變革”，而非“技術(shù)變革”。
這并無(wú)任何貶低之意味，通用模型的“范式變革”帶來(lái)了極其深遠(yuǎn)的影響。通用模型向我們指明了通往通用人工智能（Artificial General Intelligence，AGI）的可行路徑，將帶來(lái)真正的通用性革命。以醫(yī)療領(lǐng)域?yàn)槔?，通用模型有效化解了傳統(tǒng)醫(yī)療AI臨床應(yīng)用的痛點(diǎn)難點(diǎn)，開辟了人工智能與醫(yī)療場(chǎng)景深度融合的新范式。第一，由于風(fēng)險(xiǎn)收益的錯(cuò)配、醫(yī)療機(jī)構(gòu)的數(shù)據(jù)競(jìng)爭(zhēng)以及單獨(dú)同意的法律構(gòu)造，社會(huì)面可公開獲取和共享的醫(yī)療數(shù)據(jù)十分有限，加之高昂的標(biāo)注成本，醫(yī)療AI的開發(fā)和應(yīng)用受到嚴(yán)重抑制，通用模型則可在很大程度上化解該問(wèn)題，預(yù)訓(xùn)練階段可以非醫(yī)療數(shù)據(jù)（如自然圖像）替代醫(yī)療數(shù)據(jù)（如醫(yī)學(xué)影像），微調(diào)（或后向開發(fā)）階段亦僅需少量的專家標(biāo)注數(shù)據(jù)即可勝任特定場(chǎng)景任務(wù)?？蒲性核壳鞍l(fā)布的醫(yī)療大模型多源自Meta公司的開源模型LLaMA，LLaMA模型依托廣泛數(shù)據(jù)訓(xùn)練而來(lái)；醫(yī)療大模型（如MedAlpaca、NHSLLM、ChatDoctor、DoctorGPT）則依托開源模型并利用醫(yī)療數(shù)據(jù)集后向開發(fā)而來(lái)；大型科技公司研發(fā)的醫(yī)療大模型也多源自其基礎(chǔ)大模型，例如，百度公司依托“文心大模型”開發(fā)出“靈醫(yī)大模型”，騰訊公司依托“混元大模型”開發(fā)出“騰訊醫(yī)療大模型”，后段開發(fā)所需的醫(yī)療數(shù)據(jù)體量顯著減少。第二，傳統(tǒng)模型在泛化和適應(yīng)能力上存在先天缺陷，難以應(yīng)對(duì)分布的變化（即因環(huán)境或人群等變化而引起的數(shù)據(jù)分布變化），通用模型則可通過(guò)對(duì)下游情境的持續(xù)學(xué)習(xí)（即微調(diào)）有效適應(yīng)分布的變化。例如，醫(yī)院通過(guò)提供少量的實(shí)例提示，即可引導(dǎo)通用模型成功解讀全新X射線儀掃描的醫(yī)學(xué)影像素材，無(wú)需在全新數(shù)據(jù)集上重頭訓(xùn)練。斯坦福大學(xué)等的研究表明，以電子健康記錄（EHR）為預(yù)訓(xùn)練樣本的通用模型在臨床結(jié)果（包括住院死亡率、30天再次入院概率和ICU入院概率等）預(yù)測(cè)上具有明顯的分布外（outofdistribution，OOD）優(yōu)勢(shì)。第三，傳統(tǒng)模型僅能勝任狹窄的任務(wù)領(lǐng)域，臨床獲益嚴(yán)重受限，通用模型則可適應(yīng)廣泛的下游任務(wù)，臨床獲益顯著提升。在國(guó)外，哈佛大學(xué)醫(yī)學(xué)院研發(fā)的醫(yī)療大模型CheXzero單次掃描胸部X射線影像后即可檢測(cè)數(shù)十種疾病，顯著提升了醫(yī)療AI的使用效率和臨床獲益。在國(guó)內(nèi)，溫州眼視光國(guó)際創(chuàng)新中心（中國(guó)眼谷）研發(fā)的眼科專用大模型EyeGPT可以同時(shí)勝任多種眼科疾病的輔助診療，包括視網(wǎng)膜病變、青光眼、眼癌、近視等，北京郵電大學(xué)研發(fā)的醫(yī)療大模型ClinicalGPT的輔助診療范圍覆蓋呼吸、消化、泌尿、精神病學(xué)、神經(jīng)病學(xué)、婦科和血液學(xué)等諸多科室。第四，傳統(tǒng)模型通常缺乏醫(yī)學(xué)領(lǐng)域知識(shí)，僅依賴輸入數(shù)據(jù)與預(yù)測(cè)目標(biāo)之間的統(tǒng)計(jì)學(xué)分析推導(dǎo)數(shù)據(jù)關(guān)聯(lián)，缺少病理和生理過(guò)程梳理，這可能導(dǎo)致醫(yī)療AI陷入常識(shí)性錯(cuò)誤，通用模型則具有更復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)和更多參數(shù)，結(jié)合知識(shí)圖譜等技術(shù)，可以預(yù)先學(xué)習(xí)大量醫(yī)學(xué)和非醫(yī)學(xué)知識(shí)，深入理解醫(yī)學(xué)概念及其相互關(guān)系，具備強(qiáng)大的背景梳理和邏輯推理能力（DeepSeekR1模型即以強(qiáng)大的推理能力而著稱），可以有效避免常識(shí)性錯(cuò)誤。
二、通用模型的規(guī)制現(xiàn)狀及治理挑戰(zhàn)
通用模型的出現(xiàn)掀起了AI發(fā)展的新浪潮，推動(dòng)人類社會(huì)全面、快速步入智能化時(shí)代。同時(shí)，通用模型的實(shí)踐應(yīng)用也帶來(lái)了各種新風(fēng)險(xiǎn)，如缺陷傳導(dǎo)風(fēng)險(xiǎn)、智能涌現(xiàn)風(fēng)險(xiǎn)等，并可能經(jīng)由模型和數(shù)據(jù)的轉(zhuǎn)介放大既有風(fēng)險(xiǎn)，如歧視偏見風(fēng)險(xiǎn)、隱私泄露風(fēng)險(xiǎn)等，這需要引起充分重視并積極應(yīng)對(duì)。作為新興事物，通用模型的法律治理仍處于早期探索階段，目前來(lái)看，絕大多數(shù)國(guó)家或地區(qū)尚未將通用模型納入規(guī)制體系，根本原因在于通用模型的特殊性，正如HAI報(bào)告所言，通用模型本質(zhì)上是一項(xiàng)中介資產(chǎn)（intermediary asset），它沒有明確的目的和任務(wù)，屬于中間形態(tài)和未完成形態(tài)，雖然構(gòu)筑了處理廣泛下游任務(wù)的共同基礎(chǔ)，卻并未直接參與和執(zhí)行任務(wù)。形象而言，通用模型猶如蟻群中的蟻后，體型龐大，深居蟻穴，專司繁育，具體事務(wù)則交由工蟻兵蟻（由蟻后繁育，恰如由通用模型繁育而來(lái)的應(yīng)用系統(tǒng)）外出執(zhí)行，這與以特定目的為導(dǎo)向的傳統(tǒng)規(guī)制體系存在天然沖突，此為當(dāng)下面臨的最大現(xiàn)狀及挑戰(zhàn)。
（一）我國(guó)的規(guī)制現(xiàn)狀及治理挑戰(zhàn)
仔細(xì)梳理現(xiàn)行AI相關(guān)立法，我國(guó)并未對(duì)通用模型提出明確的規(guī)制要求，這在醫(yī)療領(lǐng)域體現(xiàn)得尤為明顯。醫(yī)療AI屬于醫(yī)療器械范疇，我國(guó)現(xiàn)行醫(yī)療器械立法圍繞診療應(yīng)用系統(tǒng)而構(gòu)建，并未延伸至上游的模型領(lǐng)域。例如，《醫(yī)療器械監(jiān)督管理?xiàng)l例》的規(guī)制對(duì)象是醫(yī)療器械，“醫(yī)療器械是指直接或者間接用于人體的儀器、設(shè)備、器具、體外診斷試劑及校準(zhǔn)物、材料以及其他類似或者相關(guān)的物品，包括所需要的計(jì)算機(jī)軟件”，診療軟件亦可構(gòu)成醫(yī)療器械，但其明確指向終端應(yīng)用軟件，而不包括中間形態(tài)的通用模型?！吨笇?dǎo)原則》進(jìn)一步規(guī)定，“人工智能醫(yī)療器械是指基于‘醫(yī)療器械數(shù)據(jù)’，采用人工智能技術(shù)實(shí)現(xiàn)其預(yù)期用途（即醫(yī)療用途）的醫(yī)療器械”，明確以“預(yù)期用途”限定注冊(cè)審查范圍。應(yīng)當(dāng)指出，在醫(yī)療AI場(chǎng)域，審查機(jī)關(guān)已經(jīng)意識(shí)到系統(tǒng)與模型之間的緊密關(guān)聯(lián)，并嘗試進(jìn)行必要的延展審查，例如，針對(duì)遷移學(xué)習(xí)技術(shù)的運(yùn)用，《指導(dǎo)原則》規(guī)定，“人工智能醫(yī)療器械若使用遷移學(xué)習(xí)算法，注冊(cè)申報(bào)資料需明確算法的名稱、類型、輸入輸出、流程圖、運(yùn)行環(huán)境等基本信息以及算法選用依據(jù)，并根據(jù)遷移學(xué)習(xí)的類型及其算法特性提供預(yù)訓(xùn)練模型的數(shù)據(jù)集構(gòu)建、算法測(cè)試等資料”，但囿于醫(yī)療器械監(jiān)管的固有邏輯和底層架構(gòu)，文件僅要求醫(yī)療AI申報(bào)人提供預(yù)訓(xùn)練模型的相關(guān)資料，而未提出明確的規(guī)制要求，屬于形式化附帶審查范疇，缺乏明確的實(shí)質(zhì)性標(biāo)準(zhǔn)。此外，《人工智能醫(yī)療器械 質(zhì)量要求和評(píng)價(jià)第5部分：預(yù)訓(xùn)練模型》是目前極少數(shù)涉及預(yù)訓(xùn)練模型的治理文件，要求醫(yī)療AI申報(bào)人對(duì)預(yù)訓(xùn)練模型進(jìn)行“說(shuō)明和描述”，但僅提供了評(píng)價(jià)方向和框架，而未設(shè)定具體標(biāo)準(zhǔn)。例如，文件提出了預(yù)訓(xùn)練模型質(zhì)量評(píng)價(jià)的主要維度，包括可訓(xùn)練性、架構(gòu)可擴(kuò)展性、可遷移性、模型效率、輸出一致性、健壯性、泛化性等，但僅有概覽性描述，并無(wú)具象性標(biāo)準(zhǔn)。更重要的是，該文件屬于推薦性行業(yè)標(biāo)準(zhǔn)，不具有法律強(qiáng)制力，并于開篇明示其“不對(duì)預(yù)訓(xùn)練模型的研發(fā)過(guò)程進(jìn)行約束”，也就是說(shuō)，預(yù)訓(xùn)練模型的“說(shuō)明描述”僅為醫(yī)療AI質(zhì)量驗(yàn)證的必要延展，而不構(gòu)成獨(dú)立治理對(duì)象。
我國(guó)AI一般性立法亦未將通用模型納入規(guī)制體系。例如，《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《暫行辦法》）的規(guī)制對(duì)象是生成式人工智能服務(wù)，即“利用生成式人工智能技術(shù)向中華人民共和國(guó)境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)”，直接面向下游用戶，屬于應(yīng)用系統(tǒng)范疇?！稌盒修k法》第7條雖提及“基礎(chǔ)模型”，要求生成式人工智能服務(wù)的提供者“使用具有合法來(lái)源的數(shù)據(jù)和基礎(chǔ)模型”，但是，監(jiān)管對(duì)象是應(yīng)用系統(tǒng)提供者，基礎(chǔ)模型提供者應(yīng)當(dāng)承擔(dān)何種義務(wù)，未有明確規(guī)定。正如學(xué)者所言，我國(guó)AI監(jiān)管領(lǐng)域基本呈現(xiàn)“技術(shù)支持者—服務(wù)提供者—內(nèi)容生產(chǎn)者”的框架體系，其中，服務(wù)提供者是重點(diǎn)監(jiān)管對(duì)象，內(nèi)容生產(chǎn)者是一般監(jiān)管對(duì)象，技術(shù)支持者則很少受到硬性監(jiān)管約束，主要適用AI倫理等軟性要求?！稌盒修k法》基本沿襲此一框架和路徑，附則部分對(duì)“生成式人工智能服務(wù)提供者”（服務(wù)提供者）和“生成式人工智能服務(wù)使用者”（內(nèi)容生產(chǎn)者）的概念進(jìn)行了明確界定，正文部分亦圍繞此二者建構(gòu)規(guī)制體系，惟獨(dú)缺少對(duì)“生成式人工智能模型提供者”（技術(shù)支持者）的界定和規(guī)制。
通用模型的規(guī)制缺位帶來(lái)了巨大的風(fēng)險(xiǎn)和挑戰(zhàn)。通用模型賦予AI以通用技術(shù)的關(guān)鍵特征，可廣泛適應(yīng)下游任務(wù)，這一方面意味著能力和效率的顯著提升；另一方面也意味著模型缺陷的普遍傳導(dǎo)和繼承。研究顯示，通用模型愈發(fā)具有同質(zhì)化（homogenization）趨勢(shì)，幾乎所有最先進(jìn)的自然語(yǔ)言處理模型都改編自少數(shù)幾個(gè)經(jīng)典模型，如BERT、RoBERTa、BART和T5。計(jì)算機(jī)視覺、語(yǔ)音識(shí)別等其他領(lǐng)域亦是如此。同質(zhì)化現(xiàn)象進(jìn)一步加劇了模型缺陷的下游傳導(dǎo)。通用模型的涌現(xiàn)特性也是風(fēng)險(xiǎn)和挑戰(zhàn)的重要來(lái)源。所謂智能涌現(xiàn)（intelligent emergence），意指產(chǎn)生未曾設(shè)想之新能力，此種特性賦予通用模型以驚人能力和無(wú)限潛力，但同時(shí)也意味著模型行為是隱式誘導(dǎo)而非顯性構(gòu)建，它既是科學(xué)興奮的來(lái)源，也蘊(yùn)藏著意外后果的焦慮。同質(zhì)化和智能涌現(xiàn)正以一種潛在的令人不安的方式相互作用：同質(zhì)化將模型自身缺陷向下游應(yīng)用廣泛傳導(dǎo)，而智能涌現(xiàn)既是模型力量的源泉，也具有意外的故障模式，對(duì)現(xiàn)有非經(jīng)明確構(gòu)造且難以理解的模型進(jìn)行激進(jìn)的同質(zhì)化暗藏著巨大風(fēng)險(xiǎn)。此外，優(yōu)質(zhì)的開源模型如DeepSeekR1以公開和免費(fèi)的方式對(duì)外發(fā)布，允許任何人根據(jù)許可條款下載、修改和分發(fā)，天然具有更強(qiáng)的傳播力和擴(kuò)散性，已在極短的時(shí)間內(nèi)被整合進(jìn)各類下游應(yīng)用系統(tǒng)，多家醫(yī)療機(jī)構(gòu)（如浙大邵逸夫醫(yī)院等）已宣布本地部署DeepSeek模型，將模型能力整合進(jìn)醫(yī)院的管理系統(tǒng)，這進(jìn)一步加劇了模型缺陷的快速傳導(dǎo)風(fēng)險(xiǎn)。更重要的是，現(xiàn)行體系缺乏上游回溯和糾偏機(jī)制，即便下游應(yīng)用環(huán)節(jié)發(fā)現(xiàn)“遺傳性”缺陷，亦將無(wú)法及時(shí)識(shí)別、分析和化解，這在醫(yī)療領(lǐng)域尤為突出。醫(yī)療AI屬于強(qiáng)監(jiān)管領(lǐng)域，強(qiáng)調(diào)風(fēng)險(xiǎn)的集中、全程和源流管控，根據(jù)《醫(yī)療器械監(jiān)督管理?xiàng)l例》之規(guī)定，醫(yī)療器械注冊(cè)人在其中扮演著關(guān)鍵角色，對(duì)醫(yī)療器械質(zhì)量在其全生命周期和應(yīng)用環(huán)節(jié)（包括但不限于研發(fā)、生產(chǎn)、銷售、上市后管理等）承擔(dān)質(zhì)量管控責(zé)任，成為風(fēng)險(xiǎn)管理的中心，負(fù)有全面及全流程之義務(wù)，包括建立并運(yùn)行質(zhì)量管理體系、監(jiān)督生產(chǎn)和流通、制定并實(shí)施上市后研究計(jì)劃、開展不良事件監(jiān)測(cè)和再評(píng)價(jià)、建立和執(zhí)行追溯和召回機(jī)制等。然而，醫(yī)療AI屬于應(yīng)用系統(tǒng)范疇，醫(yī)療AI注冊(cè)人屬于應(yīng)用系統(tǒng)提供者，這便意味著，現(xiàn)行監(jiān)管框架僅能溯及醫(yī)療AI注冊(cè)人，而無(wú)法繼續(xù)向上追溯至通用模型提供者，鑒于通用模型與應(yīng)用系統(tǒng)之技術(shù)連結(jié)、數(shù)據(jù)貫通及風(fēng)險(xiǎn)傳遞，追溯鏈條的中斷必然引發(fā)體系性風(fēng)險(xiǎn)。
（二）域外的規(guī)制現(xiàn)狀及治理挑戰(zhàn)
放眼寰球，絕大多數(shù)國(guó)家或地區(qū)尚未將通用模型納入規(guī)制體系。例如，作為AI技術(shù)開發(fā)的領(lǐng)先區(qū)域，美國(guó)聯(lián)邦基本秉持“創(chuàng)新驅(qū)動(dòng)、監(jiān)管輔助”的政策導(dǎo)向，很少對(duì)AI技術(shù)開發(fā)設(shè)定硬性約束，而主要通過(guò)軟法及市場(chǎng)化手段開展治理。美國(guó)聯(lián)邦已發(fā)布不少框架性和指導(dǎo)性文件，如《人工智能風(fēng)險(xiǎn)管理框架（Artificial Intelligence Risk Management Framework，AIRMF）》《人工智能權(quán)利法案藍(lán)圖（Blueprint for an AI Bill of Rights）》等，此類文件主要是引導(dǎo)屬性，依賴于企業(yè)自治和行業(yè)自律。2023年7月，美國(guó)白宮與七家領(lǐng)先的AI公司（Amazon、Anthropic、Google、Inflection、Meta、Microsoft、OpenAI）舉行閉門會(huì)談，獲后者自愿承諾推進(jìn)AI技術(shù)的安全、可靠和透明發(fā)展。2024年2月，200多家美國(guó)AI實(shí)體加入美國(guó)商務(wù)部國(guó)家標(biāo)準(zhǔn)與技術(shù)研究所（NIST）設(shè)立的人工智能安全聯(lián)盟（AI Safety Institute Consortium，AISIC），自愿承諾在產(chǎn)品發(fā)布前進(jìn)行內(nèi)部和外部的安全測(cè)試，并與政府、民間社會(huì)和學(xué)術(shù)界分享管理 AI 風(fēng)險(xiǎn)的信息。可見，美國(guó)聯(lián)邦對(duì)AI的直接規(guī)制很少，即便AI系統(tǒng)的開發(fā)亦很少受到硬性約束，遑論通用模型。應(yīng)當(dāng)指出，根據(jù)美國(guó)的憲法設(shè)計(jì)，藥品和醫(yī)療器械的監(jiān)管權(quán)限屬于聯(lián)邦政府，美國(guó)醫(yī)療器械監(jiān)管制度主要依據(jù)《聯(lián)邦食品、藥品和化妝品法案（Federal Food, Drug, and Cosmetic Act，FDCA）》構(gòu)建，監(jiān)管機(jī)關(guān)為食品藥品監(jiān)督管理局（Food and Drug Administration，FDA），監(jiān)管對(duì)象為直接面向診療實(shí)踐的產(chǎn)品，即“用于診斷、治療、緩解、處理或預(yù)防人類或其他動(dòng)物的疾病的植入或非植入的器具、儀器、工具、機(jī)器、機(jī)械裝置、試劑或者其他類似或相關(guān)物品”，就醫(yī)用軟件而言，主要指各類面向終端實(shí)踐的輔助診療系統(tǒng)，不包括上游的診療模型。2016年發(fā)布的《21世紀(jì)治愈法案》（the 21st Century Cures Act）專門針對(duì)醫(yī)療AI的監(jiān)管權(quán)限進(jìn)行了厘清，明確將提供診斷或治療服務(wù)的AI系統(tǒng)納入FDA監(jiān)管權(quán)限，而將僅提供健康監(jiān)測(cè)、咨詢服務(wù)的AI系統(tǒng)排除在外。但是，FDA監(jiān)管體系的落腳點(diǎn)始終在于AI系統(tǒng)的安全有效性，并未將監(jiān)管觸角延展至AI模型。
美國(guó)各州針對(duì)通用模型的立法動(dòng)向值得關(guān)注，代表性案例為加利福尼亞州《前沿人工智能模型安全可靠創(chuàng)新法案（the Safe and Secure Innovation for Frontier Artificial Intelligence Models Act，簡(jiǎn)稱SB1047法案）》。SB1047法案所界定的“前沿模型”是最先進(jìn)的通用模型，即在訓(xùn)練過(guò)程中達(dá)到最低財(cái)務(wù)或計(jì)算資源投入標(biāo)準(zhǔn)的通用模型，目前僅極少數(shù)模型可被涵蓋。SB1047法案對(duì)通用模型的開發(fā)者（developer）進(jìn)行了明確而直接的規(guī)制，設(shè)定了廣泛而嚴(yán)苛的義務(wù)，這是顯著的立法突破。根據(jù)法案規(guī)定，在首次訓(xùn)練模型前，開發(fā)者應(yīng)當(dāng)：（1）實(shí)施特定的技術(shù)和組織措施以減緩模型相關(guān)風(fēng)險(xiǎn)；（2）具備迅速、全面關(guān)停模型（“一鍵關(guān)停”）的能力；（3）制定和實(shí)施符合要求的安全保障協(xié)議等等。在將模型投入商業(yè)、公共或其他用途前，開發(fā)者應(yīng)當(dāng)：（1）進(jìn)行模型安全評(píng)估，評(píng)定造成或促成嚴(yán)重?fù)p害的可能性；（2）采取適當(dāng)措施，防止模型造成或促成重大損害；（3）通過(guò)合理謹(jǐn)慎的安排，保證模型行為及其引發(fā)的關(guān)鍵危害能被準(zhǔn)確歸因等等。此外，模型開發(fā)者還應(yīng)持續(xù)承擔(dān)下列義務(wù)：（1）每年重新評(píng)估法案遵守情況，包括聘請(qǐng)獨(dú)立的第三方機(jī)構(gòu)進(jìn)行合規(guī)審計(jì)；（2）當(dāng)獲悉發(fā)生基于模型的安全事故時(shí)，于72小時(shí)內(nèi)向司法部長(zhǎng)報(bào)告等等?？梢?，SB1047法案不但將通用模型明確納入規(guī)制體系，而且設(shè)定了全面嚴(yán)苛的義務(wù)，建構(gòu)起通用模型法律規(guī)制的完整框架，但這種強(qiáng)硬的規(guī)制立場(chǎng)引起了廣泛的反對(duì)，在SB1047法案分析文件的官方附錄中，明確支持該法案的機(jī)構(gòu)有43家，反對(duì)者則多達(dá)159家。鑒于美國(guó)加州擁有《福布斯（Forbes）》全球50強(qiáng)人工智能公司中的32家，是全球AI創(chuàng)新和發(fā)展的中心，如若SB1047法案順利通過(guò)，將對(duì)美國(guó)乃至全球AI監(jiān)管政策產(chǎn)生重大影響。遺憾的是，SB1047法案最終因加州州長(zhǎng)的反對(duì)而未能生效。
目前極少數(shù)直接規(guī)制通用模型的代表性區(qū)域是歐盟，已生效的歐盟《AI法案》明確將通用模型視作重要的風(fēng)險(xiǎn)點(diǎn)，并為其設(shè)定了針對(duì)性規(guī)則?？v觀立法進(jìn)程，歐盟《AI法案》對(duì)待通用模型的態(tài)度可謂“反復(fù)猶疑”。最初版本（2021年）的《AI法案》并未料及通用模型的迅猛發(fā)展，未將其納入規(guī)制體系，僅為AI應(yīng)用系統(tǒng)構(gòu)建了基于風(fēng)險(xiǎn)（riskbased）的規(guī)制架構(gòu)，區(qū)分應(yīng)用系統(tǒng)的不同風(fēng)險(xiǎn)程度（不可接受風(fēng)險(xiǎn)unacceptable risk、高風(fēng)險(xiǎn)high risk、有限風(fēng)險(xiǎn)general risk和風(fēng)險(xiǎn)最小minimal risk）配置不同的規(guī)制措施。2022年底，ChatGPT風(fēng)暴席卷全球，《AI法案》應(yīng)激性的將通用模型直接歸入高風(fēng)險(xiǎn)AI系統(tǒng)，進(jìn)行全面和嚴(yán)格的管理，這招致了廣泛的批評(píng)。而后，《AI法案》又走向另一極端，將通用模型完全排除于規(guī)制范圍，僅使下游應(yīng)用系統(tǒng)的提供者（provider）和部署者（deployer）承擔(dān)風(fēng)險(xiǎn)管理義務(wù)，通用模型的開發(fā)者僅需協(xié)助提供“必要、相關(guān)和合理預(yù)期的信息”。這種做法明顯脫離實(shí)際，不利于AI價(jià)值鏈的安全、穩(wěn)定和可信。經(jīng)過(guò)反復(fù)和激烈的討論，最終通過(guò)的《AI法案》采取了折中方案，一方面仍將高風(fēng)險(xiǎn)應(yīng)用系統(tǒng)的提供者作為最重要的義務(wù)和責(zé)任主體;另一方面則將通用模型提供者納入規(guī)制體系，賦予其多項(xiàng)義務(wù)。歐盟《AI法案》將通用模型區(qū)分為普通通用模型和具有系統(tǒng)性風(fēng)險(xiǎn)（systemic risk）的通用模型，后者為規(guī)制重點(diǎn)。普通通用模型的提供者僅需承擔(dān)少量的透明度義務(wù)，而具有系統(tǒng)性風(fēng)險(xiǎn)的通用模型提供者還應(yīng)承擔(dān)下列義務(wù)：（1）首次投放市場(chǎng)前，對(duì)模型進(jìn)行必要評(píng)估，包括對(duì)模型進(jìn)行對(duì)抗測(cè)試并記錄在案；（2）持續(xù)評(píng)估模型運(yùn)行的系統(tǒng)性風(fēng)險(xiǎn)，并在模型全生命周期內(nèi)采取適當(dāng)措施降低風(fēng)險(xiǎn)；（3）當(dāng)發(fā)生嚴(yán)重事件時(shí)，及時(shí)跟蹤、記錄和向歐盟AI辦公室報(bào)告，并采取可能的糾正措施；（4）確保向模型及其物理設(shè)施提供充分的網(wǎng)絡(luò)安全防護(hù)等。
就歐盟法而言，醫(yī)療AI是一個(gè)相當(dāng)特殊的領(lǐng)域，除《AI法案》外，醫(yī)療AI還應(yīng)適用歐盟有關(guān)醫(yī)療器械的統(tǒng)一條例和指令，包括2017/745號(hào)條例、2017/746號(hào)條例、93/42/EEC指令（《醫(yī)療器械指令（Medical Devices Directive，MDD）》）等，但二者在不少方面存在差異甚至沖突。例如，《AI法案》第8條為高風(fēng)險(xiǎn)人工智能系統(tǒng)設(shè)定了“合格性評(píng)估制度”，這本質(zhì)上是一項(xiàng)認(rèn)證機(jī)制，而非行政許可，包括自我認(rèn)證和第三方認(rèn)證，而醫(yī)療AI（醫(yī)療器械）的注冊(cè)審查屬于典型的行政許可，須經(jīng)嚴(yán)格的安全有效性測(cè)試和審查；再如，MDD的規(guī)制對(duì)象是醫(yī)療器械，包括人工智能醫(yī)療器械，屬于應(yīng)用系統(tǒng)范疇，并未延展至上游模型，《AI法案》則明確將通用模型列為規(guī)制對(duì)象，賦予其實(shí)質(zhì)性義務(wù)，更重要的是，《AI法案》重點(diǎn)規(guī)制對(duì)象（即具有系統(tǒng)性風(fēng)險(xiǎn)的通用模型）之界定依據(jù)在于“系統(tǒng)性風(fēng)險(xiǎn)”，“系統(tǒng)性風(fēng)險(xiǎn)”之界定要素在于“高影響能力”，即“與先進(jìn)水平的通用模型中記錄的能力相匹配或超過(guò)這些能力的能力”，而MDD強(qiáng)化規(guī)制的主要理由則在于診療領(lǐng)域的高風(fēng)險(xiǎn)性，落腳點(diǎn)在于應(yīng)用領(lǐng)域而非固有能力。因此，二者在規(guī)制理念和方式上存在明顯分歧，醫(yī)療領(lǐng)域模型可能因未及“高影響能力”標(biāo)準(zhǔn)而被劃歸普通模型范疇，這無(wú)疑潛藏著巨大風(fēng)險(xiǎn)，歐盟目前尚未就此構(gòu)建有效的協(xié)調(diào)機(jī)制。
三、通用模型的立法涵攝及規(guī)制策略
通用模型的規(guī)制缺位潛藏著巨大風(fēng)險(xiǎn)，立法者應(yīng)當(dāng)敦本務(wù)實(shí)，明確將通用模型提供者納入規(guī)制體系，消弭法律制度與技術(shù)現(xiàn)實(shí)之鴻溝。同時(shí)，立足通用模型的技術(shù)特性和體系定位，合理選定規(guī)制策略，精準(zhǔn)適度賦予法律義務(wù)，實(shí)現(xiàn)制度安全與技術(shù)創(chuàng)新之平衡。
（一）通用模型的立法涵攝：明確納入規(guī)制體系
在“預(yù)訓(xùn)練+微調(diào)”的新型范式下，通用模型提供者居于人工智能價(jià)值鏈（AI value chain）的關(guān)鍵位置，對(duì)價(jià)值鏈之安全、穩(wěn)定和可信影響重大，理應(yīng)納入規(guī)制體系。AI價(jià)值鏈?zhǔn)菍?duì)AI組織過(guò)程（organizational process）的科學(xué)描述，是AI立法的重要線索。“人工智能價(jià)值鏈”一詞于歐盟《AI法案》（含序言）前后出現(xiàn)十余次，橫貫始終，AI的法律治理本質(zhì)上就是圍繞AI組織運(yùn)行中的不同實(shí)體分配法律義務(wù)、構(gòu)建法律制度的過(guò)程。歐盟《AI法案》所建構(gòu)之價(jià)值鏈條和法律身份具有較高的合理性和代表性，鑒于此，下文將以之為參照展開論述。歐盟《AI法案》主要提煉了九種法律身份，即通用模型提供者（provider of GPAI model）、應(yīng)用系統(tǒng)提供者（provider of AI system）、應(yīng)用系統(tǒng)部署者（deployer of AI system）、受影響者（affected person）、授權(quán)代表（authorized representative）、進(jìn)口者（importer）、分銷者（distributor）、經(jīng)營(yíng)者（operator）、下游提供者（downstream provider）等，其中，前四種法律身份屬于全場(chǎng)景法律身份，而“授權(quán)代表”“進(jìn)口者”和“分銷者”屬于特定場(chǎng)景的特殊法律身份，“經(jīng)營(yíng)者”則是“提供者、產(chǎn)品制造者、部署者、授權(quán)代表、進(jìn)口者或分銷者”的統(tǒng)稱，屬于集合型概念，“下游提供者”則是為彰顯模型與系統(tǒng)的上下游關(guān)系而創(chuàng)設(shè)的特殊概念，屬于“應(yīng)用系統(tǒng)提供者”的子概念，由此，人工智能價(jià)值鏈的組織骨架主要由四種全場(chǎng)景法律身份所搭建，如圖2所示。
圖 2歐盟《AI法案》人工智能價(jià)值鏈的組織骨架
通用模型提供者位于AI價(jià)值鏈頂端，構(gòu)成一系列下游應(yīng)用的基礎(chǔ)，屬于智能生態(tài)的關(guān)鍵節(jié)點(diǎn)。較之傳統(tǒng)軟件，現(xiàn)代AI之重要特性在于算法和數(shù)據(jù)的雙輪驅(qū)動(dòng)，數(shù)據(jù)要素愈發(fā)重要，機(jī)器學(xué)習(xí)意味著數(shù)字系統(tǒng)不再需要完全編程，而可通過(guò)后續(xù)的數(shù)據(jù)投喂不斷學(xué)習(xí)和成長(zhǎng)，編程人員不再需要預(yù)先知曉系統(tǒng)運(yùn)行的所有可能狀態(tài)，系統(tǒng)行為也不再完全由編程人員預(yù)先設(shè)定。OpenAI的著名論文《Scaling Laws for Neural Language Models》表明，訓(xùn)練數(shù)據(jù)量和參數(shù)量成為影響通用模型性能的關(guān)鍵要素，模型性能表現(xiàn)與規(guī)模強(qiáng)相關(guān)。與算法弱相關(guān)。簡(jiǎn)言之，模型越大，性能越好，單純?cè)黾佑?xùn)練數(shù)據(jù)量和參數(shù)量即可提升模型性能，且暫未見其瓶頸。通用模型提供者是數(shù)據(jù)和代碼的最重要貢獻(xiàn)者，它設(shè)計(jì)了模型的算法架構(gòu)，并以大量數(shù)據(jù)開展預(yù)訓(xùn)練，由此塑造了模型的基本形態(tài)和性能邊界。通用模型愈發(fā)具有基礎(chǔ)設(shè)施屬性，成為支撐社會(huì)數(shù)字化轉(zhuǎn)型的智能底座。在很短的時(shí)間內(nèi)，DeepSeek模型已被我國(guó)政務(wù)機(jī)構(gòu)（如廣東、江蘇）、企業(yè)巨頭（如中國(guó)移動(dòng)、騰訊）和科研機(jī)構(gòu)（如浙江大學(xué)、武漢大學(xué)）等各種類型的下游用戶整合進(jìn)其管理和服務(wù)系統(tǒng)，提升運(yùn)營(yíng)效能，實(shí)現(xiàn)智能升級(jí)。這也意味著，通用模型提供者是生態(tài)風(fēng)險(xiǎn)的重要制造者，數(shù)據(jù)及代碼瑕疵將廣泛、直接和快速地傳導(dǎo)至下游系統(tǒng)，可能引發(fā)“遺傳性”和“系統(tǒng)性”風(fēng)險(xiǎn)。通用模型上游風(fēng)險(xiǎn)的一個(gè)極端例子是利用其設(shè)計(jì)化學(xué)武器。一家制藥公司研究發(fā)現(xiàn)，借助通用模型可在6小時(shí)內(nèi)生成40 000個(gè)劇毒分子結(jié)構(gòu)，允許對(duì)這些分子的殺傷力進(jìn)行任何進(jìn)一步的分析是不道德且危險(xiǎn)的。此外，通用模型提供者也是利益分配的主導(dǎo)者，它不但攫取了利益的最大份額，而且具備強(qiáng)大的生態(tài)控制能力，逐步走向自然壟斷，基于算力、數(shù)據(jù)和算法的獨(dú)占優(yōu)勢(shì)，通用模型市場(chǎng)最終將演化為類似傳統(tǒng)互聯(lián)網(wǎng)領(lǐng)域（如搜索、社交、電子商務(wù)等）的寡頭壟斷格局，具有系統(tǒng)重要性的實(shí)體（如微軟、谷歌、OpenAI）正利用定制的高級(jí)計(jì)算資源和專業(yè)知識(shí)、代表真實(shí)世界部署和用例的大量數(shù)據(jù)，以及跨人工智能和非人工智能客戶群的規(guī)模經(jīng)濟(jì)，塑造智能生態(tài)，控制下游行動(dòng)。因此，將通用模型提供者納入規(guī)制體系，具備充分的正當(dāng)性。
在醫(yī)療領(lǐng)域，通用模型的立法涵攝更具緊迫性。通用模型范式變革前，醫(yī)療AI價(jià)值鏈的主要參與者包括醫(yī)療AI提供者（醫(yī)療器械開發(fā)者）、醫(yī)療AI部署者（醫(yī)療機(jī)構(gòu)）和受影響者（患者），而當(dāng)“預(yù)訓(xùn)練+微調(diào)”成為輔助診療系統(tǒng)的新開發(fā)范式，通用模型之立法涵攝尤顯刻不容緩。分三點(diǎn)述之。其一，醫(yī)療AI關(guān)乎患者生命健康，尤為注重事前準(zhǔn)入，需開展充分的安全有效性驗(yàn)證，通用模型的規(guī)制缺位將導(dǎo)致醫(yī)療AI事前準(zhǔn)入體系的重大漏洞和隱患。醫(yī)療AI是典型的強(qiáng)監(jiān)管領(lǐng)域，風(fēng)險(xiǎn)管理的重心在于事前審查，注冊(cè)審批是臨床應(yīng)用之前提，而事后彌補(bǔ)則具有德性瑕疵及有限性，與娛樂、購(gòu)物、社交等泛生活化場(chǎng)景的AI系統(tǒng)的事后規(guī)制或事前備案治理方式相比，專業(yè)化場(chǎng)景的醫(yī)療AI需經(jīng)嚴(yán)格的準(zhǔn)入審批。鑒于醫(yī)療AI與通用模型之算法同根、數(shù)據(jù)同脈及風(fēng)險(xiǎn)同源，通用模型之立法涵攝為構(gòu)建完整可靠的事前準(zhǔn)入體系所必需。此外，醫(yī)療通用模型將顯著擴(kuò)展醫(yī)療AI的影響范圍和強(qiáng)度。一方面，醫(yī)療通用模型可快速、大量孕育不同類型的醫(yī)療AI，開啟醫(yī)療AI的工業(yè)化生產(chǎn)時(shí)代;另一方面，醫(yī)療通用模型也可提升同類型醫(yī)療AI的診療能力，拓展任務(wù)邊界，醫(yī)療通用模型甚至被賦予孕育萬(wàn)能醫(yī)生（Generalist Medical Artificial Intelligence）的宏大使命，接收多模態(tài)數(shù)據(jù)，開展高維推理，適應(yīng)未知任務(wù)，超越人類智識(shí)邊界，這已超出個(gè)人安全范疇，關(guān)乎人類族群命運(yùn)?？梢?，醫(yī)療通用模型之立法涵攝事關(guān)重大。其二，醫(yī)療AI的現(xiàn)行驗(yàn)證體系依托于醫(yī)療器械監(jiān)管框架，驗(yàn)證范圍和能力都有明顯的局限性，這與醫(yī)療通用模型的廣闊能力和涌現(xiàn)特質(zhì)存在天然沖突。醫(yī)療AI的技術(shù)驗(yàn)證有賴于臨床評(píng)價(jià)，主要通過(guò)臨床試驗(yàn)等方式展開。臨床試驗(yàn)圍繞安全有效性的驗(yàn)證目標(biāo)而設(shè)計(jì)，各國(guó)一般將藥品和醫(yī)療器械的臨床試驗(yàn)劃分為三個(gè)階段：第一階段為藥械安全性的基本試驗(yàn)（Ⅰ期）；第二階段為藥械有效性的有限試驗(yàn)（Ⅱ期）;第三階段是擴(kuò)大受試人群后的安全有效性延展試驗(yàn)（Ⅲ期）。藥械臨床試驗(yàn)的范圍是極其有限的，即便到達(dá)Ⅲ期試驗(yàn)，法定最低病例數(shù)（試驗(yàn)組）要求僅為300例，開發(fā)實(shí)踐中的病例樣本多處于百千量級(jí)。這在傳統(tǒng)AI時(shí)代或許可以接受，但在大模型時(shí)代，訓(xùn)練數(shù)據(jù)由GB量級(jí)躍升至TB量級(jí)，模型參數(shù)動(dòng)輒百億千億計(jì)，加之諱莫如深的智能涌現(xiàn)，僅僅依賴應(yīng)用層級(jí)的有限驗(yàn)證，而不對(duì)通用模型進(jìn)行直接規(guī)制，根本無(wú)法達(dá)到合理的驗(yàn)證標(biāo)準(zhǔn)。人類對(duì)生命和疾病的認(rèn)知有限性與通用模型的能力無(wú)限性（未知性）要求我們必須突破應(yīng)用層級(jí)的法律規(guī)管，對(duì)通用模型采取直接而精準(zhǔn)的規(guī)制措施，不拘泥于形式化的附帶或延展審查，盡量防范所有已知或未知的風(fēng)險(xiǎn)。其三，在“預(yù)訓(xùn)練+微調(diào)”開發(fā)范式下，醫(yī)療AI的風(fēng)險(xiǎn)形態(tài)由分散走向集中，這客觀上要求規(guī)制體系上移，明確涵攝通用模型，從而實(shí)現(xiàn)風(fēng)險(xiǎn)的源流管控。醫(yī)療通用模型是面向復(fù)雜、開放診療場(chǎng)景的基礎(chǔ)模型，具有大數(shù)據(jù)、大算力、大參數(shù)等關(guān)鍵要素，呈現(xiàn)涌現(xiàn)能力和良好的泛化性、通用性，可以根據(jù)不同的診療任務(wù)，利用語(yǔ)言、視覺、語(yǔ)音乃至多模態(tài)融合的生物醫(yī)學(xué)數(shù)據(jù)調(diào)適特定場(chǎng)景的輔助診療系統(tǒng)，這在客觀上導(dǎo)致了診療風(fēng)險(xiǎn)的集聚和同質(zhì)。醫(yī)療通用模型呈現(xiàn)出鮮明的家族化特色，已發(fā)布的醫(yī)療健康大模型多以GPT、BERT等為后綴，形成家族化譜系，例如scGPT、MolReGPT、CancerGPT、MedGPT、MedBERT等，這進(jìn)一步加劇了診療風(fēng)險(xiǎn)的匯流和集中。醫(yī)療通用模型逐步成為醫(yī)療AI孕育的母體，模型瑕疵和缺陷隨之向下游應(yīng)用系統(tǒng)普遍傳導(dǎo)和擴(kuò)散，醫(yī)療AI的風(fēng)險(xiǎn)形態(tài)逐步由分散走向集中，共性風(fēng)險(xiǎn)不斷增加，通用模型被賦予智能診療底座的角色，成為數(shù)字診療市場(chǎng)的“守門人”。就此而言，監(jiān)管機(jī)關(guān)理應(yīng)將通用模型提供者納入規(guī)制體系。
（二）通用模型的規(guī)制策略：精準(zhǔn)適度分配法律義務(wù)
立法涵攝之下，我們應(yīng)當(dāng)基于通用模型的體系定位和技術(shù)特性精準(zhǔn)適度分配法律義務(wù)，防止責(zé)權(quán)錯(cuò)配抑制創(chuàng)新。筆者認(rèn)為，通用模型提供者的義務(wù)導(dǎo)向是智能生態(tài)的一般安全，沒有特定的目的和場(chǎng)景，屬于抽象性義務(wù)，通用模型提供者應(yīng)當(dāng)對(duì)模型品質(zhì)承擔(dān)一般保證義務(wù)，持續(xù)監(jiān)測(cè)生態(tài)運(yùn)轉(zhuǎn)，修復(fù)模型缺陷，維護(hù)生態(tài)安全。通用模型提供者的義務(wù)重心在于內(nèi)在評(píng)價(jià)（intrinsic evaluation），即專注評(píng)估通用模型的內(nèi)在品質(zhì)，不設(shè)想具體的下游任務(wù)，聚焦于模型架構(gòu)的科學(xué)性、數(shù)據(jù)治理的有效性、訓(xùn)練方法的適當(dāng)性、開發(fā)組織的合規(guī)性、開發(fā)人員的多樣性和代表性以及開發(fā)流程的規(guī)范性等一般事項(xiàng)。這是科學(xué)合理的法律設(shè)定。作為一項(xiàng)沒有明確用途的中介資產(chǎn)，構(gòu)建基于通用模型的全面風(fēng)險(xiǎn)管理體系幾乎不可能，它將迫使模型開發(fā)者識(shí)別和分析由其衍生的所有可能應(yīng)用程式的風(fēng)險(xiǎn)，制定和實(shí)施所有風(fēng)險(xiǎn)的緩解策略，并開展所有預(yù)期場(chǎng)景的準(zhǔn)確性、穩(wěn)健性和網(wǎng)絡(luò)安全性測(cè)試，整個(gè)分析必須基于抽象的假設(shè)性調(diào)查，并結(jié)合再次假設(shè)的風(fēng)險(xiǎn)緩解措施和性能測(cè)試，這不僅成本高昂，而且完全不可行。歐盟《AI法案》對(duì)通用模型提供者的義務(wù)定位具有類似取向，例如，通用模型提供者主要承擔(dān)抽象性的風(fēng)險(xiǎn)管理義務(wù)，包括透明度義務(wù)（即編制和更新技術(shù)文件信息）、模型評(píng)估義務(wù)和軟硬件安全防護(hù)義務(wù)等，不對(duì)特定場(chǎng)景的具體風(fēng)險(xiǎn)負(fù)責(zé)。相反，美國(guó)SB1047法案的失敗在很大程度上可歸因于對(duì)通用模型提供者的過(guò)度苛責(zé)，模型開發(fā)者不但被要求采取全面的風(fēng)險(xiǎn)減緩措施，而且需要對(duì)具體應(yīng)用場(chǎng)景的系統(tǒng)損害承擔(dān)繁重的民事責(zé)任，包括民事罰款、損害賠償和懲罰性賠償?shù)龋@遭致了激烈的反對(duì)。與之相對(duì)，應(yīng)用系統(tǒng)提供者的義務(wù)導(dǎo)向是特定應(yīng)用場(chǎng)景的具體安全，屬于具象性義務(wù)，應(yīng)用系統(tǒng)提供者應(yīng)當(dāng)對(duì)系統(tǒng)品質(zhì)承擔(dān)具體保證義務(wù)，持續(xù)監(jiān)測(cè)系統(tǒng)運(yùn)行，建立有效的風(fēng)險(xiǎn)管理體系，維護(hù)場(chǎng)景應(yīng)用安全。應(yīng)用系統(tǒng)提供者的義務(wù)重心在于外在評(píng)價(jià)（extrinsic evaluation），即專注于應(yīng)用系統(tǒng)在特定場(chǎng)景中的性能表現(xiàn)，主要從預(yù)期用途、使用場(chǎng)景、核心功能等維度建構(gòu)評(píng)價(jià)體系，重點(diǎn)規(guī)制措施為合格性評(píng)估（認(rèn)證性）或注冊(cè)審評(píng)（許可性）等。
在科學(xué)定位的基礎(chǔ)上，我們應(yīng)當(dāng)區(qū)分通用模型和應(yīng)用系統(tǒng)提供者的功能取向，精準(zhǔn)、適度分配法律義務(wù)。同樣以醫(yī)療領(lǐng)域?yàn)槔?，筆者建議構(gòu)建兩階段的準(zhǔn)入審核體系，分別設(shè)定審查標(biāo)準(zhǔn)。兩階段的準(zhǔn)入審核體系在醫(yī)療領(lǐng)域并不鮮見，例如，醫(yī)療機(jī)構(gòu)的設(shè)置應(yīng)經(jīng)雙重許可，即設(shè)置許可和執(zhí)業(yè)許可，前者聚焦于醫(yī)療資源的宏觀配置（區(qū)域醫(yī)療資源發(fā)展規(guī)劃），后者聚焦于申請(qǐng)者的自身稟賦（醫(yī)療機(jī)構(gòu)的運(yùn)營(yíng)標(biāo)準(zhǔn)）；再如，藥品管理領(lǐng)域的上市許可持有人執(zhí)照制度，要求申請(qǐng)者首先獲得特定類別的準(zhǔn)入執(zhí)照，而后才能申請(qǐng)成為特定藥品的上市許可持有人，執(zhí)照準(zhǔn)入有助于強(qiáng)化醫(yī)藥價(jià)值鏈的安全性和穩(wěn)定性。醫(yī)療領(lǐng)域的兩階段準(zhǔn)入審核體系有助于明確分工、提升韌性、強(qiáng)化全鏈條安全。據(jù)此，診療AI領(lǐng)域亦應(yīng)構(gòu)建兩階段的審核體系，各有側(cè)重，各司其職（見圖3）。第一階段，醫(yī)療通用模型應(yīng)當(dāng)接受準(zhǔn)入審查，確保AI價(jià)值鏈的源流安全，堅(jiān)持內(nèi)在評(píng)價(jià)，審查重點(diǎn)在于模型架構(gòu)的科學(xué)性、數(shù)據(jù)治理的有效性、訓(xùn)練方法的適當(dāng)性、開發(fā)組織的合規(guī)性等過(guò)程性事項(xiàng)，可借助標(biāo)準(zhǔn)化量表對(duì)模型品質(zhì)進(jìn)行測(cè)評(píng)考察。具體而言，通用模型參與者的主要義務(wù)包括：模型評(píng)估及品質(zhì)保證義務(wù)，即采取必要措施，保證算法設(shè)計(jì)、數(shù)據(jù)集構(gòu)建及模型訓(xùn)練的科學(xué)性和公平性，此一義務(wù)應(yīng)定位為過(guò)程性義務(wù)，即采取符合要求的保障措施提升模型品質(zhì)，并與現(xiàn)有技術(shù)發(fā)展水平相適應(yīng)；網(wǎng)絡(luò)安全防護(hù)義務(wù)，即在模型全生命周期內(nèi)提供充分的網(wǎng)絡(luò)安全保護(hù)，防范網(wǎng)絡(luò)攻擊，杜絕未經(jīng)授權(quán)的訪問(wèn)等。第二階段，醫(yī)療AI（由醫(yī)療通用模型孕育）應(yīng)當(dāng)按照醫(yī)療器械注冊(cè)審評(píng)程序及標(biāo)準(zhǔn)接受二次審查，堅(jiān)持外在評(píng)價(jià)，審查重點(diǎn)在于具體診療場(chǎng)景下預(yù)期用途和核心功能的達(dá)成性，審查方式為臨床試驗(yàn)等結(jié)果性評(píng)價(jià)機(jī)制，“以算法特性為核心重點(diǎn)關(guān)注其泛化能力，以數(shù)據(jù)為基礎(chǔ)重點(diǎn)關(guān)注其質(zhì)控情況”。第二階段審查目標(biāo)聚焦于驗(yàn)證醫(yī)療AI處理特定診療任務(wù)的安全性和有效性，與之相應(yīng)，醫(yī)療AI注冊(cè)人擔(dān)負(fù)的主要義務(wù)包括：應(yīng)用評(píng)估和品質(zhì)擔(dān)保義務(wù)，即通過(guò)各種工具驗(yàn)證和保障輔助診療系統(tǒng)適應(yīng)特定任務(wù)、達(dá)到特定品質(zhì)，并履行具體的要素控制義務(wù)，包括數(shù)據(jù)治理、功能搭建、界面設(shè)計(jì)等，此一義務(wù)應(yīng)定位為結(jié)果性義務(wù)，即通過(guò)各種方法和措施保證應(yīng)用系統(tǒng)達(dá)到可合理預(yù)期的安全效用標(biāo)準(zhǔn)；風(fēng)險(xiǎn)監(jiān)測(cè)和管理義務(wù)，即建立全面的風(fēng)險(xiǎn)監(jiān)測(cè)系統(tǒng)，包括后市場(chǎng)監(jiān)測(cè)及不良事件報(bào)告體系，實(shí)現(xiàn)風(fēng)險(xiǎn)監(jiān)測(cè)和管理的閉環(huán)等。
在兩階段監(jiān)管架構(gòu)下，為進(jìn)一步貫通及整合風(fēng)險(xiǎn)管理體系，筆者建議明確賦予醫(yī)療通用模型提供者以信息共享及行為協(xié)助義務(wù)，構(gòu)建回流溝通機(jī)制。醫(yī)療通用模型提供者應(yīng)當(dāng)在尊重和保護(hù)知識(shí)產(chǎn)權(quán)的前提下，通過(guò)模型卡、數(shù)據(jù)表等方式共享模型信息，以使下游參與者清晰理解模型能力及局限，這是實(shí)現(xiàn)可信人工智能的制度保障。鑒于所處位置和技術(shù)資源，模型提供者應(yīng)當(dāng)成為協(xié)作規(guī)制的關(guān)鍵支點(diǎn)，就模型共性問(wèn)題向下游參與者提供必要支持和協(xié)助。例如，當(dāng)發(fā)生風(fēng)險(xiǎn)隱患或意外事件時(shí)，醫(yī)療AI注冊(cè)人可先行分析原因、溯源風(fēng)險(xiǎn)和修復(fù)缺陷，若發(fā)現(xiàn)超出自身認(rèn)知或能力，可繼續(xù)向上游回溯、報(bào)告，醫(yī)療通用模型提供者應(yīng)當(dāng)及時(shí)響應(yīng)請(qǐng)求，充分披露信息，積極開展缺陷定位及修復(fù)，并向下游其他支脈傳遞信息、警示風(fēng)險(xiǎn)，推動(dòng)可信AI價(jià)值鏈的共享、共建和共治。
圖3 醫(yī)療人工智能的價(jià)值鏈構(gòu)造和準(zhǔn)入體系
結(jié)語(yǔ)
我們正處于從網(wǎng)絡(luò)時(shí)代邁向智能時(shí)代的關(guān)鍵轉(zhuǎn)型期，以通用模型為代表的新一代人工智能正加速推動(dòng)人類社會(huì)的智能化變革。通用模型真正賦予人工智能以通用技術(shù)的關(guān)鍵特征，使其成為如同電力、蒸汽機(jī)一樣的元技術(shù)，全方位賦能和改變?nèi)祟惿鐣?huì)。同時(shí)，通用模型也會(huì)帶來(lái)各種新風(fēng)險(xiǎn)，并可能經(jīng)由模型和數(shù)據(jù)轉(zhuǎn)介放大既有風(fēng)險(xiǎn)，這需要引起充分重視并積極應(yīng)對(duì)。作為新興事物，通用模型的法律治理仍處于早期探索階段，包括我國(guó)在內(nèi)的絕大多數(shù)國(guó)家或地區(qū)尚未將通用模型納入規(guī)制體系，這是當(dāng)下面臨的最大現(xiàn)狀和挑戰(zhàn)。我國(guó)立法者應(yīng)當(dāng)明確將通用模型提供者納入規(guī)制體系，消弭法律制度與技術(shù)現(xiàn)實(shí)之鴻溝，并立足于通用模型之技術(shù)特性及體系定位，精準(zhǔn)、適度賦予法律義務(wù)，實(shí)現(xiàn)制度安全與技術(shù)創(chuàng)新之平衡。本文雖從醫(yī)療領(lǐng)域切入闡釋通用模型的規(guī)制問(wèn)題，但正如開篇所示，醫(yī)療領(lǐng)域之論證邏輯和制度方案具有強(qiáng)烈的示范效應(yīng)，可有效遷移至其他領(lǐng)域。例如，同樣關(guān)涉重要人身權(quán)益的強(qiáng)監(jiān)管領(lǐng)域，如自動(dòng)駕駛、刑事司法和行政執(zhí)法等，亦可構(gòu)建兩階段的準(zhǔn)入審核體系；主要關(guān)涉財(cái)產(chǎn)權(quán)益的中度監(jiān)管領(lǐng)域，如個(gè)人征信評(píng)估、保險(xiǎn)理賠評(píng)估和勞動(dòng)就業(yè)評(píng)估等，可適度放松管制，僅要求對(duì)通用模型進(jìn)行登記備案；其他領(lǐng)域，如游戲娛樂、體育文化等，可進(jìn)一步省略登記備案程序，僅要求承擔(dān)必要的透明度和數(shù)據(jù)治理義務(wù)。通用模型的法律規(guī)制始終應(yīng)當(dāng)秉持場(chǎng)景化、行業(yè)化策略，將通用模型的開發(fā)和應(yīng)用風(fēng)險(xiǎn)還原到具體行業(yè)和場(chǎng)景中，結(jié)合行業(yè)知識(shí)展開深入研究。
因篇幅限制，已省略注釋及參考文獻(xiàn)。原文詳見《河北法學(xué)》2025年第5期。
