近日,為深入貫徹落實(shí)國(guó)家藥品監(jiān)督管理局有關(guān)監(jiān)管要求,指導(dǎo)監(jiān)管人員加強(qiáng)對(duì)人工智能醫(yī)療器械生產(chǎn)質(zhì)量監(jiān)管,引導(dǎo)相關(guān)醫(yī)療器械生產(chǎn)企業(yè)科學(xué)開(kāi)展生產(chǎn)活動(dòng),推動(dòng)北京市人工智能醫(yī)療器械產(chǎn)業(yè)高質(zhì)量發(fā)展,北京市藥品監(jiān)督管理局根據(jù)相關(guān)法規(guī)、文件和標(biāo)準(zhǔn)要求,以及監(jiān)管實(shí)際,組織編制了《北京市人工智能醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范檢查指南(2024版)》,詳見(jiàn)正文。其他地區(qū)人工智能醫(yī)療器械注冊(cè)人也可以參考!
近日,為深入貫徹落實(shí)國(guó)家藥品監(jiān)督管理局有關(guān)監(jiān)管要求,指導(dǎo)監(jiān)管人員加強(qiáng)對(duì)人工智能醫(yī)療器械生產(chǎn)質(zhì)量監(jiān)管,引導(dǎo)相關(guān)醫(yī)療器械生產(chǎn)企業(yè)科學(xué)開(kāi)展生產(chǎn)活動(dòng),推動(dòng)北京市人工智能醫(yī)療器械產(chǎn)業(yè)高質(zhì)量發(fā)展,北京市藥品監(jiān)督管理局根據(jù)相關(guān)法規(guī)、文件和標(biāo)準(zhǔn)要求,以及監(jiān)管實(shí)際,組織編制了《北京市人工智能醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范檢查指南(2024版)》,詳見(jiàn)正文。其他地區(qū)人工智能醫(yī)療器械注冊(cè)人也可以參考!
北京市人工智能醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范檢查指南(2024版)
人工智能醫(yī)療器械是指基于“醫(yī)療器械數(shù)據(jù)”,采用人工智能技術(shù)實(shí)現(xiàn)其預(yù)期醫(yī)療用途的醫(yī)療器械,包括第二類(lèi)、第三類(lèi)人工智能獨(dú)立軟件和含有人工智能軟件組件的醫(yī)療器械(包括體外診斷醫(yī)療器械)。
本指南結(jié)合人工智能醫(yī)療器械特點(diǎn),依據(jù)《醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范》《醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范附錄獨(dú)立軟件》《醫(yī)療器械生產(chǎn)質(zhì)量管理規(guī)范獨(dú)立軟件現(xiàn)場(chǎng)檢查指導(dǎo)原則》等文件,明確了對(duì)人工智能醫(yī)療器械的生產(chǎn)質(zhì)量管理體系要求。旨在幫助北京市醫(yī)療器械生產(chǎn)監(jiān)管人員增強(qiáng)對(duì)人工智能醫(yī)療器械產(chǎn)品生產(chǎn)監(jiān)管的認(rèn)知,指導(dǎo)和規(guī)范全市醫(yī)療器械生產(chǎn)監(jiān)管人員對(duì)人工智能醫(yī)療器械注冊(cè)人、受托生產(chǎn)企業(yè)(以下簡(jiǎn)稱(chēng)“生產(chǎn)企業(yè)”)的監(jiān)督檢查工作。同時(shí),為相關(guān)生產(chǎn)企業(yè)開(kāi)展生產(chǎn)管理活動(dòng)提供參考和依據(jù)。
本指南中引用的國(guó)家相關(guān)法律、法規(guī)、規(guī)章、標(biāo)準(zhǔn)、檢查指南等版本發(fā)生變化時(shí),要以當(dāng)時(shí)執(zhí)行的最新版為準(zhǔn)。隨著法規(guī)、強(qiáng)制性標(biāo)準(zhǔn)體系的不斷完善以及科技能力、認(rèn)知水平的不斷發(fā)展,必要時(shí),北京市藥品監(jiān)督管理局將重新研究修訂,以確保本指南持續(xù)符合要求。
一、機(jī)構(gòu)和人員
人工智能醫(yī)療器械具有對(duì)數(shù)據(jù)和算法依賴(lài)性高的特點(diǎn),數(shù)據(jù)處理和算法相關(guān)的機(jī)構(gòu)和人員是關(guān)鍵性要素,生產(chǎn)企業(yè)應(yīng)定義相關(guān)人員角色、明確職責(zé)和資質(zhì)要求,可參照IEEE Std 2801-2022醫(yī)學(xué)人工智能數(shù)據(jù)集質(zhì)量管理推薦標(biāo)準(zhǔn)。
(一)數(shù)據(jù)處理人員:生產(chǎn)企業(yè)應(yīng)確立一名數(shù)據(jù)管理代表全面負(fù)責(zé)數(shù)據(jù)處理相關(guān)工作。數(shù)據(jù)處理人員一般包括首席研究員、數(shù)據(jù)管理員、采集人員、初級(jí)標(biāo)注人員、審核人員、仲裁人員等,標(biāo)注過(guò)程中處理同一例數(shù)據(jù)時(shí),初級(jí)標(biāo)注、審核、仲裁人員之間不可相互兼任;應(yīng)明確人員的職責(zé)、任職資質(zhì)、選拔、培訓(xùn)、考核要求,如職稱(chēng)、工作年限、工作經(jīng)驗(yàn)等;應(yīng)有任命、培訓(xùn)(如培訓(xùn)材料、培訓(xùn)方案)及考核記錄(如方法、頻次、指標(biāo)、通過(guò)準(zhǔn)則、一致性)等;對(duì)于生產(chǎn)企業(yè)外部聘用人員的還應(yīng)記錄聘用、主要執(zhí)業(yè)機(jī)構(gòu)、培訓(xùn)等信息,明確其資質(zhì)是否滿(mǎn)足崗位要求。
(二)算法相關(guān)人員:生產(chǎn)企業(yè)應(yīng)建立具有算法研發(fā)能力且穩(wěn)定的算法團(tuán)隊(duì),確立一名團(tuán)隊(duì)負(fù)責(zé)人全面負(fù)責(zé)算法相關(guān)工作。算法團(tuán)隊(duì)人員一般包括:算法研究人員、算法工程人員、算法測(cè)試人員、算法部署人員,上述人員中同一算法測(cè)試人員不可與其他角色兼任。若采用外部委托研發(fā)或者直接使用開(kāi)源項(xiàng)目進(jìn)行算法的研發(fā),則必須有算法測(cè)試人員和部署人員,并對(duì)算法相關(guān)的質(zhì)量負(fù)責(zé)。
二、廠(chǎng)房與設(shè)施
人工智能醫(yī)療器械的數(shù)據(jù)集是進(jìn)行開(kāi)發(fā)的要素,對(duì)采用自建數(shù)據(jù)集的產(chǎn)品,數(shù)據(jù)預(yù)處理、清洗、標(biāo)注等操作的場(chǎng)所為真實(shí)場(chǎng)所或模擬場(chǎng)所,真實(shí)的場(chǎng)所應(yīng)明確環(huán)境條件(如空間、照明、溫度、濕度、氣壓等),如有特殊要求應(yīng)保持相關(guān)記錄,采用模擬場(chǎng)所情形可根據(jù)產(chǎn)品實(shí)際情況調(diào)整模擬程度,需詳述調(diào)整理由并予以記錄;對(duì)采用公開(kāi)數(shù)據(jù)集、第三方數(shù)據(jù)集,則需對(duì)數(shù)據(jù)集開(kāi)發(fā)方所能提供范圍內(nèi)的場(chǎng)地信息進(jìn)行記錄。
三、設(shè)備
生產(chǎn)企業(yè)應(yīng)結(jié)合自身產(chǎn)品的實(shí)際情況,在產(chǎn)品生存周期過(guò)程提供充分、適宜、有效的軟硬件設(shè)備、開(kāi)發(fā)測(cè)試工具、網(wǎng)絡(luò)資源以及病毒防護(hù)、數(shù)據(jù)備份與恢復(fù)等保障措施。
(一)數(shù)據(jù)集構(gòu)建所用設(shè)備
1.數(shù)據(jù)采集設(shè)備管理應(yīng)明確兼容性和采集特征等要求,設(shè)備的兼容性記錄應(yīng)包括采集設(shè)備的名稱(chēng)、規(guī)格型號(hào)、制造商、性能指標(biāo),若無(wú)需考慮兼容性要求應(yīng)詳述理由并予以記錄。采集特征需明確采集設(shè)備的采集方式(如常規(guī)成像、增強(qiáng)成像)、采集協(xié)議(如MRI成像序列)、采集參數(shù)(如CT加載電壓、加載電流、加載時(shí)間、層厚)、采集精度(如分辨率、采樣率)。數(shù)據(jù)采集若使用歷史數(shù)據(jù),需列明采集設(shè)備及采集特征要求,并開(kāi)展數(shù)據(jù)采集質(zhì)量評(píng)估工作。
2.企業(yè)應(yīng)配備執(zhí)行數(shù)據(jù)集相關(guān)任務(wù)需要的資源,如訪(fǎng)問(wèn)、讀取數(shù)據(jù)、預(yù)覽、檢索等任務(wù)需要的軟件、硬件、網(wǎng)絡(luò)配置。測(cè)試集應(yīng)配備封閉管理需要的軟件、硬件、網(wǎng)絡(luò)配置,明確管理要求。
3.數(shù)據(jù)標(biāo)注應(yīng)明確標(biāo)注軟件(包含自動(dòng)標(biāo)注軟件)的要求,明確標(biāo)注軟件的名稱(chēng)、規(guī)格型號(hào)、完整版本、制造商、運(yùn)行環(huán)境、軟件確認(rèn)等要求并予以記錄。
4.若需使用特定的外部設(shè)備獲取附加的信息(如病理結(jié)果、檢驗(yàn)結(jié)果、數(shù)據(jù)模態(tài)轉(zhuǎn)化、多模態(tài)配準(zhǔn)、體積測(cè)量、三維打印等),設(shè)備的規(guī)格型號(hào)、計(jì)量信息(如需計(jì)量)等應(yīng)確認(rèn)要求并予以記錄。
5.數(shù)據(jù)整理所用軟件工具(含腳本)均需明確名稱(chēng)、規(guī)格型號(hào)、完整版本、制造商、運(yùn)行環(huán)境,并進(jìn)行軟件確認(rèn)。
(二)算法研發(fā)所用設(shè)備
1.應(yīng)明確定義并記錄進(jìn)行算法訓(xùn)練、算法測(cè)試、算法部署所用到服務(wù)器算力的典型配置(如GPU型號(hào)和數(shù)量、CPU型號(hào)和數(shù)量、內(nèi)存大小、網(wǎng)絡(luò)帶寬等)。
2.應(yīng)明確定義并記錄算法訓(xùn)練所用的操作系統(tǒng)、開(kāi)發(fā)環(huán)境(如編程語(yǔ)言及版本、集成開(kāi)發(fā)環(huán)境及版本、web服務(wù)及版本、支持軟件及版本等)、算法架構(gòu)(如基礎(chǔ)計(jì)算包、GPU指令集、集成開(kāi)發(fā)環(huán)境插件等)。
3.應(yīng)明確定義并記錄算法測(cè)試所用的操作系統(tǒng)、開(kāi)發(fā)環(huán)境、算法框架、基礎(chǔ)服務(wù)等,若與其他外部設(shè)備進(jìn)行配合或作為軟件組件集成到其他醫(yī)療器械中,明確說(shuō)明外部設(shè)備和器械的規(guī)格型號(hào)。
4.應(yīng)明確定義并記錄算法部署運(yùn)行的操作系統(tǒng)、開(kāi)發(fā)環(huán)境、算法框架、基礎(chǔ)服務(wù)、虛擬機(jī)、應(yīng)用容器引擎等。
四、設(shè)計(jì)開(kāi)發(fā)
生產(chǎn)企業(yè)應(yīng)結(jié)合質(zhì)量管理體系要求,建立人工智能醫(yī)療器械生存周期過(guò)程,開(kāi)展與軟件安全性級(jí)別相匹配的產(chǎn)品質(zhì)量保證工作,確定需求分析、數(shù)據(jù)收集、算法設(shè)計(jì)、驗(yàn)證與確認(rèn)、部署運(yùn)行、更新控制等活動(dòng)要求,將風(fēng)險(xiǎn)管理、可追溯分析(需包含算法和數(shù)據(jù))貫穿于生存周期全程,形成記錄。
(一)需求分析
1.需求分析應(yīng)當(dāng)以用戶(hù)需求與風(fēng)險(xiǎn)為導(dǎo)向,結(jié)合產(chǎn)品的預(yù)期用途、使用場(chǎng)景、核心功能,綜合分析法律、法規(guī)、規(guī)章、標(biāo)準(zhǔn)、用戶(hù)、產(chǎn)品、功能、性能、接口、用戶(hù)界面、網(wǎng)絡(luò)安全、警示提示等需求,明確風(fēng)險(xiǎn)管理、可追溯性分析、數(shù)據(jù)收集、算法性能、使用限制、現(xiàn)成軟件(現(xiàn)成算法)的驗(yàn)證與確認(rèn)等活動(dòng)要求,形成相應(yīng)文件。
2.數(shù)據(jù)收集應(yīng)當(dāng)確保數(shù)據(jù)來(lái)源的合規(guī)性、充分性和多樣性,數(shù)據(jù)分布的科學(xué)性和合理性,數(shù)據(jù)質(zhì)控的充分性、有效性和準(zhǔn)確性。
3.算法性能需結(jié)合醫(yī)療實(shí)際和產(chǎn)品定位,明確假陰性與假陽(yáng)性、重復(fù)性與再現(xiàn)性、魯棒性/健壯性、實(shí)時(shí)性等性能指標(biāo)的適用性及其要求,并兼顧不同性能指標(biāo)的制約關(guān)系。
4.使用限制需考慮產(chǎn)品禁用、慎用等場(chǎng)景,準(zhǔn)確表述產(chǎn)品使用場(chǎng)景,提供必要警示提示信息。
(二)數(shù)據(jù)收集
1.數(shù)據(jù)采集
數(shù)據(jù)采集應(yīng)當(dāng)明確采集設(shè)備、采集過(guò)程、數(shù)據(jù)脫敏等質(zhì)控要求,并建立數(shù)據(jù)采集操作規(guī)范。若使用歷史數(shù)據(jù),應(yīng)當(dāng)結(jié)合樣本規(guī)模、采集難度等影響因素合理選擇數(shù)據(jù)采集方式,明確數(shù)據(jù)篩選標(biāo)準(zhǔn)并對(duì)采集的數(shù)據(jù)進(jìn)行質(zhì)量評(píng)估。
采集的數(shù)據(jù)應(yīng)進(jìn)行數(shù)據(jù)脫敏以保護(hù)患者隱私,數(shù)據(jù)脫敏需明確脫敏的類(lèi)型(靜態(tài)、動(dòng)態(tài))、規(guī)則、方法以及脫敏內(nèi)容的確定依據(jù)。如使用歷史數(shù)據(jù),企業(yè)接收的數(shù)據(jù)應(yīng)為脫敏后的數(shù)據(jù),不得有敏感數(shù)據(jù)流入企業(yè)。
2.數(shù)據(jù)整理
數(shù)據(jù)整理應(yīng)基于原始數(shù)據(jù)庫(kù)明確數(shù)據(jù)清洗、數(shù)據(jù)預(yù)處理的質(zhì)控要求。數(shù)據(jù)清洗應(yīng)當(dāng)明確清洗的規(guī)則、方法、結(jié)果,數(shù)據(jù)預(yù)處理應(yīng)當(dāng)明確處理的方法(如濾波、增強(qiáng)、重采樣、尺寸裁剪、均一化等)、結(jié)果。數(shù)據(jù)經(jīng)整理后形成基礎(chǔ)數(shù)據(jù)庫(kù),需明確樣本類(lèi)型、樣本量、樣本分布等信息。
3.數(shù)據(jù)標(biāo)注
數(shù)據(jù)標(biāo)注應(yīng)當(dāng)明確標(biāo)注資源管理、標(biāo)注過(guò)程質(zhì)控、標(biāo)注質(zhì)量評(píng)估等要求,并建立數(shù)據(jù)標(biāo)注操作規(guī)范。標(biāo)注過(guò)程質(zhì)控包括人員職責(zé)(如人員資質(zhì)、人員數(shù)量、職責(zé)分工)、標(biāo)注規(guī)則(如臨床指南、專(zhuān)家共識(shí)、專(zhuān)家評(píng)議、文獻(xiàn)分析)、標(biāo)注流程(如標(biāo)注對(duì)象、標(biāo)注形式、標(biāo)注輪次、標(biāo)注步驟、結(jié)果審核)、分歧處理(如仲裁人員、仲裁方式)、可追溯性(如數(shù)據(jù)、操作)等要求。數(shù)據(jù)經(jīng)標(biāo)注后形成標(biāo)注數(shù)據(jù)庫(kù),樣本類(lèi)型可分為數(shù)據(jù)塊(如圖像區(qū)域、數(shù)據(jù)片段)、單一數(shù)據(jù)(由多個(gè)數(shù)據(jù)塊組成)、數(shù)據(jù)序列(由多個(gè)單一數(shù)據(jù)組成)。標(biāo)注數(shù)據(jù)庫(kù)的樣本量、樣本分布等要求及風(fēng)險(xiǎn)考量與基礎(chǔ)數(shù)據(jù)庫(kù)相同。
數(shù)據(jù)標(biāo)注若使用自動(dòng)標(biāo)注軟件,結(jié)果不得直接使用,應(yīng)由標(biāo)注人員審核后方可使用。
4.數(shù)據(jù)集構(gòu)建
基于標(biāo)注數(shù)據(jù)庫(kù)構(gòu)建訓(xùn)練集、調(diào)優(yōu)集(若有)、測(cè)試集,應(yīng)當(dāng)明確訓(xùn)練集、調(diào)優(yōu)集、測(cè)試集的劃分方法、劃分依據(jù)、數(shù)據(jù)分配比例。訓(xùn)練集原則上需保證樣本分布具有均衡性,測(cè)試集、調(diào)優(yōu)集原則上需保證樣本分布符合真實(shí)情況,訓(xùn)練集、調(diào)優(yōu)集、測(cè)試集的樣本應(yīng)兩兩無(wú)交集并通過(guò)查重予以驗(yàn)證。
數(shù)據(jù)擴(kuò)增(若有)應(yīng)當(dāng)明確擴(kuò)增的對(duì)象、范圍、方式(離線(xiàn)、在線(xiàn))、方法(如翻轉(zhuǎn)、旋轉(zhuǎn)、鏡像、平移、縮放、濾波、生成對(duì)抗網(wǎng)絡(luò)等)、倍數(shù),在線(xiàn)擴(kuò)增亦需予以記錄,擴(kuò)增需考慮數(shù)據(jù)偏倚的影響及風(fēng)險(xiǎn)。原則上不得對(duì)測(cè)試集進(jìn)行數(shù)據(jù)擴(kuò)增,對(duì)抗測(cè)試除外。
數(shù)據(jù)經(jīng)擴(kuò)增后應(yīng)當(dāng)形成擴(kuò)增數(shù)據(jù)庫(kù),需列表對(duì)比擴(kuò)增數(shù)據(jù)庫(kù)與標(biāo)注數(shù)據(jù)庫(kù)在樣本量、樣本分布(注明擴(kuò)增倍數(shù))等差異,以證實(shí)擴(kuò)增數(shù)據(jù)庫(kù)樣本量的充分性以及樣本分布的合理性。
(三)算法設(shè)計(jì)
1.算法選擇
算法選擇應(yīng)當(dāng)提供所用算法的名稱(chēng)、類(lèi)型(如有監(jiān)督學(xué)習(xí)、無(wú)監(jiān)督學(xué)習(xí),基于模型、基于數(shù)據(jù),白盒、黑盒)、結(jié)構(gòu)(如層數(shù)、參數(shù)規(guī)模)、輸入輸出數(shù)據(jù)類(lèi)型、流程圖、算法編程框架、運(yùn)行環(huán)境等基本信息,并明確算法選用依據(jù),包括選用的理由和基本原則。若組合使用集成學(xué)習(xí)、遷移學(xué)習(xí)、強(qiáng)化學(xué)習(xí)等,需提供算法基本信息以及算法選用依據(jù)。
2.算法訓(xùn)練
算法訓(xùn)練應(yīng)當(dāng)基于訓(xùn)練集、調(diào)優(yōu)集進(jìn)行訓(xùn)練和調(diào)優(yōu),考慮評(píng)估指標(biāo)、訓(xùn)練方式、訓(xùn)練目標(biāo)、調(diào)優(yōu)方式、訓(xùn)練數(shù)據(jù)量—評(píng)估指標(biāo)曲線(xiàn)等要求。
3.算法性能評(píng)估
算法性能評(píng)估應(yīng)當(dāng)基于測(cè)試集對(duì)算法設(shè)計(jì)結(jié)果進(jìn)行評(píng)估,綜合評(píng)估假陰性與假陽(yáng)性、重復(fù)性與再現(xiàn)性、魯棒性/健壯性、實(shí)時(shí)性等適用性,以證實(shí)算法性能滿(mǎn)足算法設(shè)計(jì)目標(biāo),并作為軟件驗(yàn)證、軟件確認(rèn)的基礎(chǔ)。若使用第三方數(shù)據(jù)庫(kù)開(kāi)展算法性能評(píng)估,應(yīng)當(dāng)提供第三方數(shù)據(jù)庫(kù)的基本信息(如名稱(chēng)、創(chuàng)建者、數(shù)據(jù)總量等)和使用情況(如測(cè)試數(shù)據(jù)樣本量、評(píng)估指標(biāo)、評(píng)估結(jié)果等)。
對(duì)于黑盒算法,應(yīng)開(kāi)展算法性能影響因素分析,并提供算法性能影響因素分析報(bào)告,明確影響算法性能的主要因素及其影響程度,以及產(chǎn)品使用限制和必要警示提示信息。
(四)驗(yàn)證與確認(rèn)
1.軟件驗(yàn)證
軟件驗(yàn)證應(yīng)當(dāng)基于軟件需求予以開(kāi)展,保證軟件的安全有效性,并作為軟件確認(rèn)的基礎(chǔ)。
2.軟件確認(rèn)
軟件確認(rèn)測(cè)試應(yīng)當(dāng)基于用戶(hù)需求,由預(yù)期用戶(hù)在真實(shí)或模擬使用場(chǎng)景下予以開(kāi)展,涵蓋現(xiàn)成軟件、網(wǎng)絡(luò)安全的測(cè)試要求,確定缺陷管理、風(fēng)險(xiǎn)管理、可追溯性分析、評(píng)審等活動(dòng)要求,形成用戶(hù)測(cè)試記錄、測(cè)試報(bào)告以及評(píng)審記錄并經(jīng)批準(zhǔn),適時(shí)更新并經(jīng)批準(zhǔn)。可追溯性分析此時(shí)應(yīng)當(dāng)分析用戶(hù)測(cè)試與用戶(hù)需求、用戶(hù)測(cè)試與風(fēng)險(xiǎn)管理的關(guān)系。同時(shí),開(kāi)展算法性能比較分析,若各類(lèi)測(cè)試場(chǎng)景(含臨床評(píng)價(jià))算法性能變異度較大,詳述原因并基于分析結(jié)果明確產(chǎn)品使用限制和必要警示提示信息。最后,結(jié)合算法訓(xùn)練、算法性能評(píng)估、臨床評(píng)價(jià)等結(jié)果開(kāi)展算法性能綜合評(píng)價(jià),針對(duì)訓(xùn)練樣本量和測(cè)試樣本量過(guò)少、測(cè)試結(jié)果明顯低于算法設(shè)計(jì)目標(biāo)、算法性能變異度過(guò)大等情況,對(duì)產(chǎn)品的適用范圍、使用場(chǎng)景、核心功能進(jìn)行必要限制。
基于測(cè)評(píng)數(shù)據(jù)庫(kù)開(kāi)展的,除滿(mǎn)足數(shù)據(jù)庫(kù)通用要求(如數(shù)據(jù)管理、網(wǎng)絡(luò)安全與數(shù)據(jù)安全、可擴(kuò)展性)外,還應(yīng)滿(mǎn)足權(quán)威性、科學(xué)性、規(guī)范性、多樣性、封閉性和動(dòng)態(tài)性要求。不應(yīng)使用公開(kāi)數(shù)據(jù)庫(kù)作為測(cè)評(píng)數(shù)據(jù)庫(kù)。
(五)部署運(yùn)行
算法發(fā)布和更新時(shí)應(yīng)在相關(guān)文件列明算法關(guān)鍵模塊的功能、接口、版本、存儲(chǔ)形式(如pt、pth、bin、onnx、pb、keras、ckpt、pkl等);主要功能組件模塊及相互依賴(lài)和接口關(guān)系;軟件的前后端部署方式;對(duì)基礎(chǔ)軟件和硬件的依賴(lài)和兼容性要求等。
(六)更新控制
人工智能醫(yī)療器械若發(fā)生算法更新、軟件更新,均應(yīng)當(dāng)按照質(zhì)量管理體系的要求,開(kāi)展與算法更新、軟件更新的類(lèi)型、內(nèi)容和程度相適宜的驗(yàn)證與確認(rèn)活動(dòng),將風(fēng)險(xiǎn)管理、可追溯分析貫穿于更新全程,形成記錄。此外,算法更新、軟件更新均需考慮引入回滾機(jī)制,以保證醫(yī)療業(yè)務(wù)的連續(xù)性,特別是對(duì)風(fēng)險(xiǎn)較高的軟件。
軟件版本控制應(yīng)當(dāng)基于合規(guī)性要求確定軟件版本命名規(guī)則,涵蓋自研軟件、現(xiàn)成軟件、算法(算法驅(qū)動(dòng)型更新或數(shù)據(jù)驅(qū)動(dòng)型更新)網(wǎng)絡(luò)安全的全部軟件更新類(lèi)型,明確并區(qū)分重大軟件更新和輕微軟件更新,并符合軟件版本命名規(guī)則的要求。
對(duì)數(shù)據(jù)集進(jìn)行用途(如訓(xùn)練、調(diào)優(yōu)、測(cè)試、驗(yàn)證等)的變更,應(yīng)按照數(shù)據(jù)集管理體系的要求進(jìn)行確認(rèn)形成記錄。高控制等級(jí)的數(shù)據(jù)集停用后數(shù)據(jù)可流入低控制等級(jí)的數(shù)據(jù)集,不允許低控制等級(jí)的數(shù)據(jù)集向高控制等級(jí)流動(dòng)(測(cè)試集數(shù)據(jù)可變更為訓(xùn)練和調(diào)優(yōu)使用,不可將訓(xùn)練集、調(diào)優(yōu)集的數(shù)據(jù)變更為測(cè)試使用)。數(shù)據(jù)集數(shù)據(jù)的變更,應(yīng)按照建立數(shù)據(jù)集過(guò)程相同的質(zhì)量體系進(jìn)行管理,并記錄更新內(nèi)容和版本變更。
(七)網(wǎng)絡(luò)與數(shù)據(jù)安全
人工智能醫(yī)療器械全生命周期過(guò)程中應(yīng)當(dāng)考慮網(wǎng)絡(luò)安全與數(shù)據(jù)安全問(wèn)題,對(duì)網(wǎng)絡(luò)與數(shù)據(jù)安全過(guò)程的控制要求形成文件,包括數(shù)據(jù)轉(zhuǎn)移要求,數(shù)據(jù)整理、數(shù)據(jù)集構(gòu)建、算法訓(xùn)練等內(nèi)部活動(dòng)開(kāi)展過(guò)程中的數(shù)據(jù)污染防護(hù)措施,以及數(shù)據(jù)標(biāo)注、軟件確認(rèn)等涉及外部活動(dòng)開(kāi)展過(guò)程中的數(shù)據(jù)污染防護(hù)措施及數(shù)據(jù)接口要求。
各數(shù)據(jù)庫(kù)(集)均需進(jìn)行數(shù)據(jù)備份,明確備份的方法、頻次、數(shù)據(jù)恢復(fù)方法。
數(shù)據(jù)庫(kù)和數(shù)據(jù)集訪(fǎng)問(wèn)應(yīng)明確授權(quán)訪(fǎng)問(wèn)管理要求,形成文件及記錄。
人工智能醫(yī)療器械軟件應(yīng)明確算法的軟件安全性級(jí)別(輕微、中等、嚴(yán)重)并詳述判定理由。應(yīng)形成算法風(fēng)險(xiǎn)管理資料,明確過(guò)擬合與欠擬合、假陰性與假陽(yáng)性、數(shù)據(jù)污染與數(shù)據(jù)偏倚(如數(shù)據(jù)擴(kuò)增引入的偏倚)、中外差異等風(fēng)險(xiǎn)的控制措施。
(八)可追溯性分析
可追溯性分析應(yīng)當(dāng)建立控制程序,涵蓋軟件、現(xiàn)成軟件、算法及數(shù)據(jù)、網(wǎng)絡(luò)安全的控制要求,形成軟件及算法的可追溯性分析報(bào)告。使用可追溯性分析工具保證軟件開(kāi)發(fā)、軟件更新過(guò)程滿(mǎn)足可追溯性要求,并貫穿于軟件生存周期全過(guò)程。提供算法可追溯性分析報(bào)告等相關(guān)文件及記錄,即追溯算法需求、算法設(shè)計(jì)、算法實(shí)現(xiàn)、算法驗(yàn)證與確認(rèn)、風(fēng)險(xiǎn)管理、數(shù)據(jù)集的管理。若無(wú)單獨(dú)文檔可提供軟件可追溯性分析報(bào)告,并注明算法可追溯性分析所在位置。
五、采購(gòu)
生產(chǎn)企業(yè)應(yīng)確保采購(gòu)物品符合法律法規(guī)的相關(guān)規(guī)定和國(guó)家強(qiáng)制性標(biāo)準(zhǔn)的相關(guān)要求,包括數(shù)據(jù)來(lái)源及以開(kāi)源方式獲得的軟件等。
數(shù)據(jù)來(lái)源應(yīng)當(dāng)提供數(shù)據(jù)來(lái)源的合規(guī)性聲明,列明數(shù)據(jù)來(lái)源機(jī)構(gòu)名稱(chēng)、所在地域、數(shù)據(jù)收集量、倫理批件(或科研合作協(xié)議)編號(hào)等信息。
產(chǎn)品部署運(yùn)行所需的軟硬件,應(yīng)當(dāng)記錄采購(gòu)信息,其中以開(kāi)源方式獲得的軟件組件、基礎(chǔ)包、基礎(chǔ)軟件、集成環(huán)境等,應(yīng)列明來(lái)源、下載地址、版本、開(kāi)源協(xié)議等信息。
六、銷(xiāo)售和售后服務(wù)
人工智能醫(yī)療器械軟件在產(chǎn)品設(shè)計(jì)具有持續(xù)學(xué)習(xí)/自適應(yīng)學(xué)習(xí)能力的,需要在軟件部署階段確認(rèn)自學(xué)習(xí)功能已關(guān)閉,并提供記錄。
七、不良事件監(jiān)測(cè)、分析和改進(jìn)
上市后需要持續(xù)開(kāi)展算法泛化能力研究的,需要結(jié)合用戶(hù)投訴、不良事件和召回等情況識(shí)別前期未預(yù)見(jiàn)的風(fēng)險(xiǎn),并采取有效的風(fēng)險(xiǎn)控制措施將風(fēng)險(xiǎn)降至可接受水平。此外,根據(jù)產(chǎn)品更新需求,經(jīng)評(píng)估后實(shí)施更新活動(dòng),開(kāi)展與之相適宜的驗(yàn)證與確認(rèn)活動(dòng),保證算法泛化能力持續(xù)滿(mǎn)足用戶(hù)需求。
如有人工智能醫(yī)療器械注冊(cè)咨詢(xún)服務(wù)需求,歡迎您隨時(shí)方便與杭州證標(biāo)客醫(yī)藥技術(shù)咨詢(xún)有限公司聯(lián)絡(luò),聯(lián)系人:葉工,電話(huà):18058734169,微信同。