人工智能与医疗健康产业系列研究之四：人工智能在医学诊断领域内的应用及法律监管

随着医疗科技的发展，人工智能在医学诊断领域的应用，已成为业内普遍关注的前沿热点，虽然人工智能在医学诊断领域的应用发展时间不长，但已经成为能够为医学诊断技术及服务进行赋能的极富潜力的市场领域。其中，医学影像领域成为了人工智能在医学诊断中最为成熟的、发展最快的应用领域。 根据第三方测算及预测，中国医学人工智能影像诊断的市场规模在2020年为3.12亿元，2021年为5.94亿元，2022年为11.12亿元，2023年增至20.60亿元（预测），市场规模不断扩大1。资本亦在加速涌入这一赛道，推动商业化进程。有数据统计，2019年至2022年6月初，国内AI+医疗领域共发生了272起融资事件，披露融资金额超250亿元，其中医学影像相关融资事件数量占比总融资数36%2。 一、人工智能在医学诊断领域的应用现状 医学诊断是指对人体生理、精神疾病及其病理原因所作的判断，一般而言是由医生等医学专业人士根据症状、病史（包括家庭病史）及医疗检查结果等资料作出。人工智能是指能够模拟人类智能，执行一些通常需要人类智能才能完成的任务（如语言理解、图像识别、学习和推理等）的机器、计算机程序或机器系统。人工智能在医学诊断领域内的应用宏观来看可以归纳为以下三个方面： （一）人工智能软件及算法 人工智能软件及算法的开发及商业化是人工智能在医学诊断领域应用的核心。一般而言，这种软件可以分析患者的病例、实验室数据、医学图像等多种数据来源，通过机器学习和模式识别技术来发现患者疾病的规律和特征，从而辅助医学专业人士做出诊断方案。 目前市场上活跃着多家专注于人工智能软件及算法开发和商业化的公司，并产生了多项研发中或已经上市商业化的产品。以在香港联交所上市的商汤集团股份有限公司（SenseTime Group Inc.，以下简称“商汤科技”）为例，商汤科技名下有SenseCare智慧医疗平台，为客户提供对包括心脏CTA、肺部CT的图像分析，颈动脉CTA和胸部X线检查在内的影像辅助分析和后处理加工。商汤科技通过（1）在客户设备或客户自有服务器内安装SenseCare软件平台并发放许可，及（2）提供结合人工智能芯片或人工智能传感器、使得人工智能模型得以高效运行的软硬一体产品及相关服务的方式获得软件销售收入。作为专注于软件的公司，商汤科技对硬件投入较少，软件平台依附的硬件系统一般由第三方生产，但可能参与部分硬件的设计。3 （二）人工智能医学诊断设备 人工智能软件需要和医学诊疗硬件设备结合才能在医学诊疗的场景下发挥优势。市场上也不乏长于医学诊断设备开发、制造及商业化的公司，利用人工智能技术，将人工智能技术和自己的硬件设备结合推出有竞争力的产品。这类公司一般会在硬件产品基础上着力开发与硬件产品配合使用的软件产品。比如东软医疗系统股份有限公司（以下简称“东软医疗”），其业务包括大型医学诊断设备和体外诊断设备及试剂的研发、生产和销售，也同时包括以自有云平台、智能辅助诊断软件及医学影像后处理工作站等平台构建的MDaaS（医疗设备和医学影像数据作为服务）解决方案，旨在为医疗机构提升诊疗和运营能力。具体而言，东软医疗名下拥有多款CT（计算机断层扫描成像系统）产品、MRI（磁共振成像系统）产品、PET/CT（核医学成像设备）产品等，同时拥有智能辅助诊断软件及医学影像后处理工作中AVW2.0。通过将AVW2.0应用于CT、MRI、PET/CT等自有支持设备，东软医疗可以为医院客户在心脏应用、神经应用、肿瘤应用等多个场景提供影像优化、分割、提取、定位及辅助诊断的服务，实现病灶的自动检测，显著提升医生阅读医学智能影像的效率及准确性。 （三）互联网医疗诊断及远程医疗诊断 人工智能技术还显著应用到了医疗服务环节，促成了当下非常热门的“互联网医疗”和“远程医疗”的概念。从医疗服务中医学诊断的角度来看，互联网诊断和远程诊断以人工智能技术为基础，结合医疗诊断的具体需求，利用网络和软件平台使得医院和医生可以在线为病人提供便利、快捷和高效的医疗服务。叮当健康科技集团有限公司（以下简称“叮当健康”）即是属于此类互联网医疗诊断及远程医疗诊断的服务供应商。患者通过叮当健康的在线诊疗程序，可以根据自己的症状及病史在线选择合适的医生。每个医生在在线诊疗平台中都配有一位人工智能助手，该助手会和患者进行实时在线沟通以收集医生在正式问诊是所需要的基本信息。通过此类人工智能的应用，患者可以获得更加迅速的反馈，并且医生的医学诊断效率也会大大提升。4 值得注意的是，互联网医疗诊断及远程医疗诊断服务和后续的治疗服务在实践中一般都需要借助同一个平台完成，并且联系紧密。还是以叮当健康为例，在医生通过在线诊疗程序中完成问诊后，医生会根据患者的情况提供医疗建议，或者引导病人到线下医疗机构进行检查以做进一步诊疗，或者根据患者的需要向患者提供治疗的整体评估以及所需药物的处方续方。 二、与人工智能医学诊断相关的监管及政策体系 （一）人工智能医学诊断领域内不同应用相关的监管性法规 根据我们的梳理，人工智能在医学诊断领域内的不同应用涉及不同方面的监管法规，分别归纳总结如下： （1）人工智能软件及算法相关监管法规 用于诊断、评估的智能算法软件在医药监管领域如何定性，在实践及监管层面经过一段时间的探索，已经有了较为清晰的监管框架。根据国家药监局（原国家食药监总局）及国家药监局器审中心发布的《移动医疗器械注册技术审查指导原则》、《人工智能医疗器械注册审查指导原则》、《人工智能医用软件产品分类界定指导原则》等法律法规的定义：（A）确认凡符合医疗器械定义的移动计算设备或软件属于医疗器械；（B）确认若软件产品的处理对象为医疗器械数据，且核心功能是对医疗器械数据的处理、测量、模型计算、分析等，并用于医疗用途的，作为医疗器械管理。因此，此类医疗器械既可能作为人工智能独立软件进行申报，也可能作为含有人工智能软件组件的医疗器械（包括体外诊断医疗器械）进行申报。 因此，新研发的用于诊断、评估的智能算法软件，凡是符合处理前述医疗器械数据、用于医疗用途等要素要求的，均应按照医疗器械注册并受相应监管。在这一标准下，应当取得而未取得医疗器械注册证的情形面临相关法律风险。根据《医疗器械监督管理条例》的相关规定，企业生产、经营、使用未取得医疗器械注册证的第二类、第三类医疗器械软件可能会受到相应处罚，包括没收违法所得、没收违反生产经营的医疗器械和设备、罚款、责令停业等。 关于人工智能医疗软件在第二类、第三类医疗器械之间的区分，2021年7月8日，国家药监局发布《人工智能医用软件产品分类界定指导原则》，明确将对于算法在医疗应用中成熟度低（指未上市或安全有效性尚未得到充分证实）的人工智能医用软件，若用于辅助决策，如提供病灶特征识别、病变性质判定、用药指导、治疗计划制定等临床诊疗建议，按照第三类医疗器械管理；若用于非辅助决策，如进行数据处理和测量等提供临床参考信息，按照第二类医疗器械管理。 尽管《人工智能医用软件产品分类界定指导原则》亦规定，对于算法在医疗应用中成熟度高（指安全有效性已得到充分证实）的人工智能医用软件，其管理类别按照现行的《医疗器械分类目录》和分类界定文件等执行。但根据我们的观察，由于整体上人工智能在医学诊断领域内的应用比较前沿、新颖，能够检索到的人工智能医学诊断产品一般均注册为第三类医疗器械。一般仅不涉及辅助诊断、评估的单纯用于成像、存储影响的产品，才会按照第二类医疗器械进行注册。 综上所述，尽管人工智能医学诊断软件具有一定特殊性，但在法律上已明确定性为医疗器械，实践中目前一般作为第三类进行注册。因此人工智能医学诊断软件的研发企业属于医疗器械的注册人，应进行产品注册，取得医疗器械产品注册证书。此外，如果单纯涉及软件，则研发企业不再需要额外委托生产，本身就是生产企业，应取得医疗器械生产许可证，该等生产许可证的生产范围会明确注明“软件”字样，这也侧面印证了人工智能软件本身即是一种医疗器械的结论5。 此外，智能算法软件的研发方享有对软件的著作权，著作权保护相关的法律法规包括《著作权法》、《计算机软件保护条例》、《计算机软件著作权登记办法》等。 （2）人工智能医学诊断设备相关监管法规 如本文第一部分所述，人工智能软件往往需要和医学诊疗硬件设备结合使用。根据《人工智能医疗器械注册审查指导原则》，同时结合我们在上文的分析，人工智能医疗器械的注册申报包括含有人工智能软件组件的医学诊断设备。该等设备也当然地受到医疗器械领域的《医疗器械监督管理条例》、《医疗器械生产监督管理办法》等法律法规监管。 相较于其他医疗器械，《人工智能医疗器械注册审查指导原则》明确了针对这类人工智能医疗器械注册审查的指导原则，包括：（a）基于算法特性：人工智能医疗器械安全有效性评价基于其预期用途、使用场景、核心功能，以算法特性为核心重点关注其泛化能力，以模型/数据为基础重点关注其质控情况，同时从风险管理角度兼顾算力不足与失效的影响；（b）风险导向：人工智能医疗器械的风险水平主要取决于软件安全性级别，软件安全性级别越高，其生存周期质控要求越严格，注册申报资料越详尽；（c）全生命周期质控：人工智能医疗器械生命周期包括需求分析、数据收集、算法设计、验证与确认、更新控制，注册申请人应结合质量管理体系要求，参考软件、人工智能相关标准和良好工程实践，建立人工智能医疗器械生存周期过程，开展与软件安全性级别相匹配的产品质量保证工作，将风险管理、可追溯分析贯穿于生存周期全程，形成记录以供体系核查。初步来看，如果将含有人工智能软件组件的医学诊断设备作为一个整体申报注册医疗器械，审查部门可能还是会将审查重点放在人工智能软件、算法层面，而且突出“全生命周期质控”，这一质控过程会与相关算法的设计、训练、监控紧密结合。 就医疗器械的一般性监管框架而言，我国法律对医疗器械采取三类分类监管方式，第一类是风险程度低，实行常规管理可以保证其安全、有效的医疗器械；第二类是具有中度风险，需要严格控制管理以保证其安全、有效的医疗器械；第三类是具有较高风险，需要采取特别措施严格控制管理以保证其安全、有效的医疗器械。不同类别的医疗器械的生产者、经营者需履行不同的法律义务。上文曾提及，由于整体上人工智能在医学诊断领域内的应用比较前沿、新颖，能够检索到的人工智能医学诊断产品一般均注册为第三类医疗器械。同时根据我们的研究检索6，单纯的医疗影像成像设备（不含诊断功能）根据其具体风险性可能属于第二类或第三类医疗器械。 医疗器械的注册人、备案人应进行产品备案（第一类）或产品注册（第二类、第三类），取得医疗器械产品备案证明或注册证；医疗器械的注册人、备案人既可以自行生产也可以委托生产；生产医疗器械的企业需取得医疗器械生产备案（第一类）、医疗器械生产许可（第二类、第三类）。此外，前述企业需履行与医疗器械的相关义务，例如加强质量管理、不良事件处理与召回义务等。 根据我们对实践的观察，人工智能医学诊断领域的相关产品已经存在委托生产情形，目前可以分为两类：（1）委托生产与自身研发的人工智能软件配套使用的硬件产品，例如，鹰瞳科技委托其供应商生产与其人工智能软件配套使用的硬件“眼底相机”，基于我们的查询，鹰瞳科技已将“眼底相机”注册为第二类医疗器械并备案委托生产信息，同时，鹰瞳科技在招股书中披露，鹰瞳科技自身除测试类试点生产外未运营任何生产设施，硬件设备方面均采用委托生产模式7；（2）较为成熟的影像产品可能会选择使用委托生产的方式进行生产，例如联影医疗的部分产品通过委托关联公司生产的模式进行生产，其中也包括第三类医疗器械（X射线计算机体层摄影设备，用于临床CT检查，支持血管造影扫描）8。 除上述两类情形之外，我们初步理解，人工智能软件、算法主要依托于研发工作、人工智能模型的训练等，该等研发工作很难被其他企业替代，因此纯人工智能软件实现委托生产的情形可能并不常见。由于人工智能医学诊断领域显著地分为软件、硬件两大板块，未来委托生产的实践如何发展，值得进一步关注。始终需注意的是，委托生产的产品如果是作为医疗器械使用，需由委托人申报注册医疗器械并将委托生产信息报告给药监局。 （3）互联网医疗诊断及远程医疗诊断相关监管法规 我国法律监管下，除将人工智能辅助实施手术硬性规定为限制类医疗技术，关于人工智能医学诊断，《互联网诊疗监管细则（试行）》中明确规定，人工智能软件不得冒用、替代医师本人接诊。处方应由接诊医师本人开具，严禁使用人工智能等自动生成处方。这一规定可视为人工智能医疗诊断领域的原则性规定，如违反这一规范造成医疗事故，相关医疗机构及人员可能视情节程度面临民事、行政及刑事责任（详见本文第三部分分析）。部分地方也出台了相关规定，例如山东省卫健委出台了《山东省互联网诊疗管理实施办法》9。 此外，目前国家卫健委主要针对人工智能辅助诊断技术出台了一些细化的管理规范、质量控制规范，包括《人工智能辅助诊断技术管理规范（2017版）》、《人工智能辅助诊断技术临床应用质量控制指标（2017版）》。医疗机构拟开展人工智能医学诊断业务的，应当执行该等管理规范。随着技术的不断成熟，监管机构亦可能更新现有管理规范或发布新的规范、指引、标准。 （二）国家鼓励性政策 人工智能及其在医学领域的应用受到国家政策的鼓励，相关文件包括《关于印发新一代人工智能发展规划的通知》、《关于促进“互联网+医疗健康”发展的意见》、《关于促进人工智能和实体经济深度融合的指导意见》、《国家新一代人工智能开放创新平台建设工作指引》等。其中，国家对研发医疗健康相关的人工智能技术、推广应用人工智能治疗新模式新手段、围绕应用场景开展人工智能服务等均持支持、鼓励态度。这类政策一般属于支持产业发展的宏观政策。鉴于人工智能医学诊断在我国的发展前景可观，相关政策值得进一步追踪。 三、人工智能医学诊断领域中需要特别关注的法律问题 与传统医疗器械产品相比，基于人工智能技术的医学诊断产品可能涉及一些特别的法律问题。基于我国法律与监管的语境，我们摘取了几个较为突出的问题在下文中作简要分析。 （一）人工智能在医学诊断应用中造成医疗损害的责任承担问题 在国外，由于人工智能相关医疗技术应用得更为普遍，医疗事故例如手术机器人造成手术的事故报道并不罕见。在中国国内，亦可看到零星的新闻和相关讨论10。在我国现有的法律体系下，假设因为使用人工智能医疗器械（包括诊断、治疗、辅助康复各类医疗器械）造成患者损害，需要区分是否属于医疗器械产品本身的缺陷。如果确实属于产品缺陷，根据《民法典》等法律规定11，应当由生产者承担责任，因销售者的过错使产品存在缺陷的，生产者赔偿后，有权向销售者追偿。 如果属于医疗器械产品本身存在缺陷的情形，则应当根据《医疗事故处理条例》等法律法规判断医疗机构及义务人员是否违反诊疗规范造成患者损害。《医疗事故处理条例》规定，由于医疗机构及其医务人员使用产品的过程中，违反医疗卫生管理法律、行政法规、部门规章和诊疗护理规范、常规，过失给患者造成人身损害的事故，医院应当向患者承担民事赔偿责任。情节严重的情况下，负有责任的医院和医务人员可能承担行政责任（如限期停业整顿、吊销执业许可等）甚至可能承担刑事责任（医疗事故罪）。 不过，由于人工智能领域还缺乏成熟的标准，且人工智能医疗诊断产品目前的定位均是“辅助诊断”，在诊断实践中人工智能的诊断结果与医务人员的主观判断往往结合在一起从而产生最终诊断结论，在个案中如何清晰地认定人工智能医疗诊断产品是否存在缺陷，可能较为困难。 （二）诊断中的个人信息和数据保护问题 在应用人工智能医学诊断技术时，往往需要收集患者的个人信息用于评估、诊断，而且医疗健康领域涉及的数据往往包含个人健康信息、生物识别信息等，此类个人信息属于敏感个人信息，由于其一旦泄露或者非法使用，容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害。个人敏感信息相较一般个人信息受到更为严格的监管。相关医疗机构或其他个人信息处理者应注意遵守《个人信息保护法》、《数据安全法》、《数据出境安全评估办法》、《信息安全技术_个人信息安全规范 GB/T 35273-2020》等法律法规及适用的国家标准，仅针对诊疗目的收集必要的个人信息，在收集、处理个人信息前取得个人的同意，敏感个人信息还需取得单独同意，并严格履行个人信息的保护义务。同时注意检视是否涉及特殊数据、数据出境等可能触发监管的情形。在我国的数据分类监管体制下，如果主管部门未来发布医学诊断、医疗相关的重要数据（甚至“国家核心数据”）的目录、指引，相关医疗机构或其他个人信息处理者应当予以及时关注。 实践中可能还会经常发生医疗机构和研发机构联合研发并使用患者数据的情形，在这一场景下，个人信息利用需要严谨、细致地遵循合规化要求。如果没有取得患者的单独同意或有特定的法定合法性依据，相关个人信息处理者一般情况下应对收集到的患者数据进行匿名化处理12，才可以对外提供，否则可能面临《个人信息保护法》等法律法规下的法律责任。 （三）知识产权保护问题 如上文所述，人工智能医学诊断领域主要的产品形式是具备诊断、评估功能、能够处理医疗数据的智能算法软件。相关研发者主要对产品享有计算机软件著作权，以及研发过程中产生的专利、专有技术甚至商标，且知识产权的量可能较大。 对此，相关研发者需要梳理产品从诞生到应用全过程的知识产权保护：（1）研发阶段，应关注软件研发是否涉及合作研发，是否使用了合作方的医疗数据，各方对知识产权的归属约定是否足够清晰，所有相关研发人员是否均和研发者签署了知识产权归属协议或职务发明协议；（2）产品诞生后，是否及时地对知识产权进行注册、登记从而有效确权；（3）商业化阶段，应关注产品销售过程中是否与终端用户（主要为被许可使用产品的医疗机构等）签署了完善的许可使用协议，其中一般包括明确的许可使用范围及知识产权保护条款（例如禁止转授权、软件反编译、保密）等内容。企业应当适当把握商业化的节奏与知识产权保护之间的平衡，避免因为商业化节奏过快而在知识产权保护上存在欠缺，甚至产权纠纷。 综合来看，人工智能在医学诊断领域内的发展十分迅速，在开拓了一个极具潜力的市场的同时，也在监管层面带来很多挑战。我们建议任何拟进入这个领域的公司和投资人密切关注相关领域的监管动态，根据最新的监管法规和实施情况灵活调整业务发展的方向。 1. 参见亿欧智库：《2021年中国人工智能医学影像企业发展报告》、《2022年中国人工智能医学影像产业研究报告》。 2. 参见零壹智库：《我国AI医疗赛道三年融资超250亿，17家企业斩获26张AI影像三类证》，https://new.qq.com/rain/a/20220609A0BCNZ00，最后访问于2022年11月18日。 3. 参见SenseTime Group Inc.在香港联合交易所官网发布的聆讯后资料集。 4. 参见叮当健康在香港联交所公开的全球发售招股书。 5. 例如上海鹰瞳医疗科技有限公司，根据公开信息，其取得了针对“Ⅲ类21-04决决策支持软件”的医疗器械生产许可证。 6. 基于国家药品监督管理局官网信息及其他公开信息。 7. 参见鹰瞳科技在香港联交所上市的招股说明书及国家药监局网站公开信息。 8. 参见联影医疗在A股科创板上市的招股说明书及国家药监局网站公开信息。 9. 2023年1月19日发布，2023年3月2日正式实施。 10. 参见澎湃新闻：《“手术机器人”医疗事故责任问诊，发生风险该由谁担责？》，https://m.thepaper.cn/baijiahao_4486822，最后访问于2023年3月23日。 11.《民法典》第一千二百二十三条规定，因医疗器械的缺陷患者损害的，患者可以向生产者请求赔偿，也可以向医疗机构请求赔偿。患者向医疗机构请求赔偿的，医疗机构赔偿后，有权向负有责任的生产者追偿；第一千二百零三条规定，因销售者的过错使产品存在缺陷的，生产者赔偿后，有权向销售者追偿。 12. 此处我们仅作简单分析，更详尽的分析，应在具体场景下参照《个人信息保护法》等规定进行。 欢迎订阅《君合生命健康与医疗法律月报》，如需订阅本月报及君合其他业务组月报请扫描下方二维码填写订阅表单，以便我们将相关月报及时发送给您。