“人工智能(AI)已渗透到临床健康管理、医院运营、药物研发、医保支付等健康领域场景，但AI的快速发展也给该行业带来了数据隐私、算法偏差以及法律监管等方面的新问题、新挑战。”全国政协委员、汇珩资本主管合伙人梁颖宇近日接受证券时报记者采访时表示，如果AI诊疗发生了误诊，如何定责？是医生、医院还是技术提供方？

　　至今，梁颖宇深耕国内生物医药领域投资已超20年。在她看来，AI在健康领域的应用，目前存在的新问题和新挑战包括：

　　技术与数据层面，数据不完整不平衡可能导致模型偏差。如果训练数据集中于大医院特定人群，可能导致模型在基层、小众群体以及罕见病诊疗中稳定性不足；数据孤岛现象比较突出，机构与系统之间缺乏互操作性，阻碍模型的迁移推广。有些模型在公开数据集上表现优异，但在真实世界复杂场景中性能明显下降，且难以及时发现“黑箱”模型，这就存在大模型幻觉风险，一旦缺乏人工监管可能导致误诊。

　　伦理与社会信任方面，医疗数据是高度敏感的，跨机构跨地域流转难度大，如何在训练与推理中实现“最小必要”使用，脱敏与访问控制仍是难点。患者知情权、AI诊疗风险告知等都亟待完善。

　　监管与责任归属方面，AI误诊的责任归属不清，医生、医院、技术提供方之间的界限较为模糊。目前监管停留在原则层面，缺乏细分制度与准入标准，同时针对模型在真实世界应用中的性能监测也没有形成行业共识与第三方评估体制机制。

　　产业与系统层面，商业模型模式与支付机制尚不清晰，AI带来的效率提升与质量改善如何纳入医保支付绩效考核，进而形成稳定定价与付费机制，仍是试点难点。基层医疗机构IT能力有限，本地布局大模型成本高，云端推理则面临网络稳定性等问题。

　　为了推动AI在健康领域的应用，梁颖宇从六方面提供多条建议。其中，就权责归属方面，她建议明确AI医疗事故责任认定机制，建立多方共担模式，同时确保医生在关键环节的主导地位。具体来看：

　　一是在数据治理与技术架构优化方面，可考虑建立跨机构数据共享机制，推动跨系统数据流动与标准互操作；引入隐私计算与去标识化技术，实现数据“可用不可见”；促进AI工具互联互通，从单点工具过渡到多模型协同的模块化架构，形成统一的数据治理与互操作协议，提升算法透明性以及建立AI模型注册与追踪机制。

　　二是法律与监管方面，明确AI医疗事故责任认定机制，建立多方共担模式，构建分级分类的“AI+医疗”监管框架，按照风险高低实施差异化审批与备案，对高风险应用实施更严格的临床验证与使用检测。另外，设立医疗AI监管沙盒，在风险可控下于部分地区机构试点创新空间，形成AI应用规范再向全国推广。还要建立第三方评估与认证体系，对模型安全性、公平性、可解释性等性能进行评估，为医院采购与监管审批提供参考。推动跨机构在真实世界的临床试验形成可公开应用的证据库，避免每家医院都要从零开始做小样本验证。

　　三是医疗数据治理与共享机制方面，在确保隐私与安全前提下，推动区域医疗数据中心与高质量数据建设，为模型训练评估提供数据基础，并明确标准责任的边界。

　　四是应着手研究如何通过医保支付绩效的服务定价方式，让认真有效的AI工具在医疗环境中用得起、用得久。

　　五是建立国家人工智能医疗数据基础建设，分层推进AI医疗应用，缩小城乡差距，还可将AI预先筛查融入到现有的家庭医生签约服务系统，自动生成慢性病的风险预警。

　　六是确保医生在关键环节的主导地位，加强公众科普，提升医患沟通效率。