AI / ML的医疗设备 - 获得全球监管批准的4个键
经过John Giantsidis.，Cyberacta，Inc。总裁
人工智能（AI）和机器学习（ML）是扰和改善我们的世界。与智能机器
能够具有思维，感知，学习，解决问题和决策等高级认知过程，加上数据收集和聚合，分析和计算机处理能力，AI和ML目前的补充和补充人类智能的机会。AI和ML在医疗设备中的应用是可以实现AI / ML驱动的诊断和个性化治疗。
人工智能有可能为医疗器械设计师和制造商提供增量价值，预计将成为采用它的公司竞争优势的关键来源。全球的监管机构已理解，AI和ML模型在目前的医疗器械监管框架内不适合良好，并且狂热地努力实现AI医疗器械管理的谐波方法。这国际医疗设备监管机构论坛正在尝试标准化基于AI和ML的医疗设备的监督以及与这些设备相关的术语，以及其成员之间的术语。尽管如此，除了监管提交和审查过程之外，截至目前与管辖权对管辖区的司法管辖区截然不同，医疗器械公司必须意识到数据是AI / ML解决方案的主要驱动程序之一，因此适当处理数据为确保隐私和安全性是最重要的。挑战包括未经同意的数据使用，通过数据，数据选择偏差和AI / ML模型的所产生的歧视性，以及数据聚集中的不对称性的识别个人的风险。
通过消化已释放的不同司法机构AI / ML监管框架（草案或可执行），以及我们自己与不同机构的经验，我们已经确定了共同的指教者，如果正确实施和运营，将使医疗设备公司能够实现安装令人兴奋的AI / ML医疗设备的全球商业化方法。
我们已经蒸馏了四个普通的推动者，将加速监管审查，批准和随后的商业化：
- 软件风险管理
- 算法设计
- 数据质量
- 安全
1.软件风险管理
考虑到最广泛使用的标准之一（IEC 62304.）在整个产品生命周期应用基于风险的软件开发和维护的方法不考虑人工智能或机器学习，应根据以下内容更新任何公司的软件风险管理活动：
- 软件的预期用途（目标疾病，临床使用，重要性，紧急性）
- 使用场景（适用的人口，目标用户，使用场所，临床过程）
- 核心函数（处理对象，数据兼容性，功能类型）整个软件生命周期过程。
临床使用软件的风险还应包括假阴性和假阳性，其中假阴性是错过的诊断，这可能导致延迟随访诊断和治疗活动，特别是在评估诊断和治疗延迟风险方面快速进展疾病。
2.算法设计
考虑算法设计中的算法选择，算法训练，网络安全保护和算法性能评估。设计数据驱动和知识驱动的算法，以改善算法的解释性。算法选择应指定名称，结构（例如，图层，参数大小），流程图，开箱即用框架（例如，纹orflow.那咖啡那Pytorch.）输入和输出，操作环境和算法源。同时，阐明算法选择和设计的原理，方法和风险考虑，如定量误差，梯度消失，过度装备和白色拳击。如果您使用的是迁移学习技术，请补充具有摘要信息，如数据集结构，验证和预先训练模型的验证。
基于训练集的算法训练，调整集培训和调整，用清晰评估的指标，培训方法，培训目标，调整方法和培训数据量，如评估指标曲线。基于临床需求的评估指标，例如灵敏度，特异性等。培训方法包括但不限于备用方法和交叉验证方法。培训目标应符合临床要求，并通过证据支持ROC曲线。调整方法应阐明算法优化策略和实现方法。评估指标曲线应该能够确认算法训练的出现和有效性。
3.数据质量
数据收集应考虑数据源的合规性和多样性，有针对性疾病的流行病学特征，以及数据质量控制要求。数据源应在合规性的基础上确保数据分集，以提高概括算法的能力，例如尽可能多的不同地域和级别的代表临床机构，以及尽可能多的设备获取数据。使用最大化数据采集的采集参数。
Epidemiological characteristics of the target disease include, but are not limited to, disease composition (e.g., classification, station), population distribution (e.g., health, patient’s sex, age, occupation, geography, lifestyle), statistical indicators (e.g., morbidity, prevalence, cure rate, mortality rate, survival rate), and the impact of complications and similar diseases of the target disease.
重要的是，收购设备澄清兼容性要求及其收购要求。基于数据生成方法的兼容性要求（直接生成，间接生成）提供采集设备兼容性或技术要求的列表，清除采集设备制造商，型号规格，绩效指标等要求，如果没有具体的收购要求提供适当的支持信息的设备。Acquisition requirements should specify the acquisition method (e.g., regular imaging, enhanced imaging), acquisition protocol (e.g., MRI imaging sequence), acquisition parameters (e.g., CT load voltage, load current, load time, layer thickness), acquisition accuracy (e.g., resolution, sample rate), and other requirements.
培训集应确保样品分布平衡，测试集和调谐套件应确保样品分布符合实际临床情况。培训集需要包括培训集的样本，调整集或这些集合的两个交叉点。
4.安全
基于机密性，完整性，可用性和其他网络安全特性的软件，使用场景和核心功能的预期用途应确定软件网络安全能力建设要求，以处理网络攻击等网络威胁和数据被盗。对此类型软件的常见网络威胁包括但不限于框架漏洞攻击（使用算法利用帧外框架本身），网络攻击的漏洞和数据污染（网络攻击输入数据的污染）。乐于助人Enisa.报告考虑了从需求分析到部署和AI系统和应用的生态系统的需求分析的不同阶段;它还提供了AI生态系统的资产的识别，作为针对需要受保护的基本步骤，并且在AI生态系统的安全方面可能出错。
结论
监管机构已认识到AI和ML技术从监管角度构成了几个挑战。他们将询问关于如何确定何时的问题变化对于一种算法，它们的重新评估了医疗设备及其安全性和有效性。有一系列的活动来解决技术和监管角度的差距，例如ISO / IEC 22989人工智能 - 概念和术语，ISO / IEC 23053使用机器学习（ML）的人工智能（AI）系统的框架，ISO / IEC 23894信息技术 - 人工智能 - 风险管理等。
医疗器械制造商仍然可以设计，开发和商业化，同时通过了解适用管辖权的隐私框架，并能够证明遵守当地管辖权期望的隐私框架来进行全球法规和国际标准的协调。
关于作者：
John Giantsidis是总统Cyberacta，Inc，精品咨询授权医疗设备，数字健康和制药公司的网络安全，隐私，数据完整性，风险，SAMD监管合规性和商业化努力。他也是佛罗里达州的技术委员会和U.S. Marine Corps的Cyber Aux委员会成员。他拥有克拉克大学，来自新罕布什尔大学的克拉克大学的科学学士学位，以及网络安全政策的工程硕士学位和乔治华盛顿大学的遵守。他可以到达John.Giantsidis@cyberacta.com.。