【周末杂谈】AI应用的一些启发性的说法

用不好AI有风险，不用AI也可能有风险

本月，在英国卫生与社会保健专业标准局（PSA）、药品和健康产品管理局（MHRA）、国家医疗保健领域人工智能（AI）监管委员会的支持下，英国AI与数字健康监管科学与创新卓越中心（CERSI-AI）发布了题为：《医疗与保健领域的人工智能与职业责任：行动契机》的研究报告。虽然报告是关于医疗领域的，但有些说法（下面标蓝的文字）态度积极，对药品领域颇具启发性。现摘录部分并简要讨论如下。

1. 专业人士不仅可能因不当使用AI而被认定为疏忽，还可能因本应使用但未使用AI而被认定为疏忽。若视AI为一种技术手段，当实践表明其胜于传统手段时，不用该手段就应被视为增加了风险。例如，药厂实验室信息化管理系统（LIMS）已显示比传统纸质管理系统更有助于防范数据可靠性风险。若是还执意使用纸质系统，就是增加风险。AI辅助自动灯检技术也类似。可以想象，随着AI在药业应用的深入和推广，药企和药监早晚会面临评估：不是使用AI的风险，而是不使用AI的风险。

2. 患者并不关心错误是人还是算法造成的。重要的是，这种伤害是否可避免。因此，重点应放在设计AI和医生能相互把关的系统上，而不是形成新的出错机会。说得好。告诫医生不要把AI放在对立面上挑毛病。要摆正自己的位置，与AI同心同德，携手为患者服务。AI既然来了，就不会走了，且迭代进步的速度比人快。快快拥抱新技术吧。

3. “专家悖论”指的是，当AI在某些方面上优于人类，并被部署到临床环境中时，专业人员仍需作为仲裁者，严格审查输出结果，并决定是否接受。随着专业人员逐渐习惯于可靠的AI技术，他们的警惕性、技能和质疑输出结果的勇气可能会下降，从而加剧了这种悖论。被动地审查与主动地推理和分析相比，存在技能退化的风险。以航空业为例。在飞行员培训中加入手动飞行环节，旨在培养飞行员的情境意识。当今的商用客机都配有自动驾驶功能。但通常起飞和降落时用的是人工操作。只有当天气恶劣时，才可能采用自动驾驶。坚持用人工，是为了防止飞行员能力退化，而不是因为人工比自动强。当然，保持人工能力还有另一层原因。自动驾驶奏效的条件之一是机场具备合格的跑道条件。正常情况下，机场的跑道都是合格的。但若是遇到紧急迫降情况，例如在公路甚至土路上紧急迫降，这时自动驾驶的效果就未必好了，就可能需要驾驶员灵活应对的能力了。若是驾驶员平时过度依赖自动驾驶，能力退化，出安全事故的风险就大了。这就提醒人们，随着AI应用越来越深入和广泛，要警惕对AI产生过度的依赖，要在体系建设上，刻意保持人工能力。

4. 建议监管机构公开交流其在AI领域的最新工作进展。交流中，不妨承认自己并非什么都知道，重在告知监管的意图，而非给出明确的监管做法。说得通情达理。AI技术及其应用发展快，监管部门既恐落后，又怕监管不得当，有损政府信誉，甚至导致安全事件，因而过于谨慎。在这方面，各国药监机构的做法似乎都有改进余地。虽然都发布了AI应用指南和政策文件，但发布和更新的频率都有些低，可以更与时俱进，可以更坦诚，可以有更大作为。

识林^®版权所有，未经许可不得转载

点击绑定/注册识林，获取最新全球监管动态

识林网址:www.shilinx.com