新华社日内瓦电(记者曾焱)世界卫生组织1月18日发布的多模态大模型治理相关新指南说,AI在医疗卫生领域应用前景广阔,但同时也要防范其中也许会出现的诸如“自动化偏见”导致的过度依赖等风险。
作为一项加快速度进行发展的生成式人工智能技术,多模态大模型是指可处理图像、文本、声音等多种类型数据的深度学习模型,大范围的应用于医疗卫生领域。
世卫组织这份新指南概述了多模态大模型在医疗卫生领域的五大应用场景:诊断和临床护理、患者自主使用、文书和行政工作、医疗和护理教育、科学研究和药物研发。
新指南还指出了医疗系统面临的相关风险:表现最佳的多模态大模型的可及性和可负担性;多模态大模型可能助长“自动化偏见”,使医疗专业技术人员和患者过于依赖人工智能,忽略原本可以由人发现的差错,或把困难的选择不恰当地交给多模态大模型;多模态大模型与别的形式的人工智能一样,也容易受到网络安全风险的影响,从而危及患者信息安全、有损算法的可信度等。
世卫组织首席科学家杰里米·法勒说,生成式人工智能技术具有改善医疗保健水平的潜力,但前提是研发、监管和使用这一些技术的人必须识别并最大限度地考虑相关风险。人们需要透明的信息和政策来管理多模态大模型的设计、开发和使用,以取得更好的卫生成果,克服持续存在的卫生不平等。
世卫组织强调,为了创造安全有效的多模态大模型,政府、科技公司、医疗服务提供者、患者等利益攸关方需要参与相关研发技术和部署的各个阶段,对多模态大模型进行监管并制定相关规范。