AI医疗须防“自动化偏见”
源 / 新财网    文 / 新财网    2024年01月29日 10时10分

  据新华社日内瓦电 (记者曾焱)世界卫生组织近日发布的多模态大模型治理相关新指南指出,人工智能在医疗卫生领域应用前景广阔,但同时要防范其中可能出现的诸如“自动化偏见”导致的过度依赖等风险。

  作为一项快速发展的生成式人工智能技术,多模态大模型是指能够处理图像、文本、声音等多种类型数据的深度学习模型,广泛应用于医疗卫生领域。

  世卫组织这份新指南概述了多模态大模型在医疗卫生领域的五大应用场景:诊断和临床护理、患者自主使用、文书和行政工作、医疗和护理教育、科学研究和药物研发。

  新指南还指出了医疗系统面临的相关风险:表现最佳的多模态大模型的可及性和可负担性;多模态大模型可能助长“自动化偏见”,使医疗专业人员和患者过于依赖人工智能,忽略原本可以由人发现的差错;多模态大模型与其他形式的人工智能一样,也容易受到网络安全风险的影响,从而危及患者信息安全、有损算法的可信度等。

  世卫组织首席科学家杰里米·法勒说,生成式人工智能技术具有改善医疗保健水平的潜力,但前提是研发、监管和使用这些技术的人必须识别并充分考虑相关风险。人们需要透明的信息和政策来管理多模态大模型的设计、开发和使用,以取得更好的卫生成果,克服持续存在的卫生不平等。

  世卫组织强调,为了创造安全有效的多模态大模型,政府、科技公司、医疗服务提供者、患者等利益攸关方需要参与相关技术研发和部署的各个阶段,对多模态大模型进行监管并制定相关规范。

网友讨论
还可以输入 200 个字符
热门评论

建议及投诉热线010-85869906

广告刊登热线010-85862238

  • 关注官方微信

  • 关注官方微信

中国人民银行 | 中国银行业监督管理委员会 | 中国保险监督管理委员会 | 中国证券业监督管理委员会 | 路透社 | 华尔街日报 | FT中文网 | 中国互联网金融企业家俱乐部(ECIF) | 工业和信息化部域名信息备案管理系统
Copyright © 2008-2030 北京大白熊网络信息有限公司 京ICP备16038172号-1 all rights reserved本网站所刊部分稿件为网络转载,若有侵权请您及时联系我们,我们会及时删除,本网站对所转载内容不承担任何的责任,请网民对相关内容的真实性自行判断。
账号登录
记住密码
账号注册
账号注册

*昵       称

*输入密码

*确认密码

*姓       名

*电子邮箱

*国家地区

*省       份

*出生年份

*性       别  男          女

*从事职业

*从事行业

请您留下正确的联络方式,以便我们能够及时与您取得联系

*手机号码

填写您要订阅的邮件
  •   我愿意接受有关新财网的新功能或活动的信息
  •   我愿意接受有关其他网站和产品的新功能或活动的信息
  •   我愿意接受第三方服务供应商的特别优惠的信息