网站公告
当前位置: 首页 - 科技资讯 - 正文

斯坦福大学和UMass科学家开发了训练AI避免特定行为的算法

2021-04-02 16:57

得益于机器学习算法的不断发展,人工智能已成为商业主流,机器学习算法使计算机能够训练自己完成诸如驾驶汽车,控制机器人或自动化决策等工作。但是随着AI开始处理敏感任务,例如帮助选择哪些囚犯得到保释,政策制定者坚持要求计算机科学家提供保证,确保自动化系统的设计能够最大程度地减少(如果不能完全避免)不必要的后果,例如过度的风险或种族和性别偏见。 。

斯坦福大学和UMass科学家开发了训练AI避免特定行为的算法

由斯坦福大学和麻省大学阿默斯特分校的研究人员领导的团队 在《科学》杂志上发表 了一篇论文, 建议如何提供这种保证。本文概述了一种新技术,该技术可将诸如避免性别偏见之类的模糊目标转化为精确的数学标准,从而使机器学习算法可以训练AI应用程序来避免这种行为。

斯坦福大学计算机科学助理教授,该论文的高级作者艾玛·布朗斯基尔(Emma Brunskill)说:“我们希望推动尊重人类用户价值并证明我们对自主系统的信任的人工智能。

避免行为不端

这项工作的前提是,如果可以用数学方式定义“不安全或“不公平的结果或行为,那么应该有可能创建可以从数据中学习如何以高信度避免这些不良结果的算法。研究人员还希望开发一套技术,使用户可以轻松地指定他们想要约束的不良行为类型,并使机器学习设计者可以放心地预测使用过去数据训练的系统何时可以依赖该系统。在实际环境中使用。

“我们展示了机器学习算法的设计者如何使想要将AI集成到其产品和服务中的人们更容易地描述AI系统将以高概率描述不需要的结果或行为,助手Philip Thomas说。麻省大学阿默斯特分校计算机科学教授,也是该论文的第一作者。

公平与安全

研究人员通过尝试提高根据考试成绩预测大学生平均绩点的算法的公平性来测试他们的方法,这是一种可能导致性别偏见的普遍做法。他们使用实验数据集为算法提供了数学指导,以避免开发出一种预测性方法,该方法系统性地高估或低估了一个性别的GPA。通过这些指令,该算法确定了一种比现有方法更少的系统性性别偏见来预测学生GPA的更好方法。在这方面,先前的方法在挣扎中要么是因为它们没有内置的公平性过滤器,要么是因为为实现公平性而开发的算法的范围太有限。

该小组开发了另一种算法,并使用它在自动胰岛素泵中平衡安全性和性能。这种泵必须决定在进餐时给病人多少胰岛素剂量。理想情况下,泵仅输送足够的胰岛素以保持血糖水平稳定。胰岛素太少会使血糖水平升高,从而导致恶心等短期不适,并增加包括心血管疾病在内的长期并发症的风险。太多和血糖崩溃–可能是致命的结果。

机器学习可以通过识别个体对剂量的血糖反应中的微妙模式来提供帮助,但是现有方法无法使医生轻松实现自动剂量算法应避免的特定结果,例如低血糖崩溃。Brunskill和Thomas使用血糖模拟器,展示了如何训练泵来确定为该人量身定制的剂量-避免因剂量过大或剂量不足而引起的并发症。尽管该小组尚未准备好在真实的人上测试该算法,但它指出了一种AI方法,该方法最终可能会改善糖尿病患者的生活质量。

Brunskill和Thomas在他们的《 科学》论文中使用“ Seldonian算法一词来定义他们的方法,这是对科幻小说作者Isaac Asimov发明的人物Hari Seldon的引用,他曾经宣布了三个机器人定律,其开头是“机器人可能不会伤害人类,也可能因无所作为而伤害人类。

Thomas承认该领域仍远不能保证这三个定律,但他说,这种Seldonian框架将使机器学习设计人员更容易将避免行为的指令构建到各种算法中,从而使他们能够评估概率训练有素的系统将在现实世界中正常运行。

Brunskill说,这个提议的框架建立在许多计算机科学家正在努力的基础上,以在创建强大的算法和开发方法以确保其可信赖性之间取得平衡。

“随着社会越来越依赖人工智能,思考如何创建最能尊重安全性和公平性等价值的算法至关重要, Brunskill说。

本站内容均为网友上传,网站举办方负责审核和监督,如存在版权或非法内容,欢迎举报,我们将尽快予以删除。

推荐文章

热门文章

南阳新优媒 新优媒 中国商会新闻网 优媒问答社区 光彩商圈 海内青年网 广东财富日报 华南商业网 华中资讯网 风讯财经 搜狐中文网 新讯财商网 凤凰资讯在线 中原商讯网 和讯财经网 网易财经周报 华夏资讯网 商海中国网 人民商海网 新华国际网 央视新媒网 九州经济网 神州新闻网 光明中土网 环球资讯网 办公资讯网 南方财贸在线 信讯网 大邦网 中汉网 百创网 广创网 汉光网 海天网 三九头条网 区块链技术 区块链服务 区块链开发 区块链解决方案 区块链咨询 区块链应用场景 区块链底层平台 区块链公司 智能合约开发 NFT开发 区块链平台搭建 区块链溯源 区块链+供应链 大蜡烛资本 大蜡烛 大蜡烛基金 Big Candle Capital Big Candle Fund BCC