手机端
当前位置:主页 > 科技前沿 >

人工智能风险,白宫表示监管机构不应“不必要地阻碍”创新



到目前为止,人工智能的发展已经超过了法规。现在法规必须赶上唐纳德·特朗普总统于2019年11月20日参观位于德克萨斯州奥斯汀的生产苹果计算机的计算机制造工厂时发表讲话。人工智能就在这里,它以真实的方式影响着我们的生活-无论是床头柜上的Alexa智能扬声器,在线客户服务聊天机器人还是Google草稿对我们电子邮件的智能回复。

但是到目前为止,该技术的发展已经超过了法规。现在,政府机构越来越多地遇到基于AI的工具,因此他们必须弄清楚如何对其进行评估。以食品和药物管理局(Food and Drug Administration)为例,该产品使新的医疗产品崭露头角:在将其出售给我们之前,它需要审查并批准具有AI功能的新保健产品-像这样的一种有望检测与糖尿病有关的眼部疾病的产品。

或者考虑平等就业机会委员会,该委员会调查就业歧视。如今,该机构还必须就基于AI的招聘算法做出决策,例如筛选应聘者简历的决策,并决定您是否应该接受面试。在周三于拉斯维加斯举行的著名技术贸易展览会CES上,白宫官员正式宣布科学技术办公室如何希望联邦机构采取措施监管基于人工智能的新工具以及开发该技术的行业。

白宫拟议的AI指南讨论了技术人员,AI伦理学家,甚至一些政府官员对这项技术的最大关注,但该指南的主要重点是鼓励人工智能创新并确保法规“不必要地”获得顺便说一句这反映了人工智能的一个持续存在的问题,在其他技术领域已经出现过这种问题,在没有太多监督的情况下急于创新的想法只会困扰我们。

尽管鼓励人工智能创新当然是一个考虑因素,但对该技术的批评者表示,随着人工智能在现实世界中的不断推广,监管机构必须更加仔细地审查人工智能。他们认为,人工智能可以复制甚至放大人类的偏见。这些工具通常在黑匣子中起作用,这意味着它们是专有的,并由出售它们的公司运营。这使我们很难知道它们何时或如何损害真实的人(或者它们是否按预期工作)。基于AI的新工具也可能引起人们对隐私和监视的关注。

就目前而言,这些新准则仅仅是准则而已,这意味着今天的备忘录不会对您在日常生活中可能遇到的人工智能技术产生直接影响。但是备忘录显示了政府如何思考人工智能及其对美国人的潜在影响。 “人们应该注意白宫正在尝试引入一个评估和证明AI工具部署的框架,因为随着这些工具的发展和出现,我们发现的是,有些应用程序比其他应用程序具有更深的后果,”布鲁金斯学会(Brookings Institution)研究员,技术与股权研究专家Nicol Turner-Lee说。

特朗普政府希望国家AI努力特朗普及其政府希望美国在AI产业中独占do头,他们绝对希望美国在AI方面比中国更好。去年年初,唐纳德·特朗普总统签署了一项行政命令,建立了“美国AI计划”,旨在推动AI研究并帮助建立具备AI能力的美国员工队伍,以及其他目标(尽管他没有做出任何新的努力)资金)。

“联邦机构必须避免……不必要地阻碍人工智能的创新和增长”概述了10条主要原则的今天,给联邦部门和机构的备忘录与该行政命令的目标相呼应。它敦促监管机构在权衡现有法律和潜在的新规则如何应用于新兴技术时,要注意创新并“考虑减少AI开发和采用障碍的方法”。

备忘录说:“联邦机构必须避免不必要地妨碍AI创新和增长的监管或非监管行动。” “机构必须避免采取预防性措施,以使AI系统达到无法达到的高水平,以致社会无法享受其利益。”同时,该指南还敦促监管者认真对待诸如透明度,风险管理,公平性和非歧视性等价值观。 。

这些都是公平点。通过鼓励这些联邦部门和机构采取行动,特朗普政府还希望避免未来,美国人工智能公司可能会面临地方和州法规错综复杂的情况,或者可能超出联邦法规的范围,从而有可能阻碍技术的发展。

AI专家告诉Recode,AI准则是一个起点。 AI Now Institute政策研究主任拉希达·理查森(Rashida Richardson)说:“评估这些原则在实践中的有效性将需要时间,我们将密切关注。” “围绕人工智能技术为联邦政府和私营部门建立界限将为我们在问责制领域工作的人们提供更大的见解。”

非营利组织非营利组织Upturn的常务董事Aaron Rieke在给Recode的电子邮件中说,目前,他认为备忘录不会产生太大影响:“我认为这些原则不会对公司产生太大影响一般人,尤其是短期的人。我认为,监管机构将能够不费吹灰之力地证明其决定的好坏。”

重要的是,该备忘录实际上不适用于美国政府本身使用的人工智能(其中有很多)。例如,对美国联邦合同数据库的搜索显示,疾病控制中心已购买了面部识别产品(基于AI的技术),而商务部似乎正在使用AI来改善其专利搜索系统。

人工智能需要法规的原因之一:风险人工智能系统并不是天生的客观目标。人类会构建这些工具,而AI通常是使用有缺陷或有偏见的数据开发的,这意味着该技术可以继承甚至放大诸如性别歧视和种族主义之类的人类偏见。例如,2017年,当科学家们教一个计算机程序通过挖掘互联网来学习英语时,它最终对妇女和黑人产生了偏见。

批评人士说,风险意味着政府应该积极规范甚至禁止人工智能的某些应用。而且一些依靠收集敏感信息的人工智能工具(如面部识别)也引起了人们对该技术可能如何造成隐私和监视噩梦的担忧。 “人工智能系统有可能在种族,性别,性别的基础上歧视美国公众,这是可以想象的各种标准”这一切都很重要,因为即使您尚未意识到,人工智能已经有可能对您的生活产生真正的影响。

尽管已知该技术对有色人种和女性(尤其是皮肤黝黑的女性)的准确性较差,但一些房东纷纷要求房客使用面部识别才能进入家中。另一个示例:尽管从未使用过,但亚马逊产生的简历筛选算法无意中歧视了女性申请人,因为它接受了公司先前收集的简历培训,主要来自男性。想象一下,由于算法有偏而使您的理想工作失去了。

纽约大学监视技术监督项目的负责人阿尔伯特·福克斯·卡恩(Albert Fox Cahn)对Recode表示:“人工智能系统有可能基于种族,性别,性别歧视美国公众。” “这可能会影响一切,无论您是否获得工作机会,是否获得批准入住公寓或抵押贷款,是否获得好利率或坏利率。这可能会影响大学的录取和学校安置。”

这使他对新提议的准则感到失望。卡恩说:“白宫没有为监管机构提供实际应对歧视的框架,而是敦促采取一种放任自流的方法,该方法将允许人工智能仅针对历史上处于边缘地位的社区,而无需我们的干预。 ” 他说,备忘录中提到非歧视和透明度的价值观并没有多大作用。

Turner-Lee说:“当您想到大多数消费者更容易受到AI侵害的地方时,那就是住房,医疗保健和就业等领域,这些领域主要是报纸的头版。” 她说,与农业部相比,该备忘录对诸如劳工部和消费者金融保护局之类的机构意味着什么尚不清楚。

她补充说,目前还不清楚代理机构是否真的准备好识别AI技术带来的风险,或者是否能够确保其法规与创新保持同步。 “我想看到的细节中有很多魔鬼,但我认为他们只是想为我们提供某种道德和公平部署的通用框架。”

现在白宫需要反馈,包括您的反馈指导草案不是一成不变的。在接下来的几个月中,它将受到公众的反馈,包括您的反馈(一旦获得相关信息,我们将在此方面更新如何做)。一旦该指南被正式批准,白宫预计各机构将报告其计划如何满足其新的AI期望。
分享至:

®关于本站文章™ | 若非注明其他来源,默认 均为本站编辑部原创文章,如有侵权,请联系我们™