手机端
当前位置:主页 > 科技前沿 >

教皇的计划与邪恶的人工智能进行反击



梵蒂冈对人工智能的兴趣并不是什么新鲜事物,但要注意正在加入的科技公司。教皇方济各于2019年11月6日抵达梵蒂冈圣彼得广场,向每周的普通观众致敬,向信徒拍照。星期五,教皇弗朗西斯(Pope Francis)支持了一份文件,概述了应如何规范包括面部识别技术在内的人工智能。所谓的“ 罗马呼吁人工智能伦理 ” 得到了梵蒂冈以及微软和IBM 的认可。信不信由你,人工智能的未来实际上是教皇的热情项目之一,也是最大的担忧。

梵蒂冈对这项技术的兴趣并不是什么新鲜事物,它的一些重要学院(本质上是教皇领导下的研究学会)正在努力研究AI,机器人技术和其他新兴技术对天主教徒和整个人类的意义。尽管如此,该文件仍然表明,有组织的宗教越来越有兴趣关注人工智能的道德规范,就梵蒂冈而言,它正在与大型科技公司合作。

罗马电话会议的核心是使用人工智能的六项一般原则,该原则宣称道德必须是算法初始设计不可或缺的一部分。但值得注意的是,概述的原则都不是特别新颖的想法。教宗的承诺通过指出透明度,非歧视性和隐私权的价值观来体现许多AI伦理专家已经呼吁的价值观。这在某种程度上呼应了欧盟去年发布的一些非约束性AI准则,以及特朗普政府针对联邦人工智能的监管准则(于1月发布)。

摘自《罗马呼吁人工智能伦理》透明度:原则上,人工智能系统必须是可解释的;包容:必须考虑到全人类的需求,以便每个人都能受益,并为所有人提供表达和发展自己的最佳条件;责任:设计和部署AI使用的人员必须承担责任并保持透明;公正:不以偏见创造或行事,从而维护公平和人的尊严;可靠性:AI系统必须能够可靠地工作;[和]安全和隐私:AI系统必须安全运行并尊重用户的隐私。

该文件写道:“必须构想,设计和实现AI系统,以服务和保护人类及其生存环境。” “这种基本观点必须转化为创造生活条件(社会和个人条件)的承诺,使社区和个人成员都能够在可能的情况下努力充分表达自己的看法。”

除了这些原则外,梵蒂冈及其附属机构还授权AI对人类“解释”。换句话说,随着人工智能越来越多地应用于相应的环境中(例如筛选简历的算法并确定是否获得假释的算法),我们需要了解人工智能技术如何做出决策。AI道德倡导者认为,这种“可解释性”是我们让基于人工智能的系统负责的关键方式之一。

罗马电话会议还强调,人工智能不应该具有歧视性,与董事会对算法偏差的担忧相呼应。取决于谁来构建它们,如何构建它们以及如何对其进行培训,计算机系统最终可能会模仿甚至加剧社会种族主义,性别歧视和其他形式的偏见。教皇说,这很糟糕。

同样(也许)不好:面部识别是人工智能中最具争议的应用之一。这是一个特别buzzworthy话题,作为后果的的Clearview的AI丑闻证明了面部识别技术是如何引起了人们对安全和人权显著的关注。但是,梵蒂冈就此事发表的新声明并未提出完全禁止或暂停面部识别的想法,对此技术的 一些批评者认为这是必要的。相反,梵蒂冈似乎只是呼吁制定更好的规则来管理这项技术。

该文件写道:“ 必须鼓励采取新形式的法规,以提高透明度和遵守道德原则,尤其是对于面部识别等具有更高人权影响人权的先进技术。”

天主教实际上对人工智能并不陌生。近年来,它对技术的大部分关注一直是与该领域的专家研究人员以及主要技术公司的代表进行磋商。自2012年以来,多米尼加订单甚至支持由牧师领导的名为Optic的研究组织,该组织除其他事项外,研究AI及其在人类边缘化的潜力。该组织还表示,它向技术行业的领导者提供私人咨询。

同时,梵蒂冈生命科学学院举办了人工智能研讨会。这项工作进一步扩大,去年,又有两家宗教学院-宗座社会科学研究院和宗座科学研究院-主办了一次关于机器人技术和人工智能提出的伦理问题的会议。DeepMind首席执行官Demis Hassabis,Facebook计算机科学家Yann LeCun甚至是LinkedIn创始人Reid Hoffman都参加了这些会议。梵蒂冈在2018年广受好评的第一次黑客马拉松也得到了Google,Salesforce和Microsoft等公司的支持。

在罗马闲逛的硅谷明星名单不胜枚举。教皇本人亲自会见了微软总裁布拉德·史密斯,Facebook首席执行官马克·扎克伯格和谷歌的埃里克·施密特。据路透社报道,本月初,教皇与史密斯会面,讨论人工智能如何为“共同利益”服务。因此,梵蒂冈对人工智能的愿景似乎反映了许多技术巨头已经在说的话,这并不奇怪:监管我们的新技术,但不要完全禁止它。

请记住,正如《连线》杂志去年报道的那样,科技公司一直在积极尝试影响将指导这项新技术的规则。有些公司,例如Microsoft,甚至在创建自己的AI原则。还有AI合伙企业(Partnership for AI),这是一家由企业资助的非营利组织,旨在研究人工智能的最佳实践,得到了Google,亚马逊,Facebook,微软,苹果和IBM等公司的支持。

罗马电话会议只是梵蒂冈正在密切关注新兴技术的又一个信号。而且,无论付出什么代价,科技公司似乎都渴望加入。虽然充满信仰的新型机器人和受AI启发的神将塑造21世纪有关宗教的对话,但古老的宗教机构与强大的技术平台之间也存在复杂的对话,这是一个不容忽视的错误。
分享至:

®关于本站文章™ | 若非注明其他来源,默认 均为本站编辑部原创文章,如有侵权,请联系我们™