国际新闻
当前位置: 首页» 人权新闻» 国际新闻
国际新闻

人工智能陷歧视风波 加拿大需尽快立法监管

时间:2019-05-21 来源: 作者:

人工智能到底需不需要监管?当今世代,人工智能已经渗透到人们生活的方方面面,包括执法、移民评估、军事等领域都有人工智能的参与,但加拿大尚未制订监管机制来处理人工智能系统容易出现的歧视和问责问题。专家呼吁尽快立法监管。

据加通社消息,德勤加拿大人工智能服务主管Mahdi Amri与他人共同撰写的一份报告称,加拿大缺乏针对人工智能的法律框架,破坏了对技术的信任,并可能影响其提供者之间的问责制。

人工智能越来越多地参与对个人产生严重后果的决策。自2015年以来,卑诗省温哥华、亚省爱民顿、沙省和安省伦敦的警察部门,已经实施或试行了预测性警务,即基于犯罪发生地点,或将由谁来执行的预测数据来进行自动化决策。

根据公民实验室的一项研究,联邦移民和难民系统依赖于算法驱动的决策,来帮助确定例如,是否假婚姻或风险评估等。该研究发现这种做法可能会侵犯人权。

加国在监管方面落后欧美

在加拿大的军队中进行人工智能测试和部署,使加拿大人工智能先驱Geoffrey Hinton和Yoshua Bengio警告,关于机器人武器和将致命决定外判给机器的危险,并呼吁就人工智能的部署达成国际协议。

专家呼吁,现在是时候从笼统的指导方针转向建立法律了。美国纽约智库AI Now Institute最近发表报告指,联邦政府应对人工智能在刑事司法、医疗保健和教育等领域的使用,进行审计和监督,因为大多数科技公司的内部管治结构未能确保人工智能系统的责任。

报告指出,鉴于每个行业都有独特的挑战和规定,监管机构应该在各机构或专家组之间进行划分,而不是将其全部纳入单一的人工智能监管机构。

批评人士称,加拿大在探索人工智能监管方面落后于美国和欧盟。尽管他们也没有实施全面的法律框架,但美国国会和欧盟委员会都就此问题提出了广泛的报告。

加拿大是最早制定官方人工智能研究计划的国家之一,该计划于2017年公布了1.25亿元的战略拨款,但其重点主要是科学和商业。去年12月,加拿大和法国成立联合工作组,以人权为目标指导人工智能政策的制定。

创新、科学和经济发展部长Navdeep Bains在4月份称,将在下个月发布一份报告,主要是为确定核心指导原则,以确保在编程方面能取得进展,以及立法改革。国库委员会也已制定了一套119字的人工智能使用原则,强调透明度和适当的培训。而创新、科学和经济发展部则强调了个人信息保护和电子文件法规。

分享到:0
标签:
-->
延伸阅读Related Articles
推荐阅读
相关栏目
国际新闻
国内新闻
专题新闻
继续阅读