联邦AI登记册查得到系统,却未必看得出签证决定受何影响

加拿大联邦政府已经建立AI登记册,居民可以查询政府公开的人工智能系统,但这份登记册还不能可靠地回答一个最实际的问题:自己的签证、福利或其他政府服务决定,究竟有没有受到AI影响。联邦《自动化决策指令》已经要求相关机构提供事前通知、有意义的决定解释和申诉渠道。真正的难点在于,登记册的信息完整度、普通居民的查询体验,以及具体决定中的人工监督,仍然存在明显落差。:white_check_mark:源(官方原文):white_check_mark:源(官方原文)

查到政府使用AI,不等于查到自己的决定

加拿大政府AI登记册(Government of Canada AI Register)收集并公开联邦政府AI系统的信息。它的初始版本采用最小可行产品(MVP)形式发布,主要目的是先提供基本内容,再根据公众和合作机构的反馈改进。

登记册是从算法影响评估、信息获取请求、议会质询答复、个人信息库和政府服务清单等既有来源汇编而成。:white_check_mark:源(官方原文)

这意味着居民查询时需要区分三个问题:

  • 某个联邦部门有没有使用AI?
  • AI是否参与了自己所涉及的那项服务或行政决定?
  • AI究竟只是整理资料、安排申请顺序,还是影响了决定结果?

第一个问题可以通过登记册寻找线索,后两个问题则需要更具体的系统资料和个案解释。

近日公布的登记册公众咨询总结,直接反映了这个差距。受访者指出,登记册对非专业人士不够友好,CSV格式不支持实际筛选和搜索,信息录入方式不一致也增加了搜索难度。部分记录存在空白字段,不同部门的资料完整程度和质量也有差异。:white_check_mark:源(官方原文)

更关键的是,登记册未必能让居民判断AI在决定中扮演什么角色。受访者表示,不清楚登记册中的系统是建议型、部分自动化还是完全自动化。:white_check_mark:源(官方原文)

因此,查到某部门使用AI,不能直接推断自己的申请受到AI评估;查不到某个系统,也不能据此确定该部门完全没有使用自动化工具。

移民申请已经出现AI生成错误信息的争议

对新移民和签证申请人来说,最值得关注的是AI如何影响申请资料的处理和官员判断。

IRCC在官方质询答复中说明,2018年开始使用高级分析技术,协助处理来自中国和印度的在线临时居民签证(TRV)申请。2022年1月,中国和印度模型得到更新,同时引入适用于其他国家TRV申请的第三个模型。:white_check_mark:源(IRCC官方原文)

IRCC称这些工具用于帮助官员对申请进行分流,并判定积极资格。:yellow_circle:报(媒体报道)(IRCC官方原文)

IRCC同时明确表示,其自动化系统不能拒绝申请,也不能向官员建议拒绝。IRCC还表示,不允许在客户申请决策中使用ChatGPT等生成式AI工具。:white_check_mark:源(IRCC官方原文)

但申请人仍然需要关注另一类风险:AI即使没有直接作出拒签决定,也可能影响资料整理、申请分流和官员看到的信息。

Policy Options于2026年4月发表的分析,提到IRCC曾承认使用生成式AI处理一份永久居民申请,工具错误生成申请人的现行工作职责,导致申请因为工作经验不符合要求而被错误拒绝。这是媒体分析引用的个案,不应扩大成IRCC所有自动化系统都会自动拒签。:yellow_circle:报(媒体报道)

这类争议说明,人工官员最终签署决定,并不能单独证明整个处理过程没有受到错误AI输出影响。

联邦规则已经要求通知、解释和救济

加拿大财政委员会秘书处制定的《自动化决策指令》(Directive on Automated Decision-Making),为联邦政府使用自动化决策系统设定了相应要求。

其中,与普通居民权益最直接相关的是三项。

居民需要的保障 指令要求
事前知情 通过正在使用的所有服务渠道告知决定将由自动化决策系统作出或协助作出
决定解释 向客户提供关于决定如何及为何作出的有意义解释
申诉救济 告知客户可以通过哪些渠道挑战行政决定,并确保救济及时、有效、容易获得

:white_check_mark:源(官方原文)

指令还要求在自动化决策系统投产前完成、批准算法影响评估,并以可访问格式在Open Government Portal公布最终评估结果。:white_check_mark:源(官方原文)

这里有一个重要区别:算法影响评估(Algorithmic Impact Assessment,AIA)是政府评估自动化系统风险的工具,居民可以通过相关评估了解系统可能产生的影响,但它本身不是针对个人申请的申诉程序。

AIA工具的公开版本为v1.0.1。:white_check_mark:源(官方原文)

有人工参与,不代表错误一定能被纠正

人工复核的价值,在于有人能够重新审查资料、理解个案背景,并对自动化系统产生的错误提出质疑。

但Policy Options的分析指出,仅仅安排工作人员参与,并不足以防止算法错误。如果工作人员没有足够时间和权限审查算法输出,技术系统仍然可能影响最终服务质量。:yellow_circle:报(媒体报道)

Citizen Lab与多伦多大学国际人权项目2018年的报告指出,加拿大至少从2014年起,就已经在移民机制中进行自动化决策实验,涉及移民和访客申请的评估,以及部分原本由移民官员处理的活动。:yellow_circle:报(研究报告)

这也说明,政府AI治理面对的长期问题包括责任归属、人工监督和受影响者能否有效维护权利。

加拿大联邦登记册的咨询反馈同样提出,现有条目缺少足够的人工监督细节、系统生命周期信息,以及直接通往算法影响评估的链接。受访者指出目前不清楚系统是建议型、部分自动化还是完全自动化。:white_check_mark:源(官方原文)

收到政府决定后,居民可以怎样检查

如果签证、福利或其他联邦行政决定涉及自动化处理,可以按以下顺序整理问题:

  1. 先查政府AI登记册。按相关联邦部门和服务领域寻找系统,查看系统用途、状态及公开资料。

  2. 确认AI是否参与自己的个案。向负责处理申请的部门询问,自己的决定是否由自动化决策系统作出或协助作出。

  3. 要求解释决定。根据《自动化决策指令》,询问决定如何形成、主要依据是什么,以及自动化系统在其中发挥什么作用。

  4. 核对人工审查。询问是否有人审查过自动化系统提供的资料或结果,以及相关审查如何影响最终决定。

  5. 了解申诉渠道。查看决定通知和主管部门提供的救济选项,确认提出异议的程序与时限。

  6. 保留申请和沟通记录。保存决定信、申请材料、补件通知及与部门往来的记录,便于后续解释和挑战决定。

这些步骤适用于需要了解联邦自动化决策影响的居民。具体申诉程序和期限取决于主管部门、决定类型及适用的法律制度,不能把《自动化决策指令》理解为所有政府决定都适用同一套上诉程序。

下一阶段最值得关注的是登记册能否补上三个缺口

加拿大政府已经通过公开登记册和自动化决策指令建立了透明度与问责框架。近日发布的公众咨询总结,则把改进方向集中到了几个具体问题:

  • 是否披露人工监督细节、系统生命周期信息,以及算法影响评估链接?
  • 是否清楚区分系统属于建议型、部分自动化还是完全自动化?
  • 是否说明AI如何参与决定,以及谁负责人工监督?

这些是公众提出的改进建议,不能当成已经实施的新要求。:white_check_mark:源(官方原文)

对普通居民而言,判断政府AI治理是否真正有效,最终要看三个结果:能否知道AI参与了自己的决定,能否获得足以理解决定的解释,以及发现错误后能否找到真正有效的人类复核和申诉渠道。

在这些环节能够实际运作之前,AI登记册仍然主要是一项政府使用技术的公开查询工具,距离让每位居民都能追踪自身权益受到何种算法影响,还有一段距离。

拓展阅读

3,182名患者资料被上传未经批准的公共AI工具…:同样围绕「AI工具」的站内帖。
加拿大联邦AI资金增至7亿加元,培训机构的高薪和移民承诺要分开核实:还是「联邦AI」这件事,另一篇站内帖。
加拿大政府AI登记册将改版:公众要求标明风险等级和个人申诉渠道:AI与职业、求职、创业的站内帖,另一条线上和「AI登记册」挨着的一篇。

参考资料

  1. Government of Canada:Consultations on the Government of Canada AI Register: What We Heard(核于 2026-11-20)

  2. Treasury Board of Canada Secretariat:Directive on Automated Decision-Making(核于 2026-11-20)

  3. Open Government:Government of Canada AI Register(核于 2026-11-20)

  4. IRCC:Question Period Note — AI and Automation for Immigration Decisions(核于 2026-11-20)

  5. Open Government:Algorithmic Impact Assessment Tool(核于 2026-11-20)

  6. Policy Options:Carney’s AI push risks harm as Ottawa automates public services(核于 2026-11-20)

  7. The Citizen Lab:Bots at the Gate: A Human Rights Analysis of Automated Decision Making in Canada’s Immigration and Refugee System(核于 2026-11-20)