Kémy Adé 在收到移民拒签信时大为震惊。
移民局在驳回其永久居留申请时，援引了她当前的工作职责，包括控制电路布线与组装、搭建控制及机器人面板、编程与故障排查。该局称，这些职责与她申报的加拿大工作经历不符。
可事实并非如此。Adé 是 McMaster University 的博士后研究员兼客座讲师，这些技能根本不在她的专业范围内，也并非她一年前在移民申请中提交的内容。
这位来自法国的健康科学家拥有 Sorbonne University 衰老免疫学博士学位，她表示：“我看到这份和我毫无关系的职位描述，完全懵了，想不通怎么会发生这种事。”
但拒签信底部的一段免责声明或许能给出线索。
据信，这是该部门首次在移民拒签文件中明确提及使用生成式人工智能辅助处理申请。声明同时指出，所有生成内容均经官员审核，生成式AI并未用于作出或建议作出任何决定。
尽管外界认为此次信息披露本身是积极一步，但批评人士对在经济类移民申请审核中使用生成式AI表示担忧——这类申请往往更为复杂微妙，此举可能引发混乱，并削弱公众对移民体系的信任。
传统人工智能基于现有数据和预设规则进行分类与预测，而生成式AI则能主动运用习得模式整合信息，甚至生成全新内容。
“问题在于，它就是个黑箱”
多伦多移民律师 Zeynab Ziaie 是加拿大及国际移民AI监测机构联合创始人，她表示：“想想你把内容输入 ChatGPT 时，它会出现‘幻觉’。”
“你给它一个提示词，它就能用大语言模型生成回复，顺着提示写出一封拒签信；同样的提示，它也可能给出通过结果。问题就在于它是个黑箱，你根本不清楚它最终是如何得出结论的。”
而 Adé 这份拒签信中的“生成内容”竟经人工官员审核通过，更是引发了进一步质疑。
Adé 的律师 Luka Vukelic 表示：“我无法理解任何一个正常人会作出这样的决定。AI凭空捏造了我当事人的工作内容，我真想知道那位官员到底看到了什么。这里明显出了严重问题。”
移民局首份人工智能战略
Adé 的拒签决定于2月下旬下达，恰逢移民局发布首份AI战略文件，其中规划了官员如何运用人工智能“提升效率、优化服务、强化项目合规性”。
移民局称，自2013年起，工作人员便已使用高级分析、自动化等数字工具，以提供“更快捷、更统一”的服务，并协助维护项目合规，包括识别欺诈迹象、对申请进行分类处理等。
该局表示，目前正试点使用公开生成式AI工具辅助“头脑风暴、调研、信息归纳与分析”，同时也在研发内部生成式AI工具，例如用于科研辅助。
针对 Adé 一案，移民局坚称决定由人工官员作出，生成式AI并未参与决策过程。
McGill University 法学教授 Jennifer Raso 是数字政府与公共管理领域专家，其研究方向为一线决策者与数字工具的交互模式。
她表示，尽管削减申请积压（目前约有100万份永居及临时居留申请超出服务标准时限）、加快审核进度十分重要，但过度依赖此类工具、而非着力建设高素质公务员队伍，存在切实风险。
Raso 认为，数字工具所依据的规则往往秘而不宣，因为政府官员担心信息公开会被人钻空子。但这本身就是问题——申请人有权知晓自己的申请将以何种标准审核。
“生成式AI究竟用在了哪个环节？是用来归纳文件吗？官员有没有看过原始文件？文件是否由AI翻译？”
“这些都是关键问题。生成式AI的归纳能力本就不算出色，更何况公众还有权知晓，他们使用的究竟是哪类生成式AI工具。”
（移民局未回应《星报》关于其使用何种生成式AI工具、如何在申请审核中应用、具体执行何种任务以及官员审核流程等问题。）
数字工具反而可能增加工作量
Raso 表示，这类工具并非为移民审核量身设计，且频繁出错，最终仍需人工核查，而非直接盖章通过，反而会加重决策者的工作负担。
“谈及机器学习与系统优化潜力，同样需要专人负责复核、交叉比对与系统调试工作。”
Ziaie 称，法官们一直不愿要求政府披露所使用的数字工具信息，也不愿就此作出任何裁定。
“他们清楚后果。一旦裁定此类工具不应使用，那此前依靠该技术作出的所有决定是否都会受影响？局面将彻底失控。”
但 Adé 表示，每一个错误决定背后，都有一个普通人的人生被波及。她于2023年持工作许可与家人一同来到加拿大。
“他们必须建立一套流程，确保决定公平作出。”Adé 认为AI和复核决定的官员都有责任，“不能仅凭这类工具就作出改变他人一生的重大决定。我现在对这套体系已经很难再有信心。”
Adé 的律师已向移民局申请重新审议此次拒签决定，案件现已重新受理。
来源：https://www.thestar.com/news/canada/canada-rejected-her-permanent-residence-application-her-job-duties-were-made-up--by-immigrations-ai-reviewer/article_3f1ea5be-0b3d-4541-ac00-0a1b8484d877.html
扫码参与评论与作者和更多用户交互
