斯坦福 RegLab 发布 AI 法律审查管线:扫描 9600 辖区发现万条歧视性法规

作者:Stanford HAI原标题:AI Legal Review Says Millions Live Under Discriminatory Local Laws
68AI 研判分

斯坦福大学法学院 RegLab 团队开发了一套结合人类在环(Human-in-the-loop)的 AI 工作流,用于大规模审查地方法规。该管线扫描了美国超过 9,600 个司法管辖区的法律文本,识别出约 10,000 条涉嫌违反宪法保护的歧视性条款,涉及种族、性别及公民身份等领域。研究指出,至少 5000 万美国人仍生活在受此类过时或非法地方法规管辖的区域中。

报道正文

本文目录3 个章节

研究人员构建了一套 AI 流水线,用于梳理数百万条地方法规,斯坦福大学法学院的这项研究将聚光灯投向全美各地社区中那些仍“挂”在法典上的令人不齿的法律。

在密歇根州,非美国公民不得成为持证私人侦探;在田纳西州孟菲斯市,教育委员会至今仍被要求“为市内白人青年和有色人种青年提供并维护分开的学校”;在佛罗里达州瓦尔帕莱索,征收人头税依然合法。这些只是最新研究中的一部分案例——该研究利用 AI 扫描了超过 9,600 个地方司法管辖区的法典,以寻找歧视性法规。此次搜索发现了约 10,000 部涉嫌违法的法规,有待进一步审查。

“我们估计,至少有 5,000 万美国人生活在由公然歧视性法律管辖的城市、县或城镇中,这些法律违反了基于种族、性别、公民身份、年龄和残疾的宪法保护条款,”斯坦福 RegLab 的研究员 Yasmine Mabene 表示,“我们开发的 AI 流水线能够找到这些法律,并帮助将其从法典中移除。”

Mabene 是论文《隐于明文:LLM 辅助检测歧视性地方法律》(Hidden in Plain Text: LLM-Assisted Detection of Discriminatory Local Laws)的第一作者,该文发表于 国际人工智能与法律会议 (ICAIL) 的会议论文集,详细描述了团队借助 AI 分析所取得的非凡发现。这项研究部分由 斯坦福以人为本 AI 研究所 (HAI) 资助。

“针对受保护类别人群进行区别对待的法律,往往比其制定时代存续得更久,”斯坦福法学院教授、RegLab 主任兼 HAI 副主任、本研究资深作者 Daniel Ho 说道。“虽然许多人工努力一直聚焦于改革联邦和州级法律,但地方法律之所以长期保留在法典中,是因为没有人有时间去审视并采取行动。”

例如,直到 2019 年,弗吉尼亚州才成立了一个专门委员会,成员包括来自三所大学的学生、州长办公室工作人员、多名执业律师以及一名现任法官,历时良久才整理出一份 1900 年至 1960 年间通过的歧视性法律清单。

前所未有的努力

研究人员首先必须整合来自全美 9,623 个地方司法管辖区的成文法律,并开发一套 AI 流程对其进行评估。据他们估计,这些司法管辖区管辖着美国约 75% 的人口。随后,他们构建了一个多阶段的 AI 工作流,用于仔细审查这些法律、搜索潜在歧视性条款,并将其标记出来供人类法律专家复核。

“据我们所知,此前从未有过针对地方法规的大规模类似努力。法规数量实在太多了,”Mabene 表示。“如果没有 AI 的帮助,查找地方法律中的相关条款将极其耗时。”

“这不仅仅是简单的关键词搜索以查找歧视性语言,”Mabene 在阐述该方法与传统基于文本的搜索有何不同时说道。“我们必须设计一种能够模拟人类审查员所提出的相同法律问题的方法,从而区分那些真正具有歧视性的法律与那些仅仅提及受保护群体名称的法律。”

令人震惊的结果

在主要发现中,该流程识别出超过 2,000 条禁止非公民获得职业执照或从事特定职业(在这些领域,公民身份本不应成为限制条件,例如经营保龄球馆)的法律。此外,还发现了大量基于性别或性别的歧视性法律,包括仅将女性卖淫定为犯罪的法律。同样,许多法律仍基于种族进行歧视,例如佐治亚州的一项法规指示其书记员保留“有权投票的白人和有色人种选民的单独名单”,以及北卡罗来纳州一项要求设立“白人和黑人分开墓地”的法律。

此外,作者指出,该流程还发现了超过 30,000 条包含冒犯性语言的法律法规,其中包括俄亥俄州某镇住房法规中将智力障碍居民称为“弱智者、疯子、精神错乱者、愚钝者或白痴”。配套的网站允许用户探索这些被检测到的条款。

这种方法虽然强大,但并不完美。人工审核仍然必不可少。作者承认,该方法无法识别那些表面中立但具有歧视性效果的法律,也无法解决对原本中立法律的歧视性执法问题。不过,它在发现差别化法律待遇方面实现了超过 90% 的准确率,并正确标记了 88% 被人类标注员认定为“高优先级”的条款。随着进一步的开发迭代,研究人员希望 AI 能够不断改进,在法规审查任务和法律推理中提供更大程度的辅助。

政策淤积(Policy Sludge)

研究人员强调,这不仅仅是地方官员人手不足、未能从法典中废除过时且明显带有歧视性的法律的问题。许多此类法律仍在被执行。例如,马萨诸塞州近期的一项裁决以国籍为由,拒绝向一个持有绿卡的巴西家庭发放酒类许可证,这与通过该流程发现的众多法律如出一辙。

Ho 将此类法律称为“政策淤积”,并指出由于缺乏本地资源,地方法规往往特别“黏滞”。然而,借助 AI 的帮助,如今识别这些“淤积”比以往任何时候都更容易。研究人员现在希望地方官员和全国性非政府法律组织共同努力,改革并废除歧视性法律。

Ho 表示:“要找出歧视性法律,即使是最有耐心的法学院学生,也需要穷尽一生才能读完我们在本研究中收集到的数百万条法律。但 AI 可以提供帮助。在此,我们交付了一套由 AI 执行、人在回路(human-in-the-loop)的大规模法规审查结构化工作流,使必要的改革成为一个可着手解决的问题,而非无解的难题。”