加州拟立法：警官使用AI撰写报告须披露

加利福尼亚州的立法者正在推进一项新法案，该法案将要求警官在他们使用生成式人工智能撰写报告时进行披露。这项措施已在参议院获得通过，目前正在等待众议院的表决，它是在美国国内最早解决执法部门使用人工智能生成事件报告的措施之一。KQED 首次报道了地方部门在去年 10 月采用这些工具的情况。

该法案的支持者表示，鉴于警察报告在刑事司法系统中的关键作用，了解警察报告是如何创建的至关重要。

“从一开始，这份警察报告就被用来确定是否要启动刑事案件，” 加州公共辩护律师协会的执行董事凯特·查特菲尔德说，该协会是该法案的发起者。“然后，法官会审查这份警察报告，例如，以确定犯罪情况，并确定是否要将某人关押在监狱里。”

查特菲尔德说，她不知道人工智能生成的警察报告是否导致了任何司法不公——而这正是人们担忧的一部分。

“我们不知道我们不知道什么，” 她说。

像 Axon 这样的警察技术公司提供报告编写工具，这些工具可以处理和总结来自身体佩戴摄像头的录音，这些工具具有一些安全措施，以确保警官审查人工智能生成的报告并签字。但查特菲尔德表示，警官也可能使用像 ChatGPT 这样的商业产品，而这些产品缺乏这种保护措施。

该法案由州参议员杰西·阿雷金（D-7）提出，涵盖了所有使用生成式人工智能进行报告编写的行为。它将要求在人工智能生成的警察报告的每一页底部进行披露，并附上原始草稿和“审计跟踪”，以识别生成报告的身体摄像头录像或音频。

查特菲尔德说，警官对其报告负全部责任并审查人工智能撰写的任何内容至关重要。警官——而不是技术——是必须接受交叉询问的人。

“每个人都有权知道这份警察报告是如何生成的，” 她说。在对该法案的分析中，众议院隐私和消费者保护委员会提出了担忧，即第三方科技公司可能会访问敏感的警察材料并从中获利，从而可能损害隐私。KQED 的报道也被引用于分析中。

“存在一种竞相逐底的可能性，即将敏感的身体佩戴摄像头数据重新用于训练其他技术，包括面部识别系统或其他监控工具，” 报告说。

该委员会增加了语言，以确保人工智能供应商不得出售或滥用身体摄像头录像或报告中包含的任何个人信息。

该法案的反对者包括加州警察局长协会和加州警察协会研究协会，这是一个警察工会的倡导和游说团体。 两者都没有回应 KQED 的置评请求，但 PORAC 向立法机关提交了一份声明。

“该法案引发了人们对意想不到的后果的严重担忧，这些后果将破坏警官的诚信，施加重大的行政负担，并引入不必要的法律漏洞，” 声明说。

声明说，强制性的页面披露“向公众、法院或辩护律师暗示此类报告本身就不可靠或不可信”，并且辩护律师“可能会辩称人工智能引入了错误或偏见，从而对警官的说法产生怀疑，而无论警官的监督或编辑如何”。

虽然这些工具承诺为警官节省时间，以便他们可以更多地在街上度过时间，但 PORAC 表示，披露授权将破坏这些潜在的好处并增加行政工作。

该法案目前在众议院拨款委员会。如果获得批准，它将于本月晚些时候进行全体表决。

查特菲尔德说，该法律的设计范围很窄。它不禁止使用人工智能，也不规定可以使用哪些程序。

“我们只想说你必须对此保持透明，” 她说。“仅此而已。”