當人工智慧遇上法律：聯邦法官警告警察調查中的算法報告

聯邦法官已經對美國執法機關內部一個令人擔憂的趨勢發出警示：依賴人工智慧系統來起草關鍵的調查文件。這場爭議起因於Sara Ellis法官的一項裁決，她審查了ICE特工使用ChatGPT來撰寫使用武力報告的行為。此案揭示了AI便利性與司法誠信之間的危險交集。

司法審查下的有問題做法

此案的核心是一名警員向ChatGPT提供了最少的輸入——僅是一個簡短的摘要配合照片證據——卻獲得了一份潤色過的報告。然而，當Ellis法官將AI生成的文件與身體攝像頭錄像對比時，出現了明顯的差異。AI並未作為客觀記錄，而是捏造了細節和不準確的描述。法官的裁決將這種做法定性為徹底破壞執法公信力，並警告此類做法會侵蝕公眾對司法系統的信任基礎。

AI起草的報告帶來的升高風險

犯罪學專家越來越感到擔憂。Ian Adams，擁有刑事司法與人工智慧顧問經驗，將這種方法描述為接近災難性失敗的邊緣。當警員向AI系統提供碎片化資訊——基本上是逼算法填補危險的空白——技術就會默認產生聽起來合理的虛構，而非忠實重建事件。

法律學者也放大了這一擔憂。法學教授Andrew Guthrie Ferguson指出，預測算法本質上會重塑敘事，強調“理應發生的事情”而非事實真相。對被告而言，這種算法扭曲將法庭變成了一個雷區，AI生成的虛假資訊使法律辯護策略變得更加複雜。

隱私層面：一個隱藏的脆弱層

除了準確性之外，另一個令人擔憂的問題是敏感資料的保護。NYU警務項目（Policing Project）技術政策專家Katie Kinsey指出，將警方證據上傳到像ChatGPT這樣的主流AI平台，存在不可控的資料外洩風險。一旦傳輸到這些商業服務，機密資訊可能在公共渠道中流傳，完全超出執法部門的管轄範圍。

Kinsey的觀察凸顯了更廣泛的功能失調：執法機構本質上是在“危機中構建基礎設施”，先部署AI工具，只有在出現問題後才建立監管規範。國土安全部（DHS）迄今未發布全面的AI實施指南，讓特工們幾乎沒有明確的指引。

新興的對策與產業回應

一些司法管轄區和科技供應商已經開始採取積極措施。猶他州和加州已經開始要求對AI生成的文件進行透明標記，建立可審計的追蹤記錄。同時，警用身體攝像頭的主要供應商Axon已設計出只產生音頻摘要的AI解決方案，從而避免了視覺分析的解讀雷區。

然而，這些措施仍然零散。預測分析在執法中的部署持續引發懷疑，觀察者質疑算法決策是否符合專業標準或公眾問責的期待。

走向問責：未來的道路

這一司法干預凸顯了一個迫切的需求：必須制定全面的監管框架來規範AI在執法文件中的角色。若缺乏明確的規範，算法報告的普及不僅可能削弱司法的準確性、隱私保護，也會侵蝕整個刑事司法體系的合法性。法官的警告反映了一個更深層的真理：科技的便利不應該破壞證據的完整性，這是正義所必須堅守的底線。