生成式人工智能 (Generative AI)：何时会成为阻碍，而非助力?

引言

近几个月来，我们看到越来越多人利用生成式人工智能（AI）协助起草各类法律文件，从案件摘要、企业买卖条款及条件，到涉及逾五十万澳元索偿金额的起诉书（Statement of Claim）等，不一而足。

不可否认，在大多数情况下，AI 看起来似乎比聘请律师更快捷、成本更低。那么，为什么您仍然应该寻求律师的专业协助？

AI「幻觉」

在 Mr Jason Riley v Nuvei Australia Merchant Services Pty Ltd [2026] FWC 75 一案中，申请人承认曾使用一款声称具备“法律专业训练”的 AI 工具协助陈述案件。然而，澳洲公平工作委员会 (Fair Work Commission) 指出，申请人引用的部分法律原则及案例依据，很可能属于 AI 产生的 “幻觉” (AI Hallucinations)，实际上并无任何法律基础。

另一宗由公平工作委员会审理的案件 Reece Hoverd v M & JD Pty Ltd [2026] FWC 1013 中，申请人以遭到 “推定解雇” (Constructive Dismissal) 为由提出一般保护申请 (General Protections Application)。

申请人使用 AI 工具草拟书面陈词，并多次援引其雇佣合同及《2020 年废弃物管理行业裁决》(Waste Management Award 2020) 中实际上并不存在的条文。尽管副主席办公室 (Chambers of the Deputy President) 已明确提醒其不得提交虚假或具误导性的证据，但申请人仍持续引用错误资料。委员会最终指出，申请人 “一再漠视事实，并依赖前后矛盾且缺乏逻辑的法律论点，试图人为构建获得赔偿的依据。”

上述两宗均为 2026年出的最新判决，充分反映出，在未谨慎核实 AI 生成内容的情况下，不仅可能误导自己，更可能误导法院或仲裁机构，并带来严重后果。

针对正在进行或准备进行诉讼的人士，维多利亚州最高法院（Supreme Court of Victoria）及维多利亚州民事及行政仲裁庭 (VCAT) 亦已分别发布指引及执业说明 (Practice Note)，说明生成式 AI 工具在诉讼程序中的适当使用方式。

其中，维州最高法院建议，自行出庭的诉讼当事人及证人如使用生成式 AI 协助准备文件，应在文件中说明所使用的 AI 工具。法院同时强调，生成式 AI 及大型语言模型（Large Language Models）所生成的内容，并非经过法律推理所得，也不能作为法律研究工具。

相比之下，VCAT 并未禁止使用 AI 工具，但强调使用者必须谨慎评估，并在适当的规范及保障措施下使用相关工具。

法律专业保密特权

律师与客户之间，为提供法律意见或用于现有或预期诉讼而产生的保密通讯及文件，一般均受法律专业保密特权 (Legal Professional Privilege) 保护。

一旦该特权适用于某项通讯或文件，相关内容通常无须在诉讼过程中向对方披露。

然而，即使并非故意，当事人如作出与维持保密性质不一致的行为，亦可能导致该特权被视为放弃（Waived）。例如，将法律意见的内容、摘要或结论披露予第三方，均可能构成放弃保密特权。

有关这方面的内容，我们曾发表《法律专业保密特权何时会被视为放弃?》一文，作出更详细的说明。

虽然不少人认为法律专业保密特权与自己关系不大，但一旦无意中放弃该项特权，甚至从一开始便未能获得该项保护，都可能带来严重的法律后果。

在美国案件 United States v Heppner 中，被告人在收到大陪审团传票后，得悉自己正接受刑事调查。

随后，他使用由 Anthropic 开发的生成式 AI 工具 Claude，撰写有关辩护策略，以及就案件事实及法律问题提出论点的分析报告，而这些 AI 生成内容其后亦被其律师参考，并影响了整体辩护策略。

不久之后，美国联邦调查局 (FBI) 执行搜查令，在其住所搜获多部电子装置，当中载有约 31 份与 Claude 的对话纪录。

当控方申请调取这些资料时，被告主张有关内容受律师与客户保密特权保护。

然而，法院裁定，该等与 Claude 的书面对话并不受律师与客户保密特权 (Attorney-Client Privilege) 保障，原因包括：

• 有关对话并非发生于被告人与其律师之间；
• Claude 属于第三方 AI 平台，其私隐政策列明 Anthropic 会收集用户输入内容及 AI 输出内容，以训练 Claude 模型；以及
• Anthropic 保留向包括政府监管机构在内的第三方披露有关资料的权利。

此外，将律师提供的法律意见或法律文件上传至 AI 平台，亦可能构成放弃法律专业保密特权。

英国 UK v Secretary of State for the Home Department [2026] UKUT 81 一案中，英国上级审裁处 (Upper Tribunal) 明确指出：

“将客户来函及内政部决定书上传至 ChatGPT 等开放式 AI 工具，相当于把有关资料置于互联网公共领域，因此构成违反客户保密责任，并导致法律专业保密特权被放弃。”

虽然 Heppner 一案及英国上级审裁处的裁决均并非澳洲案例，但它们充分反映出，AI 的使用方式可能对法律事务产生重大影响。如忽视这些风险，后果可能十分严重。

用 AI 取代律师？

目前，大多数主流生成式人工智能（Generative AI）平台的私隐政策均规定，平台开发商可收集用户的个人资料，以及用户与 AI 平台之间的通讯内容和互动纪录，并可在执法调查或其他特定情况下向第三方披露相关资料。

这意味着，生成式 AI 不仅可能产生所谓的“AI 幻觉”（AI Hallucinations），提供错误或虚构的法律资讯；更重要的是，将法律文件或律师提供的法律意见上传至 AI 平台，还可能导致您放弃法律专业保密特权（Legal Professional Privilege），使原本受保密保护的资料及文件，日后有机会成为诉讼中的证据。

因此，在法律事务上完全依赖 AI，而放弃寻求专业律师的协助，未必是最明智的选择。

毕竟：

尚德律师事务所如何协助您？

随着生成式人工智能（AI）平台不断学习和吸收大量数据，越来越难判断其生成内容是否准确、可靠及真实。AI 所提供的答案未必适用于您的具体情况，甚至可能包含错误、过时或虚构的信息。

每一个法律问题都有其独特的事实背景，因此，获得准确、可靠且切合您个人情况的专业法律意见至关重要。专业律师不仅能够根据您的实际情况提供针对性的建议，更能协助您识别潜在法律风险，保障您的合法权益。

如果您需要有关商业法律事务的专业法律意见，欢迎联系尚德律师事务所拥有维多利亚法律协会认证的 商业法专家 (Accredited Specialist – Commercial Law)。我们将为您提供专业、务实及切合您需要的法律解决方案。

欢迎联系尚德律师事务所。我们秉持 “尚德为本，尚诚致胜” 的理念，竭诚为您提供专业、贴心的法律服务。

电话：8561 3388
电邮：sp@sharrockpitman.com.au

‍

免责声明

本文信息仅供一般参考，不构成法律意见。任何具体法律事务应与我们的律师进行个别咨询。

本所承担的责任限于《职业标准法案》规定的法律责任。

‍

参考资料

¹ Mr Jason Riley v Nuvei Australia Merchant Services Pty Ltd [2026] FWC 75

² Mann v Carnell (1999) 201 CLR 1, [28]

³ Switchcorp Pty Ltd v Multiemedia Ltd [2005] VSC 425, [21]

⁴ https://storage.courtlistener.om/recap/gov.uscourts.nysd.652138/gov.uscourts.nysd.652138.27.0.pdf#page=?.  https://havardlawreview.org/blog/2026/03/united-states-v-heppner/.

⁵ https:\\caselaw.nationalarchives.gov.uk/ukut/iac/2026/81