德勤澳大利亚分公司近日同意向联邦政府退还44万澳元咨询费用，原因是其提交的一份社会福利合规报告中存在严重内容造假，且这些错误源于未经充分监督的生成式人工智能工具的使用。此事件被广泛视为政府咨询领域迄今最具代表性的人工智能问责案例之一，暴露了AI技术在专业服务中的系统性风险。

事件概述：AI生成内容导致虚假信息

根据澳大利亚就业与劳资关系部的确认，德勤在2024年7月提交的报告中使用了大型语言模型（Azure OpenAI GPT-4o）以“填补文档空白”。然而，该技术的使用并未在初稿中披露，且直接导致以下关键错误：

• 伪造司法引文 ：报告引用了联邦法院法官詹妮弗·戴维斯（Jennifer Davies）在“机器人欠债”（Robodebt）案件中的言论，但该引文并不存在。
• 虚构学术来源 ：报告列出至少12篇不存在的学术论文与书籍，构成严重的文献造假。
• 延迟披露AI使用 ：上述问题由悉尼大学学者克里斯托弗·拉奇（Dr. Christopher Rudge）于8月首次揭露，德勤随后才在更正版本中承认使用了AI模型。

尽管政府发言人表示这些错误未影响报告的主要结论，但报告的可信度和方法论完整性已受到广泛质疑。

问责焦点：专业透明度与AI治理缺失

该事件引发了对政府采购流程中人工智能使用规范的广泛讨论。关键问题包括：

• 技术使用未披露 ：德勤未在报告中说明AI参与内容生成，违反了基本的专业透明原则。
• 缺乏验证机制 ：报告内容未经过充分人工审核，导致AI“幻觉”（hallucination）现象直接进入正式文件。
• 政府回应不足 ：尽管德勤已退还部分款项，但其回应仅限于“已与客户解决”，缺乏对方法论失误的实质性反思。

工党参议员黛博拉·奥尼尔（Deborah O’Neill）批评称，政府在采购咨询服务时应主动询问是否使用AI，并要求对专业性和数据来源进行验证。

核心问题剖析：AI幻觉与专业信任的冲突

德勤案例揭示了生成式AI在专业咨询中的根本性风险：

• 幻觉现象系统性存在 ：大型语言模型在缺乏语境约束和专家监督的情况下，极易生成看似合理但实则虚假的内容。
• 方法论缺陷影响决策基础 ：当报告建立在未经验证的AI生成内容之上，其政策建议的可信度和可执行性将大打折扣。
• 专业服务的边界模糊化 ：AI工具的引入若无明确规范，将使“专业判断”与“自动生成”之间的界限变得模糊，削弱咨询行业的责任机制。

学者拉奇指出，若报告的基础方法本身存在缺陷且未被披露，其结论将缺乏可信度。行业观察者亦警告，在缺乏人工监督和可靠性验证的前提下大规模部署AI，将直接威胁专业服务的质量与伦理底线。

结语：AI应用亟需制度性约束

德勤事件并非技术失误的孤例，而是对当前AI应用模式的一次系统性警示。在专业服务领域，生成式AI的使用必须建立在明确披露、专家审核和责任归属的基础之上。否则，技术便利将转化为信任危机，最终损害的不仅是客户利益，更是整个行业的公信力。

新闻来源： https://www.ft.com/content/934cc94b-32c4-497e-9718-d87d6a7835ca