一个三分钟协议以减少人工智能操纵风险

在任何安全系统的潜在弱点中， 人为因素始终构成关键风险。人工智能工具的到来使人类认知变得更加脆弱。

公司面临人工智能对人类认知影响带来的三种重叠安全威胁。首先，武器化说服让攻击者通过个性化、自适应欺骗操纵员工的判断。其次，看似合理的幻觉传递出自信但错误的信息，这些信息能通过粗略审查。第三，随着员工将认知工作外包给人工智能系统，他们进行独立推理的能力减弱。这些动态共同使人类既成为主要漏洞，也成为关键防线。

一项名为“先思考，常验证”（TFVA）的简单新协议通过敦促员工采取两个步骤来应对这些威胁。“先思考”要求员工在咨询人工智能之前先形成自己的判断。“常验证”要求他们在行动前对照独立来源交叉验证人工智能生成的关键信息。该协议旨在增强独立判断和验证能力，降低风险，即使操纵未被识别。

这种简单、结构化的批判性思维习惯可以有效降低人工智能风险。在一项包含151名参与者的随机对照试验中，关于TFVA的三分钟微课将决策质量提高了7.87个百分点，道德判断相对改善44%，信息验证改善25%。微课后，参与者在18个基于场景的任务（如识别人工智能生成的钓鱼邮件和可疑的高管请求）中得分65.3%，而对照组为57.4%。

在我工作的审计、会计和咨询公司RSM法国，我们 部署了该协议 在面向1600名员工的入职和培训项目中。早期反馈表明，它降低了风险并建立了组织信任。

管理者可以将TFVA嵌入入职培训、安全意识培训和生成式人工智能访问政策中，并通过每次简单的三分钟培训课程强化这一习惯。回报是员工将人工智能视为需要判断的强大工具，而非需要服从的权威。