三分鐘協議降低人工智慧操控風險

潛在弱點中的 在任何安全系統中，人為因素始終構成關鍵風險。AI工具的出現，更使人類認知成為一項弱點。

企業面臨AI對人類認知影響所帶來的三項重疊安全威脅。首先，武器化說服讓攻擊者透過個人化、適應性欺騙手段，操縱員工的判斷力。其次，看似合理的幻覺會傳遞經得起粗略審查的自信錯誤資訊。第三，當員工將認知工作外包給AI系統時，他們便減少獨立思考。這些動態共同使人類既成為主要弱點，也是關鍵防線。

一個名為「先思考，常驗證」（TFVA）的簡單新協議，透過要求員工採取兩個步驟來應對這些威脅。「先思考」要求員工在諮詢AI之前先形成自己的判斷；「常驗證」則要求他們在行動前，將AI生成的關鍵資訊與獨立來源進行交叉比對。該協議旨在強化獨立判斷與驗證能力，並降低風險，即使操縱行為未被察覺時也能發揮作用。

這一簡單且結構化的批判性思考習慣，能有效降低AI風險。在一項隨機對照試驗中，151名參與者接受三分鐘的TFVA微課程後，決策品質提升了7.87個百分點，道德判斷相對改善44%，資訊驗證能力則提升25%。課程結束後，參與者接受18項情境式任務測試（例如辨識AI生成的釣魚郵件及可疑的主管要求），得分為65.3%，而對照組則為57.4%。

在RSM法国，这家我任职的审计、会计及咨询公司，我们 部署了該協議 在為我們1,600名員工設計的入職與培訓計劃中，初步回饋顯示，這能降低風險並建立組織信任。

管理者可將TFVA融入入職培訓、安全意識訓練及生成式AI存取政策中，並在每次執行時透過三分鐘的簡短訓練強化此習慣。其回報是打造出一支將AI視為需要判斷力的強大工具、而非需要服從的可信權威的團隊。