[1] Un protocolo de tres minutos para reducir el riesgo de manipulación de la IA

[5] De las debilidades potenciales [6] de cualquier sistema de seguridad, la capa humana siempre ha representado un riesgo clave. La llegada de las herramientas de IA ha hecho que la cognición humana sea aún más una vulnerabilidad.

[7] Las empresas enfrentan tres amenazas de seguridad superpuestas debido a los efectos de la IA en la cognición humana. Primero, la persuasión armada permite a los atacantes manipular el juicio de los empleados mediante un engaño personalizado y adaptativo. Segundo, las alucinaciones plausibles presentan información falsa con confianza que sobrevive a una revisión casual. Y tercero, a medida que los empleados delegan trabajo cognitivo en los sistemas de IA, realizan menos razonamiento independiente. Juntas, estas dinámicas hacen que los humanos sean tanto la principal vulnerabilidad como la defensa clave.

[8] Un nuevo protocolo simple denominado "Piensa Primero, Verifica Siempre" (TFVA) aborda estas amenazas instando a los empleados a seguir dos pasos. "Piensa Primero" requiere que los empleados formen su propio juicio antes de consultar a la IA. "Verifica Siempre" requiere que verifiquen la información crítica generada por la IA con fuentes independientes antes de actuar. El protocolo tiene como objetivo reforzar el juicio independiente y la verificación, y reducir el riesgo, incluso cuando la manipulación no se reconoce.

[9] Este hábito simple y estructurado de pensamiento crítico puede reducir eficazmente el riesgo de la IA. En un ensayo controlado aleatorio con 151 participantes, una microlección de tres minutos sobre TFVA mejoró la calidad de las decisiones en 7.87 puntos porcentuales, con una mejora relativa del 44% en el juicio ético y del 25% en la verificación de información. Después de la microlección, los participantes fueron evaluados en 18 tareas basadas en escenarios (como detectar phishing generado por IA y solicitudes ejecutivas sospechosas) y obtuvieron un 65.3%, en comparación con el 57.4% de un grupo de control.

[10] En RSM France, la firma de auditoría, contabilidad y consultoría donde trabajo, nosotros [11] implementamos el protocolo [12] en los programas de incorporación y formación para nuestros 1,600 empleados. Los comentarios iniciales sugieren que reduce el riesgo y genera confianza organizacional.

[13] Los gerentes pueden integrar TFVA en la incorporación, la formación en concienciación de seguridad y las políticas de acceso a la IA generativa, y reforzar el hábito en cada instancia con una simple sesión de formación de tres minutos. El resultado es una fuerza laboral que trata a la IA como una herramienta poderosa que requiere juicio, no como una autoridad confiable que requiere obediencia.