Más allá de la verificación: lo que la IA responsable realmente exige de los expertos humanos

Por quinto año consecutivo, MIT Sloan Management Review y Boston Consulting Group (BCG) han reunido un panel internacional de expertos en IA que incluye académicos y profesionales para ayudarnos a comprender cómo se está implementando la inteligencia artificial responsable en las organizaciones de todo el mundo.

Esta vez, le pedimos a nuestro panel que reaccionara ante la siguiente provocación: Los esfuerzos responsables de IA fracasan si no cultivan expertos humanos que puedan verificar las soluciones de IA.. verificación de manera mucho más amplia de lo que implica la provocación.

Los humanos proporcionan el contexto para verificar los resultados de la IA. El fundador de ForHumanity, Ryan Carrier, respaldó el consenso de que los esfuerzos responsables de IA deben cultivar la experiencia humana para verificar los resultados de la IA porque, como él dice, “el contexto importa”.

Para algunos, el contexto es irreductiblemente humano y no puede capturarse únicamente en un formato legible por máquina.

Si las máquinas no pueden capturar completamente el contexto, las consecuencias prácticas son significativas.

La pérdida de experiencia humana representa una amenaza existencial para las organizaciones. La preocupación no es solo que los sistemas de IA fallen sin experiencia humana para verificar los resultados, sino que las organizaciones puedan perder capacidad humana experta con el tiempo.

Lo que está en juego en el negocio, desde esta perspectiva, es fundamentalmente humano.

La verificación humana por sí sola no escala. A pesar del amplio apoyo a la importancia de cultivar la experiencia humana, muchos expertos expresan preocupaciones sobre la escala y el alcance de la verificación humana.

La solución, para estos expertos, no es abandonar el juicio humano sino utilizarlo de manera más estratégica.

La supervisión y la rendición de cuentas siguen siendo primordiales. Además de depender de una combinación de verificación humana y mecánica, nuestros expertos creen que la supervisión y la rendición de cuentas siguen siendo fundamentales para cualquier estrategia responsable de IA.

Muchos expertos sostienen que la verificación humana de los resultados de la IA es esencial no como un fin sino como parte central de una supervisión y rendición de cuentas significativas sobre los sistemas de IA.

Recomendaciones

Si el factor limitante es la capacidad de ejercer un juicio informado, no solo verificar los resultados de la IA, entonces las organizaciones deben invertir en ese juicio de manera deliberada.

1. Verificar los diseños, no solo los resultados. Una visión estrecha de la verificación humana que solo aborde los resultados del sistema es insuficiente.

2. No confíes únicamente en la verificación humana. Dado que la verificación humana de cada resultado de la IA no se escala, las organizaciones comprometidas con una supervisión responsable deberían invertir en una variedad de enfoques que utilicen herramientas automatizadas para ampliar o aumentar el juicio humano.

3. Invertir en experiencia humana. Las organizaciones deben invertir en experiencia humana para verificar los resultados de los sistemas de IA y proporcionar una supervisión continua sobre cómo se diseñan los sistemas y si funcionan según lo previsto.

4. Verificar lo que se aprende, no sólo lo que se produce. Las organizaciones tienden a centrar la verificación en si los resultados de un sistema de IA son correctos, pero también necesitan examinar las lecciones que extraen de las implementaciones y resultados de la IA.

5. Tratar la verificación como un imperativo estratégico, no sólo como una práctica de responsabilidad. Según una encuesta ejecutiva global realizada en 2025 por MIT Sloan Management Review y BCG, el 86% de los equipos de alta dirección consideran que la IA es una parte importante de sus prioridades estratégicas.