Los tres obstáculos que frenan la IA responsable

En octubre de 2023, la ciudad de Nueva York lanzó su plan de acción de IA, comprometiéndose públicamente con el uso responsable y transparente de la inteligencia artificial.

Pero a principios de 2024, las ambiciones de IA de Nueva York estaban bajo escrutinio.1 Los observadores cuestionaron no sólo la precisión técnica del sistema sino también los protocolos de gobernanza, los mecanismos de supervisión y los procesos de implementación de la ciudad.

Este caso representa sólo un ejemplo de un patrón más amplio.

En respuesta, los reguladores han introducido una ola de nuevas políticas, incluida la Ley de IA de la Unión Europea, la Ley de Datos e Inteligencia Artificial de Canadá y las regulaciones actualizadas de IA de Corea del Sur, todas las cuales ejercen nuevas presiones sobre las organizaciones para que pongan en práctica la transparencia, la seguridad y la supervisión humana.

Aun así, incluso entre las empresas que comprenden los peligros potenciales, el progreso sigue siendo desigual y corren el riesgo de incorporar errores o sesgos en sus procesos o de cometer violaciones éticas inesperadas y posiblemente graves a escala.

Cuidado con las brechas RAI

A través de entrevistas con más de 20 líderes de IA, funcionarios de ética y altos ejecutivos de varias industrias, incluida la tecnología, los servicios financieros, la atención médica y el sector público, exploramos las dinámicas internas que dan forma a las iniciativas de la RAI.

1. La brecha de rendición de cuentas.