[13] Esto no es una cr\u00edtica a los individuos; es una descripci\u00f3n de un problema estructural que la industria de la gobernanza ha optado en gran medida por ignorar porque la industria de la gobernanza vende herramientas, no responsabilidad.<\/p>\n
[14] Estas herramientas son genuinamente \u00fatiles y vitales para el cumplimiento normativo y la gobernanza efectiva. Un registro de modelos le dice qu\u00e9 sistemas de IA existen y qu\u00e9 est\u00e1n haciendo. Un marco de clasificaci\u00f3n de riesgos le dice cu\u00e1les merecen m\u00e1s escrutinio. Un sistema de linaje de datos le dice de d\u00f3nde vinieron las entradas y si estaban limpias. Todo esto es infraestructura real e importante. Pero es infraestructura para la visibilidad, no infraestructura para la acci\u00f3n. <\/p>\n
[15] Puede tener una visibilidad perfecta de un problema y ning\u00fan mecanismo para resolverlo. Tiene que ver algo para hacer algo, pero tambi\u00e9n tiene que tomar la manguera para apagar un incendio.<\/p>\n
[16] Pi\u00e9nselo de esta manera: Una alarma de incendios no es un departamento de bomberos. Puede cablear cada habitaci\u00f3n de su casa, cambiar diligentemente la bater\u00eda de cada detector de humo anualmente y enrutar cada alerta a un hermoso panel, pero a\u00fan as\u00ed su casa podr\u00eda quemarse porque nadie tom\u00f3 la manguera. S\u00ed, es cr\u00edtico saber que la casa se est\u00e1 quemando; de lo contrario, no sabr\u00eda que necesita una manguera. Pero necesita que alguien le diga al departamento de bomberos que tome medidas.<\/p>\n
\n
\n\t\t\t\t\t[17] La industria de la gobernanza vende herramientas, no responsabilidad.\n\t\t\t\t\t<\/p>\n<\/div>\n
[18] En Adobe, abordamos esto creando un modelo de gobernanza federado con propietarios designados para cada sistema de IA y un comit\u00e9 directivo centralizado, con autoridad de escalamiento, que reporta a la organizaci\u00f3n de confianza y seguridad, no al equipo de producto. Esa fue la decisi\u00f3n de dise\u00f1o clave que tomamos: dar a la gobernanza una l\u00ednea de reporte independiente de los equipos que lanzan productos de IA. Esto es esencial para que la persona que puede decir \"no\" a una decisi\u00f3n de IA no reporte a la persona que se beneficia de decir \"s\u00ed\" al lanzamiento de productos.<\/p>\n
[19] Por qu\u00e9 se requiere urgencia<\/h3>\n
[20] Lo que est\u00e1 en juego aqu\u00ed est\u00e1 aumentando r\u00e1pidamente. La Ley de IA de la Uni\u00f3n Europea ya est\u00e1 en vigor, y no pide a las empresas que demuestren que tienen paneles. Les pide que demuestren que tienen una gobernanza significativa. Requiere una toma de decisiones documentada, l\u00edneas claras de responsabilidad y la capacidad de mostrar, despu\u00e9s del hecho, qui\u00e9n tom\u00f3 una decisi\u00f3n consecuente sobre un sistema de IA y por qu\u00e9. Cuando los reguladores vengan haciendo esas preguntas, un documento de pol\u00edtica y un registro de riesgos no ser\u00e1n respuestas suficientes. Los reguladores quieren un nombre.<\/p>\n
[21] La necesidad urgente de gobernanza se ve agravada por la velocidad de implementaci\u00f3n de la IA. La mayor\u00eda de las grandes empresas ahora ejecutan cientos de sistemas de IA en sus organizaciones, en lugares que los l\u00edderes quiz\u00e1s ni siquiera conocen. Encontrar\u00e1 herramientas de IA utilizadas en servicio al cliente, contrataci\u00f3n, moderaci\u00f3n de contenido, precios, detecci\u00f3n de fraude y en cualquier lugar donde empleados bien intencionados solo intentan hacer sus vidas m\u00e1s f\u00e1ciles. Muchos de estos sistemas se implementaron r\u00e1pidamente, bajo presi\u00f3n, con la gobernanza tratada como algo que se resolver\u00eda en el futuro. El momento del futuro ha llegado.<\/p>\n
[22] La respuesta no es frenar la adopci\u00f3n de la IA. Es tomar la cuesti\u00f3n del dise\u00f1o organizacional tan en serio como la t\u00e9cnica. Cada programa de gobernanza de IA deber\u00eda poder responder tres preguntas: \u00bfQui\u00e9n tiene la autoridad para detener un modelo? \u00bfSaben que es su trabajo? \u00bfY tienen la posici\u00f3n para ejercer esa autoridad cuando entra en conflicto con la hoja de ruta de otra persona?<\/p>\n
\n
\n\t\t\t\t\t[23] La necesidad urgente de gobernanza se ve agravada por la velocidad de implementaci\u00f3n de la IA.\n\t\t\t\t\t<\/p>\n<\/div>\n
[24] Si su empresa no puede responder esas preguntas, no tiene un programa de gobernanza. Tiene papeleo.<\/p>\n
[25] Las empresas que navegar\u00e1n los pr\u00f3ximos cinco a\u00f1os de regulaci\u00f3n de la IA y escrutinio p\u00fablico no son necesariamente las que tienen las herramientas m\u00e1s sofisticadas. Son las empresas que hicieron el trabajo m\u00e1s dif\u00edcil y menos glamoroso de construir una estructura de responsabilidad humana para colocarla debajo de la tecnolog\u00eda. <\/p>\n
[26] Estas organizaciones son las que nombraron un gobernador de IA, le dieron autoridad real y dejaron claro que el trabajo no era hacer m\u00e1s f\u00e1cil la implementaci\u00f3n de la IA, sino hacerla defendible. Estas organizaciones tienen un equipo federado autorizado para identificar, remediar y escalar, y saben que el escalamiento requiere un destino. Eso significa una funci\u00f3n de gobernanza con una l\u00ednea directa a la alta direcci\u00f3n, independiente de los equipos de producto que lanzan IA, con autoridad expl\u00edcita para detener una implementaci\u00f3n de IA.<\/p>\n
[27] Toda empresa dice que gobierna su IA. La verdadera pregunta que separa la gobernanza del teatro es m\u00e1s simple que cualquier marco. Preg\u00fantese: \u00bfQui\u00e9n en mi organizaci\u00f3n puede decir \"no\" y tener la autoridad para que signifique algo?<\/p>\n