Ce n'est pas une critique des individus ; c'est une description d'un probl\u00e8me structurel que l'industrie de la gouvernance a largement choisi d'ignorer parce que l'industrie de la gouvernance vend des outils, pas la responsabilit\u00e9.<\/p>\n
Ces outils sont v\u00e9ritablement utiles et essentiels \u00e0 la conformit\u00e9 r\u00e9glementaire et \u00e0 une gouvernance efficace. Un registre des mod\u00e8les vous indique quels syst\u00e8mes d'IA existent et ce qu'ils font. Un cadre de classification des risques vous indique lesquels m\u00e9ritent le plus d'attention. Un syst\u00e8me de tra\u00e7abilit\u00e9 des donn\u00e9es vous indique d'o\u00f9 viennent les entr\u00e9es et si elles \u00e9taient propres. Tout cela est une infrastructure r\u00e9elle et importante. Mais c'est une infrastructure pour la visibilit\u00e9, pas une infrastructure pour l'action. <\/p>\n
Vous pouvez avoir une visibilit\u00e9 parfaite sur un probl\u00e8me et aucun m\u00e9canisme pour le r\u00e9soudre. Vous devez voir quelque chose pour faire quelque chose, mais vous devez aussi prendre le tuyau pour \u00e9teindre un incendie.<\/p>\n
Pensez-y de cette fa\u00e7on : Une alarme incendie n'est pas un service d'incendie. Vous pouvez c\u00e2bler chaque pi\u00e8ce de votre maison, changer consciencieusement la pile de chaque d\u00e9tecteur de fum\u00e9e chaque ann\u00e9e, et acheminer chaque alerte vers un magnifique tableau de bord \u2014 mais votre maison peut quand m\u00eame br\u00fbler parce que personne n'a pris le tuyau. Oui, il est essentiel de savoir que la maison br\u00fble \u2014 sinon, vous ne sauriez pas que vous avez besoin d'un tuyau. Mais vous avez besoin que quelqu'un dise au service d'incendie d'agir.<\/p>\n
\n
\n\t\t\t\t\tL'industrie de la gouvernance vend des outils, pas la responsabilit\u00e9.\n\t\t\t\t\t<\/p>\n<\/div>\n
Chez Adobe, nous avons abord\u00e9 cela en cr\u00e9ant un mod\u00e8le de gouvernance f\u00e9d\u00e9r\u00e9 avec des propri\u00e9taires d\u00e9sign\u00e9s pour chaque syst\u00e8me d'IA et un comit\u00e9 de pilotage centralis\u00e9, avec autorit\u00e9 d'escalade, relevant de l'organisation de confiance et de s\u00e9curit\u00e9, et non de l'\u00e9quipe produit. C'est le choix de conception cl\u00e9 que nous avons fait : donner \u00e0 la gouvernance une ligne hi\u00e9rarchique ind\u00e9pendante des \u00e9quipes qui livrent des produits d'IA. Cela est essentiel pour que la personne qui peut dire \u00ab non \u00bb \u00e0 une d\u00e9cision d'IA ne rel\u00e8ve pas de la personne qui b\u00e9n\u00e9ficie du fait de dire \u00ab oui \u00bb \u00e0 la livraison de produits.<\/p>\n
Pourquoi l'urgence est requise<\/h3>\n
Les enjeux ici augmentent rapidement. La loi sur l'IA de l'Union europ\u00e9enne est maintenant en vigueur, et elle ne demande pas aux entreprises de d\u00e9montrer qu'elles ont des tableaux de bord. Elle leur demande de d\u00e9montrer qu'elles ont une gouvernance significative. Elle exige une prise de d\u00e9cision document\u00e9e, des lignes de responsabilit\u00e9 claires et la capacit\u00e9 de montrer, apr\u00e8s coup, qui a pris une d\u00e9cision importante concernant un syst\u00e8me d'IA et pourquoi. Lorsque les r\u00e9gulateurs viendront poser ces questions, un document de politique et un registre des risques ne seront pas des r\u00e9ponses suffisantes. Les r\u00e9gulateurs veulent un nom.<\/p>\n
Le besoin urgent de gouvernance est aggrav\u00e9 par la rapidit\u00e9 du d\u00e9ploiement de l'IA. La plupart des grandes entreprises exploitent d\u00e9sormais des centaines de syst\u00e8mes d'IA dans leurs organisations, dans des endroits dont les dirigeants ne sont peut-\u00eatre m\u00eame pas conscients. Vous trouverez des outils d'IA utilis\u00e9s dans le service client, le recrutement, la mod\u00e9ration de contenu, la tarification, la d\u00e9tection des fraudes, et partout o\u00f9 des employ\u00e9s bien intentionn\u00e9s essaient simplement de se faciliter la vie. Beaucoup de ces syst\u00e8mes ont \u00e9t\u00e9 d\u00e9ploy\u00e9s rapidement, sous pression, avec une gouvernance trait\u00e9e comme quelque chose \u00e0 r\u00e9gler par un futur eux-m\u00eames. Le moment du futur eux-m\u00eames est arriv\u00e9.<\/p>\n
La r\u00e9ponse n'est pas de ralentir l'adoption de l'IA. C'est de prendre la question de la conception organisationnelle aussi s\u00e9rieusement que la question technique. Chaque programme de gouvernance de l'IA devrait pouvoir r\u00e9pondre \u00e0 trois questions : Qui a l'autorit\u00e9 d'arr\u00eater un mod\u00e8le ? Sait-il que c'est son travail ? Et a-t-il la position pour exercer cette autorit\u00e9 lorsqu'elle entre en conflit avec la feuille de route de quelqu'un d'autre ?<\/p>\n
\n
\n\t\t\t\t\tLe besoin urgent de gouvernance est aggrav\u00e9 par la rapidit\u00e9 du d\u00e9ploiement de l'IA.\n\t\t\t\t\t<\/p>\n<\/div>\n
Si votre entreprise ne peut pas r\u00e9pondre \u00e0 ces questions, vous n'avez pas de programme de gouvernance. Vous avez de la paperasse.<\/p>\n
Les entreprises qui navigueront les cinq prochaines ann\u00e9es de r\u00e9glementation de l\u2019IA et de contr\u00f4le public ne sont pas n\u00e9cessairement celles disposant des outils les plus sophistiqu\u00e9s. Ce sont les entreprises qui ont accompli le travail plus difficile et moins glamour de construire une structure de responsabilit\u00e9 humaine sous-jacente \u00e0 la technologie. <\/p>\n
Ces organisations sont celles qui ont nomm\u00e9 un responsable de la gouvernance de l\u2019IA, lui ont donn\u00e9 une r\u00e9elle autorit\u00e9, et ont pr\u00e9cis\u00e9 que son r\u00f4le n\u2019\u00e9tait pas de faciliter le d\u00e9ploiement de l\u2019IA, mais de le rendre d\u00e9fendable. Ces organisations disposent d\u2019une \u00e9quipe f\u00e9d\u00e9r\u00e9e habilit\u00e9e \u00e0 identifier, rem\u00e9dier et escalader les probl\u00e8mes, et elles savent que l\u2019escalade n\u00e9cessite une destination. Cela signifie une fonction de gouvernance ayant une ligne directe avec la haute direction, ind\u00e9pendante des \u00e9quipes produit qui d\u00e9ploient l\u2019IA, avec une autorit\u00e9 explicite pour arr\u00eater un d\u00e9ploiement d\u2019IA.<\/p>\n
Chaque entreprise affirme gouverner son IA. La vraie question qui distingue la gouvernance de la mise en sc\u00e8ne est plus simple que n\u2019importe quel cadre. Demandez-vous : Qui dans mon organisation peut dire \u00ab non \u00bb et avoir l\u2019autorit\u00e9 pour le faire respecter ?<\/p>\n