Les trois obstacles qui ralentissent l’IA responsable

En octobre 2023, la ville de New York a publié son plan d’action IA, s’engageant publiquement en faveur d’une utilisation responsable et transparente de l’intelligence artificielle.

Mais début 2024, les ambitions de New York en matière d’IA étaient sous surveillance.1 Les observateurs ont remis en question non seulement l’exactitude technique du système, mais également les protocoles de gouvernance, les mécanismes de surveillance et les processus de déploiement de la ville.

Ce cas ne représente qu’un exemple d’un schéma plus large.

En réponse, les régulateurs ont introduit une vague de nouvelles politiques, notamment la loi sur l’IA de l’Union européenne, la loi sur l’intelligence artificielle et les données du Canada et la réglementation sud-coréenne actualisée sur l’IA – toutes exerçant de nouvelles pressions sur les organisations pour qu’elles opérationnalisent la transparence, la sécurité et la surveillance humaine.

Pourtant, même parmi les entreprises qui comprennent les dangers potentiels, les progrès restent inégaux et elles risquent d’intégrer des erreurs ou des préjugés dans leurs processus ou de commettre des violations éthiques inattendues et potentiellement graves à grande échelle.

Attention aux lacunes de la RAI

Grâce à des entretiens avec plus de 20 leaders de l'IA, responsables de l'éthique et cadres supérieurs de plusieurs secteurs, notamment la technologie, les services financiers, les soins de santé et le secteur public, nous avons exploré la dynamique interne qui façonne les initiatives de la RAI.

1. Le déficit de responsabilité.