Protection, provenance et invites : Angela Nakalembe de YouTube

Ingénieur chimiste de formation, Angela Nakalembe a travaillé dans le domaine des sciences et du conseil en gestion avant d'atterrir chez YouTube en tant que responsable du programme d'ingénierie de l'entreprise pour la confiance et la sécurité.

Chez YouTube, explique Angela, l'IA est devenue la première ligne de défense contre les contenus préjudiciables.

Abonnez-vous à Moi, moi et l'IA sur Podcasts Apple ou Spotify.

Transcription

Allison Ryder : Qu'est-ce qui a inspiré un ingénieur chimiste à travailler dans la gestion de programmes pour la confiance et la sécurité ?

Angèle Nakalembe : Je m'appelle Angela Nakalembe de YouTube et vous écoutez Moi, moi et l'IA.

Sam Ransbotham : Bienvenue à Moi, moi et l'IA, un podcast de MIT Sloan Management Review explorer l’avenir de l’intelligence artificielle. MIT SMR depuis 2014, avec des articles de recherche, des rapports annuels de l'industrie, des études de cas et maintenant 12 saisons d'épisodes de podcast.

Hé, les auditeurs.

Angèle Nakalembe : Merci de m'avoir invité, Sam.

Sam Ransbotham : En règle générale, nous commençons par quelques informations générales, mais il est vraiment difficile d'imaginer un auditeur qui ne connaît pas YouTube.

Angèle Nakalembe : YouTube est une plate-forme de partage de vidéos en ligne, créée il y a environ 20 ans en tant que communauté en ligne permettant aux utilisateurs de partager des vidéos sur n'importe quel sujet qui les intéressait. Elle a été acquise par Google (Alphabet) peu de temps après.

Ce que je fais spécifiquement chez YouTube, c'est que je travaille dans les coulisses au sein du département de confiance et de sécurité de YouTube, où, en tant que responsable de programme d'ingénierie, je suis chargé de superviser de nombreux outils et lancements de fonctionnalités (beaucoup d'entre eux utilisent désormais l'IA) qui aident à protéger la plate-forme contre des éléments tels que les discours de haine, la désinformation, le contenu graphique, etc.

Sam Ransbotham : Vous l'avez préparé.

Angèle Nakalembe : L’une des façons dont nous utilisons l’IA est essentiellement de dynamiser nos efforts de modération de contenu et de les rendre beaucoup plus rapides mais aussi beaucoup plus humains.

Mais maintenant, grâce à l’IA et à l’apprentissage automatique, nous sommes en mesure de vraiment changer cela et de faire évoluer le rôle du réviseur et de le faire travailler main dans la main, pas seulement en solo mais main dans la main avec ces outils d’IA.

Ainsi, même si les examinateurs humains sont toujours nécessaires pour vérifier ce que font ces modèles d’IA, ils n’ont plus à supporter seuls le poids et ce fardeau.

Nous recevons également de nombreux retours positifs de nos utilisateurs ou créateurs qui remarquent un temps de traitement beaucoup plus rapide pour de nombreux problèmes ou cas qu'ils ont signalés.

Sam Ransbotham : Nous avions un ami de la famille qui est policier et il travaillait dans les services de police qui s’occupaient des choses qu’on ne voulait pas voir.

[Maintenant que] vous en avez parlé ici, cela fait en quelque sorte comprendre que vous remplacez en quelque sorte les travailleurs humains, et c’est un endroit où nous ne voulons vraiment pas que les humains fassent quelque chose.

Angèle Nakalembe : Il y a toujours un besoin incroyable de ces modérateurs humains, n’est-ce pas ?

Sam Ransbotham : En même temps, nous parlions du temps passé à organiser le contenu et vous n’avez pas un nombre décroissant de soumissions.

Angèle Nakalembe : C’est un très bon point.

C’est un problème majeur avec lequel nous avons du mal, pas seulement sur YouTube mais en général, avec l’essor de l’IA.

Chez YouTube, nous avons consacré beaucoup de temps à réfléchir à la manière dont nous pouvons empêcher la propagation de la désinformation et faire en sorte que les gens soient plus conscients des modalités de création du contenu qu’ils consomment.

Il s’agit essentiellement d’une norme technique ouverte permettant aux éditeurs, aux créateurs et aux consommateurs d’établir l’origine du contenu qu’ils observent.

C’est l’une des façons dont nous l’atténuons.

Mais huit mois plus tard, Sam, il y a des vidéos que je regarde et qui [au] premier coup d'œil, au deuxième coup d'œil, je ne pouvais pas dire qu'[elles étaient] générées par l'IA.

Sam Ransbotham : Je suis heureux que vous ayez mentionné la provenance, car je pense qu'en général, pas seulement [avec] la vidéo, la provenance est un problème important pour tout type de données avec lesquelles nous travaillons.

Dans un certain sens, [avec] un tel pouvoir de marché dont dispose YouTube, une grande partie de la responsabilité vous incombe alors, et ce que vous faites finit par devenir dans une certaine mesure une norme de facto sur le marché et, vous savez, pour ne pas mettre plus de pression sur vous, mais.

Angèle Nakalembe : Aucun pris.

Sam Ransbotham : Les choses que vous faites là-bas sont assez importantes.

Angèle Nakalembe : Oui.

Sam Ransbotham : Racontez-nous un peu comment vous êtes arrivé sur YouTube.

Angèle Nakalembe : Mon parcours, comme vous l'avez mentionné, nous sommes tous deux diplômés en génie chimique et j'avais une passion pour la chimie.

C’est donc là que je suis passé de l’ingénierie au conseil en gestion, entre autres.

J'ai fini par apprendre que j'aimais travailler dans le domaine de la technologie, car celui-ci était en constante évolution en termes d'industrie, tout comme la technologie grand public, elle était en constante évolution.

C’est très gratifiant, et très sympa quand on peut facilement cerner cela.

J'ai donc atterri sur YouTube, je suis tombé en confiance et en sécurité après avoir sauté à différents endroits, et je suis vraiment tombé amoureux.

C’est un travail vraiment enrichissant.

Sam Ransbotham : Lorsque vous parlez d’ingénierie, j’ai vu quelques parallèles.

Angèle Nakalembe : Ouais.

Sam Ransbotham : C’est ce qui frustre constamment les ingénieurs du monde entier, car ils font leur travail sans que personne ne le sache.

Angèle Nakalembe : J'ai dû m'entraîner à considérer cela comme un signe que nous faisons du bon travail et à me dire : "Vous savez quoi ? Si personne ne parle de nous, cela signifie que nous faisons exactement ce que nous devons faire, et nous devrions nous féliciter."

Sam Ransbotham : Ce qui diffère de l’ingénierie traditionnelle, c’est que, comme le génie civil et le génie chimique, l’ingénierie traditionnelle a établi des principes.

Angèle Nakalembe : Ouais, 100%.

J'ai joué et créé une application pendant le week-end avec l'un des outils de Google DeepMind Lab.

Comme mon histoire elle-même, j’ai commencé en génie chimique, et maintenant [je suis] dans la confiance et la sécurité.

Sam Ransbotham : Vous avez là de nobles idées, mais je dois revenir en arrière et vous pousser.

Angèle Nakalembe : Bien sûr.

Sam Ransbotham : Quelle était l’application ?

Angèle Nakalembe : J'essayais de comprendre ce que je voulais faire ensuite avec mes cheveux.

Sam Ransbotham : Vous avez bien répondu à ma mise en situation.

Angèle Nakalembe : Je pourrais prendre un peu la tangente ici.

Sam Ransbotham : Si c’est ma classe, c’est faire ses devoirs.

Angèle Nakalembe : Vous savez quoi?

En 2024, le cas d’usage n°1 était générateur d’idées.

Lorsque vous regardez ces trois éléments principaux… J'ai mentionné plus tôt à quel point nos communautés sont de plus en plus en ligne.

Cela peut sembler être le cas, mais ce n’est vraiment pas le cas.

Pour en revenir au concept de sécurité cognitive, il est d’une importance cruciale pour nous, lorsque nous construisons avec des outils d’IA, de nous assurer que l’IA reste utile et centrée sur l’humain, mais nous ne voulons pas qu’elle prétende être humaine.

Sam Ransbotham : C’est – pour revenir à ce que vous avez commencé en disant – en apprendre davantage sur la technologie et comment elle fonctionne, et apprendre à quoi elle est bonne et à quoi elle ne sert pas [est] très liée à la compréhension qu’il s’agit en fait d’une machine et non d’une personne réelle pour une relation.

L'une des choses que nous avons est que nous avons un segment où je vous pose quelques questions rapides.

Angèle Nakalembe : D'ACCORD.

Sam Ransbotham : Qu’est-ce qui a évolué plus rapidement ou plus lentement que prévu grâce à l’intelligence artificielle ?

Angèle Nakalembe : Il s'agissait du texte en texte en vidéo, du texte en image et de son exactitude.

Sam Ransbotham : Que souhaiteriez-vous que l’IA puisse faire mieux ?

Angèle Nakalembe : Parfois, j'ai l'impression que je dois déployer beaucoup d'efforts dans l'ingénierie de mes invites, et je pense que ce n'est vraiment qu'une question de temps avant d'y arriver, [quand] je n'aurais pas besoin d'être aussi détaillé ou aussi précis avec mes invites.

Sam Ransbotham : Qu’est-ce qui vous frustre dans l’intelligence artificielle ?

Angèle Nakalembe : Qu'est-ce qui me frustre ?

Sam Ransbotham : Quelle est la meilleure façon dont vous aimez utiliser l’IA ?

Angèle Nakalembe : L'application était une manière amusante.

Je pense que la planification de la vie en général en est une utilisation fantastique.

Et puis, d’un point de vue professionnel, c’est peut-être comme se lancer dans un nouvel effort et vraiment essayer de comprendre ce que nous essayons de faire.

Cela a été un très bon moyen d’ingérer des informations en peu de temps et de se mettre au courant des choses, vraiment génial.

Sam Ransbotham : C'est génial, en fait.

Angèle Nakalembe : Ouais.

Sam Ransbotham : Merci beaucoup d'être parmi nous aujourd'hui.

Angèle Nakalembe : Bien sûr.

Sam Ransbotham : Merci d'avoir écouté.

Allison Ryder : Merci d'avoir écouté Moi, moi et l'IA.