Schutz, Herkunft und Aufforderungen: Angela Nakalembe von YouTube

Als ausgebildete Chemieingenieurin arbeitete Angela Nakalembe in den Bereichen Naturwissenschaften und Unternehmensberatung, bevor sie bei YouTube als technische Programmmanagerin für Vertrauen und Sicherheit des Unternehmens landete.

Bei YouTube, erklärt Angela, sei KI zur ersten Verteidigungslinie gegen schädliche Inhalte geworden.

Abonnieren Ich, ich selbst und AI auf Apple Podcasts oder Spotify.

Abschrift

Allison Ryder: Was hat einen Chemieingenieur dazu inspiriert, im Programmmanagement für Vertrauen und Sicherheit zu arbeiten?

Angela Nakalembe: Ich bin Angela Nakalembe von YouTube und du hörst mir zu Ich, ich selbst und AI.

Sam Ransbotham: Willkommen bei Ich, ich selbst und AI, ein Podcast von MIT Sloan Management Review die Zukunft der künstlichen Intelligenz erforschen. Ich bin Sam Ransbotham, Professor für Analytik am Boston College. Ich forsche über Daten, Analytik und KI bei MIT SMR seit 2014 mit Forschungsartikeln, jährlichen Branchenberichten, Fallstudien und mittlerweile 12 Staffeln von Podcast-Episoden. In jeder Folge kommen Unternehmensführer, Spitzenforscher und KI-Entscheider zu Wort, um zu klären, was den KI-Hype vom KI-Erfolg unterscheidet.

Hey, Zuhörer.

Angela Nakalembe: Danke, dass du mich hast, Sam.

Sam Ransbotham: Normalerweise beginnen wir mit einigen Hintergrundinformationen, aber es ist wirklich schwer, sich einen Hörer vorzustellen, der sich mit YouTube nicht auskennt.

Angela Nakalembe: YouTube ist eine Online-Video-Sharing-Plattform, die vor etwa 20 Jahren als Online-Community für Menschen gegründet wurde, um Videos zu jedem Thema zu teilen, das sie interessiert. Kurz darauf wurde sie von Google (Alphabet) übernommen.

Was ich speziell bei YouTube mache, ist, dass ich hinter den Kulissen in der Vertrauens- und Sicherheitsabteilung von YouTube arbeite, wo ich als technischer Programmmanager für die Überwachung vieler Tools und Funktionseinführungen verantwortlich bin – viele davon verwenden jetzt KI –, die dazu beitragen, die Plattform vor Dingen wie Hassreden, Fehlinformationen, grafischen Inhalten und dergleichen zu schützen.

Sam Ransbotham: Du hast es geschafft.

Angela Nakalembe: Eine Art und Weise, wie wir KI nutzen, besteht im Grunde darin, unsere Bemühungen um die Moderation von Inhalten zu beschleunigen und sie viel schneller, aber auch viel menschlicher zu machen.

Aber jetzt können wir mit KI und maschinellem Lernen das wirklich ändern und die Rolle des Prüfers weiterentwickeln und ihn Hand in Hand arbeiten lassen, nicht nur alleine, sondern Hand in Hand mit diesen KI-Tools.

Während also immer noch menschliche Gutachter benötigt werden, um zu überprüfen, was diese KI-Modelle tun, müssen sie das Gewicht und diese Bürde nicht mehr alleine tragen.

Wir erhalten auch viel positives Feedback von unseren Benutzern oder Erstellern, die feststellen, dass viele von ihnen gemeldete Probleme oder Fälle viel schneller bearbeitet werden.

Sam Ransbotham: Wir hatten einen Freund der Familie, der Polizist ist und in den Teilen der Polizei arbeitete, die sich mit Dingen befassten, die man nicht sehen wollte.

[Jetzt, da] Sie es hier erwähnt haben, wird mir irgendwie klar, dass Sie gewissermaßen menschliche Arbeitskräfte ersetzen, und das ist ein Ort, an dem wir wirklich nicht wollen, dass Menschen etwas tun.

Angela Nakalembe: Es besteht immer noch ein unglaublicher Bedarf an diesen menschlichen Moderatoren, oder?

Sam Ransbotham: Gleichzeitig haben wir über den Zeitaufwand gesprochen, der für die Kuratierung von Inhalten aufgewendet wird, und die Zahl der Einsendungen nimmt nicht ab.

Angela Nakalembe: Das ist ein wirklich guter Punkt.

Das ist eine große Sache, mit der wir zu kämpfen haben, nicht nur bei YouTube, sondern im Allgemeinen mit dem Aufstieg der KI.

Wir haben bei YouTube viel Zeit darauf verwendet, darüber nachzudenken, wie wir die Verbreitung von Fehlinformationen verhindern und sicherstellen können, dass sich die Menschen der Art und Weise der Erstellung der Inhalte, die sie konsumieren, bewusster werden.

Es handelt sich im Grunde um einen offenen technischen Standard für Herausgeber, Urheber und Verbraucher, um die Herkunft der von ihnen beobachteten Inhalte festzustellen.

Das ist eine der Möglichkeiten, wie wir es abmildern.

Aber acht Monate später – Sam, es gibt einige Videos, die ich mir ansehe, bei denen ich auf den ersten Blick nicht erkennen konnte, dass sie KI-generiert waren.

Sam Ransbotham: Ich bin jedoch froh, dass Sie die Herkunft erwähnt haben, denn ich denke, dass die Herkunft im Allgemeinen, nicht nur bei Videos, eine große Rolle für alle Arten von Daten spielt, mit denen wir arbeiten.

In gewisser Weise liegt bei der Marktmacht von YouTube ein Großteil der Verantwortung dann bei Ihnen, und was Sie tun, wird letztlich zu einem gewissen Grad zum De-facto-Standard auf dem Markt, und zwar nicht, um noch mehr Druck auf Sie auszuüben, sondern.

Angela Nakalembe: Keine vergeben.

Sam Ransbotham: Die Dinge, die Sie tun, sind dort ziemlich wichtig.

Angela Nakalembe: Ja.

Sam Ransbotham: Erzählen Sie uns ein wenig darüber, wie Sie bei YouTube gelandet sind.

Angela Nakalembe: Mein Hintergrund ist, wie Sie bereits erwähnt haben, dass wir beide Chemieingenieurwesen studieren und ich eine Leidenschaft für Chemie hatte.

Ausgerechnet dort habe ich den Wechsel vom Ingenieurwesen zur Unternehmensberatung vollzogen.

Am Ende habe ich gelernt, dass es mir Spaß macht, in der Technologiebranche zu arbeiten, weil sie sich in Bezug auf die Industrie ständig weiterentwickelt, so wie sich auch die Verbrauchertechnologie ständig weiterentwickelt.

Es ist sehr lohnend und sehr schön, wenn man das leicht erkennen kann.

Also bin ich bei YouTube gelandet, habe nach dem Herumstöbern an verschiedenen Orten Vertrauen und Sicherheit gefunden und mich wirklich einfach verliebt.

Es ist wirklich eine erfüllende Arbeit.

Sam Ransbotham: Da Sie über die Technik sprechen, sind mir einige Parallelen aufgefallen.

Angela Nakalembe: Ja.

Sam Ransbotham: Darüber sind Ingenieure auf der ganzen Welt ständig frustriert, denn die Tatsache, dass sie ihren Job machen, bedeutet, dass niemand davon weiß.

Angela Nakalembe: Ich musste mir beibringen, das als Zeichen dafür zu sehen, dass wir einen guten Job machen, und zu sagen: „Weißt du was? Wenn niemand über uns redet, bedeutet das, dass wir genau das tun, was wir tun müssen, und wir sollten uns selbst auf die Schulter klopfen.“

Sam Ransbotham: Der Unterschied zum traditionellen Ingenieurwesen besteht darin, dass es im traditionellen Ingenieurwesen ebenso wie im Bauingenieurwesen und im Chemieingenieurwesen etablierte Prinzipien gibt.

Angela Nakalembe: Ja, 100 %.

Ich habe am Wochenende herumgespielt und eine App mit einem der Tools des Google DeepMind Lab erstellt.

Wie meine Geschichte selbst habe ich in der Chemietechnik angefangen und bin jetzt von Vertrauen und Sicherheit überzeugt.

Sam Ransbotham: Sie haben da einige hochtrabende Ideen, aber ich muss zurückgehen und Sie drängen.

Angela Nakalembe: Sicher.

Sam Ransbotham: Was war die App?

Angela Nakalembe: Ich versuchte herauszufinden, was ich als nächstes mit meinen Haaren machen wollte.

Sam Ransbotham: Sie haben gut darauf reagiert, dass ich Sie in Verlegenheit gebracht habe.

Angela Nakalembe: Ich könnte hier etwas abschweifen.

Sam Ransbotham: Wenn es meine Klasse ist, dann geht es darum, Hausaufgaben zu machen.

Angela Nakalembe: Weißt du was?

Im Jahr 2024 war der Anwendungsfall Nr. 1 die Generierung von Ideen.

Wenn Sie sich diese drei wichtigsten Dinge ansehen … Ich habe bereits erwähnt, dass unsere Communities zunehmend online stattfinden.

Es mag so aussehen, ist es aber nicht.

Zurück zum Konzept der kognitiven Sicherheit: Da wir mit KI-Tools arbeiten, ist es für uns von entscheidender Bedeutung, sicherzustellen, dass die KI hilfreich und auf den Menschen ausgerichtet bleibt, aber wir möchten nicht, dass sie vorgibt, ein Mensch zu sein.

Sam Ransbotham: Das heißt – um auf das zurückzukommen, was Sie gesagt haben – mehr über die Technologie zu erfahren und zu lernen, wie sie funktioniert, und zu lernen, wofür sie gut ist und wofür nicht, [hängt] eng mit dem Verständnis zusammen, dass es sich tatsächlich um eine Maschine und nicht um eine tatsächliche Person für eine Beziehung handelt.

Wir haben unter anderem einen Abschnitt, in dem ich Ihnen ein paar schnelle Fragen stelle.

Angela Nakalembe: OK.

Sam Ransbotham: Was hat sich mit künstlicher Intelligenz schneller oder langsamer entwickelt, als Sie erwartet haben?

Angela Nakalembe: Es ging um die Text-zu-Text-zu-Video- und Text-zu-Bild-Übertragung und deren Genauigkeit.

Sam Ransbotham: Was wünschen Sie sich, dass KI besser machen könnte?

Angela Nakalembe: Manchmal habe ich das Gefühl, dass ich mich bei der Entwicklung meiner Eingabeaufforderungen sehr anstrengen muss, und ich denke, es ist eigentlich nur eine Frage der Zeit, bis wir dort ankommen, [wann] ich mit meinen Eingabeaufforderungen nicht so detailliert oder spezifisch sein müsste.

Sam Ransbotham: Was frustriert Sie an künstlicher Intelligenz?

Angela Nakalembe: Was frustriert mich?

Sam Ransbotham: Wie setzen Sie KI am liebsten ein?

Angela Nakalembe: Die App hat Spaß gemacht.

Ich denke, dass Lebensplanung im Allgemeinen ein fantastischer Einsatzbereich dafür ist.

Und dann, aus beruflicher Sicht, vielleicht so, als würden wir eine neue Anstrengung starten und wirklich versuchen zu verstehen, was wir eigentlich tun wollen.

Es war eine wirklich gute Möglichkeit, in kurzer Zeit Informationen aufzunehmen und sich auf den neuesten Stand zu bringen, wirklich großartig.

Sam Ransbotham: Das ist eigentlich großartig.

Angela Nakalembe: Ja.

Sam Ransbotham: Vielen Dank, dass Sie heute bei uns waren.

Angela Nakalembe: Natürlich.

Sam Ransbotham: Danke fürs Zuhören.

Allison Ryder: Danke fürs Zuhören Ich, ich selbst und AI. Unsere Sendung kann zum großen Teil dank der Unterstützung unserer Hörer weiterlaufen. Ihre Streams und Downloads machen einen großen Unterschied. Wenn Sie einen Moment Zeit haben, hinterlassen Sie uns bitte eine Apple Podcasts-Bewertung oder eine Bewertung auf Spotify. Und teilen Sie unsere Sendung mit anderen, von denen Sie denken, dass sie interessant und hilfreich sein könnten.