保護、来歴、プロンプト: YouTube のアンジェラ・ナカレンベ

訓練を受けた化学エンジニアであるアンジェラ ナカレンベは、信頼と安全のための同社のエンジニアリング プログラム マネージャーとして YouTube に入社する前は、科学と経営コンサルティングの分野で働いていました。

YouTube では、AI が有害なコンテンツに対する防御の第一線になっているとアンジェラ氏は説明します。

登録する 私、私自身、そしてAI オン アップル・ポッドキャスト または スポティファイ.

トランスクリプト

アリソン・ライダー 化学エンジニアが信頼と安全のためのプログラム管理に携わるようになったきっかけは何ですか?

アンジェラ・ナカレンベ： 私は YouTube のアンジェラ ナカレンベです。今聞いています。 私、私自身、そしてAI.

サム・ランズボサム ようこそ 私、私自身、そしてAIからのポッドキャスト MITスローン・マネジメント・レビュー 人工知能の未来を探るボストン・カレッジでアナリティクスを教えるサム・ランスボッサムです。でデータ、アナリティクス、AIを研究しています。 MIT SMR 2014年以来、研究記事、年次業界レポート、ケーススタディ、そして現在は12シーズンのポッドキャストエピソードをお届けしています。各エピソードでは、企業リーダー、最先端の研究者、AI政策立案者が参加し、AIの誇大広告とAIの成功を分けるものは何かを説いています。

やあ、リスナーの皆さん。

アンジェラ・ナカレンベ： 迎えてくれてありがとう、サム。

サム・ランズボサム 通常、私たちはある程度の背景知識から始めますが、YouTube について知らないリスナーを想像するのは非常に困難です。

アンジェラ・ナカレンベ： YouTube はオンライン ビデオ共有プラットフォームで、人々が興味のあるトピックに関するビデオを共有するためのオンライン コミュニティとして約 20 年前に始まりました。その後すぐに Google (Alphabet) に買収されました。

YouTube で具体的に何をしているかというと、YouTube の信頼性と安全性部門の舞台裏で働いています。エンジニアリング プログラム マネージャーとして、ヘイト スピーチ、誤った情報、グラフィック コンテンツなどからプラットフォームを安全に保つために、多くのツールや機能のリリース (その多くは現在 AI を使用しています) を監督する責任を負っています。

サム・ランズボサム あなたはそれを大事にしました。

アンジェラ・ナカレンベ： 私たちが AI を使用している方法の 1 つは、基本的にコンテンツ モデレーションの取り組みを強化し、作業を大幅に高速化するだけでなく、より人道的なものにすることです。

しかし、AI と機械学習のおかげで、この状況を大きく変えることができ、レビュー担当者の役割を進化させ、レビュー担当者が単独で作業するだけでなく、これらの AI ツールと連携して作業できるようになりました。

したがって、これらの AI モデルが何を行っているかを検証するステップとして人間のレビュー担当者は依然として必要ですが、もはや人間のレビュー担当者が一人でその重みや負担を背負う必要はありません。

また、ユーザーや作成者からは、報告された多くの問題やケースの処理時間が大幅に短縮されたことに気付いたという肯定的なフィードバックも数多く受け取っています。

サム・ランズボサム 私たちには警察官の家族友人がいて、彼は警察の中で見たくないものに対処する部門で働いていました。

あなたがここで言及したことで、ある意味、あなたが人間の労働者に取って代わるというこの考えは、ある意味腑に落ちます。それは私たちが人間に何かをしてほしくない分野です。

アンジェラ・ナカレンベ： こうした人間のモデレーターに対するニーズは依然として非常に多いですよね?

サム・ランズボサム 同時に、コンテンツのキュレーションに時間がかかっているのに、投稿数が減っていないことについても話しました。

アンジェラ・ナカレンベ： それは本当に良い点です。

これは、AI の台頭により、YouTube だけでなく一般的に私たちが苦労している大きな問題です。

私たちは YouTube で、どうすれば誤った情報の拡散を防ぎ、消費しているコンテンツの作成方法を人々にもっと認識してもらうにはどうすればよいかを考えることに多くの時間を費やしてきました。

これは基本的に、パブリッシャー、クリエイター、および消費者が観察しているあらゆるコンテンツの出所を確立するためのオープンな技術標準です。

それが私たちがそれを軽減する方法の 1 つです。

しかし、8 か月後、早送りしてみましょう。サム、私が見ているビデオの中には、一見しただけでも、2 回見ただけでも、AI が生成したものだとは分からないものがいくつかありました。

サム・ランズボサム ただし、出所について言及していただいたことはうれしいです。ビデオに限らず、一般的に、私たちが扱うあらゆる種類のデータにとって出所は重要だと思うからです。

ある意味、YouTube のような市場支配力があると、多くの責任があなたに課せられ、あなたがやっていることが最終的にはある程度市場の事実上の標準になり、それ以上のプレッシャーはかけられませんが、しかし。

アンジェラ・ナカレンベ： 何も取られていません。

サム・ランズボサム そこでやっていることは非常に重要です。

アンジェラ・ナカレンベ： はい。

サム・ランズボサム YouTube に入社した経緯について少し教えてください。

アンジェラ・ナカレンベ： 私の経歴は、あなたがおっしゃったように、私たちは二人とも化学工学を専攻しており、化学に情熱を持っていました。

そこで私はエンジニアリングから経営コンサルティングへ転身しました。

結局、消費者向けテクノロジーと同様に、テクノロジー業界も常に進化しているため、テクノロジー業界で働くのが楽しいと学びました。

それを簡単に特定できるのは非常にやりがいがあり、とても良いことです。

それで私は YouTube にたどり着き、さまざまな場所を飛び回った後、信頼と安全に落ち、そして本当に恋に落ちました。

本当に充実した仕事です。

サム・ランズボサム あなたがエンジニアリングについて話しているとき、私はいくつかの類似点に気づきました。

アンジェラ・ナカレンベ： はい。

サム・ランズボサム これは、世界中のエンジニアが常に不満を感じていることです。彼らが自分の仕事をしているということは、誰もそのことを知らないことを意味します。

アンジェラ・ナカレンベ： 私はそれを自分たちが良い仕事をしている証拠だと考えて、「ほら、誰も私たちのことを話していないということは、私たちがやるべきことを正確にやっているということだから、自分の背中をたたいてやるべきだ」と思えるように自分を訓練しなければなりませんでした。

サム・ランズボサム 伝統的なエンジニアリングが異なる点は、伝統的なエンジニアリングには、土木工学や化学工学と同様に確立された原則があることです。

アンジェラ・ナカレンベ： はい、100%です。

私は週末に Google DeepMind Lab のツールの 1 つを使ってアプリを作成しました。

私の物語自体と同様に、私は化学工学からスタートしましたが、今では信頼と安全に取り組んでいます。

サム・ランズボサム あなたは素晴らしいアイデアを持っていますが、私は戻ってあなたを後押ししなければなりません。

アンジェラ・ナカレンベ： もちろん。

サム・ランズボサム アプリとは何でしたか？

アンジェラ・ナカレンベ： 次に自分の髪をどうしたいか考えていました。

サム・ランズボサム その場で丁寧に対応していただきました。

アンジェラ・ナカレンベ： ここで少し脱線するかもしれません。

サム・ランズボサム 私のクラスなら宿題をしています。

アンジェラ・ナカレンベ： あのね？

2024 年、No.1 のユースケースはアイデアの生成でした。

これらのトップ 3 を見てみると…私たちのコミュニティがますますオンライン化していることを先ほど述べました。

そう見えるかもしれませんが、実はそうではありません。

コグニティブ セキュリティの概念に戻ると、AI ツールを使用して構築するときに、AI が有用で人間中心であることを確認することが非常に重要ですが、AI が人間のふりをすることは望ましくありません。

サム・ランズボサム それは、あなたがこれを始めた言葉に結びつけると、テクノロジーについてもっと学び、それがどのように機能するかを学び、それが何に良いのか、何に良くないのかを学ぶことと、それが実際には機械であり、人間関係において実際の人間ではないことを理解することと非常に関係しています。

私たちが行っていることの 1 つは、私がいくつかの矢継ぎ早の質問をするコーナーがあることです。

アンジェラ・ナカレンベ： わかりました。

サム・ランズボサム 人工知能の動きは予想より速く、あるいは遅くなりましたか?

アンジェラ・ナカレンベ： それはテキストからビデオ、テキストから画像、そしてその正確さでした。

サム・ランズボサム AI にもっと良くなってほしいと思いますか?

アンジェラ・ナカレンベ： 時々、プロンプトエンジニアリングに多くの努力をしなければならないと感じることがありますが、そこに到達するのは本当に時間の問題だと思います。プロンプトについてこれほど詳細に、または具体的にする必要はないでしょう。

サム・ランズボサム 人工知能に関してイライラすることは何ですか?

アンジェラ・ナカレンベ： 何が私をイライラさせるのでしょうか？

サム・ランズボサム AI を使用する最良の方法は何ですか?

アンジェラ・ナカレンベ： アプリは楽しい方法でした。

人生設計全般において、それは素晴らしい使い方だと思います。

そして、仕事の観点から見ると、新しい取り組みに着手し、自分たちが何をしようとしているのかを真剣に理解しようとしているようなものかもしれません。

これは、短時間で情報を摂取し、物事を迅速に把握するための非常に優れた方法です。

サム・ランズボサム それは本当に素晴らしいことです。

アンジェラ・ナカレンベ： うん。

サム・ランズボサム 本日はご参加いただき誠にありがとうございます。

アンジェラ・ナカレンベ： もちろん。

サム・ランズボサム ご清聴ありがとうございました。

アリソン・ライダー ご清聴ありがとう 私、私自身、そしてAI.私たちの番組が続けられているのは、リスナーのサポートによるところが大きい。皆さんのストリームやダウンロードは大きな違いを生み出します。お時間がありましたら、Apple PodcastsのレビューやSpotifyの評価をお寄せください。また、この番組が興味深く、役に立つと思われる他の方にもシェアしてください。