Защита, происхождение и подсказки: Анджела Накалембе с YouTube

Инженер-химик по образованию, Анджела Накалембе работала в сфере научного и управленческого консалтинга, прежде чем попасть на YouTube в качестве менеджера инженерной программы компании по вопросам доверия и безопасности.

На YouTube, объясняет Анджела, искусственный интеллект стал первой линией защиты от вредоносного контента.

Подписаться на Я, я и искусственный интеллект на Apple Podcasts или Spotify.

Транскрипт

Элисон Райдер: Что вдохновило инженера-химика работать в сфере управления программами доверия и безопасности?

Анжела Накалембе: Я Анжела Накалембе с YouTube, и вы слушаете Я, я и искусственный интеллект.

Сэм Рэнсботэм: Добро пожаловать в Я, я и искусственный интеллектподкаст от MIT Sloan Management Review исследуя будущее искусственного интеллекта. Я Сэм Рэнсботэм, профессор аналитики в Бостонском колледже. Я занимаюсь исследованием данных, аналитики и искусственного интеллекта в MIT SMR с 2014 года, публикуя научные статьи, ежегодные отраслевые отчеты, тематические исследования, а теперь и 12 сезонов подкастов. В каждом эпизоде руководители компаний, передовые исследователи и политики в области ИИ присоединяются к нам, чтобы разобраться, что отличает шумиху вокруг ИИ от успеха ИИ.

Привет, слушатели.

Анжела Накалембе: Спасибо, что пригласил меня, Сэм.

Сэм Рэнсботэм: Обычно мы начинаем с некоторой предыстории, но трудно представить слушателя, который не знает о YouTube.

Анжела Накалембе: YouTube — это онлайн-платформа для обмена видео, созданная около 20 лет назад как интернет-сообщество, где люди могли делиться видео на любую интересующую их тему. Вскоре [после этого] ее приобрела Google (Alphabet).

Что я конкретно делаю на YouTube, так это то, что я работаю за кулисами в отделе доверия и безопасности YouTube, где, как менеджер инженерных программ, я отвечаю за контроль над запуском множества инструментов и функций (многие из них сейчас используют искусственный интеллект), которые помогают защитить платформу от таких вещей, как разжигание ненависти, дезинформация, графический контент и тому подобное.

Сэм Рэнсботэм: Ты облажался.

Анжела Накалембе: Один из способов использования ИИ — это, по сути, ускорение наших усилий по модерации контента и сделать его намного быстрее, но и намного более гуманным.

Но теперь, благодаря искусственному интеллекту и машинному обучению, мы можем по-настоящему изменить ситуацию, развить роль рецензентов и заставить их работать рука об руку, не только в одиночку, но и рука об руку с этими инструментами искусственного интеллекта.

Таким образом, хотя люди-рецензенты по-прежнему необходимы в качестве шага для проверки того, что делают эти модели ИИ, им больше не придется нести бремя и это бремя в одиночку.

Мы также получаем много положительных отзывов от наших пользователей и авторов, которые отмечают, что время обработки многих проблем или случаев, о которых они сообщили, значительно сократилось.

Сэм Рэнсботэм: У нас был друг семьи, полицейский, и он работал в тех частях полиции, которые занимались вещами, которые вы не хотели видеть.

[Теперь, когда] вы упомянули об этом здесь, это как бы заставляет вас осознать, что идея о том, что вы в каком-то смысле заменяете людей-работников, и это место, где мы действительно не хотим, чтобы люди что-то делали.

Анжела Накалембе: В этих людях-модераторах по-прежнему существует невероятная потребность, верно?

Сэм Рэнсботэм: В то же время мы говорили о времени, потраченном на курирование контента, и о том, что количество представленных материалов не уменьшается.

Анжела Накалембе: Это действительно хороший момент.

Это серьезная проблема, с которой мы боролись, не только с YouTube, но и в целом с развитием искусственного интеллекта.

Мы потратили на YouTube много времени на размышления о том, как мы можем предотвратить распространение дезинформации и сделать так, чтобы люди были лучше осведомлены о методах создания контента, который они потребляют.

По сути, это открытый технический стандарт, позволяющий издателям, создателям и потребителям устанавливать происхождение любого контента, который они просматривают.

Это один из способов смягчения последствий.

Но перенесемся через восемь месяцев вперед: Сэм, есть несколько видеороликов, которые я смотрю, и на первый взгляд, на второй взгляд я не могу сказать, что [они были] созданы искусственным интеллектом.

Сэм Рэнсботэм: Я рад, что вы упомянули происхождение, потому что я думаю, что в целом, не только [с] видео, происхождение имеет большое значение для любых типов данных, с которыми мы работаем.

В каком-то смысле, [при] такой рыночной власти, которой обладает YouTube, большая часть ответственности ложится на вас, и то, что вы делаете, в конечном итоге становится в какой-то степени стандартом де-факто на рынке, и, вы знаете, не для того, чтобы оказывать на вас большее давление, но.

Анжела Накалембе: Ничего не взято.

Сэм Рэнсботэм: То, что вы делаете, там очень важно.

Анжела Накалембе: Да.

Сэм Рэнсботэм: Расскажите нам немного о том, как вы оказались на YouTube.

Анжела Накалембе: По моему опыту, как вы упомянули, мы оба специализируемся в области химического машиностроения, и у меня была страсть к химии.

Именно здесь я переключился с инженерного дела на управленческое консультирование.

В конце концов я узнал, что мне нравится работать в сфере технологий, потому что она всегда развивается с точки зрения отрасли, как и потребительские технологии, которые всегда развиваются.

Это очень полезно и очень приятно, когда вы можете легко это определить.

Итак, я попал на YouTube, как бы вошел в доверие и безопасность после того, как прыгал в разных местах, и действительно просто влюбился.

Это действительно полезная работа.

Сэм Рэнсботэм: Когда вы говорите о технике, я увидел некоторые параллели.

Анжела Накалембе: Ага.

Сэм Рэнсботэм: Это то, чем постоянно расстраиваются инженеры всего мира, ведь то, что они делают свою работу, означает, что о ней никто не знает.

Анжела Накалембе: Мне пришлось приучить себя думать об этом как о знаке того, что мы делаем хорошую работу, и говорить: "Знаете что? Если никто о нас не говорит, это означает, что мы делаем именно то, что нам нужно, и нам следует похлопать себя по спине".

Сэм Рэнсботэм: Отличие традиционного машиностроения заключается в том, что оно, как гражданское и химическое строительство, имеет устоявшиеся принципы.

Анжела Накалембе: Да, 100%.

На выходных я поигрался и создал приложение с помощью одного из инструментов Google DeepMind Lab.

Как и сама моя история, я начинал с химического машиностроения, а теперь [я] в безопасности и доверии.

Сэм Рэнсботэм: У вас есть несколько возвышенных идей, но мне придется вернуться и подтолкнуть вас.

Анжела Накалембе: Конечно.

Сэм Рэнсботэм: Что это было за приложение?

Анжела Накалембе: Я пытался понять, что я хочу делать дальше со своими волосами.

Сэм Рэнсботэм: Вы хорошо отреагировали на то, что я поставил вас в тупик.

Анжела Накалембе: Здесь я мог бы отойти от темы.

Сэм Рэнсботэм: Если это мой класс, он делает домашнее задание.

Анжела Накалембе: Знаешь что?

В 2024 году вариантом использования № 1 было генерирование идей.

Если вы посмотрите на эти три основные вещи… Ранее я упоминал, что наши сообщества все больше переходят в онлайн.

Может показаться, что это так, но на самом деле это не так.

Возвращаясь к концепции когнитивной безопасности, при разработке инструментов ИИ для нас крайне важно убедиться, что ИИ остается полезным и ориентированным на человека, но мы не хотим, чтобы он притворялся человеком.

Сэм Рэнсботэм: То есть — чтобы вернуться к тому, с чего вы начали это, — узнать больше о технологии и узнать, как она работает, а также узнать, для чего она хороша, а для чего плоха, очень связано с пониманием того, что на самом деле это машина, а не реальный человек для отношений.

У нас есть сегмент, в котором я задаю вам несколько быстрых вопросов.

Анжела Накалембе: ХОРОШО.

Сэм Рэнсботэм: Что благодаря искусственному интеллекту движется быстрее или медленнее, чем вы ожидали?

Анжела Накалембе: Это было преобразование текста в видео, текст в изображение и его точность.

Сэм Рэнсботэм: Что бы вы хотели, чтобы ИИ мог делать лучше?

Анжела Накалембе: Иногда я чувствую, что мне придется приложить много усилий для разработки подсказок, и я думаю, что на самом деле это всего лишь вопрос времени, когда мы доберемся до цели, [когда] мне не нужно будет быть столь подробным или конкретным в своих подсказках.

Сэм Рэнсботэм: Что вас расстраивает в искусственном интеллекте?

Анжела Накалембе: Что меня расстраивает?

Сэм Рэнсботэм: Какой способ использования ИИ вам больше всего нравится?

Анжела Накалембе: Приложение было интересным способом.

Я думаю, что планирование жизни в целом — это фантастическое применение.

А затем, с точки зрения работы, возможно, это похоже на попытку приступить к новым усилиям и по-настоящему попытаться понять, что именно мы пытаемся сделать.

Это был действительно хороший способ усвоить информацию за короткий промежуток времени и вникнуть во все происходящее, действительно здорово.

Сэм Рэнсботэм: Это здорово, на самом деле.

Анжела Накалембе: Ага.

Сэм Рэнсботэм: Большое спасибо, что присоединились к нам сегодня.

Анжела Накалембе: Конечно.

Сэм Рэнсботэм: Спасибо, что выслушали.

Элисон Райдер: Спасибо, что послушали Я, я и искусственный интеллект. Наше шоу может продолжаться, в значительной степени, благодаря поддержке слушателей. Ваши потоки и загрузки имеют большое значение. Если у вас есть минутка, пожалуйста, оставьте нам отзыв в Apple Podcasts или оценку на Spotify. И поделитесь нашим шоу с теми, кто, по вашему мнению, может найти его интересным и полезным.