Отраслевой эталон честности данных: Элис Сян из Sony

В сегодняшнем выпуске Я, я и искусственный интеллектВедущий Сэм Рэнсботам беседует с Элис Сян, главой глобального управления ИИ в Sony и ведущим научным сотрудником по этике ИИ в Sony AI, о том, что на самом деле необходимо для масштабного внедрения ответственного искусственного интеллекта на практике.

Подписаться на Я, я и искусственный интеллект на Apple Podcasts или Spotify.

Транскрипт

Элисон Райдер: Почему одна крупная компания решила создать бесплатный и общедоступный инструмент обеспечения справедливости данных?

Элис Сян: Я Элис Сян из Sony, и вы слушаете Я, я и искусственный интеллект.

Сэм Рэнсботэм: Добро пожаловать в Я, я и искусственный интеллектподкаст от MIT Sloan Management Review исследуя будущее искусственного интеллекта. Я Сэм Рэнсботэм, профессор аналитики в Бостонском колледже. Я занимаюсь исследованием данных, аналитики и искусственного интеллекта в MIT SMR с 2014 года, с исследовательскими статьями, ежегодными отраслевыми отчетами, тематическими исследованиями, а теперь и 13 сезонами эпизодов подкастов.

Привет, слушатели.

Элис Сян: Огромное спасибо, что вы у меня есть.

Сэм Рэнсботэм: Начнем с того, что, я думаю, мы впервые поговорили несколько лет назад, когда вы были на Партнерстве по искусственному интеллекту.

Элис Сян: Конечно.

У меня есть две шляпы в Sony.

Теперь мы подошли к тому, чтобы задуматься не только об этике ИИ, но и об управлении ИИ.

Это одна из задач, которую я выполняю: разработка политики, установление руководящих указаний и так далее и тому подобное. Природа нашего теста честного ориентированного на человека имиджа, также известного как FHIBE.

Сэм Рэнсботэм: Я был очень взволнован, когда увидел работу FHIBE.

Элис Сян: Это так интересно, потому что, когда я впервые попал в этику ИИ, связанную с компьютерным зрением, я как бы предполагал, что большая часть моей роли будет заключаться в том, чтобы помогать людям в том, как именно проводить оценки справедливости.

Так что было довольно легко сказать, что для этого потребуется, но когда вы действительно посмотрели на различные доступные наборы данных, оказалось, что стандарты в этой области были довольно низкими.

Несмотря на то, что эта область развивается уже много лет, и технология становится все лучше и лучше, базовый уровень использования наборов данных из проблемных источников не обязательно сильно изменился.

Сэм Рэнсботэм: Я думаю, что с этим всегда так.

Начнем с измерения предвзятости.

Элис Сян: [Это] отличный вопрос.

Это все разные области, где, если технология вам не подходит, это, как минимум, неудобство.

Сэм Рэнсботэм: Мне нравится твоя гамма возможных плохих вещей. Звездобрюхие снитчи от доктора Сьюза.

Так помоги мне с моим классным упражнением.

Элис Сян: Например, с точки зрения того, как FHIBE может помочь в этой ситуации, есть два основных компонента FHIBE.

Демографические данные, о которых сообщали сами участники, были действительно ключевыми.

На вашем примере мы хотим узнать, у каких существ есть звезды на животе, а у каких нет, чтобы мы могли увидеть, как к ним относятся по-разному.

Сэм Рэнсботэм: Мне это нравится, потому что кажется, что вы указываете на несколько разных вещей.

Но вы указываете на одну вещь: разработчики моделей действительно могут внести здесь некоторые технические улучшения.

Элис Сян: Да, мы видели много отличных результатов, даже за первые пару недель после выпуска FHIBE.

[Есть] также возможности попытаться подумать о функции потерь модели, для чего она оптимизируется, как научить ее немного больше оптимизировать для разных групп и, таким образом, обеспечить более сбалансированную производительность.

Сэм Рэнсботэм: Мне это очень нравится, потому что я думаю, что большинству людей в мире понравилось бы, если бы вы вышли и сказали: "Хорошо, вот волшебный ответ, который поможет решить проблему предвзятости и справедливости. Просто используйте этот критерий".

На самом деле, это заставляет меня задуматься над фразой. нигилизм данных.

Элис Сян: Когда мы впервые запустили FHIBE, это было похоже на проблему этики ИИ.

Однако в настоящее время, я думаю, это значительно выросло, особенно с учетом всей [генеративной] революции искусственного интеллекта.

Вот что я имею в виду под нигилизмом данных, своего рода ощущением той дихотомии, в которой мы попали в ловушку, когда мы действительно не можем иметь технологии, а также иметь какой-либо контроль над нашими данными.

Сэм Рэнсботэм: Я понимаю всю эту идею: "Это где-то там. Мои изображения там. Все равно все там".

Элис Сян: FHIBE также используется в Sony.

Сэм Рэнсботэм: Последний пункт очень важен, потому что если вы дадите кому-то анкету, [спрашивающую]: «Хочешь ли ты поступать правильно?» Зиад Обермайер.

Вы упомянули, что FHIBE в основном [сосредотачивается] на информации об изображениях.

Элис Сян: Мы сосредоточили внимание FHIBE на распознавании изображений, поскольку это одна из наиболее чувствительных областей.

Но я считаю, что FHIBE как бы взял за собой немного больше расширенного набора многих этических проблем, которые могут возникнуть, и, как и в большинстве других модальностей, вы увидите немного больше их подмножества.

Сэм Рэнсботэм: Мне нравится, что.

Элис Сян: Это отличный пример того, насколько важно разнообразие в этих наборах оценочных данных.

Это, безусловно, также очень богатая область исследований, и мы надеемся, что FHIBE также поможет вдохновить на это, потому что я думаю, что реальность сбора этических данных такова, что большая часть этого — довольно сложная, сложная работа, требующая такого уровня операционализации и размышлений о реальных проблемах, от которых исследователи часто уклоняются.

Тем не менее, когда мы говорим об ответственном ИИ, как вы упомянули, действительно трудно добиться прогресса в этих областях, если мы на самом деле не думаем о реальном вопросе: «Как вы собираете данные от разных людей?»

Сэм Рэнсботэм: Вообще-то, несколько недель назад у нас был гость из Венди.

Я хочу немного переключиться и поговорить о том, как вы туда попали.

Элис Сян: У меня такое ощущение, что это какой-то извилистый путь.

Данные были смещены в сторону определенных географических регионов.

Но это по-настоящему заинтересовало меня этой областью и тем, как мы думаем об этике и справедливости в контексте этих новых технологий, которые мы изучаем на огромных объемах данных.

Если вы посмотрите литературу по алгоритмической справедливости, то увидите, что большое внимание уделяется метрикам и тому, как измерить предвзятость и как ее смягчить, потому что это действительно забавные технические проблемы.

Когда я перешел в Sony, я подумал, что это действительно прекрасная возможность не просто сообщить об этой проблеме и попытаться повлиять на нее на политическом уровне, но вместо этого найти решение этой проблемы.

Сэм Рэнсботэм: Мне нравится, что вы раскрываете уловку-22, потому что я думаю, что это то, что мы не всегда ценим: нам приходится собирать кучу, казалось бы, агрессивной информации, чтобы оценить, принимаем ли мы решения на основе, казалось бы, агрессивной информации.

Одна из вещей, которые мы здесь делаем, — это небольшой отрывок, в котором мне нравится задавать быстрые вопросы.

Элис Сян: Это хороший вопрос.

Сэм Рэнсботэм: Должен сказать, что я ни капельки не удивлён вашим ответом о том, что [что движется] медленнее, учитывая ваш опыт.

Элис Сян: Контексты, в которых недостаточно человеческого опыта или контроля, но принимаются очень важные решения.

Сэм Рэнсботэм: Как вы лично используете эти инструменты?

Элис Сян: Не так много, как, возможно, вы ожидаете.

Сэм Рэнсботэм: Я думаю, что это считается обычным вариантом использования.

Элис Сян: С точки зрения времени, вероятно, наиболее распространенным является то, что я пытаюсь проверить их и посмотреть, где у них могут быть режимы сбоя, но я также использую это в своей повседневной жизни, например, для проверки здоровья моих растений.

Сэм Рэнсботэм: Один из вопросов, который мы задавали людям, звучал так: «Какую первую карьеру вы хотели бы сделать?»

Элис Сян: Когда я был маленьким, я хотел стать художником.

Сэм Рэнсботэм: Я этого не ожидал.

Элис Сян: Огромное спасибо, что вы у меня есть.

Сэм Рэнсботэм: Спасибо, что выслушали сегодня.

Элисон Райдер: Спасибо, что послушали Я, я и искусственный интеллект. Наше шоу может продолжаться, в значительной степени, благодаря поддержке слушателей. Ваши потоки и загрузки имеют большое значение. Если у вас есть минутка, пожалуйста, оставьте нам отзыв в Apple Podcasts или оценку на Spotify. И поделитесь нашим шоу с теми, кто, по вашему мнению, может найти его интересным и полезным.

Я, Я И ИИ^® является зарегистрированной на федеральном уровне торговой маркой Массачусетского технологического института.