За гранью проверки: чего на самом деле требует ответственный ИИ от экспертов-людей

Пятый год подряд MIT Sloan Management Review и Boston Consulting Group (BCG) собрали международную группу экспертов в области искусственного интеллекта, в которую входят ученые и практики, чтобы помочь нам понять, насколько ответственный искусственный интеллект внедряется в организациях по всему миру.

На этот раз мы попросили нашу комиссию отреагировать на следующую провокацию: Ответственные усилия в области ИИ потерпят неудачу, если они не будут воспитывать экспертов-людей, которые смогут проверять решения ИИ.. проверка гораздо более масштабно, чем предполагает провокация.

Люди обеспечивают контекст для проверки результатов ИИ. Основатель ForHumanity Райан Кэрриер поддержал консенсус о том, что ответственные усилия в области ИИ должны развивать человеческий опыт для проверки результатов ИИ, потому что, по его словам, «контекст имеет значение».

Для некоторых контекст непреодолимо человечен и не может быть зафиксирован только в машиночитаемой форме.

Если машины не могут полностью уловить контекст, практические последствия будут значительными.

Потеря человеческого опыта представляет собой реальную угрозу для организаций. Проблема заключается не только в том, что системы искусственного интеллекта потерпят неудачу без человеческого опыта для проверки результатов, но и в том, что организации могут со временем потерять человеческий экспертный потенциал.

С этой точки зрения ставки бизнеса в основе своей являются человеческими.

Сама по себе человеческая проверка не масштабируется. Несмотря на широкую поддержку важности развития человеческого опыта, многие эксперты выражают обеспокоенность по поводу масштабов и объема человеческой проверки.

Решение, по мнению этих экспертов, состоит не в том, чтобы отказаться от человеческого суждения, а в том, чтобы использовать его более стратегически.

Надзор и подотчетность остаются первостепенными. Наши эксперты полагают, что контроль и подотчетность не только полагаются на сочетание человеческой и машинной проверки, но и имеют первостепенное значение для любой ответственной стратегии искусственного интеллекта.

Многие эксперты утверждают, что проверка результатов ИИ человеком важна не как конечная цель, а как основная часть значимого надзора и подотчетности за системами ИИ.

Рекомендации

Если ограничивающим фактором является способность принимать обоснованные суждения, а не просто проверять результаты ИИ, то организациям необходимо сознательно инвестировать в это суждение.

1. Проверяйте проекты, а не только результаты. Узкий взгляд на человеческую проверку, учитывающий только выходные данные системы, недостаточен.

2. Не полагайтесь только на человеческую проверку. Поскольку человеческая проверка каждого результата ИИ не масштабируется, организациям, приверженным ответственному надзору, следует инвестировать в различные подходы, использующие автоматизированные инструменты для расширения или расширения человеческого суждения.

3. Инвестируйте в человеческий опыт. Организациям следует инвестировать в человеческий опыт для проверки результатов работы систем искусственного интеллекта и обеспечения постоянного контроля за тем, как системы спроектированы и работают ли они должным образом.

4. Проверяйте то, что изучается, а не только то, что создается. Организации, как правило, сосредотачивают внимание на проверке правильности результатов работы системы ИИ, но им также необходимо тщательно изучить уроки, которые они извлекают из развертывания и результатов ИИ.

5. Относитесь к проверке как к стратегическому императиву, а не просто к ответственности. По данным глобального опроса руководителей, проведенного в 2025 году MIT Sloan Management Review и BCG, 86% топ-менеджеров считают ИИ важной частью своих стратегических приоритетов.