Переосмысление управления для сверхчеловеческих сотрудников

Четвертый год подряд MIT Sloan Management Review и Boston Consulting Group (BCG) собрали международную группу экспертов в области искусственного интеллекта, в которую входят ученые и практики, чтобы помочь нам понять, насколько ответственный искусственный интеллект (RAI) внедряется в организациях по всему миру. самая последняя статья, мы исследовали взаимосвязь между объяснимостью и человеческим надзором при привлечении к ответственности систем ИИ. агентный ИИ обычно относится к системам искусственного интеллекта, которые способны достигать целей автономно, принимая решения, предпринимая действия и адаптируясь к динамичной среде без постоянного контроля со стороны человека. Индекс агентов искусственного интеллекта Массачусетского технологического институтаВ настоящее время внедрение этих систем увеличивается в таких областях, как разработка программного обеспечения и обслуживание клиентов, несмотря на ограниченную прозрачность в отношении их технических компонентов, предполагаемого использования и безопасности.

Учитывая очевидный пробел в управлении, мы попросили нашу комиссию отреагировать на следующую провокацию: Привлечение агентного ИИ к ответственности за свои решения и действия требует новых подходов к управлению..

Ниже мы делимся мнениями наших участников дискуссии и опираемся на наш собственный опыт RAI, чтобы рекомендовать, как организации могут внедрить новые подходы к управлению или переосмыслить существующие, чтобы улучшить подотчетность и надзор за агентными системами ИИ и все более гибридной рабочей силой человека и ИИ.

Агентские системы искусственного интеллекта бросают вызов традиционным моделям управления. Большинство наших экспертов считают, что агентный ИИ требует новых подходов к управлению из-за его более высокой автономности и сложности по сравнению с более ранними технологиями.

Наши эксперты также указывают на сверхчеловеческую скорость и масштабы агентного ИИ как на особенно разрушительные.

Чилидзи Марвала из Университета Организации Объединенных Наций соглашается, что «из-за автономного принятия решений, адаптивного обучения и высокоскоростных операций с агентным ИИ трудно справиться традиционным моделям управления, которые были созданы для человеческой деятельности».

Учитывая эти проблемы, некоторые участники дискуссии призывают к постоянному итеративному надзору.

Агентический ИИ требует от нас переосмысления отношений между людьми и машинами. Помимо технического надзора, управление агентным ИИ также требует ясности в отношениях между людьми и агентами ИИ.

Наши эксперты также подчеркивают, что каждому необходимо переосмыслить ответственность, поскольку агенты ИИ не являются людьми, а это означает, что мы пока не можем привлекать их к ответственности таким же образом.

В конечном счете, речь идет о привлечении к ответственности людей, а не ИИ. Не все согласны с тем, что агентный ИИ требует новых моделей управления.

Другие также считают неуместными призывы к созданию новых моделей управления.

Рекомендации

В целом, мы предлагаем следующие рекомендации для организаций, стремящихся улучшить подотчетность по сравнению с агентными системами ИИ:

1. Принять подходы к управлению на основе жизненного цикла. Агентический ИИ — быстрый, сложный и динамичный процесс.

2. Интегрировать человеческую подотчетность в структуры управления ИИ. Разрабатывайте структуры управления, позволяющие четко назначать конкретные роли и обязанности как для человека-менеджера, так и для агентной системы ИИ на каждом этапе жизненного цикла ИИ.

3. Обеспечьте возможность принятия решений на основе ИИ в определенных обстоятельствах. Хотя человеческий контроль необходим, возможности агентного ИИ расширяют его пределы.

4. Подготовьтесь к агентному ИИ, который создаёт другие системы ИИ. Неспособность учитывать системы ИИ, разработанные или модифицированные автономно другими системами ИИ, может привести к значительному ухудшению видимости в организации.

5. Когда дело доходит до агентного ИИ, сделайте неявное явным. Поскольку системы агентного ИИ требуют четко определенных правил и пороговых значений, организациям следует уточнить роль и сферу применения агентного ИИ в своих структурах управления.