За пределами модели: почему ответственный ИИ должен учитывать влияние на рабочую силу

Пятый год подряд MIT Sloan Management Review и Boston Consulting Group (BCG) собрали международную группу экспертов в области искусственного интеллекта, в которую входят ученые и практики, чтобы помочь нам понять, насколько ответственный искусственный интеллект (RAI) внедряется в организациях по всему миру. Срок погашения RAI; сторонние, генеративные и агентные риски ИИ; основные принципы управления ИИ, включая подотчетность, объяснимость и надзор. существенные увольнения при этом ссылаясь на повышение эффективности с помощью ИИ.

Учитывая растущую обеспокоенность по поводу того, насколько сильно ИИ повлияет на рабочих, мы попросили нашу группу отреагировать на следующую провокацию: Ответственная практика ИИ должна учитывать воздействие на рабочую силу, а не только риски системы ИИ.. как технология разработана или внедрена, но ли его вообще следует использовать.

Ответственный ИИ должен быть социотехническим, а не только техническим. Наши эксперты верят, что ИИ изменит будущее сферы труда.

Как объясняет старший руководитель ИИ Дэвид Хардун: «Слишком часто ИИ ошибочно принимают за простую технологию, хотя на самом деле это гораздо более широкая экосистема, включающая людей, процессы, управление и общество в целом».

Нынешний дискурс RAI не поспевает за ним. Ренато Лейте Монтейро, вице-президент e& по вопросам конфиденциальности, защиты данных, искусственного интеллекта и интеллектуальной собственности, сожалеет, что «в разговоре доминировали проблемы системного уровня, такие как предвзятость, объяснимость и безопасность».

Влияние на рабочую силу — это основной риск ИИ для социальной и экономической стабильности. Хотя сторонники быстрого внедрения ИИ часто называют эффективность и производительность основными мотивами, наши эксперты предупреждают, что неспособность решить проблему воздействия на рабочую силу может подорвать эти цели и усугубить экономические проблемы.

Экономическое обоснование серьезного отношения к воздействию на рабочую силу, возможно, уже реализуется на практике.

В ответ на эту обеспокоенность многие эксперты подчеркивают, что переквалификация и повышение квалификации работников имеют решающее значение для смягчения потенциально негативного воздействия ИИ на рабочую силу.

Ответственность за воздействие на рабочую силу должна быть распределена. Учитывая существенные проблемы, которые ИИ создает для будущего сферы труда, Киртан Пад, научный сотрудник Института прозрачности ИИ, задается вопросом: «Кто несет ответственность за любое негативное воздействие на рабочую силу?»

Некоторые эксперты утверждают, что нельзя ожидать, что компании будут нести это бремя в одиночку, указывая при этом на роль политиков и законодателей.

Некоторые эксперты также предупреждают, что ставки бездействия потенциально высоки.

Рекомендации

Подводя итог, мы предлагаем следующие рекомендации для организаций, стремящихся уменьшить влияние на рабочую силу в рамках своих ответственных усилий в области искусственного интеллекта:

1. Расширить сферу применения методов RAI за пределы моделей. Расширьте определение ответственного ИИ, чтобы оно охватывало не только производительность модели, но и всю экосистему людей, процессов и институтов, которые определяют, как создается, развертывается и используется ИИ.

2. Включите влияние на рабочую силу в свою стратегию ИИ. Организации стремятся разработать стратегии по внедрению инструментов искусственного интеллекта и повышению квалификации персонала по их использованию.

3. Оцените воздействие на работников наряду с другими рисками на уровне продукта. Оценки продуктов должны выходить за рамки технических характеристик и учитывать влияние на рабочую силу, в том числе чрезмерную зависимость, атрофию навыков, лишение прав, «поджаривание мозгов ИИ» и интенсификацию труда.

4. Сделайте сотрудников участниками дискуссий о влиянии на рабочую силу. Организации обязаны открыто общаться с работниками, на которых может повлиять ИИ, — не из вежливости, а в качестве основной управленческой обязанности.

5. Назначьте четкую ответственность руководства за воздействие на рабочую силу. Решение проблем, связанных с воздействием на рабочую силу, нельзя рассматривать как общую ответственность, которая принадлежит всем — и, следовательно, никому.

Организации должны назначить конкретного лидера, обладающего реальными полномочиями и видимостью на уровне совета директоров, который будет отвечать за разработку и реализацию стратегии воздействия на рабочую силу.