초인적인 인력을 위한 관리의 재정의

4년 연속, MIT 슬론 경영 리뷰 보스턴 컨설팅 그룹(BCG)은 전 세계 조직에서 책임 있는 인공 지능(RAI)이 어떻게 구현되고 있는지 이해하는 데 도움을 주기 위해 학계와 실무자가 포함된 AI 전문가로 구성된 국제 패널을 구성했습니다. 가장 최근 기사, 우리는 AI 시스템에 책임을 묻는 설명 가능성과 인간 감독 사이의 관계를 탐구했습니다. 에이전트 AI 일반적으로 인간의 지속적인 감독 없이 결정을 내리고, 조치를 취하고, 역동적인 환경에 적응함으로써 자율적으로 목표를 추구할 수 있는 AI 시스템을 말합니다. MIT의 AI 에이전트 인덱스기술 구성 요소, 용도 및 안전성에 대한 투명성이 제한되어 있음에도 불구하고 이러한 시스템의 배포는 소프트웨어 엔지니어링 및 고객 서비스와 같은 분야에서 증가하고 있습니다.

명백한 거버넌스 격차를 고려하여 우리는 패널에게 다음과 같은 도발에 대응하도록 요청했습니다. 에이전트 AI가 자신의 결정과 행동에 책임을 지도록 하려면 새로운 관리 접근 방식이 필요합니다..

아래에서는 패널리스트의 통찰력을 공유하고 자체 RAI 경험을 바탕으로 조직이 새로운 관리 접근 방식을 도입하거나 기존 접근 방식을 재구상하여 에이전트 AI 시스템과 점차 증가하는 하이브리드 인간-AI ​​인력에 대한 책임과 감독을 개선할 수 있는 방법을 권장합니다.

Agentic AI 시스템은 기존 관리 모델에 도전합니다. 우리 전문가 대다수는 에이전트 AI가 이전 기술에 비해 더 높은 자율성과 복잡성으로 인해 새로운 관리 접근 방식이 필요하다고 믿습니다.

우리 전문가들은 또한 에이전트 AI의 초인적인 속도와 규모가 특히 파괴적이라고 지적합니다.

UN 대학의 Tshilidzi Marwala는 "자율적인 의사 결정, 적응형 학습 및 고속 운영으로 인해 에이전트 AI는 인간 기관을 위해 만들어진 전통적인 관리 모델로는 처리하기 어렵다"는 데 동의합니다.

이러한 과제를 고려할 때 몇몇 패널리스트는 지속적이고 반복적인 감독을 요구합니다.

Agentic AI는 인간과 기계 사이의 관계를 다시 생각해 볼 것을 요구합니다. 기술적 감독 외에도 에이전트 AI를 관리하려면 인간과 AI 에이전트 간의 관계에 대한 명확성이 필요합니다.

우리 전문가들은 또한 AI 에이전트는 사람이 아니기 때문에 모든 사람이 책임을 다시 생각해야 한다고 강조합니다. 즉, 아직은 AI 에이전트에게 동일한 방식으로 책임을 물을 수 없다는 의미입니다.

궁극적으로 AI가 아닌 사람에게 책임을 묻는 것입니다. 에이전트 AI가 새로운 관리 모델을 요구한다는 데 모든 사람이 동의하는 것은 아닙니다.

다른 사람들은 새로운 관리 모델에 대한 요구가 잘못되었다고 생각합니다.

권장 사항

요약하자면, 우리는 에이전트 AI 시스템에 대한 책임성을 향상시키려는 조직에 다음 권장 사항을 제공합니다.

1. 수명주기 기반 관리 접근 방식을 채택합니다. Agentic AI는 빠르고 복잡하며 역동적입니다.

2. 인간의 책임을 AI 거버넌스 구조에 통합합니다. AI 수명주기의 모든 단계에서 인간 관리자와 에이전트 AI 시스템 모두에 대한 특정 역할과 책임을 명시적으로 할당하는 관리 프레임워크를 설계합니다.

3. 정의된 상황에서 AI 주도 의사결정을 가능하게 합니다. 인간의 감독이 필수적이지만 에이전트 AI의 속성은 한계를 확장합니다.

4. 다른 AI 시스템을 생성하는 에이전트 AI를 준비하세요. 다른 AI 시스템에 의해 자율적으로 개발되거나 수정된 ​​AI 시스템을 설명하지 못하면 조직에 심각한 가시성 격차가 발생할 수 있습니다.

5. 에이전트 AI의 경우 암시적인 것을 명시적으로 만드십시오. 에이전트 AI 시스템에는 명시적으로 정의된 규칙과 임계값이 필요하므로 조직은 관리 구조에서 에이전트 AI의 역할과 범위를 명확히 해야 합니다.