Neudefinition des Managements für eine übermenschliche Belegschaft

Zum vierten Mal in Folge MIT Sloan Management Review und die Boston Consulting Group (BCG) haben ein internationales Gremium aus KI-Experten zusammengestellt, dem Akademiker und Praktiker angehören, um uns zu helfen, zu verstehen, wie verantwortungsvolle künstliche Intelligenz (RAI) in Organisationen weltweit implementiert wird. aktuellster Artikelhaben wir den Zusammenhang zwischen Erklärbarkeit und menschlicher Kontrolle bei der Rechenschaftspflicht von KI-Systemen untersucht. Agentische KI bezieht sich im Allgemeinen auf KI-Systeme, die in der Lage sind, Ziele autonom zu verfolgen, indem sie ohne ständige menschliche Aufsicht Entscheidungen treffen, Maßnahmen ergreifen und sich an dynamische Umgebungen anpassen. KI-Agentenindex des MITTrotz begrenzter Transparenz über ihre technischen Komponenten, Verwendungszwecke und Sicherheit nimmt der Einsatz dieser Systeme in Bereichen wie Softwareentwicklung und Kundendienst zu.

Angesichts der offensichtlichen Governance-Lücke haben wir unser Gremium gebeten, auf die folgende Provokation zu reagieren: Um die Agenten-KI für ihre Entscheidungen und Handlungen zur Rechenschaft zu ziehen, sind neue Managementansätze erforderlich.

Im Folgenden teilen wir die Erkenntnisse unserer Diskussionsteilnehmer und stützen uns auf unsere eigene RAI-Erfahrung, um zu empfehlen, wie Unternehmen neue Managementansätze einführen oder ihre bestehenden überdenken können, um die Verantwortlichkeit und Aufsicht über agentenbasierte KI-Systeme und eine zunehmend hybride Mensch-KI-Belegschaft zu verbessern.

Agentische KI-Systeme stellen traditionelle Managementmodelle in Frage. Die Mehrheit unserer Experten ist der Ansicht, dass die agentische KI aufgrund ihrer höheren Autonomie und Komplexität im Vergleich zu früheren Technologien neue Managementansätze erfordert.

Unsere Experten weisen außerdem darauf hin, dass die übermenschliche Geschwindigkeit und das Ausmaß der Agenten-KI besonders störend sind.

Tshilidzi Marwala von der Universität der Vereinten Nationen stimmt zu, dass „agentische KI aufgrund ihrer autonomen Entscheidungsfindung, ihres adaptiven Lernens und ihrer Hochgeschwindigkeitsoperationen für traditionelle Managementmodelle – die für menschliches Handeln geschaffen wurden – schwer zu handhaben ist.“

Angesichts dieser Herausforderungen fordern mehrere Diskussionsteilnehmer eine kontinuierliche, iterative Überwachung.

Agentische KI erfordert, dass wir die Beziehung zwischen Mensch und Maschine überdenken. Über die technische Aufsicht hinaus erfordert die Verwaltung der Agenten-KI auch Klarheit über die Beziehung zwischen Menschen und KI-Agenten.

Unsere Experten betonen außerdem, dass jeder die Verantwortung überdenken muss, da KI-Agenten keine Menschen sind – was bedeutet, dass wir sie noch nicht auf die gleiche Weise zur Verantwortung ziehen können.

Letztlich geht es darum, Menschen und nicht die KI zur Rechenschaft zu ziehen. Nicht alle sind sich einig, dass die Agenten-KI neue Managementmodelle erfordert.

Auch andere halten Forderungen nach neuen Managementmodellen für fehl am Platz.

Empfehlungen

Zusammenfassend bieten wir die folgenden Empfehlungen für Organisationen, die die Rechenschaftspflicht gegenüber Agenten-KI-Systemen verbessern möchten:

1. Einführung lebenszyklusbasierter Managementansätze. Agentische KI ist schnell, komplex und dynamisch.

2. Integrieren Sie die menschliche Rechenschaftspflicht in die KI-Governancestrukturen. Entwerfen Sie Management-Frameworks, um sowohl dem menschlichen Manager als auch dem Agenten-KI-System in jeder Phase des KI-Lebenszyklus explizit bestimmte Rollen und Verantwortlichkeiten zuzuweisen.

3. Ermöglichen Sie KI-gestützte Entscheidungen unter definierten Umständen. Während die menschliche Aufsicht unerlässlich ist, stoßen die Eigenschaften der Agenten-KI an ihre Grenzen.

4. Bereiten Sie sich auf eine Agenten-KI vor, die andere KI-Systeme erstellt. Wenn KI-Systeme, die von anderen KI-Systemen autonom entwickelt oder geändert wurden, nicht berücksichtigt werden, kann dies zu einer erheblichen Sichtbarkeitslücke in einer Organisation führen.

5. Wenn es um agentische KI geht, machen Sie das Implizite explizit. Da Agenten-KI-Systeme explizit definierte Regeln und Schwellenwerte erfordern, sollten Organisationen die Rolle und den Umfang der Agenten-KI in ihren Managementstrukturen klären.