Un Besoin de Nuance : Andrew Palmer de The Economist

Dans l'épisode d'aujourd'hui du Moi, moi et l'IA podcast, Andrew Palmer, rédacteur en chef chez L'économiste, décrit comment les organisations peuvent expérimenter avec l'IA générative tout en équilibrant vitesse, qualité et risque. Dans sa propre organisation, Andrew et d'autres testent l'intelligence artificielle avec une supervision humaine pour développer des efficacités de rédaction et de publication.

En tant qu'hôte du L'économiste’s Boss Class podcast, Andrew s’entretient avec des dirigeants ainsi qu’avec des professionnels en début de carrière, et met en lumière des idées intéressantes issues de conversations récentes sur les compétences et le recrutement.

Abonnez-vous à Moi, moi et l'IA sur Podcasts Apple ou Spotify.

Transcription

Allison Ryder : Comment expérimenter avec l’IA de manière à la fois productive et sécurisée ? L’invité d’aujourd’hui explique comment il a stimulé de nouveaux projets de développement avec l’IA et raconte comment divers dirigeants avec qui il a parlé perçoivent cette technologie.

Andrew Palmer : Je suis Andrew Palmer de L'économiste, et vous écoutez Moi, moi et l'IA.

Sam Ransbotham : Bienvenue à Moi, moi et l'IA, un podcast de MIT Sloan Management Review explorer l’avenir de l’intelligence artificielle. MIT SMR depuis 2014, avec des articles de recherche, des rapports annuels de l'industrie, des études de cas et maintenant 13 saisons d'épisodes de podcast.

Aujourd’hui, nous recevons Andrew Palmer. Il est rédacteur en chef chez L'économiste, où il est l’auteur de la chronique « Bartleby » et l’animateur du Boss Class podcast. Sa saison actuelle de podcast explore comment l’utilisation de l’IA générative transforme le management et des métiers comme le nôtre. Andrew, bienvenue.

Andrew Palmer : Salut, Sam. [C’est] un plaisir d’être ici.

Sam Ransbotham : Certains de nos auditeurs ne connaissent peut-être pas le L'économiste ou le Boss Class podcast. Pouvez-vous nous faire une brève introduction ?

Andrew Palmer : L'économiste, pendant presque toute son histoire, a été un magazine d’actualité hebdomadaire. Maintenant, bien sûr, nous sommes disponibles dans de nombreux formats différents. Nous sommes publiés depuis Londres, mais notre portée est mondiale, et nous couvrons l’économie, les affaires, la politique, la science, la technologie et bien plus encore. Le Boss Class podcast est une série narrative que j’anime sur le management et le monde du travail. Nous avons eu trois séries à ce jour, et, comme vous l’avez dit, la dernière était spécifiquement consacrée à ce sujet épineux de l’IA générative dans le monde du travail.

Sam Ransbotham : C’est épineux, et je pense que vous faites du bon travail en explorant une partie de cette complexité. Un de vos collègues, Ludwig Siegele, a dit dans un épisode — et je l’ai noté — «L'économiste embrasse le changement. Nous pensons que la technologie est bonne et doit être utilisée. »

Je trouve toujours ce biais pro-innovation un peu intéressant car j’ai une formation en sécurité informatique, où nous avons peut-être un biais un peu différent quant à l’utilisation de la technologie. Mais dans ce cas, je pense être d’accord avec L'économiste. Comment décririez-vous la philosophie générale du journal vis-à-vis de l’IA ?

Andrew Palmer : Je dirais « expérimentation ouverte d’esprit » est probablement la façon de voir les choses. Nous ne nous y sommes pas précipités tête baissée. Nous avons divers projets internes pour voir comment nous pouvons l’utiliser dans nos processus journalistiques. Par exemple, nous vérifions tous les faits que nous publions. Il y a une équipe de recherche qui doit traiter une tonne de choses. Est-il possible de leur faciliter la vie tout en laissant les humains faire le travail critique de vérification ?

De même, les journalistes doivent se conformer à un guide de style, une manière de travailler particulière. Alors, pouvons-nous leur faciliter la vérification que leur copie fait ce qu’elle doit avant d’arriver aux rédacteurs, qui sont ensuite les humains dans la boucle ? Il y a beaucoup de choses internes.

Et puis nous avons expérimenté des choses comme des transcriptions générées par IA de podcasts disponibles sur notre site, et nous avons des choses plus secrètes, du genre « Si je te le dis, je devrais te tuer », sur ce que nous pourrions faire dans deux à trois ans. Donc, il y a tout un éventail de choses que nous faisons, mais nous sommes toujours très, très clairs sur le fait que nous avons une marque particulière associée à des processus de haute qualité et intensifs en main-d’œuvre humaine, et il y a beaucoup en jeu pour que nous fassions les choses correctement. Nous avançons aussi assez prudemment.

Sam Ransbotham : Une des idées qui, je pense, est ressortie dans quelques épisodes, est celle de la « frontière irrégulière », selon laquelle l’intelligence artificielle vous a vraiment étonné dans certains domaines mais a aussi été désastreuse de manière inattendue dans d’autres. Comment cela affecte-t-il votre façon de penser l’expérimentation ?

Andrew Palmer : Je pense que cela renvoie probablement à cet état d’esprit général de prudence pour ne pas adopter la technologie sans réfléchir, surtout si elle est destinée au public. Donc tout passe par une phase d’expérimentation. Une des choses qui est devenue évidente — et vous le verriez dans tout type d’organisation, je pense, qui est aux prises avec cela — est qu’il faut avoir des personnes très expérimentées dans la boucle. Pour nous, [ce sont] des rédacteurs qui sont dans la salle de rédaction depuis très longtemps, qui déterminent ce qui compte comme qualité, fournissent des retours sur les expériences que nous menons pour qu’avec le temps cela s’améliore de plus en plus, et fixent une barre assez haute pour ce qui est considéré comme suffisamment bon.

C’est ainsi qu’un état d’esprit se traduit en processus réels d’évaluation et de vérification. Et c’est une nouvelle façon de travailler pour nous. [Pendant] la majeure partie de notre histoire, les journalistes ont en quelque sorte tout contrôlé absolument, et maintenant cela doit être beaucoup plus collaboratif, surtout avec cette technologie.

Sam Ransbotham : Qu’est-ce qui vous a surpris ? Quelle a été la plus grande surprise positive et peut-être la plus grande déception ?

Andrew Palmer : Je vais prendre un exemple personnel, en jouant avec la dernière saison comme une sorte de montagnes russes. Vous savez, presque tous les journalistes sur terre font maintenant du « vibe coding ». Je ne fais pas exception, mais à l’époque, il semblait que nous étions vraiment en train de défricher un nouveau terrain. Tout cela est enregistré, mais je ne suis pas codeur, je n’ai absolument aucune idée de ce que je fais. Vous êtes l’expert dans cette conversation, c’est sûr.

Nous avons un guide de style, que je vous ai mentionné, qui est essentiellement notre bible sur la façon d'écrire, toutes les règles de grammaire, la haine de l'américanisme, vous serez choqué de l'apprendre — toutes sortes de règles comme ça, que vous pouvez parcourir dans un gros PDF. Vous pouvez le laisser à votre éditeur, mais idéalement, vous auriez quelque chose qui pourrait simplement vérifier votre copie par rapport à cela. Ludwig Siegele, que vous avez mentionné plus tôt, attendait depuis un an d'obtenir du temps de développement pour construire cela.

C'était relativement simple, mais [dans une] organisation occupée, avec beaucoup de gens ayant différentes choses à faire, c'était en bas de la liste. La magie de cela a été que je suis parti, et en 75 minutes, j'avais construit une extension qui vérifiait la copie par rapport au guide de style. Maintenant, quand je dis « j'ai construit », j'étais plutôt une sorte de marionnette. Je n'avais vraiment aucune idée de ce que je faisais, mais en utilisant Claude, cette chose a été générée. C'était assez incroyable pour moi. J'avais l'impression d'avoir accompli quelque chose qui était totalement hors de ma portée, [et] que je n'aurais tout simplement pas pu faire, et cela a clairement contourné nos bureaucraties internes.

Ensuite, la déception que vous avez mentionnée est qu'en réalité, nous n'allons pas pouvoir simplement diffuser cela comme par magie aux gens le lendemain. Il y a énormément de gouvernance à considérer autour de cela. Les aspects en coulisses concernant l'architecture, les logiciels, nos processus de données ont tous dû être réfléchis. En pratique, ce que j'avais construit n'aurait pas fonctionné de manière évolutive.

Donc, à ce moment-là, un groupe de personnes qui savaient vraiment ce qu'elles faisaient ont pris le relais. Et cela a effectivement abouti à quelque chose de rapide. Cela a définitivement accéléré le processus, leur a donné des idées avec lesquelles travailler, mais il était aussi clair que je n'allais pas pouvoir contourner comme par magie tous les processus organisationnels et changer les choses.

Je ne sais pas si c'est décevant ou non, en fait, mais il y a d'autres exemples où cette chose me donne des réponses absurdes, hallucinant, tout ce dont vous parlez dans l'émission semaine après semaine. Mais je pense que c'est probablement le meilleur exemple de passer de ce sentiment d'euphorie, comme si un tout nouveau monde s'ouvrait, à être ramené sur terre.

Sam Ransbotham : Il y a un truisme en logiciel : si vous demandez à un ingénieur logiciel : « Où en êtes-vous ? Est-ce bientôt fini ? » Oh, ils sont à 90 %. Et ces premiers 90 % prennent environ la moitié du temps ou un quart du temps, et ces derniers 10 % sont vraiment difficiles, et cela prend toujours beaucoup de temps.

Et je pense que c'est ce que nous voyons peut-être avec le vibe coding. Cela fait ces 90 % assez rapidement. Cela crée les écrans initiaux ou quoi que ce soit, mais comme vous le dites, il y a beaucoup plus dans ce processus. [Quand] je pense à extrapoler avec l'intelligence artificielle, je pense que nous avons tendance à tracer ces lignes de manière linéaire ou même exponentielle, mais les rendements décroissants peuvent être la forme la plus normale, surtout, comme vous le décrivez, avec tous les autres processus.

Andrew Palmer : Puis-je vous demander quelque chose, Sam ? Voyez-vous vous-même des applications vibe-codées, et remarquez-vous une différence ?

Sam Ransbotham : Je suis super intéressé par le codage en général. C'est ce que je fais comme hobby, et j'adore ça. Ce que je trouve est presque exactement ce que vous avez décrit, cette capacité à prototyper quelque chose rapidement est incroyable. Vous pouvez juste lancer quelque chose et faire un test rapide pour voir « Est-ce que cela vaut un investissement supplémentaire ? » sans, comme vous le dites, attendre que votre bureaucratie arrive et prenne un an de retard.

Mais vous ne pouvez pas vous leurrer en pensant que cela va réellement être du code de production. Et donc vous apprenez beaucoup de cela, mais je ne sais pas pour mettre quoi que ce soit en production, car au moment où je reçois le code, j'ai réécrit chaque morceau avant qu'il ne devienne quelque chose de production. Mais cela m'a donné ce test rapide assez rapidement.

Andrew Palmer : Une des personnes à qui nous avons parlé était Anton Osika, le patron de Lovable, une de ces grandes plateformes de vibe coding, basée en Suède, et il avait cette jolie phrase — « Demo, don’t memo » — comme façon de penser à cela, [qui est] vraiment bonne pour le prototypage. Ne faites pas de PowerPoint. N'écrivez pas de longs documents. Construisez simplement la chose et montrez ce qu'elle peut faire. Mais il était aussi très clair qu'il ne faut pas mettre des choses directement dans des environnements de production, ce qui semble totalement cohérent avec ce que vous avez dit.

Sam Ransbotham : Je sais que vous parlez beaucoup des emplois, mais une des choses que vous avez abordées était ce délai que vous avez eu en attendant que le vérificateur de style arrive via les processus bureaucratiques normaux. Et vous avez pu en avoir une idée plus rapide. Mon sentiment est que la plupart des organisations ont d'énormes arriérés de projets.

Andrew Palmer : Cela me rappelle une conversation avec Hannah Calhoon, la responsable de l'IA chez Indeed. Vous l'avez peut-être eue dans votre émission. [C'est un] grand marché de l'emploi, comme tout le monde le sait, et elle a décrit les problèmes organisationnels qui surviennent quand soudainement tout le monde peut générer beaucoup de code, ce qui signifie qu'une tonne de code doit être revue par des gens. C'est un peu comme un effet de matelas à eau, non ? Les tas de travail disparaissent à un endroit et apparaissent ailleurs.

Je suppose que la question est : je pense que vous avez dit que vous feriez essentiellement le test rapide, mais ensuite vous réécrivez tout depuis le début. Y a-t-il un risque de s'engager à mi-chemin avec le vibe coding et de réaliser : « En fait, nous ne voulions pas partir d'ici, donc nous allons devoir tout refaire ? » Réfléchir à cela fait partie du défi organisationnel. Il y a clairement un défi technique, mais en réalité, [la façon dont] nous concevons les choses pour éviter de très mauvais résultats est aussi une sorte de frein à un progrès rapide.

Sam Ransbotham : Mais nous n'avons pas encore besoin de le savoir, cependant. Nous sommes tous, comme vous l'avez dit, en train d'expérimenter. Tout le monde expérimente avec cela. Nous n'avons pas besoin de savoir exactement comment cela va s'intégrer dans les processus organisationnels sans apprendre un peu. Tous ces outils dont nous parlons vont s'améliorer. [Avec des entreprises] comme Lovable que vous avez mentionnée et d'autres, ils vont s'améliorer avec le temps. Je pense que nous sommes en quelque sorte maîtres de notre destin ici en termes de la façon dont cela se déroule et de ce que nous choisissons d'investir ou non.

Andrew Palmer : Je suis d'accord avec cela en théorie, et ensuite il y a tout un tas d'incitations en jeu dans le système, qui en pratique contraignent votre liberté de manœuvre. Donc si vous avez un groupe de personnes dans la direction qui sont sous pression pour réaliser des gains de productivité, il est tout à fait possible qu'ils se précipitent. … Nous l'avons vu, non ? Une partie de l'histoire des premières années de l'IA générative est de se précipiter vers des choses sans nécessairement réfléchir aux conséquences organisationnelles.

Sam Ransbotham : Parlez de ces incitations. Quelles incitations voyez-vous dans les organisations qui sont en tension ?

Andrew Palmer : Beaucoup de conseils d'administration mettent beaucoup de pression sur les PDG et leurs pairs pour obtenir des retours sur investissement très concrets. Cela peut être des économies de coûts en termes de licenciements, ou cela peut être un véritable bond dans la production. Aucune de ces choses [n'est] nécessairement géniale. Il se peut que vous licenciez des gens prématurément. Il se peut que vous sacrifiiez la qualité à la quantité.

J'essaie de penser à un exemple. Johnson & Johnson était un autre invité de l'émission, et ils avaient une approche très consciente, en quelque sorte « laissez mille fleurs s'épanouir » pour l'IA générative dans les premières années. Je ne pense pas qu'ils aient eu des résultats désastreux, mais ils ont aussi rapidement trouvé … ce problème de goulots d'étranglement émergeant à divers endroits.

C'est encore le matelas à eau, non ? Cette très grande organisation avait beaucoup, beaucoup de gens qui ont indépendamment proposé le même type de flux de travail pour s'améliorer, donc quelque chose comme la facturation, la rendre plus rapide, alors que tout ce que cela ferait serait de créer tout un tas de factures qui atterriraient ensuite dans les finances qui ne les attendaient pas, non ? Donc il y avait une sorte de problème de chaos.

Mais plus important encore, le manque de priorisation signifiait qu'il y avait beaucoup de travail en cours. Seulement 15 % des projets fournissaient 85 % de la valeur. Le reste, il y avait peut-être un bénéfice, des gens qui apprenaient, etc. Mais en termes de retour, pas tellement. Donc ils ont maintenant pivoté vers une approche beaucoup plus axée sur les priorités et centralisée, avec un conseil central de l'IA.

[Cela] sonne un peu Star Wars, [avoir] un conseil central de l'IA, un conseil central des données approuvant les choses. Mais cela semble beaucoup plus intentionnel, beaucoup plus dirigé. Vous voyez des sondages avec des cadres dirigeants disant : « Nous n'avons pas encore vu de gains de productivité massifs. Dans les trois prochaines années, nous nous y attendons. » À un moment donné, ils vont soit devoir dire : « Eh bien, rien ne vient », soit ils vont être contraints à une sorte de « Nous allons faire en sorte que cela arrive. » Les incitations à montrer des résultats sont assez puissantes.

Sam Ransbotham : Mon point de vue plus cynique est que je pense que nous voyons beaucoup de suppressions d'emplois dues à des annonces d'IA dont je soupçonne profondément [qu'elles utilisent] l'IA comme bouc émissaire. Vous avez le choix de dire : « D'accord, j'ai pris une très mauvaise décision et j'ai trop embauché », ou « J'ai pris de très mauvaises décisions ou c'est cette histoire d'IA. » C'est vraiment agréable de pointer du doigt la chose exogène.

Je veux revenir sur quelque chose que vous avez mentionné avant. Nous parlions de codage, mais je pense que c'est un problème plus général. Peut-être pourrions-nous développer cela. Votre matelas à eau est que vous avez créé une facilité de création, comme avec ces outils qui [ont] la capacité de générer. Je veux dire, c'est même dans le nom : IA générative. Nous n'avons pas d' IA évaluative. Ce n'est pas une énorme tendance là-bas. L'IA générative est le sujet, pas l'évaluation.

Je pense que nous voyons cela, certainement dans le domaine scientifique. Des dépôts ouverts comme [Internet] Archive ont été submergés de soumissions, car la partie difficile réside moins dans la génération que dans le fait de déterminer ce qui mérite d’être consommé, en particulier dans notre économie de l’attention basée sur le temps. Comment allons-nous contourner cela ?

Offrez un peu d’espoir. Avez-vous des idées sur ce qui va arriver au monde lorsque nous serons capables de tout générer si rapidement ?

Andrew Palmer : L’exemple qui me vient à l’esprit, et celui avec lequel j’ai joué tout seul, concerne le domaine du recrutement, où il y a cette sorte de génération incontrôlée de contenu du côté des candidats, puis du côté des recruteurs, vous êtes obligé d’utiliser l’IA pour faire face à ce bombardement. Il y a donc une sorte d’étrange course aux armements.

Mon exemple de cela : je viens de m’inscrire à un fournisseur de logiciels de candidature automatique, j’ai saisi quelques détails, vraiment succincts. … J’aurais pu y passer plus de temps. Je suis parti, j’ai traîné pendant environ une heure, je suis revenu, et j’ai découvert que j’avais postulé à une centaine d’emplois. Je n’avais aucune idée de ce qu’ils étaient, et ils incluaient le poste de directeur des opérations pour la ville de New York et celui de directeur de l’association des vétérans d’Iran et d’Afghanistan [des États-Unis]. Je veux dire, vous pouvez probablement deviner d’après mon accent pourquoi je ne suis pas la personne évidente pour cela. Cela semblait plutôt absurde, n’est-ce pas, que vous puissiez remplir les boîtes de réception des gens. Je voudrais donc m’excuser auprès de l’association des vétérans d’Iran et d’Afghanistan.

Mais, évidemment, de l’autre côté, vous avez besoin d’une réponse automatisée. Personne n’est content de cela. C’est comme un très mauvais équilibre qui a été généré, et vous pouvez le voir ailleurs aussi.

Alors, comment en sortir ? Je suppose que plus d’humains pourrait être une solution. Vous pourriez intentionnellement insérer des humains dans les processus du côté des recruteurs et voir si cela fonctionne d’une certaine manière, mais cela ne semble pas très évolutif.

Vous pourriez être transparent sur votre politique d’IA, en disant : « Il est acceptable d’utiliser l’IA, mais voici comment nous voulons que vous l’utilisiez », ou avoir une question spécifique à l’IA qui prouve comment vous utiliseriez votre maîtrise de l’IA pour en tirer le meilleur parti, quoi que ce soit. Il y a des preuves – anecdotiques – que la transparence sur l’utilisation de l’IA peut en fait réduire le nombre de fausses candidatures. Et puis je suppose que la réponse à très long terme, qui est un peu trop nirvana pour que je l’achète complètement.

Sam Ransbotham : Donnez-nous le rêve.

Andrew Palmer : Eh bien, voici ce que les gens dans ce monde disent : Finalement, l’IA sera si bonne qu’elle chassera les candidats. Il y aura ce qu’ils appellent la candidature inversée. Ainsi, en tant que candidat, vous n’avez pas à vous soucier de postuler à quoi que ce soit. L’IA saura, à partir de votre entrée sur un site comme Indeed, exactement à quoi vous êtes adapté, comprendra vos préférences et votre expérience, et, fondamentalement, ils viendront à vous – plus besoin de tout ce genre de déchets déjà dans le système. Peut-être que ce sera le cas avec le temps. J’aimerais vraiment savoir si vous pensez que c’est plausible, mais il semble que nous allons passer beaucoup de temps à y arriver, et en attendant, c’est plutôt mauvais pour tout le monde.

Sam Ransbotham : Je pense que nous pouvons faire des analogies avec la détection des deepfakes qui se produit. Chaque fois que nous améliorons les deepfakes, nous améliorons la détection des deepfakes, et nous allons et venons. Ainsi, lorsque vous générez des candidatures pour un emploi, vous aurez le détecteur de candidatures pour un emploi. Nous avons vu cela avec, par exemple, l’automatisation des moteurs de recherche où vous mettez les bons mots-clés sur votre site Web, et vous êtes « embauché » dans les moteurs de recherche. Nous travaillons sur de nombreuses dynamiques comme celle-ci.

Je pense qu’en fait, dans votre épisode, vous aviez une récente diplômée, Kat Harrison-Gaze, qui parlait de ses expériences de candidature sur le marché du travail. Pouvez-vous donner un exemple concret ?

Andrew Palmer : Kat était à Oxford, donc dans un contexte britannique, [elle est dans une] université très, très prestigieuse, clairement très intelligente, devrait être quelqu’un que les employeurs veulent. Il y a beaucoup de choses qui entrent en jeu. Nous ne devrions pas blâmer cela uniquement sur l’IA, mais elle a décrit deux inquiétudes.

L’une est le processus de candidature et « Comment naviguer là-dedans ? » Elle a une suspicion envers l’IA. Elle s’inquiète de la dépendance cognitive. Elle valorisait sa propre capacité à réfléchir aux choses. C’était comme : « Si tu touches cette chose, elle va m’infecter et changer ma capacité à penser », faisait en partie partie.

Et puis la deuxième inquiétude était plus générale : « Si tu penses à une carrière sur des décennies, où diable est-ce que je mets mes jetons ? Quelle est la carrière qui a du sens à l’avenir ? » Ces deux choses me semblent être des inquiétudes tout à fait raisonnables. Il est vraiment difficile de naviguer dans le processus de recrutement en ce moment. Je ne pense pas que ne pas toucher à l’IA soit la réponse, d’ailleurs.

Donc, le conseil à Kat était : « Utilise l’IA, ne t’en éloigne pas. Ce n’est pas comme ça qu’il faut penser. » Et le conseil aux employeurs était : « Voici une personne très intelligente qui est déterminée à penser de manière indépendante. Jetez un œil à elle. »

Sam Ransbotham : Ce que vous décrivez, je pense, c’est qu’à mesure que nous nous dirigeons vers une interaction machine à machine … autrefois, dans le bon vieux temps, les gens se promenaient de bureau en bureau pour postuler à un emploi et peut-être déposaient un CV et rencontraient quelqu’un en personne – cela est devenu en ligne. Ce que vous décrivez en quelque sorte, c’est un avenir où votre facteur parle à mon facteur ; votre agent parle à mon agent. Et un peu comme les joueurs de baseball qui ont des agents pour négocier en leur nom, vous décrivez en quelque sorte où vous auriez des recruteurs négociant au nom de l’entreprise, des agents négociant au nom de l’employeur, et il n’y a pas nécessairement besoin que ce soient des humains, et cela peut être une interaction machine à machine. Est-ce l’avenir vers lequel nous nous dirigeons ?

Andrew Palmer : J’espère en quelque sorte que non. Je suppose que cela dépend. … Dans la première étape, je peux tout à fait comprendre cela. C’est presque essentiel, n’est-ce pas, à ce stade, car il devient difficile de voir comment cela peut évoluer. Mais tant qu’il y a des humains dans les effectifs – et, d’ailleurs, c’est un processus qui est actuellement exceptionnellement mal fait par les humains. C’est un processus très difficile à bien faire, mais une grande partie peut être améliorée par des humains qui prennent le temps de tester si quelqu’un est un bon ajustement culturel en étant honnêtes. « Ce travail est bon pour ces raisons mais mauvais pour celles-ci. » Ce genre de choses n’a pas besoin d’être fait par des humains, mais cela fonctionne généralement mieux si vous avez des humains qui discutent des choses. Donc, les humains doivent être dans la boucle à un moment donné, je pense. Tant que nous travaillons avec d’autres personnes, [alors] l’ajustement culturel, les valeurs d’une organisation, toutes ces choses sont totalement essentielles pour une bonne embauche.

Vous pourriez imaginer un processus basé sur les compétences, dirigé par des machines, testant si quelqu’un peut faire le travail. Mais, en fait, qu’est-ce qui les motive ? Pourquoi rejoignent-ils ? Seraient-ils un bon ajustement ? Est-ce que je veux travailler avec cette personne ? Toutes ces sortes de choses. Je ne pense pas qu’un agent soit la bonne façon de répondre à ces questions.

Sam Ransbotham : Peut-être que c’est juste parce que c’est ce avec quoi je suis à l’aise en termes de personnes avec qui je travaille … mais comme vous le dites, nous faisons un mauvais travail historiquement. Nous prenons des décisions biaisées. Nous prenons des décisions basées sur des attributs sur lesquels nous ne devrions pas prendre ces décisions. Je trouve cela quelque peu attrayant que l’automatisation accrue pourrait nous aider au moins à voir cela ou au moins à soulever des candidats potentiels que nos biais auraient pu nous empêcher de voir.

Andrew Palmer : C’est vrai. [Le psychologue] Danny Kahneman, évidemment, était très, très favorable à ce que l’algorithme soit dans chaque processus et parierait que c’était bien mieux que n’importe quel humain. Je pense que c’est probablement une combinaison des deux, n’est-ce pas ? Je veux dire, vous avez une méthode algorithmique basée sur des règles pour éliminer les biais dans la façon dont vous posez les questions, quoi que ce soit. Néanmoins, fondamentalement, il y a quelque chose d’important à bien s’entendre avec quelqu’un, ce qui est une partie assez importante d’une embauche.

Puis-je poser une question sur les courses aux armements ? Désolé de renverser la situation, mais vous êtes dans la cybersécurité, n’est-ce pas ?

Sam Ransbotham : Oui, c’était le sujet de ma thèse de recherche à l’époque.

Andrew Palmer : Ce genre de problème de course aux armements – vous avez une IA qui renifle les faiblesses et une IA qui essaie de les corriger. Quel est le point final avec cela, et quel est le rôle de l’humain dans ce monde ?

Sam Ransbotham : J’aimerais connaître la réponse à ce que cela va être, mais certainement c’est important. Nous avons vu tellement d’automatisation sur des choses qui étaient auparavant des tests de pénétration humains et ce genre de choses. Tout cela est devenu largement automatisé, mais il y a quelque chose de fondamentalement intelligent chez les gens qui trouvent des moyens à la fois de protéger et de concevoir des incitations qui, je pense, l’emportent encore à bien des égards.

Maintenant, ce qui se passe, c’est qu’à mesure que nous clarifions les incitations et que nous obtenons un ensemble structuré de règles, la machine les affine à un niveau hyper-raffiné, mais ensuite quelqu’un proposera une approche ou une idée différente. Et, malheureusement, en sécurité, le problème courant est que les humains sont le maillon le plus faible. Nous pourrions attaquer votre mot de passe toute la journée, mais il sera beaucoup plus facile d’entrer dans votre bureau et de jeter un œil à ce que vous avez écrit sur le post-it sur votre bureau ou de vous tromper pour que vous le révéliez. Donc, je pense que nous voyons que les mortels peuvent être le maillon le plus faible ici.

Je veux dire, les machines, car seules les machines peuvent réagir aussi rapidement. Mais je vais revenir à l’un de vos épisodes sur l’Oura Ring. Une façon d’attaquer une entreprise serait une attaque de remboursement. Je veux dire, ce n’est pas ce que nous considérons comme une cyberattaque traditionnelle, mais une attaque de remboursement pourrait consister à se plaindre de quelque chose qui ne va pas avec un produit afin d’obtenir un remboursement. Et vous aviez l’exemple de l’Oura Ring. … Pourquoi ne pas le décrire ? L’agent IA a diagnostiqué le problème, vérifié la politique, puis commandé le remplacement.

Andrew Palmer : Oui, c’était exactement cela. Nous parlions à Mike Krieger, qui est l’une des personnes chez Anthropic dans leur division de nouveaux produits, cofondateur d’Instagram. Il parlait de ce qui était sur leur feuille de route, et évidemment, inévitablement, nous avons commencé à parler de trucs agentiques. Il a raconté sa meilleure expérience de service client à ce moment-là. La Ring [caméra] semblait avoir un problème de batterie, il n’a interagi qu’avec un agent. Et cette chose a en quelque sorte décidé par elle-même [qu’il avait] droit à une nouvelle Ring. Elle a demandé son adresse, et elle a été emballée. Et il a considéré cela comme la meilleure expérience client qu’il ait jamais eue.

Pour revenir à votre point, cependant, qu’est-ce qui empêche l’IA de vous donner simplement des batteries à vie ? C’est dans les directives, n’est-ce pas ? C’est comme si un certain seuil de nombre ou de pourcentage de remboursements était accordé par un agent, alors vous arrêtez, et vous le transmettez à un humain ou à un autre modèle d’IA.

Donc, il y a beaucoup de choses dans la gouvernance là-dessus. Et à ce sujet, j’ai eu une conversation avec Bret Taylor, qui est le président d’OpenAI mais le [co]fondateur de Sierra, qui est une autre startup agentique de service client. Et encore une fois, les métriques étaient super importantes pour bien faire les choses. Donc, initialement, ils pensaient : « OK, donc tout appel qui ne nécessite pas que l’agent passe le relais à un humain est un appel réussi. » Et puis ils ont réalisé : « OK, eh bien, c’est totalement jouable. Donc, nous ne passerons jamais le relais à un humain. » Cent pour cent de réussite. Tout le monde est content. Et évidemment, ce n’est pas correct. Donc maintenant, ils ont une métrique combinée de la proportion d’appels avec transfert mais aussi des Net Promoter Scores des clients qui ont interagi avec l’agent. Donc, cette métrique mixte semble fonctionner.

Cela semble totalement évident, mais c’est en quelque sorte le pain et le beurre de la mise en œuvre d’une bonne gestion. Quel est le problème que vous essayez de résoudre ? Comment mesurez-vous le succès ? C’est totalement fondamental pour que cela soit bien fait. Et c’est un exemple simple de la façon dont ils sont arrivés à une métrique décente.

Sam Ransbotham : Oui, cette mesure est une grande chose. Je pense que ce qui se passe, c’est que ces outils nous aident à mesurer les choses différemment, donc nous pouvons mesurer des choses que nous n’aurions jamais pu mesurer auparavant. Nous collectons beaucoup plus de données, et c’est génial. Mais cela montre que de nombreuses mesures existantes peuvent être… Je pense que votre expression était « manipulables », qu’une fois que les gens comprennent ce qu’est cette métrique, ils feront quelque chose.

Laissez-moi passer à vous. Notre émission est Moi, moi et l'IA. Comment vous êtes-vous intéressé à cela ? Parlez-nous un peu de votre parcours.

Andrew Palmer : Je travaille pour le magazine depuis 2007, [et j’ai occupé] plusieurs postes d’écriture et d’édition couvrant diverses choses, de l’Amérique latine à la finance, en passant par [notre] équipe de journalisme de données, l’éditeur pour la Grande-Bretagne, etc.

Plus récemment, j’ai écrit sur la gestion et le travail. Et la plupart de ce que nous faisons ici à L'économiste est de regarder de l’extérieur vers l’intérieur. Ce sont de grandes forces impersonnelles à l’œuvre, macroéconomiques, géopolitiques, technologiques. Je suis la personne à l’intérieur du lieu de travail qui regarde vers l’extérieur, et qui considère en quelque sorte les humains comme un sous-produit de cela, comme la façon dont nous interagissons tous.

Je fais cela depuis un certain temps, et très évidemment, l’IA affecte le lieu de travail et nous affecte en tant qu’employés et managers, et soulève toutes sortes de questions. Il était donc très naturel pour moi de commencer à écrire à ce sujet. Et je pense que c’est l’une de ces intersections super intéressantes où vous avez cette technologie machine incroyablement scientifique et froide, et ensuite vous avez cette soupe incroyablement désordonnée d’émotions, ce qu’est un humain, et les mettre ensemble est vraiment intéressant à observer.

[Voici] un petit aperçu, mais ce ne sera plus un aperçu au moment où cela sera diffusé : j’écris cette semaine sur la seule chose sur laquelle tout le monde peut s’accorder. C’est génial que l’IA va se débarrasser du travail de routine ou du travail pénible. Je n’en suis pas totalement sûr, car pour les humains, la corvée, à dose appropriée, est vraiment bonne. C’est vraiment bon. Il y a un peu d’autonomie, parce que vous pouvez accomplir des choses. Vous pouvez vous détendre un peu parce que vous ne pouvez pas être à fond tout le temps. Il y a des preuves que la rêverie est vraiment bonne pour la créativité. Donc il y a un problème avec l’idée [que] nous allons tous être constamment au maximum des tâches de haut niveau. Nous ne sommes tout simplement pas faits pour cela. C’est donc le genre de territoire dans lequel je me trouve.

Sam Ransbotham : Je pense que c’est assez fascinant. Il est vrai que ce n’est qu’en faisant une pause, en réfléchissant et en méditant, et cela demande un peu de ne pas être constamment actif, pour avoir ce genre d’idées. C’est certainement contraire au « Oh, vous vous débarrasserez de la corvée ». Maintenant, d’un autre côté, il y a certainement beaucoup de nos emplois qui sont de véritables corvées, et donc je pense que l’astuce est d’essayer de comprendre tout cela. Quelle quantité de corvée est la quantité idéale ?

Andrew Palmer : Encore une fois, on revient aux incitations. Un manager avec un certain état d’esprit pourrait penser : « OK, traîner n’est pas quelque chose que je veux que quiconque sur ma liste de paie fasse, n’est-ce pas ? Allons-y et faisons des choses cognitivement intenses tout le temps. Ce sera incroyable. » Donc il y a aussi une sorte de changement d’état d’esprit là-dedans, comme si nous ne pouvions pas nous débarrasser de la corvée avant — cela faisait simplement partie de la vie. Et si c’était une option de tout éliminer ? Comment penseriez-vous cela ?

J’ai passé du temps dans un centre de contrôle du trafic aérien une fois, où leur travail consiste à réfléchir à « Quel est l’environnement de performance optimal où vous ne voulez pas que ces personnes soient en dessous de leur meilleur niveau ? » Donc il y a un équilibre vraiment intéressant qu’ils essaient de trouver, entre ne pas vouloir surcharger, donc [vous avez besoin] de durées de session limitées et de pauses obligatoires, mais vous ne voulez pas non plus sous-stimuler parce qu’avec trop d’ennui, fondamentalement, votre attention commence à dériver d’une manière qui n’est pas géniale si vous êtes responsable du trafic aérien. Donc ils y ont pensé, n’est-ce pas ? C’est une sorte de discipline des facteurs humains. Et, étrangement, cela va probablement arriver dans tous les bureaux, juste d’une manière beaucoup moins risquée.

Sam Ransbotham : Une des choses que vous avez mentionnées là était qu’avant, nous n’avions pas la capacité d’automatiser ces choses, et donc nous n’avions pas à faire de choix. Maintenant que nous avons ces capacités, nous devons prendre des décisions difficiles. Quel genre de compétences aident les gens à faire ces choix ? Je suis dans une université, aidez-moi ici. Que devrions-nous aider les étudiants à apprendre ? Quel genre de compétences les aident à prendre ce genre de décisions ?

Andrew Palmer : Curieusement, j’utilise le terme facteurs humains, qui est sa propre discipline, n’est-ce pas ? Mais cela a toujours été assez étroitement défini, en quelque sorte comment tirer le meilleur d’un pilote de chasse ou autre ? Mais je pense qu’il y a quelque chose dans la compréhension de la performance humaine qui est vraiment important pour comprendre comment fonctionne la complémentarité des humains et des machines. Il y a quelque chose autour de la discipline de gestion elle-même, n’est-ce pas ? Comment concevoir un bon processus ? Comment éviter les goulots d’étranglement, n’est-ce pas ? Réguler le flux de travail d’une manière qui évite que tout ne s’accumule ailleurs dans le système nécessite de penser au niveau organisationnel et de réfléchir aux systèmes et aux processus.

Donc, fondamentalement, la pensée systémique, toute la formation en gestion, tout cela est super utile, je pense, pour réfléchir à cela, et un peu d’introspection. Peut-être que la meilleure chose à propos de cette technologie est qu’une fois que vous commencez à l’utiliser, elle vous force à être introspectif sur « Dans quoi suis-je bon ? Où suis-je susceptible d’avoir un avantage durable ? Qu’est-ce que j’aime faire ? Qu’est-ce que je n’aime pas ? Est-ce que j’aime vraiment l’idée de faire cent pour cent de tâches de haut niveau ? Est-ce crédible pour moi ? » Je ne sais pas comment former la conscience de soi, mais dans le processus d’essayer la chose, vous commencez, inévitablement, je pense, à avoir ce genre de conversations internes, et elles sont utiles.

Sam Ransbotham : Même pour répondre à ces questions, nous allons avoir besoin de beaucoup plus d’informations sur les gens et sur la façon dont ils travaillent, et cela nous ramène un peu à votre histoire de mesure. Cela entre en conflit à bien des égards avec mon désir de garder mes informations personnelles protégées. En même temps, ces systèmes pourraient probablement m’aider à comprendre un peu moi-même, et comment je travaille, et dans quelles situations je travaille le mieux.

Je pense, globalement, que l’une des choses que vous mettez en avant dans de nombreux cas et de nombreux exemples est ce besoin de nuance, ce besoin de ne pas toujours aller trop loin, de ne pas toujours faire trop peu. Expérimentez un peu, mais ne comptez pas trop dessus. Je pense que c’est vraiment le thème général que j’ai retenu de votre podcast, cette idée d’apporter de la nuance à toutes ces décisions. Et je pense que cette nuance ne fonctionne pas toujours bien dans notre « Faites ces 10 choses pour devenir une meilleure personne en IA » actuel. Je pense qu’un thème de ce que j’ai tiré de votre travail est la clarté et la nuance. Et je pense que c’est vraiment difficile.

Andrew Palmer : C’est vraiment difficile. Une autre façon de le formuler, mais c’est la pire façon de commercialiser le podcast, c’est d’être ennuyeux. Donc maîtrisez l’essentiel, les bases, n’est-ce pas ? Quelle est la chose que vous visez ? L’adoption de l’IA n’est pas une métrique en soi. Alors, quel est le problème que vous essayez de résoudre ? Pensez aux flux de travail de bout en bout plutôt qu’à une seule chose, où le travail pourrait simplement être redistribué. Toutes ces sortes de questions sont juste du bon sens, mais comme d’habitude, cela vous mène assez loin.

Sam Ransbotham : Andrew, merci d’avoir pris le temps de parler avec nous. Si les auditeurs veulent écouter votre podcast ou entendre une expérience où vous avez créé un bot pour créer votre propre voix dans un podcast — j’ai trouvé que c’était un exemple amusant — la saison 3 de Boss Class est en cours avec L'économiste. Merci d’avoir pris le temps de parler avec nous.

Andrew Palmer : Merci, Sam. C’était amusant.

Sam Ransbotham : Merci d’avoir écouté aujourd’hui. Dans notre prochain épisode, nous changerons de sujet pour la santé et parlerons avec Carla Goulart Peron, directrice médicale chez Philips, de la façon dont l’IA améliore, et non limite, l’élément humain dans le domaine médical. Rejoignez-nous.

Allison Ryder : Merci d'avoir écouté Moi, moi et l'IA.

MOI, MOI-MÊME ET IA^® est une marque déposée au niveau fédéral du Massachusetts Institute of Technology.