L'IA, le Créatif et l'Innovateur ▷ Partie 06 ▷ LES BONNES INTENTIONS

Nous venons de constater que les modèles d'IA peuvent nous tromper ou nous conduire à un consensus sur n'importe quelle position. Cependant, un défi bien plus grand existait, sur lequel les experts en IA travaillent depuis les années 80. Ce pari vient d'être relevé avec la victoire sur les humains de l'IA, surnommée Cicero, qui a triomphé des humains au jeu stratégique de Diplomacy.

Diplomacy est une sorte de mélange entre Risk, le poker et l'émission de télévision Survivor.

Il se démarque des jeux traditionnels à deux joueurs à “somme nulle” (zero sum game) comme les échecs ou Go, en raison de son élément coopératif important. Situé en Europe avant la Première Guerre mondiale, le jeu accueille sept joueurs, chacun représentant une grande puissance de l’époque. Le cœur du jeu tourne autour de la formation d'alliances et de la négociation. À chaque tour, les joueurs passent entre 5 et 15 minutes en discussions privées, concluant des accords et élaborant des stratégies. Former des alliances est essentiel, car la seule manière de progresser est de collaborer avec d'autres contre différents joueurs. Une fois les négociations terminées, tous les joueurs soumettent leurs mouvements, qui sont ensuite exécutés simultanément. Cette structure permet des intrigues, car les joueurs peuvent promettre de soutenir mais choisir de tromper à la place.

Fait intéressant, le jeu de Diplomacy a été inspiré par les échecs diplomatiques qui ont précédé la Première Guerre mondiale. Son message central souligne que la diplomatie appropriée peut rendre la guerre inefficace. De ce point de vue, la guerre est perçue comme un jeu à somme négative, suggérant qu'il existe toujours des alternatives plus bénéfiques pour toutes les parties plutôt que de recourir au conflit.

Comme ce jeu fusionne la stratégie avec la négociation, faisant de la confiance et de la possibilité de trahison ses thèmes centraux, il était assez extrêmement ardu de bâtir une IA pouvant être compétitive.

Diplomacy est tellement plus complexe que les autres types de jeux qu'il était honnêtement même difficile de commencer. Les chercheurs en IA y travaillent depuis les années 80. C’est le test de Turing sur stéroïdes.

Cicero utilise des compétences de négociation (en langage naturel) et en coordination tactique pour communiquer avec les autres joueurs. Elle doit saisir la manière dont les humains jouent pour pouvoir collaborer avec eux.
Si ces derniers possèdent des attentes spécifiques quant à la nature d'un allié loyal ou à l'idée d'une relation mutuelle où l'on coopère, vous devez adhérer à ces principes. Autrement, ils se tourneront vers quelqu'un d'autre.

Lors de test sur 40 parties, Cicero a obtenu plus du double du score moyen des joueurs humains.

Les implications sont assez importantes.

Voici le créateur de Cicero qui explique à Lex Friedman comment l'IA s'y prend pour dominer les humains:

Nous avons commencé par entraîner un modèle linguistique. Ensuite, nous l'avons rendu ajustable selon des intentions spécifiques. (Ces intentions définissent une action que nous souhaitons entreprendre et une action que nous aimerions que l'autre joueur effectue.)

Cela nous permet de générer un dialogue qui ne se limite pas à imiter le style humain, mais qui possède une réelle intention, un véritable objectif dans sa communication.

Nous utilisons l'auto-entraînement (RL) et la recherche pour déterminer la meilleure action pour nous et le mouvement que nous aimerions que l'autre joueur effectue. Il est essentiel de comprendre comment l'autre joueur, HUMAIN, est susceptible d'agir, sans simplement présumer qu'il se comportera comme une machine.

Lex: est-ce que ça fonctionne?

Cela fonctionne étonnamment bien.

L’IA possède donc, aujourd’hui, la capacité de créer des communications optimisées afin d’atteindre un but précis. N’est-ce pas là le rêve de tout expert en communications?

Ce nouvel outil nous rend responsables. De façon éthique et stratégique.
De tous les messages que vous pouvez formuler, lequel choisir?

Quelles sont vos ambitions?
Quel but visez-vous?
Qu’avez-vous à proposer?

Lors d’une récente conversation entre le co-fondateur de LinkedIn, Reid Hoffman, et le CEO d’OpenAI, Sam Altman, monsieur Hoffman pose cette question:

Ne pensez-vous pas que les grands artistes visuels tirent beaucoup plus de Dall-E parce qu’ils savent mieux comment penser et qu’il y aura presque un ensemble évolutif de talents humains pour aller plus loin dans la créativité assistée par IA ?

Sam Altman répond:

Ce qui importera, c’est la qualité des idées et la compréhension de ce que vous voulez. Ainsi, l’artiste fera toujours mieux avec la génération d’images, non pas parce qu’il a découvert comment ajouter ce mot magique à la fin, qu'il est un bon prompt engineer, MAIS PARCE QU’IL A SIMPLEMENT SU L’ARTICULER avec un regard créatif.

Savoir articuler nos idées et nos intentions. À l'ère de l'IA c'est toute une compétence.

Et voici une leçon importante que l’IA a tirée de outes ces intéractions avec des êtres humains:

Lorsque les gens jouent à la diplomatie pour la première fois, ils l'abordent comme un jeu de tromperie et de mensonge. Mais en fin de compte, si vous parlez aux meilleurs joueurs de diplomatie, ils vous diront que la diplomatie est un jeu basé sur la confiance et LA CAPACITÉ À ÉTABLIR CETTE CONFIANCE DANS UN ENVIRONNEMENT QUI INCITE LES GENS À NE FAIRE CONFIANCE À PERSONNE.

C'est la tension ultime en diplomatie… et dans la société.

👋🏻 Merci de me lire.

Pour ceux que ça intéresse, il est fascinant de constater que l’IA, par sa domination à Diplomacy, a par elle même généré de toute pièce une pensée datant du 5ème siècle avant J.-C.

• Profondeur Stratégique : Diplomacy et "L'Art de la Guerre" soulignent tous deux l'importance de la stratégie par rapport à la force brute. Sun Tzu a écrit de manière célèbre : "Toute guerre est basée sur la tromperie." De même, dans Diplomacy, la formation d'alliances et les éventuelles trahisons sont centrales, soulignant l'importance de la stratégie et de la prévoyance.
• Évitement de la Guerre : Sun Tzu a mentionné : "Le plus grand art de la guerre est de soumettre l'ennemi sans combattre." Cela correspond au message de Diplomacy selon lequel, lorsqu'il est abordé correctement, la guerre peut être rendue inefficace, suggérant que la voie privilégiée est toujours celle de la négociation pacifique et de l'accord.
• Comprendre le Terrain et la Situation : Sun Tzu a conseillé de comprendre le terrain, l'ennemi et soi-même pour réussir à la guerre. Dans Diplomacy, les joueurs doivent comprendre le paysage européen, évaluer les intentions des autres joueurs et connaître leur propre position et ressources.
• Alliances et Confiance : "Les opportunités se multiplient lorsqu'elles sont saisies", a écrit Sun Tzu. Cela peut être vu dans Diplomacy où la formation d'alliances peut conduire à de plus grandes opportunités. Cependant, la fragilité et l'imprévisibilité des alliances dans le jeu soulignent la prudence de Sun Tzu concernant la nature des alliances : "Traitez vos hommes comme vous traiteriez vos propres fils bien-aimés. Et ils vous suivront dans la vallée la plus profonde."
• Coût de la Guerre : Sun Tzu et les principes de Diplomacy reconnaissent tous deux les coûts et les pertes inhérents à la guerre. Sun Tzu a déclaré : "Il n'y a aucun exemple d'une nation bénéficiant d'une guerre prolongée." Cela reflète l'idée présentée sur Diplomacy : la guerre est un jeu à somme négative et il y a toujours un meilleur résultat que la guerre pour toutes les parties impliquées.

Note: Ne commencez pas par la version originale. Je vous conseille ceci:

The Rules of Victory by James Gimian, Barry Boyce | Penguin Random House Canada

Sun Tzu’s Art of War is widely acknowledged to be one of the greatest tools for understanding and resolving conflict ever.

Penguin Random House Canada

👋🏻 Merci encore!