Post

Le plus frappant, ce n'est pas de voir à quel point Asimov "avait prédit l'IA". Il ne l'avait évidemment pas prédite. C'est plutôt de constater qu'il avait déjà identifié les bonnes questions. 2/9

Une machine n'a pas besoin de nous détester pour devenir problématique. Il suffit qu'elle poursuive parfaitement un objectif que nous avons formulé… imparfaitement. Bienvenue dans le problème de l'alignement. 3/9

Les Trois Lois de la robotique paraissent presque touchantes aujourd'hui : "Ne fais pas de mal aux humains." OK. Mais qu'est-ce que "faire du mal" ? Et que fait-on quand deux humains ne sont pas d'accord ? 4/9

Avec un robot d'Asimov, on pouvait encore imaginer qu'une bonne programmation suffirait. Avec un LLM, c'est nettement moins confortable. On ne programme pas simplement le comportement : on entraîne un système dont le comportement émerge de milliards de paramètres. 5/9

Et avec les agents, on ajoute une petite subtilité : le système ne se contente plus de répondre. Il planifie. Il utilise des outils. Il agit. Il recommence. Bref, on passe doucement de "machine qui parle" à "machine à qui on confie des trucs". 6/9

C'est là que Les Robots redevient vraiment intéressant. Parce qu'Asimov ne parle pas seulement de robots. Il parle surtout de notre difficulté à comprendre les conséquences de systèmes que nous avons nous-mêmes construits. 7/9

La vraie question n'est peut-être donc pas : "Et si les machines devenaient plus intelligentes que nous ?" Mais : "Que se passe-t-il quand nous leur donnons du pouvoir avant de savoir exactement comment elles vont l'utiliser ?" 8/9