Post

Pour changer des vidéos de youtubeurs, un (tout) petit #doomanche sur un extrait de l'émission All In sur MSNBC, qui en 3 jours en est déjà à près de 10M de vues rien que sur YouTube. www.youtube.com/watch?v=PWkM...

Assez logiquement, car All In with Chris Hayes; est un talk show sur l'actualité maintes fois primé (2 emmys entre autres) et très regardé. On ne parle pas d'une émission de second plan.

L'extrait commence (mal) par un extrait des propos d'Harry Potter, pardon Jacob Coxon, l'ingénieur célèbre pour son départ d'Anthropic sur Fox News. Où il compare l'IA aux armes nucléaires sans qu'on lui apporte la moindre contradiction.

Puis Chris Hayes donne la parole à son invité, Bernie Sanders, décrit comme "un des politiciens qui se réveille sur le sujet des dangers de l'IA et le rôle nécessaire du gouvernement dans sa régulation", ce qui pose direct le ton plutôt peu critique de l'interview.

Dès la première réponse le mot "superintelligence" est prononcé par un Bernie décidément à fond sur le sujet. bsky.app/profile/anca...

Qui ensuite se félicite d'avoir organisé une rencontre entre les parlementaires et "the most knowledgeable people on the issue", sans que Chris Hayes (pourtant connu pour s'être pas mal intéressé par le passé et d'une manière critique à la mouvance TESCREAL*) songe à lui demander qui ils sont.

* comme le résume Google (dont les sources semblent pour une fois correctement résumées)

Mais alors que parmi les plus proches conseillers de Sanders sur la question on trouve des personnages issus de la mouvance long-termiste comme Max Tegmark, quand il ne qualifie pas de "leading expert on AI" Yudkowsky lui-même, ce point n'est ici pas abordé. bsky.app/profile/timn...

Au lieu de quoi l'interview embraye sur ses propositions, qui incluent la négociation d'un moratorium sur la superintelligence avec la Chine, et sur le souci de l'écart entre temps politique et rythme de développement des technologies.

Puis sur des considérations sur la géopolitique où Hayes dit carrément en plaisantant que tant qu'à développer une technologie qui risque de détruire l'humanité autant qu'un seul pays la recherche.

Ce point semblant totalement accepté comme base de la discussion sans qu'à aucun moment ne soit posée à Sanders la bête question du comment l'IA détruirait l'humanité et encore moins du pourquoi, ou si on parle de superintelligence de quels arguments le convainquent que son atteinte serait proche.

En gros des ingénieurs semblent convaincus que… Donc il semble légitime aux deux participants d'aborder la question presque uniquement sous cet angle (auquel Sanders ne fait qu'ajouter le pouvoir des milliardaires qui contrôlent les compagnies d'IA).