Post

Quelque chose que je trouve fatiguant dans les discours critiques sur l'IA c'est la tendance de plein de ceux qui en émettent à décrire les problèmes qu'ils ne jugent pas prioritaires comme faux (ex : "le vrai problème de l'IA c'est l'impact que ça va avoir sur l'emploi").

"les biais des IAs sont un vrai problème, pas l'alignement au sens d'éviter l'auto-réplication etc.", "l'usage de propriété intellectuelle est un vrai problème le reste est sans importance car les IAs ne font que (mal) copier les humains", etc.

"les IAs génératives/prédictives posent de vrais problèmes, l'autre type d'IA c'est juste de la hype / ça n'a rien à voir", "le vrai danger c'est les applications militaires de l'IA", etc. etc.

Pour moi ça contribue à leur acceptation vu que chacun n'ira voir de problème qu'au niveau de sa petite obsession perso, et interdit de vrais réflexions collectives entre les critiques surtout techniques, surtout sociologiques, surtout juridiques, etc.

J'y inclus aussi la tendance à gauche, à voir toute évocation des risques relatifs aux progrès de l'IA par des chercheurs de compagnies IA comme uniquement destinée à servir la publicité de celles ci (mon point de désaccord avec @wnstnsmith.bsky.social) s'il y a de ça aussi dans certains cas.

S'il est évident que la dark silicon valley (des Musk etc.) recherche la hype pour financer et obtenir du soutien politique à ses expériences, il ne le fait pas pour rien. Il s'agit de croyants transhumanistes qui jouent aux apprentis sorciers car ils rêvent d'immortalité et de pouvoir absolu.

Après il est légitime de considérer les problèmes immédiats comme ceux des biais, de l'exploitation des forçats du clic, ou relatifs à la propriété intellectuelle comme plus prioritaires que des considérations hypothétiques sur les avancées prochaines.

Mais complètement écarter tout ce qui relève de l'anticipation c'est interdire précisément à l'humanité de se préparer aux progrès de ces technologies (qui même s'ils prendront plus probablement des décennies que les mois qu'évoquent certains doomers apparaissent difficilement évitables).