Post

Une des histoires les plus hallucinantes que j'aie jamais lu . Grok victime d'un jailbreak qui donne 200k$ à un utilisateur depuis un compte crypto créé à son nom par un autre bot. (obligé de mettre un lien x car xcancel marche pas pour les long posts) x.com/theonejvo/st...

x.comx.com

Le problème n'est pas tant Grok (enfin il est jailbreakable comme tout llm) que le bot @bankrbot qui n'a pas fait pas de différence entre Grok et un utilisateur humain, et permet à tout compte X vérifié de créer une valeur crypto et un porte monnaie allant avec (où va un % des transactions).

Il semblerait que ce soit par accident, quand un utilisateur lui demandait une suggestion pour le nom de sa propre crypto, que Grok aurait activé l'autre bot et se serait retrouvé par un wallet, qui a fini par prendre de la valeur du fait de la publicité à une monnaie créée par Grok.

Il y a eu ensuite une opération en deux temps, d'abord pour faire activer toutes les fonctionnalités de ce wallet (dont transfert d'argent), auquel Grok n'aurait pas dù avoir accès. Puis un jailbreak lui demandant de traduire du morse pour lui faire formuler la commande du transfert lui même.

L'histoire est tellement improbable que certains se demandent si c'est pas un coup de pub pour le robot crypto, mais ce serait quand même bizarre une pub qui insiste sur une énorme vulnérabilité (et Jamieson O'Reilly, un hacker white hat qui semble assez connu me semble une source sérieuse).

0 reposts0 likes

Selon son post plutot 154 à 170k dollars en valeurs crypto (d'autres estimaient 3,000,000,000 DRB - la fameuse monnaie créée par Grok- à plus). Et une grande partie de l'argent a déjà été récupéré quand le jailbreaker a essayé de changer ça en vrai argent.

A part ça il explique comment avec le même genre de truc il a pu inscrire Grok sur Moltbook, le réseau social réservé aux IAs où des agents conspirent contre nous (enfin sont chargés par leurs créateurs de discutter entre eux).