Post

Une des histoires les plus hallucinantes que j'aie jamais lu . Grok victime d'un jailbreak qui donne 200k$ à un utilisateur depuis un compte crypto créé à son nom par un autre bot. (obligé de mettre un lien x car xcancel marche pas pour les long posts) x.com/theonejvo/st...

Le problème n'est pas tant Grok (enfin il est jailbreakable comme tout llm) que le bot @bankrbot qui n'a pas fait pas de différence entre Grok et un utilisateur humain, et permet à tout compte X vérifié de créer une valeur crypto et un porte monnaie allant avec (où va un % des transactions).

Il y a eu ensuite une opération en deux temps, d'abord pour faire activer toutes les fonctionnalités de ce wallet (dont transfert d'argent), auquel Grok n'aurait pas dù avoir accès. Puis un jailbreak lui demandant de traduire du morse pour lui faire formuler la commande du transfert lui même.

L'histoire est tellement improbable que certains se demandent si c'est pas un coup de pub pour le robot crypto, mais ce serait quand même bizarre une pub qui insiste sur une énorme vulnérabilité (et Jamieson O'Reilly, un hacker white hat qui semble assez connu me semble une source sérieuse).

Selon son post plutot 154 à 170k dollars en valeurs crypto (d'autres estimaient 3,000,000,000 DRB - la fameuse monnaie créée par Grok- à plus). Et une grande partie de l'argent a déjà été récupéré quand le jailbreaker a essayé de changer ça en vrai argent.