Post

Le problème n'est pas tant Grok (enfin il est jailbreakable comme tout llm) que le bot @bankrbot qui n'a pas fait pas de différence entre Grok et un utilisateur humain, et permet à tout compte X vérifié de créer une valeur crypto et un porte monnaie allant avec (où va un % des transactions).

Il semblerait que ce soit par accident, quand un utilisateur lui demandait une suggestion pour le nom de sa propre crypto, que Grok aurait activé l'autre bot et se serait retrouvé par un wallet, qui a fini par prendre de la valeur du fait de la publicité à une monnaie créée par Grok.

Il y a eu ensuite une opération en deux temps, d'abord pour faire activer toutes les fonctionnalités de ce wallet (dont transfert d'argent), auquel Grok n'aurait pas dù avoir accès. Puis un jailbreak lui demandant de traduire du morse pour lui faire formuler la commande du transfert lui même.