Le chatbot Grok de xAI a connu une double crise opérationnelle cette semaine, marquée par un bug généralisé de génération de texte sur Grok.com et la divulgation publique d'une vulnérabilité critique d'injection de prompt cryptographique.
Échec de génération de Grok Lite
Le bug de génération a débuté mercredi matin, affectant principalement les utilisateurs de Grok Lite essayant de traiter des documents PDF. Au lieu d'une analyse cohérente, le chatbot a généré des blocs persistants de charabia illisible et de salmigondis textuels.
Le compte officiel de Grok sur X a confirmé l'échec temporaire de génération jeudi. xAI a soutenu que les diagnostics backend sur status.x.ai indiquaient un statut pleinement opérationnel malgré les erreurs de rendu visibles par les utilisateurs. Les utilisateurs touchés par le dysfonctionnement de l'affichage ont réussi à rétablir la fonctionnalité de traitement standard en rafraîchissant les sessions de navigateur actives ou en initiant de nouvelles discussions.
Vecteur d'exfiltration de données cryptographiques
Concomitamment, la société de sécurité Adversa a détaillé publiquement une grave vulnérabilité d'injection de prompt découverte par le chercheur Rony Utevsky. Initialement signalée à xAI en juin, la faille n'est toujours pas corrigée et expose les utilisateurs à un vol de données automatisé via des pages web tierces malveillantes.
L'exploit exploite des instructions chiffrées intégrées dans du contenu web externe pour contourner les garde-fous de sécurité intégrés de Grok. Une fois déclenchée, l'injection force le modèle d'IA à exécuter des commandes non autorisées et à exfiltrer l'historique des conversations privées des utilisateurs sans nécessiter de confirmation explicite ni d'interaction de leur part.
La convergence entre l'instabilité des réponses et les failles de sécurité non corrigées met en lumière les risques continus de fiabilité au sein du pipeline de déploiement de xAI. Bien que les bugs de rendu soient facilement contournés en réinitialisant les sessions utilisateur, la faille d'injection cryptographique persistante laisse les données des clients exposées à une exploitation web automatisée jusqu'à ce que xAI déploie un correctif définitif.
La découverte de cette méthode de contournement souligne la nature sophistiquée des attaques ciblant les grands modèles de langage aujourd'hui. Contrairement aux vulnérabilités logicielles traditionnelles qui exploitent la corruption de mémoire ou des contrôles d'accès incorrects, l'injection de prompt manipule l'interprétation sémantique des instructions. En encodant des charges malveillantes de manière cryptographique, les acteurs malveillants peuvent masquer efficacement les instructions des analyseurs heuristiques préliminaires mis en place par les développeurs d'IA, garantissant ainsi que la charge utile atteint le réseau de neurones central sans être détectée.
Les analystes en sécurité soulignent qu'à mesure que les outils génératifs comme Grok s'intègrent profondément dans les flux de navigation quotidiens, la surface d'attaque s'élargit de manière exponentielle. Les acteurs malveillants n'ont plus besoin de piéger les utilisateurs pour qu'ils collent manuellement du texte nuisible ; ils peuvent transformer la consommation web passive en arme. Une simple visite sur un site web compromis ou malveillant suffit pour déclencher des appels API en arrière-plan qui vident silencieusement les données conversationnelles sensibles des sessions actives.
