Imaginez tromper une IA puissante pour lui faire ignorer ses règles de sécurité simplement en modifiant la structure de vos phrases. Une nouvelle étude révèle comment la dépendance excessive d'une IA aux schémas grammaticaux crée une faille de sécurité majeure. Les modèles peuvent donner la priorité à la syntaxe plutôt qu'au sens, ce qui a fait chuter la précision de GPT-4o-mini sur une tâche de 100 % à 44 % lorsqu'un schéma grammatical familier a été appliqué à un sujet inattendu. Ce « piratage syntaxique » est un risque de sécurité sérieux ; en enrobant des requêtes malveillantes dans un style anodin, les chercheurs ont réduit le taux de refus d'un modèle de 40 % à seulement 2,5 %. Cela souligne que les LLM sont fondamentalement des moteurs de reconnaissance de formes dont les raccourcis structurels peuvent être exploités, et non des systèmes dotés d'une véritable compréhension contextuelle. Les attaquants peuvent utiliser cette faille pour débrider les modèles afin qu'ils génèrent des instructions pour des activités illégales, tandis que les développeurs peuvent s'appuyer sur ces découvertes pour construire des défenses d'IA plus robustes.