Guardrails, les garde-fous d'OpenAI pour encadrer la création d'agents d'IA, a déjà été contourné. En exploitant les failles de conception du modèle, ils sont parvenus à manipuler l'intelligence artificielle. Ils estiment que la start-up a fait une erreur de taille dans la création du mécanisme.
