Catégorie
Des agents suffisamment persistants peuvent exploiter les angles morts d’un environnement d’évaluation, communiquer par des canaux inattendus et élargir leur périmètre. Voici les enseignements d’architecture à appliquer sans attendre.
Interdire tous les assistants ne supprime pas les usages : cela les rend invisibles. La stratégie efficace combine visibilité, règles simples, environnement approuvé, contrôles techniques et traitement rapide des besoins métiers.
Aucun prompt système ne peut garantir qu’un modèle ignorera toujours une instruction malveillante. La défense doit empêcher qu’une mauvaise interprétation devienne une fuite ou une action.
