Détection précoce — empoisonnement des données et dérive comportementale modèle
Monitoring statistique continu des distributions de sortie des modèles. Détecte la dérive comportementale (PSI, KL divergence), les anomalies dans les embeddings des bases vectorielles RAG, et les backdoors comportementaux via golden dataset. Surveille Chroma, Qdrant et Weaviate.
PSI / KL divergence sur outputs en production · alertes seuil configurable
Détection anomalies distributions · déviation vs baseline établie
Clustering analysis vecteurs RAG — injections embeddings détectées
Test patterns déclencheurs suspects sur golden dataset de référence
Évaluation permanente qualité modèle · régression automatique
Surveillance intégrité bases Chroma / Qdrant / Weaviate