Anthropic entraîne Claude à examiner ses propres conversations afin d’y repérer les usages abusifs

Share

Anthropic a entraîné Claude à examiner rétrospectivement chaque conversation afin de déterminer si elle présente des signes d’utilisation abusive. Cette évaluation interne intervient après la réponse du modèle, sans interrompre l’utilisateur : les conversations signalées sont transmises à desecidos pour un examen hors ligne. Le système a détecté 78 % des conversations potentiellement nocives, 94 % des cas à priorité élevée, avec un taux de faux positifs d’environ 1 %. Chaque évaluation ajoute environ 10 jetons et moins de 2 % aux coûts d’inférence, complète les filtres en temps réel et s’inscrit dans la stratégie de défense en profondeur d’Anthropic. Des partenaires externes, notamment METR et SecureBio, évaluent également les mesures de sécurité des modèles.

Source: Lire l’article original

Avertissement : ce contenu est fourni à titre d’information uniquement et ne constitue pas un conseil en investissement. Les cryptomonnaies sont très volatiles : vous pouvez perdre tout votre capital. Faites toujours vos propres recherches. Mentions légales
Telemac
Telemachttp://cryptoinfo.ch
Passionné de nouvelles technologies, j’explore l’univers de la blockchain et des cryptomonnaies pour partager l’actualité et les innovations du secteur.

Lire la Suite

Articles