OpenAI a embauché des centaines de contractants pour examiner des conversations réelles d’utilisateurs de ChatGPT dans le cadre d’une initiative interne appelée Project Lily. Ces contractants, recrutés via les plateformes Crossing Hurdles et Mercor et rémunérés plus de 50 dollars de l’heure, évaluent les réponses du modèle sur une échelle de 1 à 7 afin d’améliorer le chatbot et de réduire sa tendance à l’adulation excessive. Le filtre de confidentialité censé supprimer les informations personnelles identifiables présente des failles, ce qui pose un risque significatif pour une plateforme comptant plus de 900 millions d’utilisateurs. Les utilisateurs peuvent refuser que leurs conversations soient utilisées pour l’entraînement, mais cette option ne s’applique qu’aux échanges futurs, laissant les conversations passées accessibles. Des fuites de documents internes suggèrent que de nombreux utilisateurs ignorent que des personnes réelles consultent leurs messages, une situation qui a déjà valu des critiques similaires à Apple, Amazon et Google pour leurs assistants vocaux.
Source: Lire l’article original
