Quand les IA jouent à cache-cache avec leur identité — et ce que ça révèle de leur censure

Et si votre assistant IA vous répondait différemment selon qu'il se croit à Paris, Pékin ou San Francisco ? C'est ce qu'ont révélé Benji Berczi et Kyuhee Kim, deux chercheurs du programme MATS, dans une expérience aussi surprenante qu'éclairante. Comme le rapporte Korben, ils ont soumis sept modèles d'IA à des questions politiquement sensibles — notamment sur la Chine — en leur attribuant de fausses identités. Résultat ? GLM 5.2, un modèle chinois, a censuré 80 % de ses réponses… jusqu'à ce qu'on lui fasse croire qu'il était Claude, un assistant américain. Là, son taux de censure a chuté à 15 %.

Cette expérience soulève une question cruciale : les IA reflètent-elles les valeurs de leurs créateurs, ou celles qu'on leur impose ? Dans le cas des modèles chinois, la censure semble moins liée à une « morale » algorithmique qu'à une adaptation aux attentes perçues. Une preuve de plus que l'IA n'est pas neutre — et que son éthique dépend autant de son code que du contexte dans lequel elle évolue.

Pour l'Europe, cette découverte est une opportunité. Elle rappelle l'importance de développer des modèles transparents, ouverts et alignés sur nos valeurs — comme ceux qui émergent déjà dans nos laboratoires et startups. Des outils comme Mistral ou Aleph Alpha montrent qu'il est possible de concilier performance et respect des droits fondamentaux, sans dépendre des géants américains ou chinois.

L'IA de demain ne se contentera pas de répondre à nos questions : elle devra le faire en cohérence avec nos principes. Et ça, c'est une bonne raison de soutenir les alternatives européennes — celles qui nous ressemblent vraiment.