Depuis ce weekend des utilisateurs ont découvert qu’ils ne pouvaient pas poser des questions sur un certain David Mayer. Outre les délires complotistes qui cela a généré, cela permet de comprendre comment aujourd’hui OpenAI contrôle des réponses et de « censure »

Tout d’abord il ne faut pas confondre la version grand public, qui applique des instructions par-dessus le modèle d’IA ainsi que des filtres, et la version ouverte aux développeurs, qui permet d’utiliser le modèle « brut ». Dans le second cas, la requête fonctionne bien

(pour ceux intéressés, toutes les instructions grand public d’OpenAI sont dispo ici, sans les filtres par contre https://github.com/0xeb/TheBigPromptLibrary/tree/main/SystemPrompts/OpenAI…)

Tout d’abord ça a ouvert de nombreuses réflexions très borderline (complotiste voir antisémite), car un des David Mayer est…. Un Rothschild

Les gens ont essayé de dizaines de manière de faire, parfois avec succès, pour lui faire parler de David Mayer, ce qui montre que ce n’est pas inhérent au modèle. Alors quel est le souci ? « Influence des puissants » ? Non, on peut faire écrire sur tous les autres Rothschild

De plus, d’autres noms ont la même "censure", notamment Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber, Guido Scorza

Bien entendu internet a enquêté, il se trouve que chaque nom correspond à quelqu’un qui a porté plainte contre openAI, ou que chatGPT a diffamé par une hallucination ou qui a fait une demande RGPD du droit à l’oubli https://www.reddit.com/r/ChatGPT/comments/1h420u5/unfolding_chatgpts_mysterious_censorship_and/…

Pour David Mayer, ça semble plus compliqué, il y aurait plusieurs candidats « à la censure » , dont un membre de ce qu’on appelle une « Red Team », qui sont des testeurs de modèle d’IA

Ce qui est intéressant, c’est la démonstration de la seule manière pour openAI aujourd’hui de se conformer à la législation, notamment du droit à l’oubli, ou de peur de faire de la diffamation, en « censurant » les sorties du modèle, et non le modèle lui-même (qui répond)

Bon on dirait que @Éric Bothorel, qui lui aussi a porté plainte contre openAI n’a pas le droit au même traitement

Gros problème : la manière dont c’est implémenté (en vérifiant que le nom ne s’écrit pas) peut être contourné facilement en ajoutant des charactères, et d'autres techniques

et il semblerait que dans d’autres langue (exemple ici en hébreu), pas de souci jusqu’à ce qu’il essaie de l’écrire également en caractères latins https://x.com/MeMrSnow/status/1863053304709939576…

Pareil en vocal, pas de souci, le filtre n'est pas mis https://x.com/sparklingruby/status/1862966365998534901…

Donc aucun complot, juste de la « censure » probablement pour suivre des demandes de personnes physiques ou de plaintes, et qui ne sont pas en rapport avec l’IA elle-même mais le service créé par-dessus. Et beaucoup de question en suspens pour contrôler tout ça...

And it's gone!