Campbell Brown, ancienne patronne news chez Meta, soulève une question qui fâche : qui décide du contenu que les modèles IA servent à leurs utilisateurs ? Sauf que la réponse n'est pas la même à Silicon Valley et dans les salons des clients.
Le truc, c'est que les grandes boîtes tech brieffent leurs modèles via des choix éditoriaux : quelles données d'entraînement, quels filtres de modération, quels biais tolérés. C'est du pouvoir éditorial, mais flou, non transparent, et sans les garde-fous du journalisme traditionnel.
Brown pousse l'industrie à clarifier son rôle de gatekeeper..
Meanwhile, les utilisateurs croient discuter avec une "IA neutre" alors qu'ils conversent avec le reflet des décisions d'une poignée d'ingénieurs et de product managers. Brown pousse l'industrie à clarifier son rôle de gatekeeper.
Résultat : la question des valeurs embarquées dans l'IA devient inévitable. Les modèles ne sont jamais neutres — juste invisiblement orientés.