Les algorithmes vous rendent stupide (et sûr de vous) – l’étude qui fait peur

—

Bon, imagine. Tu essaies d’apprendre un truc, genre différencier des extraterrestres cristallins (ouais, ça existe… dans les études). Tu as 6 caractéristiques à explorer, mais un algorithme te force à te concentrer sur 2 ou 3. Résultat ? Tu te plantes, mais tu es persuadé d’avoir raison. Bienvenue dans le monde des algorithmes de recommandation personnalisée.

C’est ce que vient de prouver une étude sérieuse, mais un peu flippante, publiée dans Journal of Experimental Psychology: General. Les chercheurs ont construit une plateforme custom avec des extraterrestres fictifs, et ils ont regardé 346 participant·e·s galérer. Le souci ? Plus l’algo leur montrait les mêmes infos, moins ils exploraient, et plus ils étaient confiants… même quand ils se trompaient.

—

Le problème en détail

L’algorithme utilisé dans l’étude est un système de recommandation basé sur le renforcement. En gros, il te montre ce que tu as déjà vu, genre \ »Ah, tu as cliqué là ? Tiens, encore un truc similaire\ ». Mais ça, à force, ça réduit ton espace d’exploration. Les participants n’exploraient que 20-40% des caractéristiques disponibles. Et quand on les a testés sur des nouveautés, 82% des réponses étaient fausses.

Le pire ? Leur confiance était plus élevée quand ils se plantaient (78% de confiance moyenne pour les réponses incorrectes vs. 65% pour les correctes). Hé oui, plus tu es limité dans tes infos, plus tu te sens sûr de toi. Ça s’appelle un biais d’exploration, et c’est un gros problème.

—

Pourquoi c’est grave ?

Cette étude n’a duré que 3 sessions de 45 minutes, mais les effets sont déjà visibles. Maintenant, imagine ça à l’échelle de YouTube ou TikTok, où tu passes des heures à consommer du contenu qui t’est suggéré. L’algo te montre ce qu’il pense que tu veux voir, mais pas forcément ce que tu devrais voir.

Les chercheurs parlent d’\ »underfitting cognitif\ ». En gros, ton cerveau ne reçoit pas assez d’infos variées pour bien comprendre un sujet. Et ça crée des bulles de filtres, mais pas celles qu’on croit. Ici, c’est pas juste une question de biais politique ou social, c’est carrément une distorsion de ta perception de la réalité.

—

Comparaison avec le monde réel

L’étude était dans un cadre super contrôlé : 6 caractéristiques, pas de bruit. Mais dans la vraie vie, YouTube gère environ 500 métadonnées par vidéo. Si l’effet est déjà fort avec 6 variables, imagine avec 500 ! Les chercheurs estiment que l’impact pourrait être 10x pire en production.

Et là, attention, il y a une solution. Des alternatives comme Diverse RecSys (IBM Research, 2023) couvrent 85% des caractéristiques en 100 essais, contre 40% dans l’étude. Mais ça vient avec un trade-off : -15% de précision perçue. Bref, il faut choisir entre être bien servi ou être bien informé.

—

Ce qu’on peut faire

Si tu veux jouer avec, voici un bout de code Python pour simuler l’effet d’under-exploration. Ça utilise un algorithme de bandit (Thompson Sampling) avec un biais pour reproduire le problème :

import numpy as np
from scipy.stats import beta

class BiasedBandit:
    def __init__(self, n_features=6):
        self.alpha = np.ones(n_features)
        self.beta = np.ones(n_features)
        self.exploration_penalty = 0.7

    def select_feature(self):
        samples = [beta.rvs(self.alpha[i], self.beta[i]) * self.exploration_penalty for i in range(len(self.alpha))]
        return np.argmax(samples)

    def update(self, feature_idx, reward):
        self.alpha[feature_idx] += reward
        self.beta[feature_idx] += 1 - reward

# Usage: simule la réduction de 40% d'exploration observée
bandit = BiasedBandit()
for _ in range(1000):
    chosen = bandit.select_feature()
    bandit.update(chosen, reward=np.random.binomial(1, 0.3))

print('Feature exploration counts:', [int(x) for x in bandit.alpha])

Et si tu veux aller plus loin, voici une commande en R pour reproduire les tests statistiques de l’étude :

library(lme4)
model <- glmer(correct ~ confidence + (1|user_id) + (1|feature_id),
               data = study_data,
               family = binomial,
               control = glmerControl(optimizer = 'bobyqa'))
summary(model)

---

Mon avis et ce que tu peux faire

Franchement, cette étude fait froid dans le dos. Elle montre que les algorithmes de recommandation ne sont pas juste des outils pratiques, mais des dispositifs qui façonnent ta façon de penser. Et pas toujours dans le bon sens.

Alors, si tu veux éviter de tomber dans le piège, force-toi à explorer. Désactive les recommandations personnalisées quand tu peux, et cherche activement des sujets que tu n’aurais pas vus autrement. Et si tu bosses sur un algorithme, pense à intégrer une part de contenu \"exploratoire\" non personnalisé.

Bref, sois malin, reste curieux, et surtout, méfie-toi de ton niveau de confiance \o/