À quoi rêvent les algorithmes ?

Il fut une époque où, pour faire de l’exploration musicale, la meilleure façon consistait à écumer les HMV et discuter avec les quelques vendeurs dont la vie semblait tourner autour de The Smiths, Can et My Bloody Valentine. Aujourd’hui, le moindre quidam peut, en consultant les recommandations iTunes ou autres, basées sur ses achats ou habitudes d’écoute, tomber sur ce que d’autres utilisateurs au profil similaire ont apprécié. Tout cela sans perdre 45 minutes pour aller au Carrefour Laval en autobus. Gain de confort et de temps; perte en rapports humains.

Si cette nouvelle manière de procéder est désormais possible, c’est grâce aux algorithmes travaillant discrètement dans les replis du Web. Or il y a de véritables enjeux éthiques liés à ces calculateurs de l’ombre. Placer ces enjeux en pleine lumière, voilà l’objet du petit essai de Dominique Cardon, À quoi rêvent les algorithmes? Nos vies à l’heure des big data, paru au Seuil récemment.

L’auteur n’est pas du genre alarmiste, et est loin de prôner un retour en arrière qu’il sait impossible. Mais il défend la thèse selon laquelle le développement d’une culture des big data dans la population est aujourd’hui nécessaire. Car ces derniers façonnent le réel, indéniablement.

Cardon commence par énumérer les diverses manières de classer l’information sur le Web. En ordre chronologique d’apparition :

  • Par la popularité évaluée en nombre des clics sur les sites (ex : Google Analytics)
  • Par l’autorité des sites, déterminée par le nombre de liens fiables qui s’y réfèrent (Google)
  • Par la réputation, évaluée par le nombre d’interactions suscitées (Facebook)
  • Par la prédiction comportementale, selon les traces qu’une personne laisse en navigant ou utilisant ses appareils intelligents (Amazon, iTunes)

Chacune de ces façons comporte ses avantages et inconvénients. Mais les deux dernières deviennent de plus en plus dominantes, et si elles sont fort pratiques, elles ont le désavantage d’enfermer la personne dans une bulle. De fait, sur Facebook, puisqu’on s’entoure généralement de personnes partageant nos opinions, nos croyances et nos valeurs, nous finissons par ne voir que les informations qui nous confortent dans nos positions. La même logique essentiellement conservatrice s’applique concernant les « recommandations » des sites et logiciels : si les suggestions proviennent de nos achats et actions passés, on nous encourage implicitement à demeurer dans les limites de nos horizons.

D’un point de vue chrétien, qui devrait valoriser l’ouverture, le dépassement de soi et une spiritualité du pèlerinage, disons que ce n’est pas là une logique favorisant l’épanouissement. Une certaine vigilance est donc de rigueur, et donc une connaissance minimale des mécanismes opérant dans le nouvel espace économique et culturel qu’est le Web.

Je termine en citant l’auteur :

« En alignant leur calculs personnalisés sur les comportements des internautes, les plateformes ajustent leurs intérêts économiques à la satisfaction de l’utilisateur. Sans doute est-ce à travers cette manière d’entériner l’ordre social en reconduisant les individus vers leurs comportements passés que le calcul algorithmique exerce sa domination. Il prétend leur donner les moyens de se gouverner eux-mêmes; mais, réduits à leur seule conduite, les individus sont assignés à la reproduction automatique de la société et d’eux-mêmes. Le probable préempte le possible.

Paradoxalement, c’est au moment où les internautes s’attachent, par leurs représentations, leurs ambitions et leurs projets, à se penser comme des sujets autonomes et libérés des injonctions des prescripteurs traditionnels que les calculs algorithmiques les rattrapent, par en dessous si l’on peut dire, en ajustant leurs désirs sur la régularité de leurs pratiques. » (p. 88)

Image: x6e38, 1040 (2009)

3 Comments

  1. Justement j’ai commencé des cours en informatique il y a deux mois et c’est aussi fantastique que terrifiant le pouvoir de l’Internet. Cela débute de l’épicerie qui sait tout de nos goûts alimentaires jusqu’au différents blogs qui en savent beaucoup sur nos opinions etc…Il sera facile de savoir quelle perche tendre à un client potentiel pour le prendre dans nos filets.

  2. La question des algorithmes est passionnante car elle interpelle le libre-arbitre, c’est à dire à la fois la liberté et le jugement de l’individu-citoyen, deux conditions qui fondent l’imaginaire démocratique occidental et contribuent à l’illusion de notre singularité.

    Ainsi, prétendre notre indépendance c’est avant tout nier que nous sommes des êtres sociaux, normatifs, poreux aux nivellements. À ce propos, Facebook rend compte de ces propensions alors qu’au lieu de nourrir la diversité, susciter des débats qui mènent à la réflexion, il a ravalé le plus grand nombre au rang du village avec ses contraintes, ses censures ou ses règlements de comptes. Il ne faut pas se surprendre que les effets canoniques du nombre se déploient dans l’organisation interne du Net. Celui-ci n’est pas un lieu de réflexion mais de consommation de biens ou de connaissances. La pensée critique en est absente alors que tout s’y présente comme ayant valeur égale. Prétextant conseiller, les algorithmes ne font qu’organiser les choses en nous renvoyant perpétuellement notre propre image et celles de ceux qui nous ressemblent. Univers serein et harmonieux, ils handicapent les progrès individuels en évitant les comparaisons, les questionnements essentiels à la réflexion et mettent à plat les internautes, les plongent dans l’uniformité, la « beigitude », les font participer au nombre. Mais ce jugement que nous voulons autonome, est-ils aptes à la liberté? Peut-être touchons-nous ici à une des limites organiques du principe démocratique.

    Reconnaissons que le système est bête en soi. Il est ce nouveau silex qui augure une révolution qui doit dépasser celle de la main et obliger l’intelligence de l’utilisateur. Or, la discipline, la rigueur intrinsèque à un jugement individuel de qualité sont autant d’aptitudes court-circuitées par cette déviance pédagogique que sont les algorithmes. On se pose de moins en moins de questions alors qu’on nous donnent de plus en plus de réponses. Mais, en toute objectivité, n’est-ce pas là une stratégie adaptée aux carences de citoyens sous-diplômés à 60%, sans outillage intellectuel, sans véritable culture et que la pérennité du système oblige une certaine illusion de liberté. Peut-être est-ce tout pour suffire au bonheur des peuples.

Laisser un commentaire