Bienvenue dans la prison numérique

Avez-vous déjà eu l’impression de perdre le contrôle de votre temps et de vos actions sur le numérique ?

La bulle de filtre, l’économie de l’attention, les fake news, les smombies, la surinformation. La liste des sujets d’inquiétude est grandissante au point d’avoir alerté le créateur du web Tim Berner Lee avec la célèbre phrase : “Le web est en danger”. 

Cet article présente un regard rapide sur les mécanismes pouvant expliquer certaines déviances de notre société digitale.

L’histoire s’accélère, notre pensée aussi 

Notre société moderne a été bouleversée par l’émergence des technologies numériques. Après quelques décennies, on observe un changement des codes et des pratiques. Si il est une raison plus qu’une autre de notre perte de contrôle, il s’agit de notre relation au temps.

L’histoire de l’informatique et l’histoire de l’homme digital s’écrivent dans le même sens. Celui d’une accélération que l’on retrouve dans la vitesse de traitement des données (la loi de Moore) mais aussi par le progrès tel que mis en exergue par la loi du retour accéléré de Ray Kurzweil.

Cette accélération a entrainé chacun de nous dans une perte de contrôle progressive de nos moments de pleine conscience. L’idée d’une pensée rapide correspond à ce que le psychologue et prix Nobel d’économie Daniel Kahneman décrit comme notre système 1. Le système 2, lui serait plutôt semblable à celui qui analyse, qui effectue un effort mental, sans accepter par défaut ce que nos sens nous transmettent. Le système 1 est bien évidemment celui par lequel nous allons entrer dans la prison numérique.

Dans une spirale d’accélération, et sous un déluge de données et d’information, l’enjeu devient l’attention. La captologie a largement mis en évidence, la manière de capter une attention. Cette mission n’est pas si simple car le cerveau humain comporte de nombreuses faiblesses dont la fragilité aux sources de distraction.

Notre cerveau a évolué pendant longtemps dans un environnement pauvre en information. Il a, de fait, appris à accorder beaucoup d’importance au moindre stimulus. À l’image du bruit d’un animal sauvage qui pouvait être porteur d’une information synonyme de survie, de vie ou de mort. Les notifications sonores, visuelles et même vibratoires sont des stimuli irrésistibles servant d’appât pour capter l’utilisateur.

Lorsque cette attention est captée, les services digitaux souhaitent la conserver à tout prix. C’est en particulier le cas des services qui alimentent leur modèle d’affaires avec la publicité. Ils ont intérêt à créer une forme d’engouement qui peut se transformer en habitude voir en dépendance. Cette phase s’effectue à la recherche de modèles encourageant l’habitude chez le consommateur de service digital, en particulier des réseaux sociaux.

Herbert Simon écrira dès les années 1970 : “Quand l’information est abondante, la ressource rare devient l’attention.”

Des actions qui sont pensées pour être accomplies simplement et sans effort. En résultat de cette action, la phase suivante est celle de la récompense variable. Résultat de l’action pour laquelle l’utilisateur vient sur le service. Une action qui génère l’émission d’une hormone de bonheur. Satisfaction de recevoir un commentaire, un like, de voir son audience augmenter. Pour expliquer l’origine de cette gratification, on mentionne souvent l’estime de soi ainsi qu’une forme de narcissisme.

FOMO : Fear Of Missing Out

Pour capter l’attention, les stimulus devront jouer avec l’urgence. Cette dernière est même devenue la norme. Non satisfait d’aller simplement vite, il faut maintenant s’empresser de se dépêcher. L’accélération se poursuit. L’acronyme « Fear Of Missing Out » ou FOMO est un phénomène traduit comme la peur de manquer quelque chose sur son téléphone portable. Il est caractérisé par la crainte généralisée que d’autres puissent avoir des expériences enrichissantes dont on est absent[1]. Ce phénomène d’anxiété sociale peut mener à une forme de dépendance à la technologie. Cette dernière entraine les utilisateurs à répondre et à vérifier l’ensemble de leurs sollicitations en temps réel (notifications, courriels, etc.). C’est un travail chronophage et vecteur de stress. Aux États-Unis, en 2018, on estimait le nombre de notifications à plus de 50 par jour. 

La nomophobie[2] ou mobidépendance est donc bien réelle pour une partie de la population. Les annonceurs exploitent ce dernier en insistant sur l’effet d’alerte et de fausse rareté des offres toujours plus exceptionnelles les unes que les autres. Un autre moyen de nous obliger à rester dans l’instant présent sans cesse comme pour nous faire oublier le futur. Une citation d’Étienne Klein illustre très bien le propos :  “Partout le présent a répudié l’avenir comme promesse.”

 Interrogeant les géants depuis le début des années 2000, le journaliste Hubert Guillaud estimait que nous sommes devenus victimes d’un gavage automatisé avec cette optique de toujours proposer des contenus sans que cela ne s’arrête, comme s’il y avait tout le temps un risque de manquer quelque chose [3]. Ce quelque chose pour obtenir l’intérêt doit s’appuyer sur le sensationnel. Une guerre de l’audimat qui avait déjà mis en évidence par Pierre Bourdieux sur la télévision. À redécouvrir pour comprendre la réalité actuelle des réseaux sociaux.

Quand l’attention est gagnée, la machine est en route

Le web a permis l’émergence de volumes exceptionnels de données qui apportent les ingrédients nécessaires à l’amélioration continue de l’Intelligence Artificielle. 

Les données sont à l’image des mitochondries de nos cellules eucaryotes, une composante indispensable permettant de fournir à l’intelligence artificielle une énergie nécessaire à son fonctionnement, à sa vie. 

Les algorithmes d’apprentissage par la machine se servent de cette donnée pour ajuster les modèles mathématiques qui sont intégrés dans les programmes informatiques.

C’est la disponibilité de volumes gigantesques de photos digitales qui permet à la machine d’apprendre si ce n’est à voir du moins à reconnaître des objets sur une image. Au travers de nos écrits, de nos sons, de nos photos, de nos données, on lui offre un semblant de perception du monde qu’elle n’aurait pu acquérir seule. Elle, qui n’a de support que des lignes de codes retranscrites en 0 et 1, a désormais accès à une vision d’un autre monde. Nos caméras lui offrent presque des yeux, nos textes lui offrent presque la lecture, nos sons lui offrent presque des oreilles. Ces yeux, ces oreilles, et la lecture ne sont possibles que grâce à nos actions quotidiennes captées sur le web.

Doit-on faire confiance à l’intelligence artificielle ? La question ne se pose plus, nous lui faisons déjà confiance aveuglément. Il m’arrive souvent de poser la question suivante à un auditoire : “Feriez-vous confiance à l’intelligence artificielle pour faire des choix dans votre vie quotidienne”. La réponse est souvent mitigée et plutôt négative. Pourtant les algorithmes qu’ils soient d’intelligence artificielle ou non font déjà des choix imperceptibles, mais bien réels pour nous tous. Cela crée à la fois un sentiment de surprise et un questionnement. 

Pourtant, Google fait à chaque requête utilisateur, le choix de ce qu’il va afficher en première page. Facebook fait le choix d’afficher ou non le message d’un de vos amis dans votre flux d’information. Netflix propose une série de films spécialement conçus pour vous. YouTube dispose d’un système de recommandation de vidéos et fait donc un pari de ce que vous allez apprécier. En réalité loin d’être un pari, la donnée permet au service d’identifier le bon contenu. Au paroxysme de notre situation, la donnée est le nerf de la guerre. Au point d’en faire une philosophie voire une religion. À l’apothéose, on imagine maintenant l’homme et l’univers comme régis par des données, par des algorithmes. Le terme controversé de dataïsme confère à toute chose une valeur liée aux données qu’elle porte ou qu’elle permet de capter[4]. 

Quand tous les sens de nos algorithmes et de l’IA sont en éveil, on peut commencer la chasse à l’homme.

L’homme piégé et appâté

Dans un article du journal of material culture, l’anthropologue de la technologie Nick Seaver[5] met en perspective les similitudes surprenantes entre certains algorithmes et le concept de piège. Il y dénonce des pratiques semblables aux guets-apens utilisés par l’homme lors de l’exercice de la chasse. Les artifices de cet art seraient désormais exploités contre lui dans le cadre de déviances digitales. Pour comprendre ce parallèle, il est important de revenir à la définition de l’ethnologue américain Otis Tufton Mason[6] qui étudiait le piège dans le cadre de ses études sur les techniques utilisées par les indigènes pour la capture des animaux. Il dénotera la chose suivante : “Le piège lui-même est une invention dans laquelle sont incarnées les études les plus minutieuses sur les habitudes et les animaux. Le chasseur doit connaitre pour chaque espèce sa nourriture, ses gouts et ses dégouts, ses faiblesses et ses forces. Un piège à cet égard est une embuscade, une supercherie, une tentation, un attrait irrésistible : c’est une stratégie.”

Tous ces éléments essentiels aux pièges : nos goûts, nos dégoûts, nos faiblesses et nos forces sont déjà imperceptiblement contenus dans les volumes de données captées en ligne.

Mais alors, à quoi ressemblent nos pièges digitaux ? Pour le comprendre, il faut investiguer, par exemple, le piège du tunnel de conversion. Le potentiel client y est hameçonné par la publicité et la captologie sur un canal de communication. Cette action est rendue possible avec des artéfacts marketing comme un stimulus (visuel, sonore, etc.). L’hameçon que nous utiliserons s’appelle Hook [7]. Comme à la pêche, tous les poissons ne sont pas bons à prendre et un algorithme permettra d’identifier les bonnes espèces. Les spécimens les plus recherchés, les plus adaptés, les plus rares. L’image présente la métaphore visuelle du processus de captation d’un client avec la technique de pêche au chalut pélagique[8]. Cette pêche s’appuie sur des filets-poches de grandes dimensions qui offrent une ouverture de quelques dizaines de mètres avec un pouvoir de capture considérable. La partie antérieure des mailles fait plus d’un mètre afin de limiter le ralentissement et de ne pas créer de perturbation. La partie saisissante dispose, elle, de mailles beaucoup plus petites afin d’assurer la captation du poisson.

In fine, l’homme tombe dans le piège qui le mènera au travers du tunnel de conversion. Conversion dont l’un des sens du dictionnaire est révélateur de l’intention qu’il ne cache pas : “Fait de passer d’une croyance considérée comme fausse à une vérité religieuse admise”. Pour arriver à tisser les mailles du filet, de nombreuses études mêlant psychologie, tracking, marketing et big data sont menées.

Métaphore entre le processus de captation d’un client et la technique de pêche au chalut pélagique. La forme en entonnoir est celle utilisée en marketing.

Plus de deux millions d’études de ce type sont identifiables [9]. La mécanique du piège est donc de plus en plus sophistiquée. Lire dans la tête du poisson peut aussi aider à sa capture. Nos forces et nos faiblesses sont psychologiques. La donnée est le rouage essentiel de la démarche. 

Elle a apporté aux professionnels une meilleure connaissance des prospects, des clients, de leurs préférences, de leurs habitudes, une étude fine de leurs forces et de leurs faiblesses, qui est portée par l’analyse du comportement client. Ce dernier est dénommé cible comme pour mieux rappeler le parallèle. Quand la cible est repérée et les armes préparées, le résultat de la traque est sans appel. Encore faut-il un appât bien adapté, pour trouver le bon appât il faut l’ajuster à chaque espèce.

Retrouvez d’autres éléments de réflexion dans l’ouvrage : La Prison Numérique.

Prison numérique

21,50 €Voir
21,50 €Voir
[1] Przybylski, A. K., Murayama, K., DeHaan, C. R., & Gladwell, V. Motivational, emotional, and behavioral correlates of fear of missing out. Computers in Human Behavior, 29(4), 2013.
[2] Le terme est un monstre étymologique issus des mots anglais no mobile-phone phobia pour phobie de l’absence de téléphone.
[3] Nous ne serons plus jamais déconnectés…, Par Hubert Guillaud, Internet Actu, 2012.
[4] Homo Deus : une brève histoire du futur, Yuval Noah Harari, 2015.
[5] Captivating algorithms: Recommender systems as traps, Nick Seaver, Tufts University, 2019.
[6] Traps of the amerinds: a study in psychology and invention, American Anthropologist, Otis Mason, 1900.
[7] Hook signifie hameçon en anglais. C’est le titre d’une théorie proposé par Nir Eyal dans son ouvrage Hooked.
[8] Le chalutage pélagique dans les eaux côtières du sud-ouest de la France, Philippe Fournet Norois, 1980.
[9] La recherche “behavioural marketing” sur Google Scholar vous permettra de corroborer ce chiffre approximatif.

The post Bienvenue dans la prison numérique first appeared on ProcuRSS.eu.

Menu