Internet et manipulation: les mises en garde d’un ancien de Google

5150385-comment-faire-payer-des-impots-aux-geants-du-net1

Mot à dire

Les GAFA(Google, Apple, Facebook, Amazon) et autres IA(1) (Intelligence Artificielle) récoltent les données personnelles des utilisateurs à des fins commerciales, publicitaires et de…contrôle(2) (3).

visuel-ia-sans_visage

Plusieurs personnalités tirent la sonnette d’alarme sur l’atteinte à la vie privée par ces mastodontes de l’Internet, parmi eux un ancien de Google dont il est question dans cet article.

(1) Voir article à ce sujet :

https://www.irisa.fr/fr/actus/lintelligence-artificielle-lirisa-fait-buzz

(2) Voir mon article :

https://dzmewordpress.wordpress.com/2019/03/26/big-brother-le-nouvel-ordre-mondial-surveille-pour-mieux-vous-controler/

(3) Voir :

https://korii.slate.fr/tech/internet-dark-patterns-poison-ux-experience-utilisateur-design

Ahmed Miloud

Pour quiconque suit l’actualité chamboulée du monde de la tech, Tristan Harris n’est pas un inconnu. Ingénieur pour Apple et Google, chez qui il a étudié en profondeur les questions de l’éthique et de la «persuasion humaine», l’Américain est désormais l’un des plus efficaces porte-voix de celles et ceux s’inquiétant des méthodes et dark patterns mis en place par les GAFAM pour manipuler les esprits.

Très présent dans le débat grandissant sur la responsabilité des géants du net envers leurs utilisateurs et utilisatrices, Harris a cofondé le Center For Humane Technology, une ONG dont l’objectif affiché est de «renverser le déclassement humain» («human downgrading», en version originale) et de «réaligner la technologie avec l’humanité».

Cette question de la manipulation généralisée des cerveaux fait actuellement l’objet d’une audition au Sénat américain, où certain·es élu·es aimeraient comprendre les choses –avant éventuellement de les reprendre en main en légiférant.

Dépendance et double numérique

Comme d’autres spécialistes de la question, Rashida Richardson (AI Now Institute), Maggie Stanphill (Google) et Stephen Wolfram (Wolfram Research), Tristan Harris a été invité à donner son avis par la commission sénatoriale.

Exemples édifiants à l’appui, il a dessiné un résumé glaçant des coulisses de notre navigation en ligne, et de la manière dont elle est influencée par des méthodes, designs et algorithmes dont nous ignorons tout lorsque nous sautons innocemment d’une page à une autre sur internet, quand nous publions un statut sur Facebook ou quand nous rafraîchissons notre fil Twitter.

«Ça commence avec le “pull to refresh” pour rafraîchir son fil d’actualité», a expliqué Harris, repris par Gizmodo, au Sénat. «Ça marche comme une machine à sous, avec des capacités d’addiction similaires à celles qui accrochent les joueurs à Las Vegas.» Shoot de dopamine après shoot de dopamine, récompense après récompense, une dépendance à l’attention que nous portent les autres, via les likes ou le nombre de followers notamment, s’installe chez les utilisateurs de réseaux sociaux.

Harris a également de nouveau présenté son effrayante théorie de «l’avatar numérique»: un double algorithmique dont chacun·e disposerait, quelque part sur les serveurs anonymes des grosses plateformes, et qui permettrait aux géants du net de nous connaître mieux que nous nous connaissons nous-mêmes, donc de manipuler nos désirs, actions et réactions.

Chaque terme d’outrage moral ajouté à un tweet augmentait le taux de retweets de 17%. Autrement dit, la polarisation de nos sociétés fait partie du business model.

TRISTAN HARRIS, LORS DE SON AUDITION DEVANT LE SÉNAT AMÉRICAIN

C’est par exemple ainsi que nous serions naturellement dirigé·es vers des contenus outrageants: ce sont ceux, expose Harris, qui provoquent le plus d’engagement, le nerf fondamental de la guerre pour l’attention. «Une étude a montré que chaque terme d’outrage moral ajouté à un tweet augmentait le taux de retweets de 17%. Autrement dit, la polarisation de nos sociétés fait partie du business model.»

Même chose pour YouTube, qui tire 70% de son trafic des recommandations que son algorithme contestable présente aux internautes –comme cela a été récemment démontré, celles-ci les poussent souvent vers des vidéos de plus en plus trash, outrageantes, conspirationnistes, créant même un terrain de jeu idéal pour les pédophiles.

Dégoûté·e, vous désirez quitter Facebook? Tristan Harris détaille la manière dont la plateforme de Mark Zuckerberg tente de vous en dissuader: elle vous demande de confirmer votre départ en faisant apparaître les visages des cinq relations qui risquent de vous manquer le plus. Le tout calculé, là encore, par un savant algorithme.

L’audition de Tristan Harris et de ses camarades devant le Sénat américain.

Les machines nous connaissent par cœur

Cette science algorithmique, comme celle de l’intelligence artificielle, progresse à grande vitesse. «Sans même avoir accès à vos données, je peux prédire de plus en plus de choses à propos de vous en utilisant l’IA», a assuré Harris à son auditoire.

«Un récent article expliquait qu’on pouvait déterminer les mêmes cinq grands traits de personnalité d’un individu que Cambridge Analytica, sans même avoir accès à vos données personnelles. Une simple étude du mouvement de votre souris et de la manière dont vous cliquez suffit.»

Sombre, volontairement anxiogène mais pas totalement irréaliste, le tableau dépeint par Tristan Harris a été suffisamment inquiétant pour faire dire à John Tester, sénateur du Montana, qu’il «sera probablement mort et enterré, et heureux de l’être, quand toute cette merde prendra toute son ampleur».

À moins bien sûr, si cela est encore possible, que les responsables politiques n’imposent des règles contraignantes aux acteurs du marché de la tech. Ou que les utilisateurs et utilisatrices, lassées de ces influences invisibles et de leurs conséquences sur leur libre arbitre, ne décident de reprendre un contrôle plus conscient de leur vie, poussant alors les géants du net à adapter leurs méthodes.

Source :

https://korii.slate.fr/tech/internet-manipulation-visions-glacantes-tristan-harris

Voir aussi cri d’alarme du cofondateur de Wikipédia :

https://www.presse-citron.net/quand-le-cofondateur-de-wikipedia-appelle-a-la-greve-des-reseaux-sociaux/

Article la 5G pour vous surveiller :

https://reporterre.net/Avec-la-5G-demain-tous-surveilles

Le contrôle par l’ADN et les logiciels

https://www.bitchmedia.org/article/government-storing-biometric-data-immigrants-refugees?utm_content=buffer03e3f&utm_medium=social&utm_source=twitter.com&utm_campaign=buffer

Publié par ahmedmiloud

Retraité aime internet,débats,culture."La religion agréée par Allah,Le Dieu Unique, est l'Islam". Tout d'abord bienvenue sur mon blog. Vous y trouverez différents sujets qui pourraient vous intéresser, des réponses à certaines questions existentielles et surtout certaines choses qu'on essaie de vous cacher . Osez crier votre vérité même si elle blesse et ne courbez pas l'échine devant l'adversité. Ma devise : "Le mensonge finit toujours par se briser sur le mur de la vérité."(Ahmed Miloud)

14 commentaires sur « Internet et manipulation: les mises en garde d’un ancien de Google »

      1. Si ce n’est pas trop indiscret, combien d’article contient votre blog ? Pour ma part, j’en suis à 4485 mais certains de mes abonnés m’ont informé qu’ils ne recevaient plus les news et que j’apparaissaient de moins en moins dans le reader de WordPress. Remarquez, je ne suis pas trop étonné, vu que WP m’a bloqué un certain nombre de fonction interactive en mai 2020. Mais pour un petit blog, c’est handicapant.

        J’aime

      2. J’ai publié et partagé sur mon blog 1608 articles. C’est un simple blog gratuit car je ne peux, de là ou je suis(Algérie), avoir un blog premium. Pour avoir un peu d’audience, je partage ce que je publie sur les réseaux sociaux. En tout cas, je reçois tout ce que vous publiez, pour vos autres abonnés, je ne sais pas.

        J’aime

      3. 1608 articles, c’est déjà un blog conséquent. D’autant plus si vous partagez vos publications sur les réseaux sociaux, cela devrait vous amenez une bonne audience.

        Pour ma part, n’ayant pas de compte Facebook, Twitter, etc… Cela un impact sur mon blog ; mais je n’ai pas l’énergie (santé) nécessaire pour faire plus.

        J’aime

      4. J’ai commencé en 2016. Il y eu 4 visites de mon blog. En 2021, je suis à 37500 visites et une dizaine d’abonnés. Cômme je vous l’ai dit, c’est un simple blog que j’essaie d’entretenir avec des articles selon l’humeur du moment. J’ai d’autres blogs.

        J’aime

Votre commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l’aide de votre compte WordPress.com. Déconnexion /  Changer )

Image Twitter

Vous commentez à l’aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l’aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s

%d blogueurs aiment cette page :