Les astrologues de la technoscience



CRISPR-Cas9 est une enzyme, découverte il y a deux ans, capable de cibler une partie de l'ADN, pour la couper, la modifier ou la détruire. On peut s'en servir comme d'une paire de ciseaux pour la découper. Elle a été classée comme arme de destruction massive par l'agence américaine NSA en 2016 parce qu’elle peut contaminer toute une population en quelques générations. Déjà, des équipes de chercheurs chinois utilisent cette méthode sur l'être humain pour lutter contre des cancers incurables.

Surveillance généralisée, intrusion dans la vie privée et création d'un nouvel homme, augmenté, immortel, assis-t-on nous à la perte par l'homme de la maîtrise de son destin ?

La faiblesse des pouvoirs publics contre la finance, fait que celle-ci échappe aux frontières des États, quant aux technologies, elles sont si complexes que le discours des grandes entreprises s'impose sans aucun contre-pouvoir.  La puissance des astrologues de la technoscience est telle qu'ils vont s'en prendre aux valeurs de l'humanisme?: les dérives dangereuses: les illusions de la connaissance mise à la portée de tous, la massive diffusion des réseaux sociaux, les fractures numériques, l'intelligence artificielle, (la cadena de bloques) le Bloc-chaîne, les smart Data, les manipulations génétiques, l'acceptation de la surveillance par des populations face au terrorisme, ou les fausses nouvelles et les contre-vérités font plus de clics sur Internet que la vérité…

Faut-il que la technologie soit gouvernée par quoi et par qui? Par les Gafa, BATX ou les Natu? Certaines entreprises grossissent et éliminent la concurrence, il ne faut autoriser ces groupes qu’à ne proposer qu'un seul type de service, faut-il restaurer un droit à la confidentialité de ses données et l'interdiction de leur maîtrise ? Quel sera le rôle de L’IA ?

Que nos machines puissent exercer un contrôle sur notre prise de décision morale nous invitent à réfléchir  sur notre capacité à exercer notre autonomie sur les choses que nous créons et les actions que nous entreprenons.
Nous voudrions bien pouvoir continuer à nous accrocher au principe des Lumières, mais à une époque où les technologies sont aussi omniprésentes et plus puissantes que nous, nous conduit à penser  et arrêter de croire que nous ne sont pas des êtres rationnels imaginés par les philosophes des Lumières, que l’idée que notre conscience, voire la pensée individuelle est le facteur déterminant de notre comportement et peut être considérée aussi insensée que la vanité qui nous plaçait avant au centre de l’univers.

En 1997, BJ Fogg a inauguré à l’université de Stanford le laboratoire des technologies persuasives, qui peuvent être vues comme un des modèles de «moralité des objets». Les technologies persuasives prennent aujourd’hui sans cesse de nouvelles formes: applications de téléphones mobiles, podomètres sophistiqués qui utilisent des stratégies pour nous permettre d’atteindre leurs objectifs…

Le conditionnement opérant  se manifeste dans nombre de techniques de micro persuasion utilisées par des Gafa et autres ou les classements encouragent un sentiment de confiance entre utilisateurs, où la personnalisation vous accueille par votre nom, où nombre de fonctions vous incite et vous persuade à revenir. Ces technologies savent prendre des formes moins subtiles et peuvent agir comme des dispositifs de surveillance efficaces, à l’image d’HyGenius un dispositif pour surveiller les semployés.
Les technologies persuasives sont de plus en plus efficaces, car elles sont persistantes et permettent de gérer de grands volumes d’information et ont une mémoire: un smartphone pour perdre du poids est devenu un entraîneur, un coach de vie, et un confident, il sait ce que je mange, comment je dors, combien je dépense, combien je pèse et combien de calories je brûle chaque jour.

La littérature des technologies persuasives utilise autant le langage de la séduction que celui de la persuasion. Ces technologies tentent de provoquer en nous une réaction émotionnelle ou comportementale, qui peut être une expérience pour les personnes qui ont besoin de motivation ou d’encouragement. Mais ces technologies dont l’objectif est la persuasion interpersonnelle soulèvent d’importantes questions relatives à la vie privée et à l’autonomie. Il devient de plus en plus difficile de refuser certaines technologies, nous ne pouvons plus toujours décider de nous retirer de ces environnements.

Les concepteurs de ces technologies doivent étudier sur les conséquences prévues et imprévues qui sont susceptibles de résulter de l’utilisation de leurs créations.  Mais comment les techniciens qui fabriquent ces objets pourraient-ils être motivés à construire des garde-fous éthiques ou à céder le contrôle aux utilisateurs?

L’intelligence ambiante, les technologies de la persuasion ou les technologies de dématérialisation, c’est plus proche de nous de ce que nous voulons. On nous dit que nos gènes nous déterminent, que notre cerveau nous contrôle, que les vestiges de notre biologie évolutionniste nous induisent en erreur…

Comment définissons-nous la responsabilité morale quand les neuroscientifiques affirment que notre inconscient est le principal moteur de notre comportement et que les ingénieurs en logiciel nous rappellent que leurs algorithmes sont supérieurs à notre intuition ?

Dans ce contexte, la conscience de soi semble mieux assurée par l’analyse de données. La magie informatique paraît une meilleure réponse que la contemplation et l’introspection. Les données seront-elles notre nouvelle conscience ?

La technologie a aidé l’homme à contrôler son environnement naturel, maintenant, elle est la nature humaine à laquelle les technologues proposent de nous soumettre.  En fait, ces nouvelles technologies séduisent souvent en invoquant le langage de l’auto-amélioration. C’est peut-être la raison pour laquelle, nous n’avons pas à ce jour, discuté publiquement et sérieusement de leurs conséquences, comme nous l’avons fait sur l’énergie nucléaire.

Les technologies actuelles semblent trop banales, elles semblent plus susceptibles d’améliorer que de bouleverser nos vies et la plupart d’entre elles ne sont pas radicalement utopiques sur la façon dont leur utilisation va transformer l’être humain. Leur objectif est la création de sociétés sensibles basées sur l’analyse rationnelle des données, c’est un message plus attrayant et rassurant qu’effrayant.

Nos technologies nous aident à apprivoiser nos appétits pour les calories ou les dépenses excessives en agissant comme une sorte de conscience externe.  Ils le font non par le renforcement de notre capacité d’autocontrôle, mais par son externalisation. Les technologies persuasives et l’intelligence ambiante promettent un monde où le contrôle sera plus efficacement externalisé.

Une application pour smartphone déclenche une alerte quand il remarque que vous êtes restés à la maison plusieurs jours d’affilés où que votre activité d’échange en ligne a baissé, en envoyant à votre médecin, à des proches ou à vous-mêmes un message pour vous prévenir des premiers signes de la dépression. Contrairement à nous, les technologies sont susceptibles de devenir plus intelligents. Les simulacres algorithmiques de l’empathie humaine sont l’avenir.
Le but des créateurs de l’intelligence ambiante, des technologies de persuasion et de l’internet des objets n’est pas seulement de les rendre plus sensibles au contexte, de s’y adapter, de nous offrir des réponses personnalisées en temps réel, mais de deviner nos besoins futurs. Finalement ces technologies visent à anticiper vos désirs sans médiation consciente. C’est l’apogée de l’efficacité: voir ses besoins et désirs prévus et les vicissitudes de futures possibles expériences contrôlées.

Notre jugement est-il déjà façonné par les algorithmes? Les êtres humains sont les produits de la technologie tout comme la technologie est un produit des êtres humains ?
Les promoteurs de l’intelligence ambiante et des technologies persuasives souhaitent identifier, quantifier et tracer tout ce qui concerne l’expérience ordinaire dans l’espoir d’améliorer la vie des gens. Mais en externalisant tant d’aspects de notre vie quotidienne à la technologie, nous remplaçons le jugement humain par des algorithmes programmés qui appliquent leurs propres normes et les normes de notre comportement, habituellement dans le but d’une plus importante efficacité, d’une plus grande productivité et d’une vie plus saine.

Mais en révélant comment fonctionne la machine humaine, ces technologies sapent une qualité humaine décisive: la tromperie de soi. Elle pose des problèmes, ce qui explique pourquoi les technologues voudraient la remplacer par des données, qui, une fois traitées, promettent de nous connaître mieux que nous-mêmes. Mais être humain est une affaire compliquée. Faire preuve de jugement et de maîtrise de soi, apprendre les normes sociales complexes qui signalent un comportement acceptable sont aussi les choses qui nous rendent humains.
Nous ne devrions pas avoir besoin ou envie de compter sur un capteur pour le faire pour nous. Les hypocrisies quotidiennes et les compromis qui rendent la vie supportable sont précisément ce que l’intelligence ambiante et les technologies persuasives espèrent éliminer. Le droit de ne pas savoir certaines choses est aussi d’une importance cruciale à notre époque que la poursuite vorace d’information et de transparence.

Elles ne s’intéressent pas non plus à une question: est-ce parce que nous pouvons faire quelque chose que nous devrions le faire? Si quelque chose est possible, est-elle pour autant souhaitable ? Nous ne pouvons plus demander est-ce juste, nous demandons : est-ce que cela fonctionne ?

Dans notre engagement avec la technologie, nous devrions passer plus de temps à répondre à des questions, alors que nous vivons des vies toujours plus médiatisées qui nous demandent sans relâche une réponse à la seconde, nous avons tendance à ne vouloir voir que le côté positif avant d’étudier les méfaits que ces changements vont produire ces technologies.

Commentaires

Technologies de l'intelligence, transhumanisme

Quelques réflexions sur l’IA