Débat : Entre l’incertitude et la pensée unique, le discernement face à l’arrogance numérique

L’incertitude comme approche de la réalité à venir doit-elle nous rendre sourds, aveugles, insensibles et passifs ? Non… ! L’accélération des processus de digitalisation, robotisation, de développement de l’intelligence artificielle dans de nombreux secteurs d’activités dans le monde entier doit-elle nous accabler ? Non !

Devons-nous oublier que nous sommes aussi responsables de l’avenir de « notre humanité » ? Nous sommes aujourd’hui face à la volonté de suprématie et de contrôle technoscientifique et social de groupes ultra-puissants au nom d’une vision unique et imposée du progrès et de l’intelligence.

Les enjeux auxquels nous sommes confrontés sont anthropologiques, éthiques et sociaux pour l’ensemble de l’humanité et non pour une poignée de financiers et d’élites du monde numérique…

Une étude menée par l’université d’Oxford en 2013 (Carl Frey et Michael Osborne) mettait en évidence la perspective de pertes d’emplois du fait des transformations technologiques estimées entre 45 et 60 % au sein de l’Union européenne. Pour la France on parle de 50 %… McKinsey en 2016 a également récemment fait une étude sur le sujet qui annonce la disparition de 45 % de l’activité humaine avec le développement de l’IA.

Stephen Hawking, Bill Gates et Elon Musk fondateur de Tesla et Space X pensent que l’intelligence artificielle constitue une menace pour l’humanité. Stephen Hawking déclare :

« Réussir à créer une intelligence artificielle serait le plus grand événement dans l’histoire de l’homme, mais ce pourrait aussi être le dernier […] L’impact à court terme de l’intelligence artificielle dépend de qui la contrôle. Et, à long terme, de savoir si elle peut l’être »

Le Pew Research Center (« AI, Robotics, and the Future of Jobs » par Aaron Smith et Janna Anderson), qui a interrogé 2 000 experts dans le domaine des nouvelles technologies en 2014, évoque les partis pris de ces acteurs. Les apôtres de l’automatisation/robotisation comme bénéfice pour l’humanité présentent la révolution techno-scientifique comme une nouvelle opportunité de création, en évoquant que certains métiers ne disparaîtrons pas… mais aucune précision n’ait apporté sur les différentes formes de métiers en questions.

Nous constatons que le discours se veut rassurant et reste tout de même assez évasif, globalisant et ne donnant aucune piste véritable à valeur ajoutée sur ces potentielles opportunités pour le futur. D’autres points de vue nous alertent sur les conséquences de l’incertitude… et attirent l’attention sur le fait que la course à l’automatisation sous différentes formes de robotisation est forcément en faveur de celle-ci par rapport au travail proprement humain.

Une voie différente sur la disparition et la création de nouveaux métiers exprime assez bien l’absence de réflexion entre potentielles opportunités et conséquences inévitables… Enfin certains acteurs ont tout de même conscience de l’importance stratégique des choix politiques à mettre en œuvre pour éviter une disparition massive des emplois et de l’intelligence proprement humaine. Or, à ce jour peu de réflexion profonde « officielle » de ce type n’est réellement entamée par les décideurs politiques, qui suivent le mouvement global sans l’interroger.

Le choix politique… et le poids de la conception du Progrès

Le choix « politique » est déjà largement biaisé, voire dépassé par l’influence de ceux qui ont le pouvoir technoscientifique et financier… L’idéologie du Progrès a toujours véhiculé l’idée que demain serait meilleur qu’hier. A la représentation du progrès s’ajoute celle d’une sorte de ligne continue du temps et de l’histoire…

La croyance de fond : « La masse totale du genre humain marche toujours à une perfection plus grande » (Condorcet) est en œuvre.

Peut-on toujours parler de perfection ? Les théories du progrès impliquent une vision linéaire de l’évolution de l’humanité, et présentent le « nouveau » comme étant toujours le meilleur. La notion de progrès inclut l’idée d’un développement sans fin de la puissance humaine. Le grand homme que fut Condorcet sur bien des plans scientifique, politique, social a largement et généreusement contribué à donner du sens à l’idée de progrès de façon très enrichissante pour son époque et cependant cette vision peut conduire à un aveuglement sur notre prétendue toute puissance. Dans son ouvrage Esquisse d’un tableau historique des progrès de l’esprit humain (1795) Condorcet écrivait :

« La liberté, l’égalité, les bonnes lois ont pour effet nécessaire d’augmenter la prospérité publique en augmentant les moyens d’agir […] De cette prospérité naissent l’habitude de nouveaux besoins et un accroissement de population. Si donc la prospérité n’augmente point sans cesse, la société tombe dans un état de souffrance… si de nouvelles lumières ne viennent en offrir de plus puissantes, les progrès mêmes de la société deviennent les causes de sa ruine. Supposons que ces moyens soient trouvés et employés, il en résulte dans la société des combinaisons nouvelles, que ni les lois ni les institutions n’ont pu prévoir… . »

La théorie du progrès est elle-même reliée aux théories économistes classiques du XVIII^e siècle, Adam Smith, Bernard Mandeville, David Hume réhabilitent la force de l’appétit insatiable du désir humain : les besoins de l’homme, selon eux, sont toujours susceptibles d’être en croissance. Il semble être dans la nature même de l’homme de vouloir toujours plus, plus et d’agir en conséquence, en cherchant en permanence à travers toutes les époques à optimiser ses intérêts. Ainsi de très grands penseurs depuis le XVIII^e siècle ont propagé l’absolue nécessité du progrès comme moteur de l’humanité… on en saura toujours plus, donc tout ira toujours mieux. Le passé s’efface toujours face au présent, le présent permet de propulser l’idée d’avenir. Le progrès est à la fois pensé d’abord comme le résultat de l’évolution, et devient aussi le principe de cette évolution…

Au XIX^e siècle l’idée de progrès est au comble de son succès. C’est le règne de la science. Elle guide la création d’une humanité elle-même organisée de façon scientifique. Les socialistes utopistes proposent une nouvelle vision sociale. Ce point de vue sera remis en question à la suite des deux guerres mondiales et de l’apparition des totalitarismes destructeurs mis en place. L’idée de progrès doit être diffusée car porteuse de celle de civilisation. L’idée de progrès est également liée à l’idée de suprématie et correspond à l’expansion du colonialisme de l’occident.

La face obscure d’une généralisation abusive

En 1999 Peter Sloterdijk, Philosophe allemand a écrit un livre très provocateur : « Règles pour le parc humain ». Ce livre a suscité beaucoup de réactions. Certaines très négatives et d’autres au contraire très positives. La société dite civilisée serait un parc humain dirigé par des élites qui sont les gardiens des troupeaux. Pour l’auteur l’humanisme est né de l’écriture et a été diffusé par les livres, la littérature. Les livres étant condamnés par les médias de masse à une mort programmée, l’humanisme est condamné à disparaître… L’auteur suggère que les élites doivent dresser les troupeaux par de nouvelles techniques, qu’il appelle « anthropotechniques » capables de faire une sélection d’une espèce plus apte à vivre en société, du fait que le livre, l’outil majeur de l’Humanisme, a disparu… Cette approche a le mérite de poser de manière crue la question de toute une idéologie en marche depuis un certain temps qui conduit au courant du post-humain.

Si l’on regarde aujourd’hui la nature des grands projets en innovation technologique, intelligence artificielle, génétique, l’engouement phénoménal pour la robotique à travers le monde on peut se poser à juste titre un certain nombre de questions.

Le vieux rêve d’augmenter les capacités humaines : l’intelligence, la force, la puissance a traversé l’histoire de la mythologie grecque aux nouvelles technologies. Il est aujourd’hui présent, il prend d’autres formes, beaucoup plus réelles et actives dans notre société, cyber société, ultra connectée !

De très grandes institutions scientifiques du type MIT (Massachusetts Institute of Technology) technologiques publiques et privées dans de grands pays : USA, Japon, Chine, Russie, France, Allemagne… sont sur de projets très lourds que l’on peut qualifier de type « transhumaniste ». Car, en effet, leur objectif est de rendre l’homme plus en intelligent et plus puissant en transformant sans cesse ses capacités cognitives, mentales, en pratiquant des extensions de sa mémoire et en éradiquant toute émotion… Le concept de cyborg : interfaçage entre le biologique et l’humain est au cœur des débats et des projets d’un grand nombre de recherches. Beaucoup de travaux sur l’intelligence artificielle et les nanotechnologies ont en commun cet objectif de type cyborg, au-delà de cette visée, une autre intention est en voie de développement, le uploading. Ou téléchargement d’un fichier… il s’agit ici de cartographier les connexions neuronales d’un individu qui seront uploadées vers un ordinateur ou un robot. La conscience enregistrée pourrait être ainsi implantée dans un nouveau corps, celui d’un robot, ou dans un corps virtuel… une conscience devenue logicielle pourrait ensuite subir toutes sortes d’interventions et donc aussi d’altérations.

En 1997, Sasha Chilensko, un chercheur en intelligence artificielle, aujourd’hui décédé, écrivait :

« Dans un véritable futur post-humain, les identités pourraient se dissoudre complétement, et le monde apparaître comme une fusion d’économie super liquide et d’intelligence artificielle distribuée »…

L’idée d’un supra cerveau capable de transcender les imperfections de l’homme est présente dans beaucoup d’écrits d’auteurs qui viennent du monde de la technologie, surtout de l’informatique.

Marvin Minsky mort en 2016 était le co-fondateur du groupe IA du MIT est un des prestigieux leaders de cette approche transhumaniste. Vernon Vinge est à l’origine du concept de singularité technologique, Ray Kurzweil, l’inventeur des synthétiseurs, a réalisé des systèmes d’intelligence artificielle de reconnaissance de la voix et des formes est un des plus fervent porte-parole de la thèse transhumaniste.

Une entreprise australienne développe un casque destiné aux jeux vidéo capable de capter les intentions des joueurs et de contrôler l’action par la pensée. Les génies de la Silicon Valley inventent un avenir sans âme et sans historicité (lire l’article de Gaspard Koenig « Nous ne voulons pas être de la chair à algorithmes ! » dans Les Echos) Ces grands cerveaux ont contribué à influencer aujourd’hui une forme de pensée et d’idéologie. Les grandes réussites des personnalités comme Bill Gates et Steve Jobs sont devenues des références incontestables et vénérées, les nouveaux dieux du XX^e et XXI^e siècle… en même temps ces deux derniers ont fait le choix de mettre leurs enfants dans des établissements scolaires dépourvus de toutes les nouveautés technologiques !..

L’ère des big data, de l’apprentissage par les systèmes informatiques de plus en plus sophistiqués nous amènent petit à petit à penser nos rapports sociaux et humains à travers des machines de plus en plus complexes qui façonnent directement ou indirectement notre propre façon de travailler, de penser, de communiquer. Nous réduisons peu à peu tout ce qui peut sembler de l’ordre du superflu, du non efficace, du non programmable, du non global…

La dématérialisation de tous les processus de transmission d’informations suppriment des milliers d’opportunités de communication vivante… de métiers de service. La dématérialisation devrait être pensée après des diagnostics pertinents au service de l’efficacité et de l’intelligence collaborative du travail…

L’entreprise format standard big data ne fait pas l’ombre d’un doute pour beaucoup d’acteurs fans des mathématiciens du MIT ou mathématiciens ou informaticiens eux-mêmes. Ce modèle d’entreprise est présenté comme le seul possible et incontournable. La supra rationalité des décisions par les données est considérée comme le modèle de performance productive et financière et ne souffre d’aucune discussion, selon Andrew McAfee et Erik Brynjolfsson. Le leader sera un analyste de données ou ne sera pas… Est-ce une ambition suffisante et si innovante ?

Qu’en est-il d’une approche basée sur la capacité d’initiative, les valeurs intrinsèques d’une organisation et de la mobilisation de l’intuition et de la créativité pour développer des orientations stratégiques ? Comment garder l’autonomie réelle de la pensée active ?

Une autre question rarement soulevée et pourtant fondamentale dans ce XXI^e siècle est-celle du coût énergétique extrêmement élevé d’une société totalement dépendante de la technologie… ce qui s’illustre avec les projets de villes entièrement créées par des concepteurs et pilotées par un « cerveau » numérique central…

Penser et agir autrement

Quelques options :

• Développons les opportunités fantastiques de diversifier les formes d’intelligence, de travail et d’apprentissages sans nous faire piéger par nos virtuelles relations
• Ouvrons l’accès à plus de connaissances réellement vécues, comprises de l’intérieur, expérimentées, partagées. Les processus digitalisés peuvent en effet permettre de créer des optimisations de flux et de temps, des opportunités d’échanges rapides et des modes de suivi intéressants. La digitalisation de l’enseignement est un outil de démocratisation de diffusion et de partage des connaissances, elle est moins un outil d’expérimentation vivante. Être informé est-ce apprendre et comprendre ? Connaître est-ce penser ?
• L’apprentissage c’est aussi une affaire de liens sociaux qui s’élaborent en temps réel, de partage des représentations, des expériences, des émotions, d’empathie avec les autres. Réduisons vraiment nous les inégalités face au savoir grâce aux nouvelles technologies ? N’y a-t-il pas de décrochage de l’apprentissage via un MOOC ? Trouver, compiler des informations le plus vite possible est-ce développer une compréhension profonde et exhaustive ?
• Dialoguer avec les autres via des systèmes interactifs, vidéo, réseaux sociaux, plates-formes et autres outils interactifs est-ce suffisant pour capitaliser, vivre, modéliser les expériences de chacun ? Installer des robots dans les hôpitaux et les maisons de retraite, est-ce la solution optimale pour répondre aux besoins de santé publique et rompre la solitude du 3^e et 4^e âge ? Certes les « progrès » en matière de technologie au service du médical sont utiles dans la mesure où il s’agit de continuer à soigner et à guérir…
• Notre capacité à être émotionnellement en lien les uns avec les autres représente ce qui nous caractérise d’abord et avant tout en tant qu’humain.

Peut-être pourrions-nous prendre plus de recul pour appréhender, penser les impacts nocifs déjà bien réels produits par une culture technologique aux ambitions dévorantes. Nous devons apprendre à penser autrement les changements organisationnels plutôt que de s’y soumettre sans imagination. Il faut choisir, maîtriser les transformations technologiques en leur donnant un sens, et hors des peurs et menaces.

• Laissons l’espace à l’élaboration de nouveaux liens, de nouvelles approches des rapports sociaux et économiques. Si l’innovation c’était aussi de renforcer notre capacité à rebondir ensemble collectivement et de façon plus humaine à ces enjeux sans emprunter l’unique chemin proposé par les technologies, en sachant les utiliser, les maîtriser à bon escient ? Apprenons à rester maître de nos ambitions en les interrogeant régulièrement.
• Gardons le meilleur des innovations techniques en les contrôlant dans leurs intentions par la clarté, la justesse de nos intentions, apprenons à réguler, ralentir les temporalités plus liées à la recherche de suprématie quant à la tangibilité des orientations prises.

Il est encore temps de faire prévaloir la diversité des formes d’intelligence « intrinsèquement humaines » et donnons à l’humanité une chance d’être à la hauteur morale des risques déjà pris… Si nous faisions aussi la promotion de nos forces intrinsèques : le respect, la bienveillance, la force de la proximité, de créer des opportunités un utilisant les technologies comme des moyens au service de fins humainement viables et identifiées préalablement, au service du vivant. Les nouveaux leaders devront renforcer leur capacité émotionnelle et intuitive et prendre du recul par rapport aux approches uniquement métriques.

Si on développait toutes nos formes d’intelligence relationnelle, émotionnelle, esthétique, compassionnelle autant que pragmatique, analytique, technologique et technique ?

La volonté affichée de vouloir survaloriser l’intelligence logique et analytique est un danger pour notre équilibre sociétal et la survie de la dimension proprement humaine de l’espèce. La « science sans conscience, ruine de l’âme » de Rebalais est profondément actuelle.

« Le danger n’est pas dans les machines, sinon nous devrions faire ce rêve absurde de les détruire par la force, à la manière des iconoclastes qui, en brisant les images, se flattaient d’anéantir aussi les croyances. Le danger n’est pas dans la multiplication des machines, mais dans le nombre sans cesse croissant d’hommes habitués, dès leur enfance, à ne désirer que ce que les machines peuvent donner. » Georges Bernanos (1946).

Marie-Josée Bernard, Professeure en Management – Leadership — Développement humain, EM Lyon

La version originale de cet article a été publiée sur The Conversation.

Crédit image : GLAS-8 on Visual Hunt/CC