Bonnes feuilles : l’intelligence artificielle, le risque de la colonisation numérique

Développer des intelligences artificelles, notamment sur un modèle de deep learning, n’est pas exempt de difficultés, et ce sont les moyens d’y remédier qui vont créer des enjeux bien plus larges que le simple aspect technologique. Une des limites du Deep Learning suppose de prendre en compte la nécessité de disposer d’une base de données dense pour développer des intelligences artificielles.

Sur ce point, il est important de comprendre où se trouvent ces données d’apprentissage car elles représentent la nouvelle ressource de l’ère numérique. Pour suivre notre exemple de reconnaissance d’images, Google estime à 1 000 milliards le nombre d’images présentes sur Internet et dont une grande partie est référencée par le moteur de recherche. C’est ce type de ressource qui va permettre d’éduquer les intelligences artificielles. Les leaders mondiaux en la matière seront ainsi capables d’accéder à un large panel d’informations, grâce à leur grand nombre d’utilisateurs participant à étoffer leurs bases de données.

[#digital] : Comment les #BATX sont en train de préparer leur conquête de l’occident ?https://t.co/f0Owl6VwFa

— Quentin Masson (@quentinmasson57) 16 octobre 2018

Cette production de données peut prendre la forme d’une encyclopédie collective comme Wikipedia, de vidéos ou d’images comme le proposent YouTube ou Google images, mais aussi celle du partage des données personnelles, offrant ainsi aux intelligences artificielles de nouvelles ressources pour mieux comprendre les comportements humains.

Les utilisateurs de Facebook par exemple publient chaque jour 1 milliard à 1 milliard et demi de photos en ligne. Chacune de ces images passe au travers d’algorithmes qui identifient les objets et reconnaissent les visages (excepté en Europe) et peuvent ainsi identifier les personnes, classer les photos en fonction des objets qu’ils reconnaissent ou des commentaires liés aux images. Ainsi, parmi ces géants du numérique on retrouve principalement aux États-Unis Google, Amazon, Facebook, Apple, Microsoft (les GAFAM) et Baidu, Alibaba, Tencent et Xiaomi (BATX) en Chine, pays qui s’est construit son propre microcosme numérique.

L’Europe en retard par rapport à la Chine et les États-Unis

Le gouvernement américain publiait à ce propos en octobre 2016 un rapport intitulé « Le plan stratégique national de recherche et de développement de l’intelligence artificielle », soulignant l’importance géopolitique des nouvelles technologies numériques. Dans le même temps, la Chine est devenue le pays investissant le plus de budget dans la recherche sur les intelligences artificielles, dépassant les États-Unis en la matière. Le plan de développement national chinois de l’IA vise à faire passer son poids Intelligence artificielle : de la révolution technologique à la révolution sociale 33 économique de 150 milliards de yuans environ (19 milliards d’euros) à l’horizon 2020, à 400 milliards de yuans (49 milliards d’euros) d’ici 2025. Pékin a d’ailleurs affiché en juillet 2017 son ambition de devenir le numéro un mondial en 2025 dans le domaine de l’intelligence artificielle.

L’Europe, quant à elle, ne possède aujourd’hui aucun grand pôle numérique. Ce qui peut paraître anodin pose en fait de grandes questions sur son indépendance vis-à-vis des géants du numérique et place notre continent en position de colonie numérique. Un phénomène susceptible d’alimenter la fuite des cerveaux mais aussi la dépendance aux entreprises détentrices des pôles de l’IA.

Le big data soulève plusieurs inquiétudes liées notamment à la protection des données privées disponibles sur les réseaux sociaux, mais aussi au risque de déshumanisation des personnes, les comportements humains étant réduits à des données quantifiables. Le monopole des données par les GAFAM laisse envisager la vassalisation numérique des autres entreprises, des structures de recherche mais aussi des États, sans oublier les dangers liés à la mauvaise interprétation des données ou à l’uniformisation.

Donner une note à tous les citoyens chinois

À titre d’indication, Facebook compte aujourd’hui environ 2 milliards d’utilisateurs, le nombre de données à disposition de ce géant du numérique est donc considérable. Dans le même temps, à l’horizon 2020, le gouvernement chinois prévoit de mettre en place le « système de crédit social », un projet qui consiste à collecter massivement les données numériques de ses citoyens afin de leur donner une note évaluant à quel degré ils sont dignes de confiance. Tout ce qu’il se passe sur les téléphones et les ordinateurs sera ainsi collecté et évalué pour donner à chaque citoyen une note sur 350, accessible à tous. Pour les 700 millions d’internautes chinois, le respect de l’autre sur les réseaux sociaux, les achats en ligne, les habitudes de consommation, les actions accomplies en tant que citoyen comme la conduite ou les engagements politiques seront évalués, comptabilisés et rendus accessibles à tous. Cette note pourra ainsi influer sur l’autorisation de voyager en première classe et à l’étranger, sur le choix des écoles pour les enfants ou l’accès à une promotion.

A partir du 1er mai, la Chine régira ses citoyens en fonction de leur "note sociale" https://t.co/go4nL70LBL pic.twitter.com/9mMAk2PI2F

— Marianne (@MarianneleMag) 9 avril 2018

En France, la Commission nationale de l’informatique et des libertés se charge de la gestion des droits des données numériques des utilisateurs. Récemment, elle s’est interrogée sur le fait de déléguer des prérogatives humaines aux intelligences artificielles, ou de réglementer les biais d’apprentissage des IA.

Cependant, la CNIL, bien que prévoyant une éthique autour des intelligences artificielles, ne s’interroge pas encore sur le fait de développer directement des IA en suivant des principes moraux. Cette question centrale est paradoxalement débattue par de grands organismes comme l’Institut des ingénieurs électriciens et électroniciens, une organisation américaine ayant pour but de promouvoir la connaissance dans le domaine de l’ingénierie électrique au sens large.

Le fait de concevoir une vision morale du monde prenant en compte l’apprentissage des intelligences artificielles est d’autant plus intéressant que ces dernières sont amenées à occuper un rôle de plus en plus important en termes décisionnaires, et impactant de plus en plus les sociétés humaines.

Allons-nous devenir des « serfs technologiques » ?

Imaginer des intelligences artificielles prendre des décisions sans se soucier de leurs principes éthiques comme la protection des personnes, pourrait se révéler dangereux pour des groupes de populations exclus des variables prises en compte par ces IA. L’intelligence artificielle soulève ainsi des enjeux sociaux qui vont dessiner les modes de vie de demain dans un monde toujours plus connecté. On peut ainsi s’interroger sur l’indépendance des États vis-à-vis de ces géants.

Combinés, les GAFAM représentent le PIB de l’Allemagne, soit la 4^e puissance économique mondiale, ce qui les place dans une position très favorable pour la recherche et le développement de technologies et leur confère un poids politique important. L’installation des sièges sociaux de ces entreprises en est un exemple éclairant. La plupart des villes voulant accueillir ces grands groupes se plient à des propositions d’aide, de subventions, ou d’incitations fiscales, créant ainsi une forme de reconnaissance de leur position dominante. Cette compétition de courtisanerie peut aussi être délétère pour les populations vivant à proximité.

L’inquiétude majeure de cette concentration de l’intelligence artificielle dans les mains de géants conduit à envisager la naissance d’une élite technologique qui, au-delà de posséder l’intelligence artificielle, se retrouverait tellement en phase avec la technologie qu’elle ne distribuerait que ce qu’elle veut et transformerait le reste de la population en « serf technologique ».

Car au-delà des enjeux technologiques et scientifiques, ce sont bien les enjeux économiques et politiques qui motivent l’investissement dans le développement de ces outils numériques. En somme, la maîtrise des technologies d’intelligence artificielle est l’un des enjeux majeurs de notre siècle.

Ainsi, la révolution de l’intelligence artificielle est amenée à rebattre les cartes de la géopolitique actuelle. Il est difficile aujourd’hui de prédire si cette évolution sera positive ou si elle conduira au contraire à plus de tension. En revanche, il semble évident que l’intérêt des États est de prendre part à ce changement de manière active, en se maintenant à la pointe des technologies du numérique afin de conserver une indépendance, ce que la Chine et les États-Unis ont parfaitement compris mais que l’Europe et notamment la France tardent à mettre en œuvre.

L’ouvrage de Nicolas Spatola : « L’intelligence artificielle. De la révolution technologique à la révolution sociale » est disponible aux éditions des presses universitaires Blaise Pascal.

Nicolas Spatola, Post-doctorant en psychologie, Université Clermont Auvergne

La version originale de cet article a été publiée sur The Conversation.