IA : le Vatican publie sa doctrine, entre opportunités et péril
Le Vatican a publié mardi sa doctrine sur l'intelligence artificielle (IA), instrument porteur d'opportunités mais qui recèle aussi des périls pour l'Homme, susceptible d'être aliéné par la machine.
Dans ce document destiné aux parents, aux enseignants ou aux prêtres et approuvé par le pape François, le Saint-Siège énumère vices et vertus qu'il entrevoit dans le développement à marche forcée de l'IA.
"Comme pour tout produit de la créativité humaine, l'IA peut être orientée vers des desseins positifs ou négatifs", préviennent le dicastère (ministère) pour la Doctrine de la foi et celui pour la Culture et l'éducation.
L'IA est un bienfait à condition que son usage soit systématiquement assujetti à une "évaluation morale", selon le Vatican, car "l'ombre du mal plane ici aussi".
Cible fréquente de rumeurs infondées et de photos produites par l'IA, le pape a déjà averti de ses dérives quand elle est utilisée pour "manipuler les consciences".
Dans sa doctrine désormais gravée dans le marbre sur la base notamment de précédentes déclarations du souverain pontife, l'Eglise catholique se montre extrêmement prudente.
L'IA est manifestement porteuse d'"opportunités", peut-on lire dans le texte: ses "capacités analytiques pourraient être employées à aider les nations à rechercher la paix et la sécurité", elle pourrait servir à "accroître les compétences et la productivité pour créer des emplois", et présente "un énorme potentiel dans des applications médicales". Elle peut également améliorer l'accès à l'instruction et offrir "des réponses immédiates" aux élèves et étudiants qui la sollicitent.
Il existe en revanche de "graves motifs de préoccupation éthique" quant à son exploitation à des fins que le Vatican condamne, citant "les systèmes d'armes autonomes et létales" dont le pape a réclamé l'interdiction au sommet du G7 de juin 2024 en Italie.
En matière d'emploi, l'IA pourrait "déqualifier les travailleurs, les soumettre à une surveillance automatisée et les reléguer à des fonctions rigides et répétitives". De même, si l'IA présente d'indéniables avantages pour diagnostiquer une pathologie, elle ne doit pas se substituer à "la relation médecin-patient" et aggraver "la solitude du malade".
Dans le volet éducatif, de nombreux programmes "se limitent à fournir des réponses au lieu d'encourager l'étudiant à les trouver par lui-même ou à écrire lui-même des textes", dressant ainsi des obstacles à la formation d'une "pensée critique".
L'IA permet en outre de "générer des contenus manipulés et de fausses informations" à même "d'alimenter une hallucination", avec des "contenus non vérifiés qui semblent pourtant vrais", en particulier "des vidéos et audios deepfake".
Enfin, le Vatican s'alarme de ce que "la majeure partie du pouvoir sur les principales applications de l'IA soit concentrée dans les mains d'une poignée d'entreprises puissantes".
Ces entreprises, ajoute-t-il sans les nommer, "possèdent la capacité d'exercer une forme de contrôle aussi subtil qu'invasif, en créant des mécanismes de manipulation des consciences et du processus démocratique".
La Rédaction (avec AFP)
