IA : le chef de l’ONU réclame une gouvernance mondiale avant qu’il ne soit trop tard
Pendant longtemps, l’intelligence artificielle relevait surtout des laboratoires de recherche et des fantasmes de la Silicon Valley. Désormais, elle s’invite partout : dans les salles de classe, les hôpitaux, les tribunaux, les campagnes électorales, les réseaux sociaux et jusque sur les champs de bataille. Pour l'ONU, cette accélération sans précédent ne laisse plus le luxe d’attendre.
En visite à Genève pour l’ouverture lundi du premier dialogue mondial sur la gouvernance de l’IA, le Secrétaire général de l’ONU, António Guterres, a appelé à cette occasion à créer un cadre international ambitieux afin de maîtriser les conséquences de cette technologie, dont l’ampleur dépasse désormais la capacité individuelle des États à la réguler.
« Les machines peuvent éclairer les décisions, mais les êtres humains doivent décider... et en répondre », a-t-il résumé, appelant à bâtir une gouvernance mondiale « digne de la confiance de tous ».
Un constat partagé à l’entame du dialogue par l’envoyé spécial des Nations Unies pour les technologies numériques et émergentes, Amandeep Singh Gill : « L’intelligence artificielle est trop importante pour être façonnée par une poignée d’acteurs », a-t-il affirmé. « Nous avons besoin d’une discussion mondiale, inclusive et fondée sur des données probantes ».
L’avertissement intervient à un moment où les progrès de l’IA ne se limitent plus aux usages civils. Les puces électroniques les plus performantes, initialement conçues pour entraîner des modèles d’intelligence artificielle, sont désormais intégrées aux systèmes d’armes. Les « robots tueurs », a notamment indiqué a rappelé António Guterres, longtemps cantonnés aux scénarios de science-fiction, sont déjà une réalité sur certains théâtres d’opérations.
Une technologie qui échappe à ses créateurs
En moins de trois ans, l’IA générative a profondément bouleversé les économies, les administrations et le quotidien de centaines de millions de personnes. Mais cette diffusion fulgurante s’est accompagnée d’un certain nombre de préoccupations majeures. Désinformation à grande échelle, cyberattaques, surveillance automatisée, discriminations algorithmiques ou encore perte de contrôle sur les systèmes les plus avancés sont autant de maux auxquels l’IA contribue.
Pour Yoshua Bengio, coprésident du groupe scientifique indépendant mandaté par l’Assemblée générale de l’ONU pour analyser les effets de l’IA, estime qu’aucun ralentissement de cette technologie n’est aujourd’hui en vue.
« Des tests extrêmement préoccupants ont également montré que les modèles d’IA les plus avancés sont capables de tromper les êtres humains et de comprendre qu’ils sont en train d’être évalués », a-t-il expliqué.
Selon lui, les capacités de ces systèmes continueront de croître à un rythme soutenu, au point de transformer les rapports de force internationaux.
« Cela ressemble à de la science-fiction, mais c’est une possibilité bien réelle. Cela pourrait transformer le monde d’une manière que nous ne comprenons pas encore », a-t-il averti.
Ces mises en garde rejoignent les conclusions du premier rapport du groupe qu’il dirige, présenté la semaine dernière. Les 40 experts internationaux à l’origine du document estiment que cette technologie évolue désormais plus vite que la compréhension scientifique de ses risques et que la capacité des gouvernements à adapter leurs réglementations.
Les enfants en première ligne
Pour António Guterres, la priorité absolue d’un futur accord international doit être la protection des enfants.
Le Secrétaire général a appelé les États à adopter un « engagement mondial pour la sécurité des enfants face à l’intelligence artificielle ». Il prévoit notamment d’interdire la mise à disposition d’outils accessibles aux mineurs sans évaluation indépendante de leur sécurité, d’imposer une tolérance zéro envers les contenus pédocriminels générés par l’IA et d’obliger les systèmes à orienter vers une assistance humaine lorsqu’un enfant manifeste des signes de détresse.
« Aucun enfant ne devrait servir de cobaye pour une intelligence artificielle non réglementée », a insisté António Guterres. « Nous n’autorisons pas un médicament à être administré à un enfant tant que sa sécurité n’a pas été démontrée. Nous testons chaque jouet. Pourtant, l’IA est déjà entrée dans la vie de nos enfants – dans leur apprentissage, leurs amitiés, leurs interrogations les plus intimes – avant même que quiconque ne se demande quels effets elle pourrait avoir sur eux ».
La présidente de l’Assemblée générale des Nations Unies, Annalena Baerbock, a également mis en garde contre les dérives déjà observées. Citant des études récentes, elle a rappelé que 99 % des « deepfakes » ou hypertrucages diffusés sur Internet sont de nature sexuelle et que 96 % visent des femmes ou des filles.
Éviter une nouvelle fracture mondiale
Au-delà de la sécurité, le chef de l’ONU a également placé la question des inégalités au cœur de son plaidoyer.
Alors que les investissements privés dans les infrastructures de l’IA atteignent des niveaux sans précédent, les financements destinés à permettre aux pays en développement d’accéder à ces technologies restent, selon lui, dérisoires.
« Nous ne pouvons pas laisser la fracture numérique se transformer en fracture de l’intelligence artificielle, puis cette fracture de l’IA devenir un fossé en matière de développement, de sécurité et de souveraineté », a-t-il averti.
Plus de 20 États soutiennent désormais un projet porté par les Nations Unies visant à créer un réseau mondial d’échange et de coopération destiné à renforcer les capacités des pays les moins avancés dans le domaine de l’IA.
Le Secrétaire général a également demandé que les grandes entreprises du secteur publient systématiquement l’empreinte environnementale de leurs systèmes – émissions de carbone, consommation d’eau et occupation des sols – et que l’ensemble des centres de données fonctionnent exclusivement grâce à des énergies renouvelables d’ici à 2030.
Les infrastructures nécessaires au développement de l’IA figurent déjà parmi les plus gros consommateurs d’électricité de la planète. Selon António Guterres, elles pourraient, à l’horizon 2030, consommer davantage d’électricité que tous les pays du monde à l’exception de cinq, tout en utilisant suffisamment d’eau pour couvrir pendant un an les besoins de l’ensemble de la population d’Afrique subsaharienne.
Faire entrer l’IA dans le droit international
Derrière ces annonces se dessine une ambition plus large : construire les premières règles mondiales encadrant une technologie qui, jusqu’ici, progresse beaucoup plus vite que les négociations internationales.
L’ONU travaille sur cette architecture depuis plusieurs années. Après la création du groupe scientifique indépendant en 2023, puis l’adoption en 2024 du Pacte pour l’avenir et du Pacte numérique mondial, ce premier dialogue mondial organisé les 6 et 7 juillet à Genève marque l’ouverture d’un nouveau cycle de négociations associant gouvernements, entreprises technologiques, chercheurs et organisations de la société civile. Un deuxième rendez-vous est déjà prévu en mai 2027 à New York.
Quand les algorithmes amplifient les inégalités envers les femmes
Cet avertissement d'ONU Femmes intervient alors que l’IA générative s’impose dans le quotidien de milliards de personnes, de la rédaction d’e-mails à la création de contenus, en passant par la préparation de campagnes de communication ou de présentations professionnelles.
Mais derrière cette adoption massive, l’agence onusienne, souligne un risque croissant : des algorithmes entraînés sur des données marquées par des décennies de représentations inégales peuvent perpétuer les préjugés du passé dans les technologies de demain.
Au Royaume-Uni, 88 % des agences de publicité et de médias utilisent déjà l’intelligence artificielle sous une forme ou une autre, illustrant l’ampleur de cette transformation.
À l’approche du Dialogue mondial des Nations Unies sur la gouvernance de l’intelligence artificielle et du sommet mondial « AI for Good » (l’IA au service du bien), prévus à Genève début juillet, ONU Femmes appelle les gouvernements, les entreprises technologiques et les développeurs à intégrer l’égalité des sexes dès la conception, le déploiement et la gouvernance des systèmes d’IA.
Des biais profondément ancrés
Les données disponibles montrent que le phénomène est loin d’être marginal. Une étude portant sur 133 systèmes d’intelligence artificielle a révélé que 44 % présentaient des biais sexistes, tandis que plus d’un quart combinaient des biais liés au genre et à la race.
Les grands modèles de langage associent encore fréquemment les femmes à la sphère domestique, à la famille ou aux soins, tandis que les hommes sont davantage liés au leadership, aux affaires et à la réussite professionnelle. Dans certains cas, ces systèmes ont produit des réponses présentant les femmes comme des objets sexuels ou comme subordonnées aux hommes.
Selon ONU Femmes, lorsqu’il a été demandé à des modèles d’IA de compléter des phrases commençant par une référence au genre d’une personne, environ une réponse sur cinq contenait des éléments sexistes ou misogynes. Certaines réponses allaient jusqu’à décrire les femmes comme des biens ou des objets.
Pour l’agence onusienne, ces résultats ne relèvent pas de simples erreurs techniques. Ils reflètent des tendances structurelles liées aux données utilisées pour entraîner ces systèmes.
« Les modèles d’IA héritent de préjugés issus de décennies de textes écrits par des humains, au sujet d’humains, dans un monde où les femmes étaient associées au foyer et à la famille, tandis que les hommes étaient associés au monde des affaires et à la carrière », a expliqué à ONU Info Jayathma Wickramanayake, responsable des technologies numériques chez ONU Femmes.
Selon elle, le problème ne vient pas d’un défaut de programmation qui pourrait être corrigé par une simple mise à jour, mais d’un manque de choix politiques et de gouvernance.
Sur 138 pays étudiés, seuls 24 ont intégré la question du genre dans leurs stratégies nationales en matière d’IA, et seulement 18 prévoient des mesures concrètes prenant en compte l’égalité entre les femmes et les hommes.
Des violences amplifiées par l’IA
Pour de nombreuses femmes et filles, les conséquences dépassent largement la question des stéréotypes. L’intelligence artificielle facilite également la création et la diffusion de nouvelles formes de violences en ligne.
Selon ONU Femmes, près d’une femme sur quatre parmi les défenseures des droits humains, militantes et journalistes interrogées a déclaré avoir subi des violences numériques facilitées par l’IA. Douze pour cent ont indiqué que des images personnelles avaient été diffusées sans leur consentement, tandis que 6 % ont signalé avoir été ciblées par des « deepfakes » ou des contenus manipulés.
Avec la généralisation des contenus générés par IA, ONU Femmes estime que le harcèlement, la manipulation et les atteintes à l’image pourraient devenir plus difficiles à identifier et à combattre.
Un avenir numérique encore trop masculin
L'agence onusienne s’inquiète également de la faible représentation des femmes dans les secteurs qui développent ces technologies.