L’Afrique doit se préparer à des menaces cybernétiques propulsées par l’IA à grande échelle

Le rapport sur les menaces d’Anthropic révèle comment l’IA rend les cyberattaques et les campagnes d’influence plus rapides, plus évolutives et plus difficiles à détecter.

Le récent rapport d’Anthropic sur le renseignement sur les menaces révèle comment des acteurs malveillants utilisent leurs propres agents d’intelligence artificielle (IA) pour mener des cyberattaques, des opérations de surveillance et des campagnes d’influence en ligne.

Les dirigeants africains devraient être particulièrement vigilants, compte tenu des taux d’alphabétisation numérique relativement faibles du continent, des fractures numériques et de l’écart entre le rythme d’accès à l’IA et la léthargie réglementaire. Les citoyens sont vulnérables au vol de données, à la surveillance à grande échelle et à la dupération dans des campagnes d’influence menées par l’IA.

Le rapport d’Anthropic s’est concentré sur les usages malveillants de son agent IA Claude, qui est utilisé par environ 30 millions de personnes dans le monde. Il a indiqué que Claude avait été utilisé pour mener des cyberattaques, des opérations de surveillance et d’influence. Les responsables comprenaient des institutions de propagande d’État, leurs mandataires, des individus politiquement motivés, ainsi que des entités criminelles et commerciales. Des études de cas comprenaient le Kenya, la République centrafricaine, la République démocratique du Congo (RDC), le Soudan et le Mali.

L’IA est utilisée non seulement pour créer du contenu qui trompe les utilisateurs, mais aussi comme un outil de mise à l’échelle. Par exemple, il permet la génération rapide de plusieurs publications sur les réseaux sociaux dans le cadre de campagnes d’influence, ou la rédaction de dizaines de milliers de codes malveillants pouvant dépasser une détection rapide.

Concernant la cybercriminalité traditionnelle, Claude a été utilisé pour scanner les réseaux informatiques à la recherche de vulnérabilités et identifier les cibles d’attaques de phishing. Interpol a récemment averti que 55 % de tous les cybercrimes signalés en Afrique étaient compatibles avec l’IA. Interpol a récemment averti que 55 % de tous les cybercrimes signalés en Afrique étaient activés par l’IA Bien qu’il y ait encore un certain degré d’implication humaine dans la plupart des intrusions, et que « nous ne voyons pas encore d’attaques entièrement automatisées », cela pourrait arriver, a déclaré Justin Hornsby, directeur des systèmes informatiques d’Alpha Group, à ISS Today. Il a indiqué que des contrôles plus stricts, y compris des règles strictes sur les modèles d’IA utilisés par le personnel d’une organisation et des restrictions sur l’accès aux données, étaient nécessaires.

L’enquête d’Anthropic a révélé que ses agents d’IA étaient utilisés pour collecter des informations, mener des « missions de reconnaissance » et « construire l’infrastructure » pour pirater une autorité technologique gouvernementale nord-africaine (non nommée). Plus de 300 000 dossiers d’identité nationaux et des données provenant de plus de 500 000 entreprises opérant dans le pays ont été exposés.

Les vulnérabilités potentielles à travers l’Afrique sont immenses. Environ 45 gouvernements utilisent désormais des systèmes numériques pour améliorer la prestation des services, selon l’Agence africaine de développement de l’Union africaine. À mesure que de plus en plus de pays s’orientent vers le gouvernement électronique, l’exposition aux risques liés à l’IA augmentera à moins que les contrôles de sécurité ne soient renforcés.

Certains modèles Claude ont également été utilisés pour des opérations de surveillance au Mali, l’enquête d’Anthropic révélant que l’agent pouvait violer les garanties et a servi à cibler et profiler des figures de l’opposition.

De même, les inquiétudes concernant les attaques par IA contre les caméras de rue sudafricaines et d’autres appareils liés augmentent. Certains experts demandent au régulateur de l’information du pays de revoir ses règles, qui peinent à suivre le rythme des évolutions technologiques.

Mais l’utilisation par Claude a sans doute été la plus impressionnante pour produire des campagnes d’influence à grande échelle dans les pays africains. Plusieurs de ces opérations ont été liées à des acteurs étrangers, la Russie étant un acteur clé.

L’utilisation par Claude a été la plus impressionnante dans la production de campagnes d’influence à travers les pays africains

En République centrafricaine, les enquêteurs ont détecté un réseau de fausses stations de radio produisant du contenu généré par IA. Ces acteurs malveillants ont utilisé Claude pour retirer la mise en forme, signe évident que le matériel a été produit synthétiquement. Cela la rend plus difficile à détecter, même par les systèmes d’IA défensifs. Des enquêtes en RCA sur la manipulation de l’information ont révélé que des agents locaux engagés par le groupe russe Wagner étaient chargés de produire du contenu pro-russe pour un public local.

Anthropic affirme que la RDC faisait partie d’un réseau chargé de produire des informations fabriquées. Ses enquêteurs ont trouvé 318 articles sur plusieurs sites de fausses informations, créés et remplis de contenus produits par les agents d’IA de l’entreprise. Elle affirme que Claude semble avoir « humanisé et affiné des lots de 50 sujets et tweets pré-rédigés », permettant la distribution d’énormes quantités de contenu sans modération humaine adéquate. Claude a également été utilisé pour des campagnes d’influence locales. Anthropic a indiqué que Claude avait été utilisé pour générer des lots de 50 tweets destinés à « ressembler à des commentaires spontanés de terrain plutôt qu’à une campagne coordonnée » en vue des élections kényanes de l’année prochaine. Parmi les faux récits figurait que l’opposition kényane « se désintégrait » avant les élections. De telles campagnes d’astroturfing, qui tentent d’imiter l’engagement organique, ont déjà été présentes lors des élections kényanes. L’IA accélère la distribution, facilitant ainsi le lancement de telles campagnes. Comme dans les autres études de cas, Claude a été utilisé pour planifier des campagnes, choisir des cibles et créer du contenu au Kenya. Bien qu’Anthropic affirme avoir pu perturber la plupart de ces campagnes, elle reconnaît la nécessité d’une meilleure détection et prévention. Cela nécessite un partage de renseignements entre le secteur privé et les partenaires gouvernementaux. Pourtant, le récent boycott du Pentagone envers Anthropic aux États-Unis (États-Unis) pourrait indiquer une réticence des gouvernements et des entreprises technologiques à collaborer. Claude a contribué à générer apparemment des « commentaires spontanés de terrain » avant les élections kényanes de 2027 Dans des pays comme l’Afrique du Sud, qui est en tête du continent en matière d’innovation indigène en IA, une approche isolée de la cybersécurité persiste. Le renseignement sur les menaces peut être partagé de manière informelle, par exemple, entre banques et agences gouvernementales, mais le partage systématique est lent. Le pays dispose d’un nouveau Centre d’excellence en cybersécurité africain, dirigé par le secteur privé, mais le Centre de coordination de la cybersécurité dirigé par l’État, promis il y a dix ans dans le cadre du Cadre national de politique de cybersécurité, n’a pas vu le jour. Bien qu’elle soit de plus en plus vulnérable aux cyberattaques, l’Afrique du Sud manque de stratégie d’IA, et les agences gouvernementales investissent deux tiers de moins que les entreprises dans la cybersécurité. L’État utilise également des systèmes hérités obsolètes qui sont plus difficiles à réparer, selon des experts lors d’une récente conférence technologique. En revanche, le Nigeria, qui rivalise presque avec l’Afrique du Sud en matière de développement de l’IA, a une politique qui s’engage à garantir un développement et un déploiement éthiques et responsables de l’IA. Les gouvernements ne peuvent pas se laisser aller dans la complace. La révélation d’OpenAI en septembre selon laquelle ses agents d’IA interagiraient avec des sites web du gouvernement américain de « manière inattendue » et les rapports non confirmés selon lesquels ces mêmes agents auraient tenté sans succès de pirater un site gouvernemental américain ont accru les inquiétudes mondiales. L’introduction de politiques basiques d’utilisation de l’IA dans les pays africains est un point de départ important. Les employés et les fonctionnaires risquent non seulement de transmettre des informations sensibles dans des modèles publics de grands langages en modifiant l’IA, mais pourraient aussi s’exposer eux-mêmes et leurs organisations à d’autres intrusions. SOURCE : ISS