Intelligence artificielle : quand les groupes armés africains détournent les chatbots

Des organisations terroristes exploitent les failles des assistants conversationnels

Des révélations troublantes émergent quant à l’utilisation malveillante des technologies d’intelligence artificielle par des groupes armés actifs en Afrique. Une enquête menée par l’université de Cambridge a confirmé que des entités comme Boko Haram s’appuient sur des plateformes telles que ChatGPT, Claude et Gemini pour concevoir des stratégies opérationnelles et produire des engins explosifs.

L’État islamique forme ses cadres à contourner les garde-fous

Dès 2023, des commandants de l’ISIS ont bénéficié d’une formation spécifique visant à neutraliser les mécanismes de sécurité intégrés aux chatbots. Ces sessions ont pour objectif de transformer ces outils en instruments de propagande ou de logistique opérationnelle, malgré les restrictions théoriques imposées par les développeurs.

L’autorégulation des géants de l’IA mise en défaut

Les résultats de l’étude démontrent que les systèmes de filtrage conçus pour prévenir les dérives peinent à remplir leur rôle. Cette situation soulève des interrogations majeures sur l’efficacité des politiques d’autorégulation mises en place par les acteurs du secteur technologique. La prolifération de ces pratiques illicites interroge sur la nécessité d’un cadre réglementaire plus strict et contraignant.

Les chatbots, initialement conçus pour assister les utilisateurs dans des tâches quotidiennes ou professionnelles, deviennent ainsi des leviers pour des activités criminelles. Cette dérive technologique met en lumière les vulnérabilités des systèmes actuels et la course contre la montre à laquelle se livrent les autorités pour adapter leur arsenal législatif.