Guide pratique de l'intelligence artificielle pour la prévention et la lutte contre l'extrémisme violent

Liste des titres des chapitres clés

1. Introduction : L'intelligence artificielle et les projets de prévention et de lutte contre l'extrémisme violent
2. Comprendre l'intelligence artificielle dans le contexte de la prévention et de la lutte contre l'extrémisme violent
3. Intersection de l'intelligence artificielle et de l'extrémisme violent
4. État actuel de l'adoption de l'intelligence artificielle dans la prévention et la lutte contre l'extrémisme violent
5. Défis et limites de l'adoption de l'intelligence artificielle dans la prévention et la lutte contre l'extrémisme violent
6. Opportunités et défis : Comment l'intelligence artificielle peut renforcer les actions de prévention et de lutte contre l'extrémisme violent
7. Stratégies d'atténuation des risques pour une intelligence artificielle responsable dans la prévention et la lutte contre l'extrémisme violent
8. Préoccupations relatives aux droits de l'homme et à l'éthique dans l'application de l'intelligence artificielle à la prévention et à la lutte contre l'extrémisme violent
9. Mise en œuvre et renforcement des capacités
10. Conclusion, recommandations et bonnes pratiques

Présentation du document

L'intelligence artificielle est en train de remodeler les environnements sociaux, économiques et sécuritaires de manière sans précédent, apportant un double impact complexe dans le domaine de la prévention et de la lutte contre l'extrémisme violent qui alimente le terrorisme. D'une part, les technologies d'intelligence artificielle peuvent être exploitées par des acteurs terroristes et extrémistes violents pour générer de vastes quantités de désinformation, manipuler l'opinion publique et accélérer les processus de violence ; d'autre part, elles recèlent un potentiel considérable pour aider les secteurs de la prévention et de la lutte contre l'extrémisme violent à relever ces défis émergents et persistants. Ce guide pratique a été élaboré précisément pour répondre à ce paysage en évolution rapide, visant à fournir aux praticiens concernés les outils pour naviguer de manière responsable entre le potentiel et les limites de l'intelligence artificielle.

Ce guide s'appuie sur une enquête menée par le projet mondial de prévention et de lutte contre l'extrémisme violent du Bureau des Nations Unies contre le terrorisme auprès de 120 praticiens et décideurs politiques issus de 45 pays. L'enquête révèle qu'actuellement, moins de 25 % des répondants utilisent l'intelligence artificielle dans leurs interventions de prévention et de lutte contre l'extrémisme violent. Le faible taux d'adoption est attribué à des risques multiples, notamment des préoccupations concernant la non-fiabilité technologique, les biais, la vie privée, le manque de confiance et l'insuffisance de transparence. D'autres obstacles incluent une préparation organisationnelle insuffisante, des ressources ou capacités limitées, et un manque de formation pertinente – moins d'un tiers des répondants ont reçu une quelconque formation liée à l'intelligence artificielle. Cependant, plus des deux tiers des répondants n'utilisant pas actuellement l'intelligence artificielle ont exprimé leur intention d'envisager son utilisation à l'avenir, et la grande majorité des répondants souhaitent recevoir une formation sur l'atténuation des problèmes liés aux droits de l'homme, à l'éthique et au droit, sur l'utilisation des outils d'intelligence artificielle et sur l'application de l'intelligence artificielle à la prévention et à la lutte contre l'extrémisme violent.

Le rapport présente de manière structurée les perspectives d'application et la gestion des risques de l'intelligence artificielle dans le domaine de la prévention et de la lutte contre l'extrémisme violent. En termes d'opportunités, le guide analyse en détail comment l'intelligence artificielle peut renforcer plusieurs domaines opérationnels clés, y compris le suivi et l'évaluation, l'optimisation de la formation et de l'éducation, la recherche et l'analyse, la surveillance de l'opinion publique en ligne, la détection des médias générés par l'intelligence artificielle comme les deepfakes, la communication de crise, la diffusion d'informations positives et alternatives, l'identification des modèles comportementaux et l'analyse prédictive pour le soutien au niveau tertiaire, ainsi que l'engagement direct avec les individus à haut risque. Simultanément, le rapport souligne systématiquement les défis opérationnels (tels que les contraintes de ressources, les lacunes en compétences, la résistance de la culture organisationnelle) et les défis techniques (tels que la qualité des données, les biais des modèles, la transparence des algorithmes) auxquels est confrontée l'application de l'intelligence artificielle.

Pour garantir que l'application de la technologie soit conforme aux normes internationales des droits de l'homme et aux valeurs fondamentales des Nations Unies telles que "ne pas nuire", le guide consacre un chapitre spécifique aux préoccupations relatives aux droits de l'homme et à l'éthique. Il souligne la nécessité d'adopter une approche fondée sur les droits de l'homme, en mettant l'accent sur la protection du droit à la vie privée, du droit à la liberté d'expression et des droits à l'égalité et à la non-discrimination. Le rapport propose également des principes clés tels que la transparence, la responsabilité, l'explicabilité ainsi que la supervision et le contrôle humains, et explore des questions éthiques spécifiques telles que l'impact climatique, le vol de propriété intellectuelle et l'authenticité des informations/messagers dans la prévention et la lutte contre l'extrémisme violent.

Pour parvenir à une application efficace et responsable, le guide fournit un cadre complet allant de la préparation organisationnelle à la mise en œuvre concrète. Cela inclut la construction de la préparation organisationnelle et des capacités institutionnelles, la clarification des compétences essentielles requises pour les praticiens, la mise en place d'une formation à la culture numérique et aux compétences techniques en intelligence artificielle, et la planification d'un parcours complet de mise en œuvre allant de l'évaluation stratégique, du mapping des parties prenantes et des interventions pilotes à l'expansion à grande échelle et au suivi continu des performances. Enfin, le rapport présente des conclusions, recommandations et bonnes pratiques spécifiques pour les Nations Unies et autres organisations internationales, les autorités nationales, les donateurs, le secteur technologique et toutes les parties prenantes, et est accompagné d'un manuel de travail pratique comprenant un guide des ressources, un modèle d'évaluation des risques et des listes de contrôle, pour soutenir la traduction des principes en actions concrètes.