Découverte de :

Médias en ligne et rédactions numériques en Afrique de l'Ouest , Plateformes communautaires et réseaux sociaux locaux , Modérateurs et community managers , Internautes eux-mêmes dont les messages sont reformulés plutôt que censurés

- Détecter automatiquement et avec précision les contenus toxiques dans un contexte linguistique ouest-africain (français, expressions locales) - Reformuler les commentaires problématiques pour préserver le fond du message tout en éliminant l'agressivité, la haine ou la discrimination - Réduire la charge de travail des équipes de modération humaine - Préserver un espace d'expression civique sain sans recourir à la censure systématique

LaafiSpace repose sur l'architecture suivante : 1. Analyse : un backend Flask reçoit le commentaire (texte brut) et l'envoie à un modèle de langage (Qwen via API) piloté par un prompt système spécialisé dans la détection de discours haineux, insultes, harcèlement, discrimination et incitation à la violence. 2. Sortie structurée : le modèle retourne un JSON avec un niveau de risque (faible/moyen/élevé/critique), une catégorie, les émotions détectées, les mots-clés problématiques, une explication et une reformulation pacifique du commentaire. 3. Interface utilisateur : un frontend Angular affiche un modal de révision lorsque le score dépasse un seuil (0,6 par défaut), laissant le choix de publier l'original ou la version reformulée ; en dessous du seuil, publication directe. 4. Intégration WordPress : un plugin ( laafispace-connect) permet de brancher directement cette analyse sur les commentaires d'un site WordPress, avec seuil de blocage configurable et action (mise en spam ou modération manuelle), avec un mode "fail open" en cas d'indisponibilité de l'API pour ne jamais bloquer les échanges par erreur technique.

La plupart des outils de modération existants se limitent à une détection binaire de toxicité : un commentaire est jugé "insultant" ou non, sans plus de nuance. LaafiSpace va plus loin en produisant une analyse enrichie et exploitable catégorie précise du problème (insulte, discrimination, discours haineux, menace…), émotions détectées, niveau de sévérité, explication argumentée du jugement, en plus de la reformulation elle-même. Cette granularité permet à l'équipe éditoriale de comprendre pourquoi un commentaire a été signalé, pas seulement qu'il l'a été. Contrairement aux solutions de modération classiques qui se limitent à un système binaire "supprimer / conserver", LaafiSpace introduit une approche de transformation constructive du discours : le commentaire toxique n'est pas censuré mais reformulé, préservant l'intention de l'auteur tout en assainissant le ton. Le système est pensé pour une intégration légère et directe dans les outils déjà utilisés par les médias (WordPress), avec un fonctionnement "fail open" qui protège la continuité du débat public.

Prototype fonctionnel opérationnel, mais pas encore déployé en production : backend Flask + API Qwen testés en local, frontend Angular de démonstration, plugin WordPress complet (analyse, seuils, logs, configuration admin). L'équipe travaille désormais à faire évoluer LaafiSpace vers un modèle d'IA autonome entraîné en interne, afin de réduire la dépendance à des API tierces et d'affiner la détection au contexte local. Le projet est actuellement en phase de collecte de données pour cet entraînement. Une seconde évolution est également prévue autour de la gestion de la récidive : si un lecteur choisit systématiquement de publier son message original plutôt que la reformulation proposée à chaque fois que son commentaire est jugé toxique, et qu'il atteint un seuil défini de récidives, son droit de publier l'original sera suspendu. Au-delà de ce seuil, tout nouveau message détecté comme problématique ne pourra plus être publié tel quel : l'utilisateur devra soit accepter la reformulation proposée, soit renoncer à publier son commentaire. Cette base de données de suivi par utilisateur permettra de responsabiliser progressivement les comportements récurrents, sans pénaliser les lecteurs de bonne foi dès leur premier commentaire.