Sifflet de Chien
Un sifflet de chien est un langage codé dans les commentaires qui semble innocent pour la plupart des lecteurs mais porte une signification haineuse, politique ou discriminatoire cachée comprise par un groupe spécifique.
Qu'est-ce que Sifflet de Chien?
Dans la modération des médias sociaux, un sifflet de chien fait référence à un mot, une phrase, un nombre, une séquence d'emojis ou un symbole qui semble inoffensif pour les lecteurs occasionnels mais porte une signification cachée comprise par une communauté spécifique — souvent haineuse, discriminatoire ou politiquement extrême. Les sifflets de chien sont délibérément conçus pour échapper à la modération basée sur des mots-clés : le texte littéral ne contient aucun mot signalé, mais le sens est clairement hostile pour ceux qui comprennent le code. Les sifflets de chien évoluent rapidement à mesure que les systèmes de modération rattrapent leur retard, créant une course constante entre le langage codé et la détection.
Sifflets de Chien dans les Sections de Commentaires
Les sifflets de chien dans les sections de commentaires des marques sont particulièrement dangereux car ils créent un environnement hostile que l'équipe de modération de la marque peut ne pas reconnaître. Les schémas courants incluent : des codes numériques associés à des groupes haineux, des séquences d'emojis qui portent des significations codées, des phrases apparemment neutres qui sont en réalité des mèmes hostiles, et des références historiques qui servent d'attaques codées. Comme le texte littéral est inoffensif, les filtres basés sur des mots-clés sont inutiles.
Pourquoi le contexte de l'IA est important
La détection des dog whistles nécessite une IA qui comprend le contexte culturel, pas seulement des mots-clés. Un filtre de mots-clés ne peut pas attraper un dog whistle car les mots individuels ne sont pas signalés — l'hostilité réside dans la combinaison, le contexte et le code culturel. Le classificateur de FeedGuardians est formé sur des ensembles de données continuellement mis à jour de modèles de dog whistles connus à travers plusieurs langues et sous-cultures, et est réentraîné chaque semaine pour suivre l'évolution des codes.
Exemples de Sifflet de Chien
Attaque par émoji codé
Une séquence spécifique d'émojis — innocents individuellement — est comprise au sein d'une communauté de harcèlement comme une insulte discriminatoire. La séquence apparaît à plusieurs reprises dans la section des commentaires d'un créateur. Les filtres de mots-clés ne peuvent pas la détecter car il n'y a pas de mots. Seule une IA consciente du contexte reconnaît le modèle.
Commun Questions
Non. Les dog whistles sont spécifiquement conçus pour contourner les filtres de mots-clés. Les mots ou symboles individuels sont inoffensifs — l'hostilité réside dans le sens codé. Seule une IA qui comprend le contexte culturel et l'évolution des modèles peut détecter les dog whistles.
Le classificateur est réentraîné chaque semaine sur les nouveaux modèles de langage codé provenant d'organisations de surveillance de la haine, des rapports de transparence des plateformes et de nos propres données de détection croisées. Les nouveaux dog whistles sont généralement détectables dans les 1 à 2 semaines suivant leur apparition.
Termes Liés
Prêt à protéger votre
comments avec l'IA ?
Commencez votre essai gratuit et découvrez la modération de commentaires alimentée par l'IA à partir de 39 $/mois.
Commencer l'Essai Gratuit7-day free trial
Explorer Plus