L'IA : humour ou sérieux ?
Un filtre de mots ne voit pas la différence entre « t'es trop con 😂 » entre potes et une vraie attaque. L'IA d'Automod, si : elle juge chaque message comme le ferait un modérateur, puis applique les réglages de ton serveur.
Ce que l'IA regarde
Pour chaque message d'un module en mode IA, l'IA répond en trois informations :
- la catégorie : insulte ou haine, contenu sexuel, données personnelles, arnaque ;
- la gravité : 1 léger (vanne, grossièreté), 2 net (insulte directe, moquerie qui rabaisse : physique, vie amoureuse, famille…), 3 grave (insulte raciste ou homophobe, menace, incitation au suicide, harcèlement, arnaque évidente) ;
- le ton : 😂 humour (taquinerie entre potes) ou 😠 sérieux.
Elle tient compte du contexte : les messages précédents de l'auteur et le message auquel il répond. Pour éviter les excuses faciles, l'humour n'est retenu que s'il y a un vrai indice — « mdr », « lol », « ptdr », 😂, 💀… dans le message ou dans celui auquel il répond. Une moquerie méchante « sur un ton cool » reste sérieuse.
Les invitations à continuer sur un autre réseau (« compte insta en dm », « ajoute moi sur snap », WhatsApp, TikTok…) comptent comme des données personnelles : sur un serveur d'ados, c'est souvent le début d'une arnaque ou d'un harcèlement. Les messages privés Discord, eux, ne sont pas concernés.
La sensibilité décide
L'IA donne son avis, c'est la sensibilité du module (de 0 à 100 %) qui décide de sanctionner. Elle se règle avec les plans Pro et Max ; sinon, c'est la sensibilité standard (50 %). L'humour compte un cran de gravité en moins :
| Sensibilité | Message sérieux | Message pour rire |
|---|---|---|
| 0 % | rien (tout est de l'humour) | rien |
| 1 à 34 % | le grave | jamais |
| 35 à 64 % | net et grave | le grave |
| 65 à 99 % | tout | net et grave |
| 100 % | tout | tout (l'humour n'existe plus) |
Changer la sensibilité ne coûte rien : la consigne envoyée à l'IA est la même quel que soit le réglage.
Qui est analysé
- Seuls les membres : jamais le propriétaire, le buyer, les administrateurs ni les admins du bot.
- Pas les membres, rôles ou salons en bypass.
- Un message identique n'est analysé qu'une fois toutes les 10 minutes.
- Si l'IA ne répond pas (panne, limite atteinte), les règles classiques prennent le relais : le serveur n'est jamais sans protection.
Tester un message
/iatest (ou =iatest) suivi d'un texte montre, sans rien supprimer, ce que les règles et
l'IA en pensent : le ton, la gravité et « sanctionné » ou « ignoré » avec la sensibilité nécessaire. Attention : si tu
écris toi-même un vrai message alors que tu es admin, il ne sera jamais analysé — c'est voulu.
Activer l'IA
Dans /controls → Modération automatique (ou sur le tableau de bord → Modules), passe un module de contenu
en mode IA. Deux façons d'y avoir accès :
- le plan Max, qui utilise l'IA d'Automod ;
- ta propre clé d'IA, sans abonnement.
Brancher ta propre clé d'IA
Sur le tableau de bord web → onglet Développeur, choisis ton fournisseur (Mistral, OpenAI, Claude, Gemini, Groq, OpenRouter, DeepSeek, xAI ou toute API compatible OpenAI), le modèle, et colle ta clé. Les modules IA marchent alors sans plan Pro ni Max, sans le quota quotidien d'Automod, et c'est ton fournisseur qui te facture. La clé est chiffrée et n'est jamais réaffichée.
La carte Coût estimé du même onglet calcule ce que ça va te coûter selon le modèle et ton nombre de messages par jour. Ordres de grandeur (prix relevés en novembre 2026, avec les 4 modules IA) :
| Modèle | Pour 1 000 messages |
|---|---|
| Mistral Small | ≈ 0,15 $ |
| Claude Haiku 5.5 | ≈ 0,23 $ |
| Claude Opus 5.5 | ≈ 8 $ (il réfléchit avant de répondre : inutile pour de la modération) |
Et mes données ?
Le texte d'un message n'est envoyé à une IA que si le serveur a mis un module en mode IA. Rien n'est vendu ni utilisé pour autre chose que la modération. Tout est expliqué dans la politique de confidentialité.