Automated Content Advisories Introduction
Les avis de contenu automatisés sont un service API qui analyse le contenu texte, audio et vidéo pour générer des avertissements concernant la rhétorique, les thèmes, le discours de haine, les grossièretés et la nudité.
Voir plusQu'est-ce que Automated Content Advisories
Les avis de contenu automatisés sont un service fourni par Parabasis qui vise à résoudre le problème omniprésent du contenu sur le web, en particulier en ce qui concerne le langage persuasif. Il fonctionne sur le principe que les utilisateurs méritent un 'devoir d'avertir' concernant un contenu potentiellement manipulateur ou influent. Le service fournit des avertissements et des avis automatisés pour divers types de contenu en ligne, y compris le texte, l'audio et la vidéo, afin d'aider les utilisateurs à prendre des décisions plus éclairées sur les médias qu'ils consomment.
Comment fonctionne Automated Content Advisories ?
Le service utilise des API flexibles pour analyser le contenu à travers différents médias. Pour la détection de la rhétorique, il utilise des modèles qui se concentrent sur la manière dont les choses sont dites plutôt que sur les mots utilisés, en errant du côté de la prudence pour donner aux gens le bénéfice du doute. Il évite d'utiliser des embeddings de mots ou des réseaux neuronaux pour l'analyse de la rhétorique afin de minimiser les biais. Le service offre également des fonctionnalités supplémentaires telles que l'identification de thèmes, la détection de discours de haine, le filtrage de grossièretés et la détection de nudité. Ces fonctionnalités peuvent être appliquées à diverses plateformes, y compris les moteurs de recherche, les plateformes de contenu, les réseaux sociaux et même le contenu généré par l'IA à partir de modèles linguistiques.
Avantages de Automated Content Advisories
En mettant en œuvre des avis de contenu automatisés, les plateformes peuvent améliorer l'expérience utilisateur en fournissant des avertissements concernant un contenu potentiellement manipulateur. Cela aide à protéger les annonceurs en s'assurant que leurs annonces n'apparaissent pas aux côtés de contenu inapproprié. Le service offre une gamme de fonctionnalités qui permettent un message plus nuancé et un filtrage de contenu, ce qui peut être particulièrement utile pour créer des versions adaptées aux enfants des services ou pour informer les utilisateurs sur du contenu sensible. De plus, le service privilégie la confidentialité des utilisateurs, en stockant les données soumises uniquement à des fins de débogage et en les supprimant après 30 jours, ce qui peut aider les plateformes à maintenir la confiance des utilisateurs.
Voir plus