Automated Content Advisories Einführung
Automatisierte Inhaltswarnungen ist ein API-Dienst, der Text-, Audio- und Videoinhalte analysiert, um Warnungen über Rhetorik, Themen, Hassrede, Obszönitäten und Nacktheit zu generieren.
Mehr anzeigenWas ist Automated Content Advisories
Automatisierte Inhaltswarnungen ist ein Dienst von Parabasis, der darauf abzielt, das weit verbreitete Inhaltsproblem im Internet, insbesondere in Bezug auf persuasive Sprache, anzugehen. Er basiert auf dem Prinzip, dass Benutzer ein 'Warnpflicht' über potenziell manipulative oder einflussreiche Inhalte verdienen. Der Dienst bietet automatisierte Warnungen und Hinweise für verschiedene Arten von Online-Inhalten, einschließlich Text, Audio und Video, um Benutzern zu helfen, informiertere Entscheidungen über die Medien zu treffen, die sie konsumieren.
Wie funktioniert Automated Content Advisories?
Der Dienst verwendet flexible APIs, um Inhalte über verschiedene Medien hinweg zu analysieren. Für die Rhetorik-Erkennung verwendet er Modelle, die sich darauf konzentrieren, wie Dinge gesagt werden, anstatt nur auf die verwendeten Wörter, und geht auf Nummer sicher, um den Menschen den Vorteil des Zweifels zu geben. Er vermeidet die Verwendung von Wort-Embeddings oder neuronalen Netzen für die Rhetorikanalyse, um Vorurteile zu minimieren. Der Dienst bietet auch zusätzliche Funktionen wie Themenidentifikation, Erkennung von Hassrede, Filterung von Obszönitäten und Erkennung von Nacktheit. Diese Funktionen können auf verschiedenen Plattformen angewendet werden, einschließlich Suchmaschinen, Inhaltsplattformen, sozialen Medien und sogar von KI-generierten Inhalten aus Sprachmodellen.
Vorteile von Automated Content Advisories
Durch die Implementierung automatisierter Inhaltswarnungen können Plattformen das Benutzererlebnis verbessern, indem sie Warnungen über potenziell manipulative Inhalte bereitstellen. Dies hilft, Werbetreibende zu schützen, indem sichergestellt wird, dass ihre Anzeigen nicht neben unangemessenen Inhalten angezeigt werden. Der Dienst bietet eine Reihe von Funktionen, die nuanciertere Nachrichten und Inhaltsfilterung ermöglichen, was besonders nützlich sein kann, um kinderfreundliche Versionen von Diensten zu erstellen oder Benutzer über sensible Inhalte zu informieren. Darüber hinaus priorisiert der Dienst den Datenschutz der Benutzer, indem er übermittelte Daten nur zu Debugging-Zwecken speichert und sie nach 30 Tagen löscht, was Plattformen helfen kann, das Vertrauen der Benutzer zu erhalten.
Mehr anzeigen