Automated Content Advisories Introducción
Los Avisos de Contenido Automatizados son un servicio API que analiza contenido de texto, audio y video para generar advertencias sobre retórica, temas, discurso de odio, profanidad y desnudez.
Ver más¿Qué es Automated Content Advisories?
Los Avisos de Contenido Automatizados son un servicio proporcionado por Parabasis que tiene como objetivo abordar el problema del contenido generalizado en la web, particularmente en lo que respecta al lenguaje persuasivo. Opera bajo el principio de que los usuarios merecen un 'deber de advertir' sobre contenido potencialmente manipulador o influyente. El servicio proporciona advertencias y avisos automatizados para varios tipos de contenido en línea, incluyendo texto, audio y video, para ayudar a los usuarios a tomar decisiones más informadas sobre los medios que consumen.
¿Cómo funciona Automated Content Advisories?
El servicio utiliza APIs flexibles para analizar contenido a través de diferentes medios. Para la detección de retórica, emplea modelos que se centran en cómo se dicen las cosas en lugar de solo las palabras utilizadas, errando en el lado de la precaución para dar a las personas el beneficio de la duda. Evita usar incrustaciones de palabras o redes neuronales para el análisis de retórica para minimizar sesgos. El servicio también ofrece características adicionales como identificación de temas, detección de discurso de odio, filtrado de profanidad y detección de desnudez. Estas características se pueden aplicar a varias plataformas, incluyendo motores de búsqueda, plataformas de contenido, redes sociales e incluso contenido generado por IA a partir de modelos de lenguaje.
Beneficios de Automated Content Advisories
Al implementar Avisos de Contenido Automatizados, las plataformas pueden mejorar la experiencia del usuario al proporcionar advertencias sobre contenido potencialmente manipulador. Esto ayuda a proteger a los anunciantes al asegurar que sus anuncios no aparezcan junto a contenido inapropiado. El servicio ofrece una variedad de características que permiten una mensajería y filtrado de contenido más matizados, lo que puede ser particularmente útil para crear versiones amigables para niños de los servicios o dar a los usuarios un aviso sobre contenido sensible. Además, el servicio prioriza la privacidad del usuario, almacenando los datos enviados solo con fines de depuración y eliminándolos después de 30 días, lo que puede ayudar a las plataformas a mantener la confianza del usuario.
Ver más