Automated Content Advisories Features
Pemberitahuan Konten Otomatis adalah layanan API yang menganalisis konten teks, audio, dan video untuk menghasilkan peringatan tentang retorika, tema, ujaran kebencian, kata kasar, dan ketelanjangan.
Lihat Lebih BanyakFitur Utama Automated Content Advisories
Automated Content Advisories adalah layanan API yang menganalisis teks, audio, dan konten video untuk menghasilkan peringatan tentang retorika yang berpotensi persuasif atau manipulatif, serta mengidentifikasi tema, mendeteksi ujaran kebencian, kata kasar, dan ketelanjangan. Ini bertujuan untuk meningkatkan pengalaman pengguna dan melindungi pengiklan dengan memberikan peringatan konten yang mirip dengan yang digunakan untuk film dan media lainnya.
Analisis Retorika: Mendeteksi bahasa persuasif dan menghasilkan peringatan untuk konten yang mungkin mencoba mempengaruhi pengguna
Identifikasi Tema: Mengidentifikasi tema kunci dalam konten untuk memberikan pesan yang lebih bernuansa
Dukungan Multi-Format: Bekerja dengan konten teks, audio, dan video
Deteksi Ujaran Kebencian: Mengidentifikasi bahasa yang penuh kebencian dan penghinaan
Penyaringan Kata Kasar: Mendeteksi dan menyaring bahasa kasar
Deteksi Ketelanjangan: Mengidentifikasi konten telanjang atau pornografi
Kasus Penggunaan Automated Content Advisories
Mesin Pencari: Memberikan peringatan konten pada hasil pencarian untuk memperingatkan pengguna tentang konten yang berpotensi manipulatif
Platform Konten: Menghasilkan peringatan untuk konten yang dihasilkan pengguna untuk meningkatkan moderasi
Media Sosial: Menambahkan peringatan pada pos dan konten yang dibagikan untuk memberikan konteks lebih kepada pengguna
Konten yang Dihasilkan AI: Menganalisis keluaran dari model bahasa besar untuk mengidentifikasi potensi bias atau manipulasi
Versi Ramah Anak: Menyaring kata kasar dan konten yang tidak pantas untuk versi aplikasi dan situs web yang aman untuk anak
Kelebihan
Meningkatkan pengalaman pengguna dengan memberikan peringatan konten
Melindungi pengiklan dari asosiasi dengan konten yang bermasalah
API yang fleksibel bekerja dengan berbagai format konten
Tidak menggunakan embedding kata yang berpotensi bias atau jaringan saraf untuk analisis retorika
Kekurangan
Mungkin terlalu berhati-hati, berpotensi menandai konten secara berlebihan
Menyimpan konten yang dikirimkan selama hingga 30 hari, yang dapat menimbulkan kekhawatiran privasi
Efektivitas dan akurasi peringatan tidak diverifikasi secara independen
Lihat Selengkapnya