Cara kami membantu kreator melabeli konten hasil modifikasi atau sintetis

AI generatif telah mentransformasi cara kreator mengekspresikan diri – dari memvisualisasikan ide hingga bereksperimen dengan berbagai alat pembantu proses kreatif. Akan tetapi, penonton menginginkan transparansi lebih besar tentang apakah konten yang mereka lihat adalah hasil modifikasi atau dibuat secara sintetis.

Karena itulah hari ini, kami memperkenalkan sebuah alat baru di Creator Studio yang mengharuskan kreator menunjukkan kepada penonton saat membuat konten realistis – yaitu, konten yang rentan disalahpahami penonton sebagai orang, tempat, adegan, atau peristiwa nyata – dengan menggunakan media hasil modifikasi atau sintetis, termasuk AI generatif. Kami tidak mewajibkan kreator menyertakan keterangan ini untuk konten yang jelas tidak realistis, berupa animasi, menampilkan efek spesial, atau menggunakan AI generatif sebagai pembantu dalam proses produksinya.

Langkah ini merupakan kelanjutan dari pendekatan kami dalam menginovasikan AI secara bertanggung jawab, sebagaimana diumumkan pada bulan November lalu. Kami mengupayakannya antara lain dengan mewajibkan penambahan keterangan dan label, memperbarui proses permintaan privasi, dan memastikan semua produk dan fitur AI kami tersedia secara bertanggung jawab.

Label baru ini dimaksudkan untuk meningkatkan transparansi bagi penonton dan membangun kepercayaan antara kreator dan audiens mereka. Beberapa contoh konten yang harus disertai keterangan ini termasuk:

• Konten dengan elemen buatan yang menyerupai seorang individu yang dikenal di dunia nyata: Secara digital memodifikasi konten untuk mengganti wajah seseorang dengan wajah orang lain, atau secara sintetis meniru suara seseorang untuk menarasikan sebuah video.
• Konten yang berisi modifikasi atas rekaman video peristiwa atau tempat nyata: Misalnya, membuatnya tampak seolah bangunan sungguhan terbakar atau memodifikasi lingkungan perkotaan nyata agar terlihat berbeda daripada sebenarnya.
• Konten dengan penggambaran kejadian yang tidak nyata, tetapi realistis: Menunjukkan gambaran realistis dari peristiwa besar yang fiktif, misalnya tornado yang bergerak menuju wilayah permukiman sungguhan.

Tentu saja, kami paham bahwa kreator menggunakan AI generatif dalam berbagai cara di sepanjang proses kreatif mereka. Kami tidak mengharuskan kreator menyertakan label ini jika AI generatif sekadar digunakan untuk membantu produktivitas, misalnya membuat naskah, mencari ide konten, atau membuat teks (caption) otomatis. Kami juga tidak akan mewajibkan kreator menyertakan label saat media sintetis di konten mereka terlihat jelas tidak realistis dan/atau perubahannya tidak memberikan dampak yang signifikan. Sebagai contoh:

• Konten yang jelas tidak realistis, seperti animasi atau orang naik unicorn di dunia fantasi
• Filter penyesuaian warna atau pencahayaan
• Efek spesial seperti pemburaman latar belakang atau efek vintage
• Filter kecantikan atau peningkatan visual lain

Anda dapat menemukan lebih banyak contoh di Pusat Bantuan kami. Untuk sebagian besar video, label ini akan muncul di bagian deskripsi. Namun, untuk video dengan topik yang lebih sensitif – seperti kesehatan, berita, pemilu, atau keuangan – kami juga akan menampilkan label yang lebih mudah dilihat pada video itu sendiri.

Contoh label pada pemutar video:

Contoh label di dalam deskripsi:

Anda akan mulai melihat label ini di semua bagian dan format YouTube dalam beberapa minggu ke depan, diawali dengan aplikasi YouTube di ponsel, serta tidak lama lagi di desktop dan TV. Kami ingin memberi komunitas YouTube waktu untuk menyesuaikan diri dengan proses dan fitur baru ini, tetapi nantinya kami juga berencana memberlakukan tindakan korektif kepada kreator yang secara berulang tidak menyertakan informasi ini. Dalam beberapa kasus, YouTube dapat menambahkan label meskipun kreator tidak menyertakannya, terutama untuk konten hasil modifikasi atau sintetis yang berpotensi membingungkan atau menyesatkan orang.

Yang juga penting, kami terus berkolaborasi dengan berbagai pihak di industri untuk membantu meningkatkan transparansi seputar konten digital, termasuk melalui upaya kami selaku steering member di dalam Coalition for Content Provenance and Authenticity (C2PA).

Sementara itu, seperti yang telah diumumkan sebelumnya, kami terus mengupayakan pembaruan proses privasi untuk meminta penghapusan konten buatan AI, hasil modifikasi, atau metode sintetis lain yang menyimulasikan seorang individu nyata yang dapat dikenali, termasuk wajah atau suaranya. Kami akan segera membagikan informasi lebih lanjut tentang bagaimana kami akan memperkenalkan proses ini secara global.

Kreator adalah bagian vital dari YouTube dan akan terus memainkan peran yang sangat penting dalam membantu audiens memahami, menerima, dan beradaptasi dengan dunia AI generatif. Proses ini masih akan terus berkembang, dan kami di YouTube akan terus belajar untuk memperbaiki diri. Semoga transparansi yang lebih besar ini dapat membantu kita semua lebih mengapresiasi beragam manfaat AI untuk mendukung kreativitas manusia.