نهج YouTube في تقديم ابتكارات الذكاء الاصطناعي بمسؤولية

لدى الذكاء الاصطناعي التوليدي إمكانية تعزيز القدرات الابتكارية على YouTube وتحويل تجربة المشاهدين وصنّاع المحتوى على المنصة. وفي هذا الإطار، لا بدّ من تحقيق التوازن بين هذه الفرص الجديدة ومسؤوليتنا تجاه حماية منتدى YouTube. يخضع كل المحتوى الذي يتم تحميله على YouTube إلى إرشادات المنتدى، بصرف النظر عن طريقة إنشائه، ولكننا على يقين بأنّه ستنجم عن الذكاء الاصطناعي مخاطر جديدة، وستتطلّب طرق جديدة لمعالجتها.

لا نزال في بداية الطريق، وسنواصل تطوير منهجنا بالاستناد إلى المعطيات الجديدة. إليكم نظرة على ما ستطرحه منصة YouTube في الأشهر المقبلة وفي العام الجديد.

متطلّبات الإفصاح وتصنيفات المحتوى الجديدة

نحن نرى أنّه من مصلحة الجميع الحفاظ على منظومة معلومات سليمة على YouTube. ولطالما أنفذنا سياساتنا التي تحظر نشر المحتوى المتلاعب به فنيًّا والذي يضلّل المشاهدين ويطرح خطرًا جديًا بضرر جسيم. أمّا بالنسبة إلى تقنية الذكاء الاصطناعي، فلديها قدرات سردية جديدة وقوية يمكن استغلالها لإنشاء محتوى قد يكون مضللًا للمشاهدين، لا سيما إذا لم يكونوا على علم بأنّه تم تعديل الفيديو أو إنشاؤه اصطناعيًا.

لمعالجة هذه المشكلة، سنطرح في الأشهر المقبلة تحديثات لإعلام المشاهدين بأنّ المحتوى الذي يشاهدونه اصطناعيًا. وسنطلب من صنّاع المحتوى الإفصاح تحديدًا عن المحتوى المعدَّل أو الاصطناعي الذي يبدو واقعيًا، بما في ذلك المحتوى الذي تم إنشاؤه باستخدام أدوات الذكاء الاصطناعي. عندما يحمّل صنّاع المحتوى فيديو، ستتوفّر لهم خيارات جديدة للإشارة إلى أنّ المحتوى يحتوي على مواد واقعية تم تعديلها أو إنشاؤها اصطناعيًا. على سبيل المثال، قد يكون المحتوى عبارة عن فيديو من إنشاء الذكاء الاصطناعي يصوّر بشكل واقعي حدثًا غير حقيقي، أو محتوى يصوّر شخصًا وهو يقول كلامًا أو يُقْدِم على أفعال معيّنة، في مشهد لم يحصل حقيقةً.

ينطوي ذلك على أهمية كبيرة، لا سيما إذا كان المحتوى يتناول مواضيع حساسة، مثل الانتخابات، أو النزاعات الجارية وأزمات الصحة العامة، أو الموظفين العموميين. إذا استمرّ صنّاع المحتوى بعدم الإفصاح عن هذه المعلومات، قد تتم إزالة المحتوى الخاص بهم، وقد يتم تعليق عضويتهم في برنامج شركاء YouTube، بالإضافة إلى عقوبات أخرى قد تُفرض عليهم. سنعمل مع صنّاع المحتوى قبل طرح هذه التحديثات للتأكّد من أنّهم يفهمون المتطلبات الجديدة.

إضافةً إلى ذلك، سنعتمد طريقتين لإعلام المشاهدين بأنّ المحتوى قد يكون معدّلًا أو اصطناعيًا. ستتم إضافة تصنيف جديد إلى لوحة الوصف تشير إلى أنّ بعض الأجزاء من المحتوى تم تعديلها أو إنشاؤها اصطناعيًا. أمّا بالنسبة إلى بعض أنواع المحتوى التي تتناول مواضيع حساسة، فسنضيف تصنيفًا أكثر وضوحًا إلى مشغِّل الفيديو.

بالنسبة إلى بعض المواضيع، قد لا يكفي إضافة مجرّد تصنيف لتجنّب الأضرار الممكنة. وستتم إزالة بعض أنواع المحتوى الاصطناعي من المنصة حتى إذا كانت مصنّفة، في حال انتهاكها إرشادات المنتدى. على سبيل المثال، قد تتم إزالة فيديو اصطناعي يعرض مشاهد عنف إذا كان الهدف منه إثارة الصدمة أو الاشمئزاز لدى المشاهدين.

من الآن فصاعدًا، ومع هذه التحديثات الجديدة، سيتم بوضوح تصنيف المحتوى الذي يتم إنشاؤه باستخدام ميزات ومنتجات الذكاء الاصطناعي التوليدي من YouTube على أنّه معدّل أو اصطناعي.

خيارات جديدة لصنّاع المحتوى والمشاهدين والفنانين

لقد وردنا بشكل متواصل ملاحظات من المنتدى، بما فيه صنّاع المحتوى والمشاهدون والفنانون، عن كيفية تأثّرهم بالتقنيات التكنولوجية الناشئة، لا سيّما عندما يتم إنشاء وجه أو صوت فرد معيّن رقميًا بدون طلب إذنه أو بهدف تشويه رأيه.

لذلك، وفي الأشهر المقبلة، سنتيح إمكانية تقديم طلب لإزالة المحتوى من إنشاء الذكاء الاصطناعي أو غيره من المحتوى المعدَّل أو الاصطناعي الذي يحاكي شخصًا محدّدًا يمكن التعرّف عليه، بما في ذلك محاكاة وجهه أو صوته. ما عليكم سوى تقديم شكوى بشأن الخصوصية. لن تتم إزالة كل المحتوى من YouTube، وسننظر في مجموعة من العوامل عند تقييم هذه الطلبات، بما في ذلك ما إذا كان المحتوى ساخرًا، وما إذا كان بالإمكان التعرف على هوية مقدِّم الطلب بشكل فريد في المحتوى. أمّا إذا كان المحتوى يتضمّن موظفًا عموميًا أو شخصًا معروفًا، فقد تكون القيود صارمة أكثر في هذه الحالة.

وسنتيح أيضًا لشركاء المحتوى الموسيقي طلب إزالة المحتوى الموسيقي من إنشاء الذكاء الاصطناعي إذا كان يقلّد صوت فنّان فريد وهو يغنّي أو يؤدي الراب. لتقييم طلب الإزالة، سننظر في عدّة عوامل، مثلاً ما إذا كان المحتوى جزءًا من تقرير إخباري أو تحليل أو نقد للأصوات الاصطناعية. وستتوفّر إمكانية تقديم طلبات الإزالة هذه لشركات الإنتاج أو التوزيع التي تمثّل فنانين يشاركون في أولى تجارب YouTube حول الموسيقى من إنشاء الذكاء الاصطناعي. وسنتيح هذه الميزة للمزيد من شركات الإنتاج والتوزيع في الأشهر المقبلة.

استخدام تقنية الذكاء الاصطناعي لتعزيز إمكانية الإشراف على المحتوى

لطالما استعانت YouTube بمزيج من فريق المراجعين وتقنيات تعلّم الآلة لإنفاذ إرشادات المنتدى. فلدى YouTube أكثر من 20,000 عضو ضمن فريق المراجعين يعملون في جميع أنحاء العالم. إضافةً إلى ذلك، تتضمّن أنظمتنا مصنّفات ذكاء اصطناعي تساعد على نطاق واسع في رصد المحتوى الذي يحتمل أن يكون مخالفًا، ويعمل المراجعون على تأكيد ما إذا كان المحتوى مخالفًا بالفعل. فالذكاء الاصطناعي يساهم بشكل متزايد في زيادة سرعة ودقة أنظمة الإشراف على المحتوى.

ويتّضح دور الذكاء الاصطناعي بشكل أساسي عند تحديد أشكال الإساءة الجديدة. صحيح أنّه عندما تظهر مخاطر جديدة، لا تملك أنظمتنا سوى القليل من السياق نسبيًا لفهم وتحديد هذه المخاطر على نطاق واسع، إلّا أنّ الذكاء الاصطناعي التوليدي يساعدنا على توسيع قاعدة المعلومات التي تدرّبت عليها مصنفات الذكاء الاصطناعي لدينا بسرعة كبيرة، ما يعني أنّه يصبح بإمكاننا التعرّف على هذا المحتوى ورصده بوتيرة أسرع بكثير. وبفضل هذا التحسّن على مستوى السرعة والدقة في أنظمتنا، يمكننا الحدّ من كمية المحتوى الضار الذي يعالجه فريق المراجعين.

بناء المسؤولية ضمن أدوات وميزات الذكاء الاصطناعي

بينما نواصل إنشاء أدوات ذكاء اصطناعي جديدة لصنّاع المحتوى، نتّبع النهج نفسه الذي لطالما اعتمدناه لمواجهة أكبر التحديات المتعلقة بالمسؤولية: نرى أنّه من الضروري اتخاذ كلّ الوقت المطلوب لتنفيذ العمل على أكمل وجه، بدلاً من السعي إلى الفوز في السباق.

نحد بصدد النظر ماليًا في الطريقة الأمثل للاستفادة من استثمارنا على مرّ السنوات في فرق وتقنيات قادرة على الإشراف على المحتوى على نطاق واسع. ويستوجب ذلك العمل بشكل متواصل ومكثّف لتطوير تدابير الحماية اللازمة التي ستمنع أدوات الذكاء الاصطناعي من إنشاء أنواع محتوى غير مناسبة لمنصة YouTube.

نحن نعلم أيضًا أنّ الجهات المسيئة ستحاول حتمًا التحايل على تدابير الحماية هذه. بالتالي، سنستعين بملاحظات المستخدمين والدروس المستفادة منهم لمواصلة تحسين أنظمتنا. وفي شركتنا، لدينا فرق متخصصة تركّز على الاختبار العدائي ورصد المخاطر للتأكّد من أنّ أنظمتنا قادرة على مواجهة التحديات الجديدة الناشئة.

التطورات في الذكاء الاصطناعي على الأبواب

لا نزال في بداية الطريق، ويتبقى الكثير من الابتكارات التي يمكن إتاحتها مع الذكاء الاصطناعي التوليدي على YouTube. نحن متحمّسون جدًا إزاء الإمكانات الكبيرة التي تتمتّع بها هذه التكنولوجيا، ونحن واثقون بأنّ التطورات الجديدة سينسحب أثرها على كل الصناعات الابتكارية في السنوات القادمة. علاوةً على ذلك، نحن نأخذ الوقت اللازم لتحقيق التوازن بين هذه الفوائد من جهة والحرص على الحفاظ على أمان المنتدى في هذه المرحلة المفصلية. وسنعمل يدًا بيد مع صنّاع المحتوى والفنانين وغيرهم في كل المجالات الابتكارية لبناء مستقبل مفيد للجميع.