أعلنت شركة Meta يوم الثلاثاء عن خطتها لبدء وضع علامات على الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي من شركات أخرى مثل OpenAI وGoogle. تهدف هذه الخطوة إلى زيادة الشفافية على منصات مثل Facebook, Instagram والخيوط، من خلال إعلام المستخدمين بأن المحتوى الذي يشاهدونه هو وسائط رقمية مركبة وليس صورة أو مقطع فيديو أصليًا.
يعد حل Meta جزءًا من جهد أوسع في صناعة التكنولوجيا لوضع معايير لتصنيف المحتوى الذي تم إنشاؤه باستخدام نماذج الذكاء الاصطناعي التوليدية القادرة على إنشاء صوت وصور ومقاطع فيديو مزيفة ولكن واقعية بناءً على مطالبات مكتوبة.
أعلن ذلك رئيس الشؤون العالمية في Meta، Nick Clegg، في منشور مدونة على موقع Meta الإلكتروني. وكتب كليج: "سنواصل اتباع هذا النهج خلال العام المقبل، عندما سيتم إجراء عدد من الانتخابات المهمة في جميع أنحاء العالم". "خلال هذا الوقت، نأمل أن نتعلم الكثير حول كيفية إنشاء الأشخاص للمحتوى ومشاركته باستخدام الذكاء الاصطناعي، وما هي الشفافية التي يقدرها الأشخاص أكثر، وكيف تتطور هذه التقنيات."
وأشار كليج إلى أن مبادرة تمييز المحتوى التي تم إنشاؤها بواسطة الذكاء الاصطناعي الخاصة بشركة Meta ستعمل على توسيع الممارسة الحالية المتمثلة في وضع علامات على المحتوى الذي تم إنشاؤه باستخدام أدوات الذكاء الاصطناعي الخاصة بها لتشمل الصور التي تم إنشاؤها باستخدام خدمات الشركات الأخرى.
"نحن نبني أدوات رائدة في الصناعة يمكنها تحديد العلامات غير المرئية على نطاق واسع - وتحديدًا المعلومات "المولدة بالذكاء الاصطناعي" في المعايير الفنية لـ C2PA وIPTC - حتى نتمكن من وضع علامات على الصور من Google، وOpenAI، MicrosoftوAdobe وMidjourney وShutterstock أثناء قيامهم بتنفيذ خططهم لإضافة البيانات الوصفية إلى الصور التي تم إنشاؤها بواسطة أدواتهم.
يقول ميتا إن تقنية تصنيف المحتوى التي يتم إنشاؤها بواسطة الذكاء الاصطناعي ستعتمد على علامات مائية غير مرئية وبيانات وصفية مضمنة في الملفات. تضيف Meta علامة مائية صغيرة "Imagined with AI" إلى الصور التي تم إنشاؤها باستخدام منشئ صور AI العام.
وفي هذا المنشور، أعرب كليج عن ثقته في قدرة الشركات على تصنيف الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي بشكل موثوق، على الرغم من أنه أشار إلى أن أدوات تصنيف محتوى الصوت والفيديو لا تزال قيد التطوير. في غضون ذلك، ستطلب Meta من المستخدمين وضع علامة على محتوى الصوت والفيديو المعدل، مع غرامات غير محددة لعدم القيام بذلك.
وكتب: "سنطلب من الأشخاص استخدام أداة الكشف والتصنيف هذه عندما ينشرون محتوى عضويًا يحتوي على فيديو واقعي أو صوت واقعي تم إنشاؤه أو تعديله رقميًا، وقد نفرض عقوبات إذا لم يفعلوا ذلك".
ومع ذلك، أشار كليج إلى أنه لا توجد حاليًا طريقة فعالة لتسمية النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، مما يشير إلى أن الوقت قد فات لتنفيذ مثل هذه التدابير بالنسبة للمحتوى المكتوب. وهذا يتوافق مع تقاريرنا التي تفيد بأن أجهزة الكشف عن النص بالذكاء الاصطناعي لا تعمل.
جاء هذا الإعلان بعد يوم من انتقاد مجلس الرقابة المستقل في Meta لسياسة الشركة بشأن مقاطع الفيديو المعدلة بشكل مخادع باعتبارها ضيقة للغاية وأوصت بالإبلاغ عن هذا المحتوى بدلاً من إزالته. وافق كليج على الانتقادات، معترفًا بأن سياسات التعريف الحالية غير كافية لإدارة الحجم المتزايد للمحتوى الاصطناعي والمختلط على الإنترنت. ويرى أن مبادرة وضع العلامات الجديدة هي خطوة نحو تنفيذ توصيات هيئة الرقابة وتحفيز الزخم على مستوى الصناعة لاتخاذ تدابير مماثلة.
تعترف Meta بأنها لن تكون قادرة على اكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والذي تم إنشاؤه بدون علامات مائية أو بيانات وصفية، مثل الصور التي تم إنشاؤها باستخدام بعض أدوات تركيب صور الذكاء الاصطناعي مفتوحة المصدر. تبحث شركة Meta عن تقنية لوضع العلامات المائية على الصور تسمى Stable Signature وتأمل أن يتم دمجها في مولدات الصور مفتوحة المصدر. ولكن طالما أن وحدات البكسل هي وحدات بكسل، فمن الممكن إنشاؤها بطرق لا تتحكم فيها صناعة التكنولوجيا، ويظل هذا تحديًا أمام اكتشاف محتوى الذكاء الاصطناعي حيث أصبحت أدوات الذكاء الاصطناعي مفتوحة المصدر أكثر تطورًا وواقعية.
اقرأ أيضا: