شرکت متا و برچسب گذاری محتواهای تولید شده‌ی هوش مصنوعی

متا برچسب گذاری محتواهای تولید شده توسط هوش مصنوعی را در اردیبهشت ماه آغاز می‌کند.

شرکت متا روز جمعه اعلام کرد که از اردیبهشت ماه شروع به برچسب‌گذاری رسانه‌های تولیدشده با هوش مصنوعی می‌کند. این اقدام از آن جهت است که متا تلاش می‌کند خطرات دیپ‌فیک را برای کاربران و دولت‌ها کاهش دهد.

بر اساس تصمیم این شرکت تصاویر و صداهای دستکاری شده را که ناقض قوانین هستند حذف نمی‌کند. به جای آن بر برچسب گذاری آنها تکیه می‌کند تا آزادی بیان نقض نشود.

این تغییرات در پاسخ به انتقاد هیئت نظارت غول فناوری، شرکت متا، است که به طور مستقل بر محتوای متا نظارت و تصمیمات این شرکت را بررسی می‌کند.

هیئت مدیره در بهمن ماه از این شرکت درخواست کرد که با توجه به پیشرفت‌های عظیم در هوش مصنوعی و سهولت دستکاری رسانه‌ها و تبدیل آنها به دیپ فیک‌های بسیار قانع کننده، رویکرد خود را در مورد رسانه‌های دستکاری شده به سرعت اصلاح کند.

هشدار هیئت مدیره در بحبوحه ترس از سوء استفاده گسترده از برنامه‌های کاربردی مبتنی بر هوش مصنوعی برای ارائه اطلاعات نادرست در پلتفرم‌ها بود. احتمال ارائه اطلاعات نادرست و استفاده از دیپ فیک‌ها در انتخابات‌ مهم سراسر جهان وجود دارد.

برچسب‌های‌ جدید متا  با عنوان «ساخته شده با هوش مصنوعی»، محتوای ایجاد شده یا تغییر یافته با هوش مصنوعی را شناسایی می‌کند. محتواهای ایجاد شده شامل ویدیو، صدا و تصاویر است. علاوه بر این، از یک برچسب برجسته‌تر برای محتواهایی استفاده می‌شود که خطر گمراه‌کردن عموم مردم را درپی دارد.

این برچسب‌ها طیف وسیع‌تری از محتوا را علاوه بر محتوای دستکاری شده‌ای که هیئت نظارت برای برچسب‌گذاری توصیه کرده است را پوشش خواهند داد.

برچسب‌گذاری محتواهای هوش مصنوعی

روش‌های برچسب‌گذاری جدید به توافقی که در بهمن ماه میان غول‌های فناوری بزرگ و اجراکنندگان هوش مصنوعی صورت گرفت، مرتبط است. این همکاری برای بکارگیری راه‌هایی بود تا محتواهای دستکاری شده که جهت فریب رأی دهندگان انجام می‌شود را کنترل کنند.

متا، گوگل و اُپن ای آی قبلاً توافق کرده بودند که از یک واترمارک استاندارد مشترک استفاده کنند. قرار شد تصاویر تولید شده توسط برنامه‌های هوش مصنوعی آنها را به صورت نامرئی برچسب گذاری کنند.

یکلاس گاودمت، مدیر هوش مصنوعی وان پوینت به خبرگزاری فرانسه گفت که شناسایی محتوای هوش مصنوعی بهتر از هیچ است، اما در این میان خلاءهای نیز وجود دارد. او برخی از نرم‌افزارهای متن باز را مثال زد که همیشه از واترمارکی که توسط اجراکنندگان هوش مصنوعی ایجاد شده است، استفاده نمی‌کنند.

دیپ فیک یا جعل تصویر و صدا 

متا گفت که عرضه و برچسب‌گذاری محتوای تولید شده توسط هوش مصنوعی در دو مرحله و از اردیبهشت ماه 2024 آغاز می‌شود. این در حالی است که بر اساس قانون تصویب شده قبلی، حذف رسانه‌های جعلی صرفاً در تیرماه متوقف می‌شود.

طبق استاندارد جدید، محتوا، حتی اگر با هوش مصنوعی دستکاری شود، در پلتفرم باقی می‌ماند مگر اینکه شامل اعمال قوانین دیگری مانند استفاده از سخنان نفرت‌انگیز و یا دخالت در نظر رأی‌دهندگان شود.

درخواست‌های هیئت نظارت متا پس از بررسی ویدیوی دستکاری شده سال گذشته جو بایدن است.

در یک رویداد جداگانه که به متا مرتبط نیست، با استفاده از جعل صدای بایدن از ده‌ها هزار رای‌دهنده خواسته شد تا در انتخابات مقدماتی نیوهمپشایر رای ندهند.

حزب عمران خان، نخست وزیر سابق پاکستان، از هوش مصنوعی برای تولید سخنرانی از رهبر زندانی خود استفاده کرده است.

برای خواندن مقالات دیگر بر روی اتاق خبر کلیک کنید.