کنترل شبکه های اجتماعی بر محتوای تولید شده توسط کاربر

به گزارش لینک بگیر دات کام به نقل از مهر، دکتر سمیه لبافی در کرسی ترویجی «اخلاق و سیاست هوش مصنوعی» از سری پیش نشست های هشتمین دوره جایزه ملی فناوری اطلاعات که در ایرانداک برگزار شد، با پرداختن به مبحث «تعدیل گری هوشمند در شبکه های اجتماعی» ضمن اشاره به محتوای جعلی و اخبار جعلی اظهار داشت: مسئولیت پلت فرم ها در برابر اجتماع حکم می کند که آنها تعدیل گری در محتوا داشته باشند و این اقدام از آغاز توسعه پلت فرم ها وجود داشته است.
وی افزود: به قول زاکربرگ، بنیان گذار «متا»؛ «بیش از ۱۸ هزار نیروی انسانی تعدیل کننده محتوا به ۷۰ زبان در متا وجود دارد».
عضو هیأت علمی ایرانداک تصریح کرد: همینطور در کنار تعدیل گری محتوا با استفاده از نیروی انسانی تعدیل گری هوشمند محتوا هم وجود دارد که در اسناد و شیوه نامه های استفاده از پلت فرم ها هم این مورد تاکید می شود که پلت فرم بنا به مسئولیت خود در این عرصه کار می کند.
وی در مورد انواع تعدیل گری توضیح داد: پیش تعدیل گری، پساتعدیل گری، تعدیل گری واکنشی و تعدیل گری توزیع شده انواع تعدیل گری هستند. پیش تعدیل گری بررسی محتوای منتشرنشده توسط تعدیل گران انسانی است. در پساتعدیل گری محتوای انتشار یافته توسط تعدیل گران انسانی بررسی می شود. تعدیل گری واکنشی؛ اقدام تعدیل گران به محتوایی است که توسط کاربران گزارش شده است. تعدیل گری توزیع شده هم شامل استفاده از روش های مختلف همچون تعدیل هوشمند، تعدیل انسانی و تعدیل کاربری برای تنظیم محتوا است.
تعدیل گری محتوا در اینستاگرام
وی به عرضه نمونه هایی از تعدیل گری پلت فرم های مختلف پرداخت اظهار داشت: اینستاگرام پیش و بعد از انتشار به تعدیل گری می پردازد. قبل از انتشار با استفاده از راهکارهایی مانند آموزش و ترویج آگاهی رسانه ای، ارتقای الگوریتم ها، طراحی سیستم برای کاهش اثرات الگوریتمی انتشار گسترده محتوای جعلی، آموزش کاربران جهت تشخیص اخبار جعلی و اعتبارسنجی حساب های معتبر و رسمی، تعدیل گری انجام می دهد.
لبافی تصریح کرد: بعد از انتشار هم اینستاگرام از راه همکاری با سازمان های صحت سنج اطلاعات، کاهش دسترسی و قابلیت انتشار، گزارش کاربران، استفاده از الگوریتم های هوش مصنوعی و بررسی و علامت گذاری محتوای مشکوک، همکاری با خبرنگاران و رسانه ها، محدود کردن حساب های کاربری مشکوک و همکاری با خبرنگاران مستقل تعدیل گری انجام می دهد.
توییتر چگونه محتوا را تعدیل می کند؟
وی در رابطه با تعدیل گری توییتر توضیح داد: این پلت فرم هم تعدیل گری قبل از انتشار و بعد از انتشار دارد. قبل از انتشار از راه عرضه راهکارهای پیش دستانه، ارتقای الگوریتم ها، بررسی حساب های مشکوک، آموزش کاربران، اعتبارسنجی حساب ها، همکاری با محققان، اطلاع رسانی و آموزش، تحلیل و مدیریت روندهای واکنشی، تشویق به اطلاع رسانی کاربران، تحلیل الگوهای رفتاری، عرضه ابزارهای گزارش دهی به کاربران، عرضه آموزش و منابع و ارزیابی مستمر و بهبود سیاست ها تعدیل گری می کند.
وی اضافه کرد: توییتر بعد از انتشار هم با بررسی و علامت گذاری محتوای مشکوک، گزارش کاربراین، همکاری با سازمان های صحت سنج اطلاعات، همکاری با خبرنگاران و رسانه های معتبر، ترویج منابع معتبر، همکاری با سازمان های مستقل، استفاده از الگوریتم های هوش مصنوعی، محدود کردن انتشار و دسترسی به حساب های مشکوک و اعمال قوانین سخت تر به تعدیل گری محتوای انتشار یافته می پردازد.
لبافی با بیان اینکه تعدیل گری هوشمند و با استفاده از هوش مصنوعی مشکلاتی هم ایجاد می کند، توضیح داد: مشکلاتی از قبیل عدم درک مبحث بحث توسط هوش مصنوعی، مشکلات سوءگیری و نژاد پرستانه و دو قطبی شدن فضای شبکه اجتماعی هم مسائلی است که به دنبال تعدیل گری هوشمند پلت فرم ها ایجاد می شود.