شرکت متا الگوریتم‌های تبعیض‌آمیز خود را حذف می‌کند
متا الگوریتم‌های مبتنی بر تبعیض‌های نژادی، جنسیتی و دیگر تبعیض‌ها را حذف می‌کند. در توافقی که خبرش را وزارت دادگستری آمریکا روز سه‌شنبه ۲۱ ژوئن منتشر کرد، متا یا همان فیس‌بوک سابق متعهد شده قابلیت‌هایی را که امکان تبعیض علیه گروه‌های محافظت‌شده در قوانین مدنی فدرال را برای مالکان، کارفرمایان و آژانس‌های اعتباری فراهم می‌کرد از پلتفرم خود حذف کند.
وزارت دادگستری در یک بیانیه خبری روز سه‌شنبه ۲۱ ژوئن اعلام کرد متا بر اساس این توافق باید تا پایان امسال (۲۰۲۲)، استفاده از ابزار «مخاطب خاص تبلیغات» را متوقف کند. همچنین متا طبق این توافق موظف است الگوریتم خود را تغییر دهد و «تفاوت‌های نژادی، قومیتی و جنسیتی بین مخاطبان تبلیغات و گروه‌هایی از کاربران فیس‌بوکی که هدف تبلیغات الگوریتمی هستند را رفع کند».
به علاوه متا در بخشی از این توافق موظف به پرداخت هزینه ۱۱۵.۰۵۴ دلاری شده که حداکثر جریمه مجاز در قانون است.
این توافق نزدیک به ۶ سال پس از آن صورت گرفت که پروپابلیکا در گزارشی نشان داد فیس‌بوک به فعالان بازار ملک اجازه می‌دهد آفریقایی‌آمریکایی‌ها و دیگر گروه‌ها را از برخی تبلیغات خود مستثنی کنند. قوانین فدرال، هرگونه تبعیض ملکی، شغلی و اعتباری بر اساس نژاد، مذهب، جنسیت، وضعیت خانوادگی و ناتوانی را منع می‌کنند.
پروپابلیکا و دیگر محققان سال‌هاست به مشکلاتی در زمینه تبلیغات ملک، شغل و اعتبار اشاره دارند و این در حالی است که فیس‌بوک چندین مرتبه متعهد به رفع آنها شده است.
توافقی که به تازگی انجام گرفت نتیجه پرونده‌ای است که سه سال پیش از سوی دولت ترامپ علیه سیستم تبلیغات هدفمند متا و به دلیل نقض قانون مسکن عادلانه (Fair Housing Act) آغاز شد.
وزارت دادگستری همچنین مدعی شده فیس‌بوک از الگوریتم یادگیری ماشینی برای محدود کردن و گلچین مخاطبان تبلیغاتی استفاده می‌کند و این موضوع بر بحث عرضه به گروه‌های محافظت‌شده تاثیرگذار است. این اولین باری است که دولت فدرال تبعیض مبتنی بر الگوریتم را بر اساس قانون مسکن عادلانه به چالش می‌کشد.
متا در بخشی از این توافق متعهد شده از روش‌های تبلیغاتی جدیدی استفاده کند و این روش‌ها توسط یک تحلیلگر شخص ثالث بررسی شوند و تحت نظارت دادگاه باشند.
این شرکت در بیانیه‌ای گفت: «با استفاده از تکنولوژی جدید یادگیری ماشینی، تضمین می‌کند که سن، جنسیت و نژاد یا قومیت یک تبلیغ مسکن با سن، جنسیت و برآورد ترکیب نژادی یا قومیتی کسانی که تبلیغ را مشاهده می‌کنند مطابقت کند.»
در این بیانیه که از سوی روی ال آستین، نماینده ارشد حقوق مدنی و معاون مشاور ارشد شرکت متا، منتشر شده آمده است، هرچند فیس‌بوک بر اساس توافق انجام‌گرفته تنها به استفاده از این ابزار جدید برای تبلیغات مسکن موظف است، اما از ابزار جدید برای پست‌های مربوط به شغل و اعتبار نیز استفاده می‌کند.
پیتر رامر فریدمن، دادستان حقوق مدنی که چندین پرونده را علیه این شرکت آغاز کرده می‌گوید مذاکرات پیشین نتوانست فیس‌بوک را برای تبعیض الگوریتمی مسئول بداند. او به پروپابلیکا گفت: «در نهایت مشخص شد که رفع تبعیض الگوریتمی در عمل با مانعی مواجه نبود. مساله، بی‌میلی و بی‌ارادگی بود.»
پس از آنکه پروپابلیکا در سال ۲۰۱۶ گزارشی در مورد احتمال تبعیض منتشر کرد، فیس‌بوک سریعاً وعده داد تبعیض غیرقانونی را بررسی می‌کند. پروپابلیکا پس از یک سال متوجه شد هنوز هم امکان تبعیض علیه آفریقایی‌آمریکایی‌ها، مادرانی با فرزندان دبیرستانی، معلولان و مسلمانان در این تبلیغات وجود دارد. همچنین امکان تبلیغات برای افرادی که یهودی‌ستیز هستند وجود داشت و محتوایی با موضوع‌های «چطور یهودی‌ها را بسوزانیم» و «هیتلر هیچ کار اشتباهی نکرد» دیده می‌شد.
پروپابلیکا بعداً متوجه شد شرکت‌هایی که تبلیغات شغلی ارائه می‌دهند می‌توانند زنان و کارکنان مسن را از تبلیغات خود مستثنی کنند. فیس‌بوک در مارس ۲۰۱۹ با ساخت «پورتال تبلیغاتی ویژه‌ای» برای شغل، مسکن و اعتبارات به شکایتی از سوی گروه‌های حقوق مدنی پایان داد. فیس‌بوک اعلام کرد این پورتال گزینه‌های تبلیغات هدفمند را تغییر می‌دهد و تاثیر جنسیت و نژاد را در انتخاب اهداف تبلیغات محدود می‌کند.
اما پروپابلیکا با همکاری محققانی در دانشگاه شمال شرق و شرکت مشاور آپترن این سیستم جدید را آزمایش کرد و نمونه‌هایی از تبعیض تبلیغاتی را در آن مشاهده کرد. با اینکه الگوریتم اصلاح‌شده فیس‌بوک از تبعیض فاحش جلوگیری می‌کرد، اما ارائه تبلیغات همچنان از فیلترهایی مثل «تبلیغ ویژه» یا «مشابه» عبور می‌کرد که موضوعاتی مثل نژاد یا جنسیت را در خود جای می‌دهد.
به علاوه این تحقیق نشان داد که فیس‌بوک با توجه به محتوای تبلیغات هم مخاطبان را گلچین می‌کند. برای مثال اینکه چه تعداد زن تبلیغ مربوط به شغل روزنامه‌نگاری را مشاهده می‌کنند به انتخاب خریدار تبلیغات بستگی داشت اما تفسیر فیس‌بوک از تصویر و متن هم بر این موضوع تاثیرگذار بود.
پروپابلیکا همچنین تبلیغاتی را در زمینه کاریابی مشاهده کرد که مردان را در اولویت قرار می‌دادند و برخی متقاضیان مسن را مستثنی می‌کردند؛ موضوعی که می‌تواند به نقض قانون حقوق مدنی منتهی شود. همچنین به گفته برخی از خریداران تبلیغات، عجیب است که حتی در صورت تمایل آنها، باز هم دسترسی به مخاطبان متنوع دشوار است.
دامیان ویلیامز، دادستان منطقه جنوبی نیویورک، در بیانیه‌ای گفت: «در نتیجه این پرونده، متا برای اولین بار سیستم تبلیغات خود را تغییر داده و تبعیض الگوریتمی را رفع می‌کند. اما در صورتی که متا نتواند اثبات کند که سیستم عرضه تبلیغات خود را به حد کافی برای رفع تبعیض الگوریتمی تغییر داده است، این نهاد دعوی قضایی خود را ادامه می‌دهد.»