کارگران کنیایی با حقوق ناچیز، عامل سلامت چت بات ChatGPT
مجله‌ی تایم در گزارشی اختصاصی می‌گوید OpenAI برای جلوگیری از نمایش متن‌های جنسیت‌زده و نژادپرستانه در ChatGPT با کارگران کنیایی همکاری کرده است.
چت‌بات ChatGPT در سال ۲۰۲۲ به یکی از تحسین‌برانگیزترین نوآوری‌های تکنولوژیک دنیا تبدیل شد. این چت‌باتِ مبتنی‌بر هوش مصنوعی در هر حوزه‌ای که فکرش را بکنید اظهارنظر می‌کند. ChatGPT تنها یک هفته پس از انتشار عمومی، به بیش از یک میلیون کاربر دست پیدا کرد.
OpenAI، شرکت سازنده‌ی ChatGPT، در حال مذاکره با سرمایه‌گذاران احتمالی است تا با جذب سرمایه، به ارزش بازار ۲۹ میلیارد دلار برسد. یکی از مهم‌ترین سرمایه‌گذاری‌ها از سوی مایکروسافت انجام میشود. ردموندی‌ها در پی امضا قرارداد ۱۰ میلیارد دلاری با OpenAI هستند تا از ChatGPT در سرویس‌های نرم‌افزاری خود استفاده کنند.
با جذب سرمایه، OpenAI که در سال ۲۰۱۵ در سان فرانسیسکو با هدف تولید دستگاه‌های فوق‌هوشمند بنیان‌گذاری شد، به یکی از باارزش‌ترین شرکت‌های هوش مصنوعی دنیا تبدیل میشود.
مجله‌ی تایم در گزارشی جنجالی به مسیری که OpenAI برای موفقیت طی کرده، پرداخته است. این شرکت برای کاهش خطرات و آزارهای احتمالی ناشی از ChatGPT، سراغ استخدام کارگران کنیایی با حقوق کمتر از دو دلار در ساعت رفت.
همکاری با کارگران کنیایی برای بهبود چت‌بات، اهمیت بسیار زیادی برای OpenAI داشت. نسخه‌ی قبلی ChatGPT که با نام GPT-3 شناخته میشود، توانایی خود در جمله‌بندی را به رخ کشیده بود، اما نتوانست به محبوبیت زیادی دست پیدا کند. یکی از دلایل اصلی این بود که GPT-3 گاهی اوقات اظهارات خشونت‌آمیز، جنسیت‌زده و نژادپرستانه مطرح می‌کرد.
GPT-3 بر پایه‌ی صدها میلیارد کلمه‌ای که در اینترنت استفاده شده بودند تعلیم داده شد. همان دیتاست بزرگ عامل پاسخ‌های هوشمندانه‌ی GPT-3 بود، اما همزمان به‌عنوان بزرگ‌ترین نقطه‌ی ضعفش شناخته می‌شد.
بخش‌‌های قابل‌توجهی از اینترنت شامل محتوای نژادپرستانه و تبعیض‌گرایانه است. همین موضوع باعث شد OpenAI نتواند جلوی اظهارات نژادپرستانه‌ی GPT-3 را بگیرد. تیمی متشکل‌از صدها نیروی انسانی به دهه‌ها زمان نیاز داشت تا عبارات نژادپرستانه و جنسیت‌زده را از دیتاست استفاده‌شده برای GPT-3 حذف کند. OpenAI مکانیزم ایمنی جدیدی بر پایه‌ی هوش مصنوعی توسعه داد تا مشکلات را از بین ببرد و چت‌باتی بسازد که همه بتوانند از آن استفاده کنند.
OpenAI برای ساخت سیستم امنیتی موردبحث از تجربیات شرکت‌هایی مثل فیسبوک استفاده کرد. شبکه‌های اجتماعی در سال‌های اخیر ثابت کرده‌اند که می‌توان با هوش مصنوعی سیستم‌هایی برای مبارزه با نفرت‌پراکنی و نژادپرستی توسعه داد.
طرح کلی OpenAI ساده به نظر می‌رسید: تزریق نمونه‌هایی از خشونت‌پراکنی، نفرت‌پراکنی و سوءاستفاده‌ی جنسی به یک هوش مصنوعی تا این سیستم با شناسایی محتواهای موردبحث، آن‌ها را از چت‌بات پاک کند. سیستم هوش مصنوعی قرار بود محتواهای آزاردهنده را در ChatGPT شناسایی کند و جلوی دیده شدن آن‌ها توسط کاربر را بگیرد.
تحقیقات مجله‌ی تایمز نشان می‌دهد OpenAI برای توسعه‌ی سیستم امنیتی‌اش، در اواخر سال ۲۰۲۱ ده‌ها هزار نمونه متن را برای یک شرکت فعال در کشور کنیا ارسال کرده است. بخش قابل‌توجهی از این متن‌ها، از تاریک‌ترین ناحیه‌های اینترنت استخراج شده بودند. برخی از این متن‌ها مباحثی مثل سوءاستفاده‌ی جنسی از کودکان، وحشی‌گری انسان‌ها، قتل، خودکشی، شکنجه، خودآزاری و محرم‌آمیزی را با جزئیات بسیار زیاد شرح می‌دادند.
شریک تجاری OpenAI برای توسعه‌ی سیستم امنیتی، شرکتی به نام Sama است که در سان فرانسیسکو بنیان‌گذاری شده اما در کشورهای کنیا، اوگاندا و هند کارگر استخدام می‌کند. این کارگران، داده‌ها را برای غول‌های سیلیکون ولی مثل گوگل و متا و مایکروسافت برچسب‌گذاری می‌کنند. Sama خودش را یک شرکت هوش مصنوعی «اخلاق‌مدار» خطاب می‌کند و می‌گوید بیش از ۵۰٬۰۰۰ نفر را از فقر نجات داده است.
تحقیقات مجله‌ی تایم نشان می‌دهد کارگران استخدام‌شده توسط Sama به نیابت از OpenAI، بسته‌به جایگاه و مدت‌زمان کار، حقوق ساعتی بین ۱٫۳۲ تا دو دلار دریافت کرده‌اند. تایم می‌گوید این ادعا بر اساس مطالعه‌ی صدها صفحه از اسناد داخلی Sama و OpenAI شامل فیش حقوقی کارگران مطرح شده است. تایم همچنین با چهار کارمند Sama که روی این پروژه کار کردند مصاحبه کرد.
OpenAI در واکنش به افشاگری مجله‌ی تایم، در بیانیه‌ای همکاری با کارگران کنیایی Sama را تأیید کرد. این شرکت می‌گوید ابزاری که به کمک کارگران کنیایی توسعه داده شد، در نهایت به ChatGPT راه پیدا کرد.
یکی از کارکنان Sama که وظیفه‌ی خواندن متن‌ها و برچسب‌گذاری آن‌ها را برعهده داشته است می‌گوید پس از مطالعه‌ی متنی با محوریت رابطه‌ی جنسی یک مرد با یک سگ در برابر کودکی خردسال، بارها این صحنه را تصور کرده و آزار دیده است.
تایم می‌گوید به دلیل انتقادات فراوان، Sama در فوریه‌ی ۲۰۲۲ (بهمن و اسفند ۱۴۰۰) یعنی هشت ماه زودتر از حد انتظار، پروژه‌ی مشترک با OpenAI را لغو کرد. بررسی‌ها نشان می‌دهد OpenAI و Sama سه قرارداد به ارزش حدودا ۲۰۰٬۰۰۰ دلار امضا کرده بودند.