اینترنت و شبکه

فناوری اطلاعات

هوش مصنوعی

November 25, 2019
16:46 دوشنبه، 4ام آذرماه 1398
کد خبر: 106228

ابداع الگوریتم‌هایی برای اصلاح رفتار هوش مصنوعی

پژوهشگران "دانشگاه استنفورد"، الگوریتم‌هایی را ابداع کرده‌اند تا به اصلاح رفتارهای منفی مانند تبعیض در سیستم‌های مبتنی بر هوش مصنوعی کمک کنند.
 
 به نقل از وب سایت رسمی دانشگاه استنفورد، شاید به زودی امکان داشتن رفتار بهتر برای ربات‌ها، خودروهای خودران و دیگر ماشین‌های هوشمند فراهم شود. پژوهشگران "دانشگاه استنفورد"(stanford university)، روش جدیدی ارائه داده‌اند تا به طراحان حوزه یادگیری ماشینی کمک کنند که کاربردهای هوش مصنوعی را با دوری از مواردی مانند تبعیض جنسیتی یا نژادی افزایش دهند.
 
هوش مصنوعی به خاطر پیشرفت الگوریتم‌های یادگیری ماشینی که رایانه‌ها را برای کارهایی مانند راندن خودرو، کنترل ربات‌ها یا تصمیم‌گیری خودکار آموزش می‌دهند، در حال ورود به حوزه تجاری است. در هر حال همان گونه که هوش مصنوعی، اداره کارهای حساس را به دست می‌گیرد، می‌تواند پیامدهای منفی مانند تبعیض نژادی یا جنسیتی را نیز به همراه داشته باشد.
 
دانشگاه استنفورد با همکاری پژوهشگران "دانشگاه ماساچوست در امهرست"(UMass)، روشی ارائه داده‌اند تا اطمینان لازم را برای استفاده از هوش مصنوعی فراهم کنند. هدف آنها از ابداع این روش، جلوگیری از پیش آمدن تبعیض‌ با ارائه معیاری است که این امکان را برای الگوریتم یادگیری ماشینی فراهم می‌کند تا هوش مصنوعی را برای دوری از چنین رفتارهایی آموزش دهد.
 
"اما برونسکیل"(Emma Brunskill)، استادیار علوم رایانه دانشگاه استنفورد و از نویسندگان این پژوهش گفت: ما قصد داریم هوش مصنوعی را آنقدر ارتقا دهیم تا بتواند ارزش‌های انسانی را رعایت کند و قابلیت لازم را برای استفاده در سیستم‌های خودران به دست آورد.
 
 پیشگیری از رفتارهای منفی
 
فرضیه پژوهشگران این بود که اگر بتوان رفتارهای غیر ایمن یا ناعادلانه را به صورت ریاضی تعریف کرد، ابداع الگوریتم‌هایی که می‌توانند دوری از چنین رفتاری را از داده‌ها یاد بگیرند نیز باید امکان‌پذیر شود.
 
پژوهشگران تصمیم گرفتند روش‌هایی ابداع کنند که کاربران بتوانند با استفاده از آنها، رفتارهای نامطلوب را مشخص کنند و از عهده پیش‌بینی رفتار سیستم با استفاده از داده‌ها برآیند.
 
 
"فیلیپ توماس"(Philip Thomas)، استادیار علوم رایانه دانشگاه ماساچوست در امهرست و نویسنده ارشد این پژوهش گفت: ما در این پژوهش نشان داده‌ایم که چگونه طراحان الگوریتم‌های یادگیری ماشینی می‌توانند به افرادی که می‌خواهند هوش مصنوعی را برای ارائه محصولات و خدمات خود به کار ببرند، کمک کنند تا رفتارهای سیستم هوش مصنوعی را تحت کنترل درآورند.
 
عدالت و اطمینان
 
پژوهشگران، به آزمایش روش جدید خود پرداختند تا به بهبود الگوریتم‌هایی که نمرات دانشجویان را بر اساس نتیجه امتحانات آنها پیش‌بینی می‌کنند، کمک کنند. آنها در این آزمایش، دستورالعمل‌های ریاضی را با استفاده از یک مجموعه داده آزمایشی انجام دادند تا یک روش پیش‌بینی را برای پیش‌بینی نمره دانشجویان ارائه دهند.
 
الگوریتم هوش مصنوعی با کمک این دستورالعمل‌ها توانست روش بهتری را برای پیش‌بینی نمرات ارائه دهد که تبعیض‌های جنسیتی آن بسیار کمتر از دیگر روش‌های کنونی بود. روش‌های پیشین، هیچ محدودیتی در زمینه عدالت و اطمینان نداشتند و محدودیت آنها نیز بیش از حد بود.
 
این پژوهش، در مجله "Science" به چاپ رسید.
  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.