فناوری اطلاعات

هوش مصنوعی

May 29, 2023
13:17 دوشنبه، 8ام خردادماه 1402
کد خبر: 145786

جایزه یک میلیون دلاری برای بهترین ایده‌های کنترل هوش مصنوعی

شرکت OpenAI که خالق ربات هوش مصنوعی ChatGPT است، اعلام کرده که قصد دارد ۱۰ جایزه ۱۰۰ هزار دلاری به بهترین ایده‌ها در مورد نحوه تنظیم و کنترل هوش مصنوعی اختصاص دهد.
 
به گزارش رویترز، شرکت توسعه هوش مصنوعی OpenAI، استارتاپی که خالق ربات چت هوش مصنوعی محبوب ChatGPT است، به تازگی اعلام کرده است که ۱۰ کمک هزینه ۱۰۰ هزار دلاری از یک صندوق یک میلیون دلاری برای آزمایش‌هایی در فرآیندهای دموکراتیک اعطا می‌کند تا تعیین کند نرم‌افزار هوش مصنوعی چگونه باید برای مقابله با تعصب و سایر عوامل کنترل شود.
 
طبق اعلام این شرکت، این جوایز ۱۰۰ هزار دلاری به کسانی تعلق می‌گیرد که چارچوب‌های قانع کننده‌ای را برای پاسخ دادن به سؤالاتی مانند اینکه آیا هوش مصنوعی باید از شخصیت‌های عمومی انتقاد کند و چه کسی را باید یک «فرد متوسط» در جهان در نظر بگیرد، ارائه می‌دهند.
 
این در پرتو بحث‌هایی در مورد اینکه آیا سیستم‌های هوش مصنوعی مانند ChatGPT ممکن است به دلیل داده‌هایی که روی آنها آموزش دیده‌اند، تعصب داخلی داشته باشند (بدون ذکر نظرات برنامه‌نویسان انسانی در پشت صحنه) پیش آمده است. گزارش‌ها مواردی از نتایج تبعیض آمیز یا مغرضانه تولید شده توسط فناوری هوش مصنوعی را نشان داده‌اند. نگرانی فزاینده‌ای وجود دارد که هوش مصنوعی زمانی که در کنار موتورهای جستجو مانند گوگل و بینگ کار کند، ممکن است اطلاعات گمراه کننده را با اطمینان کامل تولید کند.
 
منتقدان می‌گویند، سیستم‌های هوش مصنوعی مانند ChatGPT به دلیل ورودی‌هایی که برای شکل دادن به دیدگاه‌هایشان استفاده می‌شود، دارای سوگیری‌های ذاتی هستند. کاربران نمونه‌هایی از خروجی‌های نژادپرستانه یا جنسیتی را از نرم افزار هوش مصنوعی پیدا کرده‌اند.
 
به طور کلی نگرانی‌ها از اینکه هوش مصنوعی در کنار موتورهای جستجو مانند گوگل و بینگ ممکن است اطلاعات نادرستی را به شکلی قانع‌کننده تولید کند، در حال افزایش است.
 
شرکت OpenAI با حمایت ۱۰ میلیارد دلاری مایکروسافت اکنون رهبری فراخوانی برای تنظیم مقررات برای هوش مصنوعی را بر عهده گرفته است. با این حال اخیراً تهدید کرده است که به دلیل قوانین پیشنهادی از اتحادیه اروپا خارج خواهد شد.
 
سم آلتمن، مدیر اجرایی OpenAI به رویترز گفت: پیش‌نویس فعلی قانون هوش مصنوعی اتحادیه اروپا بیش از حد تنظیم‌کننده(محدود کننده) خواهد بود، اما شنیده‌ایم که این قانون پس گرفته می‌شود.
 
البته کمک‌های مالی این استارتاپ به این حوزه از تحقیقات درباره هوش مصنوعی کمک چندانی نمی‌کند، چرا که حقوق مهندسان هوش مصنوعی و سایر افراد در این حوزه به راحتی از ۱۰۰ هزار دلار می‌گذرد و می‌تواند بیش از ۳۰۰ هزار دلار باشد.
 
شرکت OpenAI می‌گوید: سیستم‌های هوش مصنوعی باید به نفع همه بشریت باشند و به گونه‌ای شکل بگیرند که تا حد امکان فراگیر شوند. ما در حال راه‌اندازی این برنامه کمک مالی هستیم تا اولین قدم را در این مسیر برداریم.
 
این استارتاپ مستقر در سانفرانسیسکو گفت که نتایج این اختصاص بودجه می‌تواند دیدگاه آن را در مورد حکمرانی هوش مصنوعی شکل دهد، اگرچه هیچ توصیه‌ای الزام آور نخواهد بود.
 
آلتمن یکی از چهره‌های پیشرو است که خواستار تنظیم هوش مصنوعی است، در حالی که همزمان به‌روزرسانی‌های جدید ChatGPT و هوش مصنوعی تولید کننده تصویر موسوم به DALL-E را ارائه می‌دهد. وی در این ماه در مقابل یک کمیته از مجلس سنای ایالات متحده حاضر شد و گفت: اگر این فناوری اشتباه پیش برود، ممکن است کاملاً از مسیر خارج شود. اگر مشکلی پیش بیاید، عواقب آن می‌تواند قابل توجه باشد.
 
مایکروسافت نیز اخیراً تنظیم مقررات جامع برای هوش مصنوعی را تأیید کرده است. ضمن اینکه قول داده است این فناوری را در محصولات خود وارد کند و با شرکت‌های OpenAI، گوگل و استارتاپ‌ها رقابت می‌کند تا هوش مصنوعی را به مصرف‌کنندگان و کسب ‌و کارها ارائه دهد.
 
تقریباً همه بخش‌ها به پتانسیل هوش مصنوعی برای بهبود کارایی و کاهش هزینه‌های نیروی کار علاقه دارند، البته همراه با نگرانی‌هایی در مورد این که هوش مصنوعی می‌تواند اطلاعات نادرست یا جعلی را در چیزی که آن را «توهم» می‌نامند، منتشر کند.
 
هوش مصنوعی در حال حاضر پشت چندین خبر و تصویر جعلی است که به طور گسترده توسط عموم مردم باور می‌شود. یکی از تصاویر جعلی اخیر از یک انفجار در نزدیکی پنتاگون، برای مدت کوتاهی بازار سهام آمریکا را تحت تاثیر قرار داد.
 
برخلاف درخواست‌ها برای تنظیم مقررات بیشتر، کنگره آمریکا تاکنون در تصویب قانون جدید برای محدود کردن معنی‌دار این فناوری بزرگ شکست خورده است.
  • مشترک شوید!

    برای عضویت در خبرنامه روزانه ایستنا؛ نشانی پست الکترونیکی خود را در فرم زیر وارد نمایید. پس از آن به صورت خودکار ایمیلی به نشانی شما ارسال میشود، برای تکمیل عضویت خود و تایید صحت نشانی پست الکترونیک وارد شده، می بایست بر روی لینکی که در این ایمیل برایتان ارسال شده کلیک نمایید. پس از آن پیامی مبنی بر تکمیل عضویت شما در خبرنامه روزانه ایستنا نمایش داده میشود.

    با عضویت در خبرنامه پیامکی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا) به طور روزانه آخرین اخبار، گزارشها و تحلیل های حوزه فناوری اطلاعات و ارتباطات را در هر لحظه و هر کجا از طریق پیام کوتاه دریافت خواهید کرد. برای عضویت در این خبرنامه، مشترکین سیمکارت های همراه اول لازم است عبارت 150 را به شماره 201464 و مشترکین سیمکارت های ایرانسل عبارت ozv ictn را به شماره ۸۲۸۲ ارسال کنند. دریافت موفق هر بسته خبری که محتوی پیامکی با حجم ۵پیامک بوده و ۴ تا ۶ عنوان خبری را شامل میشود، ۳۵۰ ریال برای مشترک هزینه در بردارد که در صورتحساب ارسالی از سوی اپراتور مربوطه محاسبه و از اعتبار موجود در حساب مشترکین سیمکارت های دائمی کسر میشود. بخشی از این درآمد این سرویس از سوی اپراتور میزبان شما به ایستنا پرداخت میشود. مشترکین در هر لحظه براساس دستورالعمل اعلامی در پایان هر بسته خبری قادر خواهند بود اشتراک خود را در این سرویس لغو کنند. هزینه دریافت هر بسته خبری برای مشترکین صرفا ۳۵۰ ریال خواهد بود و این هزینه برای مشترکین در حال استفاده از خدمات رومینگ بین الملل اپراتورهای همراه اول و ایرانسل هم هزینه اضافه ای در بر نخواهد داشت.