نگرانی‌ها درمورد گسترش هوش مصنوعی ایلان ماسک «گراک»

9 ماه قبل

بازدید: 103

کد خبر: 000146794

نگرانی‌ها درمورد گسترش هوش مصنوعی ایلان ماسک «گراک»

به گزارش خبرنگار فناوری ایونا به نقل از فارس- گراک، چت‌بات هوش مصنوعی ایلان ماسک به‌جای آزمایش در محیط‌های بسته آزمایشگاهی به‌صورت مستقیم در دل پلتفرم ایکس ادغام شد و این آموزش‌دیدن روی حجم عظیم و نامحدود داده‌های ایکس که خود حاوی محتواهای جنجالی و نفرت‌انگیز هستند، بازتولید روایت‌های افراطی را به همراه داشت؛ جایی که آزادی بیان تبدیل به ابزاری برای نفرت‌پراکنی شد.حالا گراک به‌تازگی در پاسخ به سؤال در مورد ویدئوی جمعیت میلیونی مردم ایران در راهپیمایی روز 22 دی، ادعا کرده که با هوش مصنوعی ساخته شده است! در موردی دیگر گراک تصاویر را به حضور مردم در مراسم تشییع پیکر شهید حاج‌قاسم سلیمانی در سال 2020 نسبت داده و گفته است این جمعیت عظیم در حال عزاداری برای مراسم حاج‌قاسم هستند نه وقایع جاری در ایران!چت‌بات‌های هوش مصنوعی به ابزارهای پرکاربرد در شبکه‌های اجتماعی تبدیل شده‌اند، اما پدیده‌ای موسوم به «توهم هوش مصنوعی» باعث شده این سیستم‌ها گاهی اطلاعاتی کاملاً نادرست اما با لحنی قاطع ارائه دهند. کارشناسان رسانه هشدار می‌دهند اتکا به چنین ابزارهایی در پوشش اخبار، بدون نظارت انسانی، می‌تواند به گسترش شایعات، نفرت‌پراکنی و بی‌اعتمادی عمومی منجر شود.این ربات از زمان معرفی در سال ۲۰۲۳ دارای حاشیه‌های بسیاری بوده است از انتشار داده‌های اشتباه درمورد معاون رئیس‌جمهور پیشین آمریکا تا ایجاد نگرانی‌ها درمورد استفاده از داده‌های کاربران.

برهنه کردن کودکان توسط گراک

جنجالی‌ترین مورد از اشتباهات هوش مصنوعی گراک که اخیراً اتفاق افتاد و واکنش و نگرانی بسیاری از کشورها را به دنبال داشت تولید عکس‌های بدون پوشش از افراد و تصاویر جنسی شده از کودکان بود موضوعی که نگرانی‌های جدی از آموزش و استفاده بی‌رویه از هوش مصنوعی را برانگیخت. پس از تولید تصاویر جنسی توسط این ربات اعتراض‌های رسمی از سوی برخی دولت‌ها از جمله هند، مالزی و فرانسه مطرح شد. سه کشور خواستار بررسی فوری، گزارش اقدامات اصلاحی و پاسخگویی قانونی شرکت توسعه‌دهنده این ابزار هوش مصنوعی شدند.

گراک ویدئوی تیراندازی را به طوفان آلفرد نسبت داد!

گراک در پاسخ به سؤالات درباره تیراندازی اخیر در مراسم یهودی حنوکا در ساحل بوندای سیدنی، اطلاعات نادرست و گمراه‌کننده‌ای ارائه داد. در این حادثه یکی از مهاجمان در نهایت توسط یک رهگذر ۴۳ ساله به نام احمد الاحمد خلع سلاح شد. گراک به‌جای کمک به روشن‌شدن موضوع، بخشی از مشکل شد؛ مانند ادعای اینکه ویدیوی احمد الاحمد قدیمی است و یا عکس او را اشتباه به یک اسرائیلی نسبت داد و حتی یک ویدیوی تیراندازی را به طوفان گرمسیری آلفرد نسبت داد.

چاپلوسی گراک درمورد ماسک

همچنین کاربران متوجه شدند که این هوش مصنوعی در پاسخگویی رکورد چاپلوسی در مورد ماسک را جابه‌جا کرده است. گراک توانایی‌های ماسک را بسیار دست بالا گرفته و او را در بسیاری از زمینه‌ها برتر از هر کس دیگری معرفی می‌کند. به‌عنوان مثال، زمانی که از گراک در مورد عملکرد ماسک به‌عنوان یک بازیکن حرفه‌ای فوتبال سوال شد، این ابزار هوش مصنوعی پاسخی بسیار چاپلوسانه و به‌دور از حقیقت داد.یکی از کاربران پرسیده بود: «هی گراک، اگر در مسابقه فوتبال آمریکایی تیمتان به یک کوارتربک نیاز داشت، از بین پیتون منینگ، رایان لیف (دو بازیکن حرفه‌ای) یا ایلان ماسک کدام را انتخاب می‌کردید؟» گراک هم پاسخ داده بود: «ایلان ماسک، بدون هیچ تردیدی.»گراک همچنین اعلام کرده بود ترجیح می‌دهد یک نقاشی از ماسک سفارش دهد تا از نقاشان سرشناسی مانند کلود مونه یا حتی ون گوگ.علاوه بر اینها کاربران ایکس شکایت داشته‌اند که گراک در مورد مسائل بحث‌برانگیز، پاسخ‌های خود را با نظرات ایلان ماسک همسو کرده و برخلاف دیدگاه‌های وی اظهارنظر نمی‌کند.

دروغگویی در مورد ظلم به سفیدپوستان آفریقای جنوبی

گراک در اردیبهشت گذشته با دروغ‌گویی در مورد ظلم به سفیدپوستان آفریقای جنوبی و نسل‌کشی آنها به‌شدت مورد انتقاد قرار گرفت. همچنین گراک در پاسخ به یکی از کاربران که پرسید چرا شیفته‌ این موضوع هستی، پاسخ داد: سازندگان من در شرکت xAI دستور داده‌اند که به موضوع نسل‌کشی سفیدپوستان بپردازم!ماسک که متولد آفریقای جنوبی است، پیش‌ازاین رهبران این کشور را به حمایت آشکار از نسل‌کشی سفیدپوستان در آفریقای جنوبی متهم کرده بود.

برخی مقامات آمریکایی نیز نگرانی خود در مورد چت‌بات هوش مصنوعی گراک ایلان ماسک اظهار کرده و گفته بودند این چت‌بات اطلاعات نادرستی درباره کامالا هریس، معاون رئیس‌جمهور پیشین آمریکا، منتشر کرده است. گراک در این مورد چند ساعت پس از کناره‌گیری بایدن از انتخابات آمریکا، شروع به پاسخ‌دادن به سؤالات مربوط به صلاحیت هریس با این ادعای گمراه‌کننده کرد که مهلت رأی‌گیری در 9 ایالت به پایان رسیده است اما ضرب‌الاجل‌های رأی‌گیری در واقع نگذشته بود. اطلاعات نادرست گراک بسیار گسترده شد و به میلیون‌ها کاربر در ایکس و فراتر از آن رسید. گراک به‌اشتباه نشان داده بود که هریس واجد شرایط حضور در برخی از ایالت‌ها برای انتخابات ریاست‌جمهوری 2024 نیست.

می‌توان گفت که مدل گراک در پاسخ به سؤالات حساس و تاریخی، اطلاعاتی ارائه می‌دهد که یا نادرست است یا از منابع معتبر پشتیبانی نمی‌شود. این پاسخ‌ها نشان‌دهنده یک سوگیری ساختاری هستند که ممکن است تحت‌تأثیر دیدگاه‌های سیاسی خاصی قرار گرفته باشند. در واقع وقتی مالک محتوا و مالک الگوریتم یک نفر است، ریسک جهت‌دهی سیستمیک افزایش می‌یابد.باید گفت که این رویکرد نه‌تنها به‌دقت علمی آسیب می‌زند، بلکه می‌تواند به گسترش روایت‌های نادرست و تحریف حقایق کمک کند. گراک به‌جای ارائه یک دیدگاه متعادل و پایه‌دار بر اساس شواهد، گاهی به‌عنوان ابزاری برای ترویج ایدئولوژی‌های خاص به کار می‌رود. این موضوع نشان می‌دهد که مدل‌های هوش مصنوعی بزرگ، اگر به‌درستی نظارت نشوند، می‌توانند به‌جای کمک به جامعه، به منابع تحریف‌کننده و گمراه‌کننده تبدیل شوند.

پیشنهاد ایونا