آینه‌ای در برابر انسان؛ چگونه تعصبات ما به ماشین‌ها ارث می‌رسد؟

در مقالات قبلی دیدیم که هوش مصنوعی امروزی (یادگیری ماشین و شبکه‌های عصبی) بر اساس خواندن «داده‌ها» کار می‌کند. ماشین هیچ درک ذاتی از خوب یا بد بودن مفاهیم ندارد. او فقط به کوهی از اطلاعات که ما در اختیارش گذاشته‌ایم نگاه می‌کند، الگوها را می‌یابد و آن‌ها را تکرار می‌کند. در دنیای کامپیوتر یک قانون طلایی وجود دارد: «داده‌ی مسموم وارد کنی، خروجی مسموم تحویل می‌گیری» (Garbage in, Garbage out).

بیایید به یک مثال واقعی نگاه کنیم. چند سال پیش، شرکت آمازون یک سیستم هوش مصنوعی ساخت تا رزومه‌های متقاضیان کار را بررسی کند و بهترین‌ها را پیشنهاد دهد. برای آموزش این سیستم، رزومه‌های ۱۰ سال گذشته‌ی شرکت به خورد ماشین داده شد. از آنجا که در آن دهه بیشتر کارمندان حوزه‌ی فناوری مرد بودند، هوش مصنوعی یک قانون نانوشته را کشف کرد: «مردان کارمندان بهتری هستند!». در نتیجه، سیستم شروع به رد کردن رزومه‌ی زنانی کرد که کلماتی مثل «کاپیتان تیم شطرنج زنان» در متنشان بود. ماشین قصد بدی نداشت، او فقط تاریخِ نابرابرِ انسان‌ها را کپی کرده بود.

مثال دیگر در سیستم‌های تشخیص چهره است. بارها ثابت شده است که این سیستم‌ها چهره‌ی مردان سفیدپوست را با دقت بسیار بالایی تشخیص می‌دهند، اما در تشخیص چهره‌ی افراد رنگین‌پوست یا زنان خطای بالایی دارند. دلیلش چیست؟ چون مهندسانی که این سیستم‌ها را ساخته بودند، بیشتر عکس‌های افراد سفیدپوست را برای آموزش به ماشین داده بودند.

علاوه بر این تعصبات پنهان، مشکل دیگری به نام «جعبه سیاه» (Black Box) وجود دارد. شبکه‌های عصبی عمیق آن قدر پیچیده شده‌اند که وقتی تصمیمی می‌گیرند (مثلاً سیستم بانکی هوشمند که به یک نفر وام می‌دهد و درخواست فرد دیگری را رد می‌کند)، حتی خود برنامه‌نویسان هم دقیقاً نمی‌دانند ماشین چگونه به این نتیجه رسیده است. وقتی ندانیم ماشین چرا تصمیم گرفته، چگونه می‌توانیم از عادلانه بودن آن مطمئن شویم؟

در نهایت، هوش مصنوعی یک موجود فضایی نیست که از آسمان افتاده باشد؛ هوش مصنوعی آینه‌ای است که در برابر جامعه‌ی بشری قرار گرفته است. این آینه، هم دستاوردهای شگفت‌انگیز ما را نشان می‌دهد و هم زشتی‌ها، تبعیض‌ها و بی‌عدالتی‌های تاریخی ما را بازتاب می‌دهد.

امروزه بزرگترین چالش دانشمندان این نیست که ماشین‌ها را هوشمندتر کنند، بلکه این است که چگونه به ماشین‌ها «اخلاق» بیاموزند و داده‌هایی پاک‌تر و عادلانه‌تر برایشان فراهم کنند. برای اصلاح هوش مصنوعی، ما ابتدا باید خودمان را اصلاح کنیم.

نویسنده: فرزاد