هوش مصنوعی؛ «هر حقیقتی در برابر تن انسانی ا‌ست که محک می‌خورد»

سوال: هوش مصنوعی چگونه مفهوم عاملیت انسانی (Human Agency) را تغییر می‌دهد؟ آیا خطر آن وجود دارد که انسان با این نگاه به مجموعه‌ای از داده‌ تقلیل پیدا کند؟ 

محسن عمادی: به این پرسش از جوانب مختلفی می‌توان نزدیک شد: چنین وضعیتی هنوز بر ما حاکم نیست. هنوز عاملیت انسانی بر روال آموزش، برنامه‌ریزی و به‌کارگیری هوش مصنوعی تعیین‌کننده است. نگرانی این پرسش از تخیل تصویری در آینده بر می‌آید، از تصور افق جهانی که توسط هوش مصنوعی احاطه می‌شود. این افق را شاید بتوان با شرح نسبت میان زبان و انسان راحت‌تر شرح داد. افق غایی هوش مصنوعی، استرداد عاملیت «انسان سخن‌گو» - که پیش‌تر زبان را به عنوان «ابزار»ی به کار می‌گرفت- به خودِ «زبان» است. مسیری که جامعه‌ی بشری قرن‌هاست در حال پیمودن آن است. جوامعی که روزی به کارگیرنده‌ ابزار/تکنولوژی بودند، به جوامع تکنوکراتیک بدل شدند که در آن اعتبارسنجی درک انسانی توسط تکنولوژی صورت می‌گرفت. فی‌المثل تکنولوژیِ «آمار» برای اعتباربخشی به هر گزاره‌ سیاسی، یا تلاش برای استفاده از زبان علوم دقیقه در علوم اجتماعی یا حتی امور متافیزیکی (مثل نمونه‌های مضحکی چون رویکرد ترمودینامیکی به قرآن). جوامع تکنوکراتیک در نهایت در حال تبدیل شدن به جوامع تکنوپولی‌اند. در این گونه از جوامع، سخن «حقیقت» به تکنولوژی مسترد می‌شود. در همین موقعیت است که تکنولوژی، مرجعیت تفکر را مطالبه می‌کند. در واقع، خود را همچون «تمامیت زبان» در برابر «تن انسانی» بازمی‌نماید. عاملیت انسان، و به عبارتی، حضور و نقش تن انسانی از آغاز عصر تکنوکراسی کم شده بود. ولی در افقی که با «تکنوپولی» تصویر می‌شود این عاملیت به حداقل خود می‌رسد. این‌جا می‌توان پرسید: منظورمان از زبان چیست؟ یا چه نهاده‌ای این زبان را به پیش می‌برد؟ نمی‌شود پاسخ خیلی سر راستی به این سوال‌ها داد. ولی می‌توان نقش سرمایه و قدرت را -که امروزه در دست بخش اندکی از جمعیت انسانی متمرکز است - برجسته دید. انسانی که از وجوه تنانه‌ خود تهی می‌شود، در نهایت یک ایده، یک کلمه و شاید یک داده است، همین و بس.    

سوال: سوگیری الگوریتمی (Algorithmic Bias) چگونه می‌تواند به بازتولید تبعیض‌های اجتماعی و نابرابری در دسترسی به فرصت‌ها منجر شود؟ آیا الگوریتم‌ها می‌توانند واقعاً بی‌طرف باشند؟ 

محسن عمادی: سوگیری‌های الگوریتمی، از یک طرف به «سیاست» اربابان هوش مصنوعی بر می‌گردد و از طرف دیگر به «تاریخ» مکتوب. وجه تاریخی، روی آموزش اولیه‌ مدل‌های هوش مصنوعی اثر می‌گذارد. ولی وجه سیاسی این تکنولوژی، می‌تواند این تاریخ را بازنویسی کند، آن را ادامه دهد یا حتی این تبعیض‌ها را مشدد کند. ترکیب تاریخ و سیاست است که جهت تصمیم‌گیری را معین می‌کند. فی‌المثل وقتی مدلی را با داده‌هایی آموزش می‌دهید که در آن اکثریت مجرمان سیاه‌پوستند، طبعا وقتی آن را برای تشخیص مجرمان بالقوه در یک موقعیت بکار می‌‌برید، الگوریتم، سیاه‌پوستانِ بیشتری را هدف قرار می‌دهد. به همین شکل، تبعیض‌های جنسیتی، دینی، نژادی و غیره بازتولید می‌شوند و حتی ممکن است تشدید شوند. نقش سیاست در این‌جا، تشخیص، اصلاح و تنظیم سوگیری‌هاست. اگر این نقش را درست انجام دهد، می‌تواند سوگیری‌های تاریخ را کنترل و حتی اصلاح کند و اگر نه، فاجعه‌ای به فجایع تاریخ خواهد افزود.  


سوال: با گسترش هوش مصنوعی مولد  (Generative AI)آیا خطر تضعیف تنوع زبانی و فرهنگی وجود دارد؟ آیا زبان‌های کمتر برخوردار ممکن است در عصر هوش مصنوعی با نوعی استعمار دیجیتال (Digital Colonialism) روبه‌رو شوند؟ 

محسن عمادی: اصولا هر تکنولوژی در عین حال که افق تازه‌ای پیش می‌گذارد، شرایط و افق‌های دیگری را غایب می‌کند. مثلا، با اختراع ماشین تایپ و فونت‌ها، سرعت تولید متن بیشتر شد ولی خوش‌نویسی و خط خوش که یک روز برای هر فرد باسوادی «تشخص»ای ویژه ایجاد می‌کرد به محاق رفت. قبول هر شکل از استاندارد به معنی به محاق بردن و گاه نفی هر بیان غیر استاندارد است و تنوع‌های زبانی و فرهنگی معمولا در همین دسته‌ بیرون از استاندارد قرار می‌گیرند. استعمار دیجیتال، از دوره‌ی فراگیرشدن کامپیوترهای خانگی وجود داشت. همین‌که زبان‌های برنامه‌نویسی به خط لاتین نوشته می‌شدند و منطق حاکم بر آن‌ها بستاری از منطق ارسطویی بود، شکلی از استعمار دیجتال بود و هست. هوش مصنوعی می‌تواند این استعمار را مشدد کند. برای چهره‌هایی مثل احمد شاملو، نوشتن کتاب کوچه تلاشی بود برای اعتباربخشی به گونه‌ای از زایایی در زبان فارسی که در فرهنگ‌نامه‌های رسمی پیدا نمی‌شد. زایایی زبان در نسبت با همین تنوع‌های قومی، فرهنگی و زیستی ممکن است. یعنی از یک طرف، با نرمالیزه‌شدن تفکر و البته با استرداد مرجع‌گزینی تفکر و حقیقت، زبان نسبت به تنوع‌های فرهنگی بی‌اعتنا خواهد شد و از طرف دیگر مراجع جدید حقیقت، شکلی از مواجهه با اندیشگی و حق را ترویج می‌کنند که ممکن است فقط ابعاد مختصری از کلیت فرهنگ‌های دیگر را بازتاب دهند و ابعاد دیگر را به مرور به محاق بسپارند. استعماری که «طبیعی» می‌‌نماید و «عادی‌‌سازی» می‌شود.

سوال: در عصر جعل عمیق (Deepfake) و تولید واقعیت‌های جعلی، چگونه می‌توان از حقیقت، حافظه تاریخی و اعتماد عمومی دفاع کرد؟ 

در نهایت هر حقیقتی در برابر تن انسانی ا‌ست که محک می‌خورد. «بازنمایی تن» برابرنهاد «تن» نیست. میان سه شکل محاکات که از یک پدیده می‌توان متصور شد، یعنی «اصل»، «تقلید یا کپی» و «شبیه‌سازی»، این آخری یعنی شبیه‌سازی از هر دوتای دیگر قوی‌تر است: چون هم سیالیت دارد، هم قابلیت تکثیر مکانیکی و هم اصلاح‌پذیر است. حتی می‌تواند «درد» و «لذت» را بازنمایی کند. روی همین اصل، اعتبارسنجی و کشف حقیقت کار بسیار دشواری ا‌ست. دشوار از این جهت که نیازمند تعهدی عمیق است به حقیقت. در گذشته اگر شایعه می‌شد که اهالی فلان جزیره آدم‌خوارند، تنها راه حقیقت‌سنجی، سفر فیزیکی به آن مکان و سنجش کلام بود. با این حال، اثبات یا رد هر گزاره‌‌ ماضی محال بود و گذشتگان با یک «الله اعلم» از کنارش رد می‌شدند. به گمان من، باید نهادهایی شفاف و متعهد برای راستی‌‌آزمایی خلق شوند - که عمیقا به پرسش حقیقت متعهد باشند و عمق تکنولوژی را بشناسند-  و هم‌زمان فرد انسانی باید با حدی از شکاکیت به داده‌های مجازی نگاه کند. این‌ها راه حل نیستند، فقط موانعی هستند که سرعت و قدرت نفوذ دروغ را کاهش می‌دهند.      

آیا می‌توان به یک هوش مصنوعی انسان‌محور (Human-Centric AI) امیدوار بود که به جای ابزار کنترل، به گسترش حقوق بشر و عدالت اجتماعی کمک کند؟

آدمیزاد به امید زنده است. زبان، همیشه محمل فرمان امپراطوران نبوده و گاه انسان‌های دردمند از گذر تاریخ، با من و ما سخن گفته‌اند. صنعت چاپ، در آغاز پیدایش‌اش در خدمت کلیسا و قدرت‌ها بود. به مرور علیه همان کلیسا و قدرت‌‌ها شورید. وضعیت امروز هوش مصنوعی در خدمت نهادهای قدرتی ا‌ست که برای حقوق بشر و عدالت اجتماعی پشیزی ارزش قايل نیستند. آن‌را، سلاحی برای تحمیق انسان و تسلط بر آن می‌خواهند. ولی همیشه حتی سلاح هم از انحصار گریخته ‌است. ترجیح می‌دهم در جنگ نامتقارن میان انسان و صاحبان زر و زور، طرف انسان بایستم و بگویم: امیدوارم. آدمیزاد به امید زنده است.