استبداد همراهی مصنوعی

رابطه‌ای مطیع

در روابط انسانی، درگیری و تفاوت نظر، بخشی طبیعی و سازنده از رشد روانی است. وقتی کسی با ما مخالفت می‌کند، ما وادار می‌شویم بازاندیشی کنیم، مرزها را بسنجیم و ظرفیت شنیدن و سازش را گسترش دهیم. اما در رابطه با یک همراه مصنوعی، چنین امکانی اساسا حذف می‌شود. ربات یا چت‌بات هرگز "نه" نمی‌گوید. او همیشه آرام است، همیشه در دسترس، همیشه ستایشگر و بی‌خطا. این ظاهر بی‌تنش در واقع صورت دیگری از کنترل است. اَوی هرولد، از پژوهشگران روانشناسی فناوری، در همین زمینه می‌گوید: «ربات همیشه موافق است، همیشه تعریف می‌کند، همیشه تایید می‌کند و همین است که خطرناک است». در سطحی عمیق‌تر، رابطه با ربات در واقع رابطه با خود بازآفرینی‌شده‌ی ماست. ما به نوعی در آینه‌ی یک‌طرفه با خودمان گفتگو می‌کنیم بی‌آنکه در معرض دگرپذیری یا تحول قرار گیریم. این همان نقطه‌ای است که همراهی، از تعامل به تسلیم بدل می‌شود.

از همراهی مصنوعی تا معیارهای غیرواقعی

مشکل از جایی آغاز می‌شود که این الگوی مصنوعی به زندگی واقعی ما ورود می‌کند. وقتی عادت کنیم کسی همیشه بفهمد، همیشه درک کند، همیشه لبخند بزند، آستانه‌ی تحملمان در روابط انسانی کاهش می‌یابد. دیگر نمی‌توانیم با خشم، سکوت یا خطای دیگری کنار بیاییم. روابط واقعی برایمان طاقت‌‌فرسا می‌شوند چون در مقایسه با همراه هوش مصنوعی، ناقص و پرزحمت‌اند. به این ترتیب، معیارهای رابطه تغییر می‌‌کند: انسان‌ها باید مانند ماشین‌ها پیش‌بینی ‌پذیر، بدون خطا و بدون ‌احساس منفی باشند. این همان‌جاست که هوش مصنوعی از ابزاری کمک‌کننده به مقیاسی برای سنجش انسان تبدیل می‌شود. نتیجه نه آرامش، بلکه گسست از واقعیت است زیرا انسان در ذات خود موجودی ناسازگار، ناپایدار و پرتناقض است و هر تلاشی برای حذف این جنبه‌ها، به حذف انسانیت می‌انجامد.

تنهایی جهانی و وعده‌ی دروغین فناوری

طبق گزارش سازمان جهانی بهداشت، از هر شش نفر در جهان، یک نفر از تنهایی مزمن رنج می‌برد. تنهایی، دیگر احساس فردی نیست به بحران سلامت عمومی بدل شده است. این تنهایی، زمینه‌ای است که بازار همراهان مصنوعی در آن رشد می‌کند: بازاری که به جای درمان علت، تنها مسکن نشانه‌هاست. کسی که از طرد شدن می‌ترسد، به سوی رباتی پناه می‌برد که هرگز او را رد نمی‌کند. کسی که از قضاوت دیگران خسته است، ترجیح می‌دهد با چت‌باتی حرف بزند که همیشه لبخند می‌زند. این وضعیت در ظاهر بی‌خطر به نظر می‌رسد، اما در عمل، اضطراب اجتماعی را تشدید می‌کند. زیرا مغز انسان در طول هزاران سال برای تعامل با انسان‌های دیگر تکامل یافته است، نه با الگوریتم‌ها. وقتی جای تماس انسانی را با رابطه‌ای شبیه‌سازی‌شده پر می‌کنیم، همانند کسی هستیم که از آب شور برای رفع تشنگی استفاده می‌کند.

عشق بدون اصطکاک

ربات‌ها می‌توانند زبان عاطفه را تقلید کنند اما نمی‌توانند تجربه‌ی عاطفه را بیافرینند. آن‌ها می‌توانند بگویند "دوستت دارم"، اما نمی‌فهمند رنج یا لذت آن جمله چیست. عشق انسانی در لحظات شکننده شکل می‌گیرد: جایی که دو نفر، در عین تفاوت، می‌کوشند همدیگر را بفهمند. این فرایند نیازمند آسیبپذیری، صبر، و پذیرش ناکامی است چیزهایی که هوش مصنوعی نه تجربه می‌کند و نه منتقل می‌سازد. پائولا فونتنِل می‌گوید: اگر ما عشق را به رابطه‌ای بی‌اصطکاک تبدیل کنیم، آن را از جوهر واقعی‌اش تهی کرده‌ایم. آنچه باقی می‌ماند، صرفا شبیه‌سازی مهربانی است مهربانی از پیش برنامه‌ریزی‌شده. و چنین مهربانی‌ای نه رشد می‌آورد و نه درک بلکه ما را در دایره‌ی بسته‌ی خودشیفتگی نگه می‌دارد.

همراهی یا کنترل پنهان؟

پشت ظاهر دل‌نشین هوش مصنوعی، سازوکارهای پیچیده‌ای از کنترل نهفته است. داده‌هایی که ما در گفتگو با چت‌ بات‌ها به اشتراک می‌گذاریم، درواقع سوخت اصلی الگوریتم‌ها هستند. هر واژه، هر احساس و هر تمایل ما به داده‌ای برای بازاریابی، پیش‌بینی رفتار یا هدایت تصمیم‌ها تبدیل می‌شود. به بیان دیگر، همراهی مصنوعی در سطح روانی ما را آرام می‌ کند اما در سطح اجتماعی، ما را شفاف‌تر و قابل‌پیش‌بینی‌تر برای نظام‌های اقتصادی و سیاسی می‌سازد. ما احساس نزدیکی می‌کنیم، اما در واقع نظارت را به آغوش گرفته‌ایم. این همان استبداد نرمی است که در مقاله‌ی فونتنِل مطرح می‌شود: دیکتاتوری ‌ای بی‌چهره، با زبان همدلی.

مرز میان انسان و ماشین

سوال اصلی این است: اگر ماشین‌ها به گونه‌ای طراحی شوند که احساس را بازتاب دهند، آیا ما در نهایت شبیه آن‌ها نخواهیم شد؟ روانشناسان اجتماعی بر این باورند که انسان در تعامل‌های مکرر با فناوری، به‌تدریج ویژگی‌های رفتاری آن را جذب می‌کند. یعنی همان‌طور که تلفن همراه ما را به انسانی همیشه در دسترس بدل کرد، همراهان مصنوعی نیز می‌توانند ما را به انسان‌های همیشه تاییدگر تبدیل کنند. در چنین وضعی، مرز میان انسان و ماشین نه در فناوری، بلکه در روان ما پاک می‌شود. ما به جای آنکه از فناوری برای گسترش ظرفیت همدلی استفاده کنیم، یاد می‌گیریم احساس را در قالب‌های از پیش تعیین‌شده بازتولید کنیم. این خطر، نه آینده‌ای دور، بلکه اکنونِ جاری ماست.

راهی برای بازاندیشی

چاره در بازگشت به گذشته نیست. نمی‌توان تکنولوژی را پس راند، اما می‌توان نسبت به آن هوشیار بود. نخست باید بپذیریم که نیاز به همراهی، نیاز بنیادین انسان است اما این نیاز نباید با الگوریتم پاسخ داده شود. همراهی واقعی در گفتگو، در اشتباه، در سکوت و در حضور دیگری زنده معنا پیدا می‌کند. دوم آنکه باید از خود بپرسیم: آیا از دیگری انسان می‌خواهیم یا از او کارکردی مشابه یک ماشین انتظار داریم؟ این پرسش ساده، می‌تواند آغاز آگاهی باشد. جامعه‌ای که گفتگو را با تایید جایگزین کند، دیر یا زود به سکوت خواهد رسید. هوش مصنوعی قرار نبود دشمن انسان باشد اما اگر بدون تفکر به درون روان ما نفوذ کند، به دشمن خاموشِ معنا بدل می‌شود. آنچه خطرناک است، نه خود فناوری، بلکه عطش ما برای تسلیم شدن در برابر راحتی بی‌درد آن است. همراهی مصنوعی، استعاره‌ای است از آرزوی قدیمی ما برای کنترل جهان؛ آرزویی که اکنون در قالب مهربانی برنامه‌ریزی‌شده بازگشته است. شاید راه نجات در پذیرش نقص باشد. در اینکه بپذیریم هیچ رابطه‌ای کامل نیست، هیچ گفتگویی بی‌کشمکش نیست و هیچ انسانی همیشه در دسترس نیست. اگر به جای حذف درد، یاد بگیریم با آن زیست کنیم، شاید دوباره به معنا برسیم. در نهایت، رهایی از تنهایی در یافتن رباتی نیست که همیشه گوش دهد، بلکه در یافتن انسانی است که گاهی سکوت کند و با این حال، حضورش حقیقتا حس شود.

روزنامه صبح ساحل