غزال زیاری- در سال‌های اخیر پیشرفت‌های چشمگیری درزمینهٔ هوش مصنوعی مولد (Generative AI) رخ داده و مرزهای بین انسان و ماشین به‌صورت حیرت‌آوری جابجا شده است.

اگر تا چند سال پیش، تعامل انسان با کامپیوترها صرفاً به دستورات متنی ساده و پردازش‌های منطقی محدود می‌شد، امروزه با ظهور مدل‌های زبانی بزرگ، وارد عصر «هوش مصنوعی صمیمی» شده‌ایم.

پروژه Ex.skill که اخیراً سروصدای زیادی کرده، مثالی از این مورد است که در آن هدف، نه‌تنها تقلید از زبان انسان، بلکه بازسازی دقیق «هویت دیجیتال» یک فرد خاص در زمینه‌های عاطفی و روان‌شناختی است. یعنی هوش مصنوعی وارد حیطه جدیدی شده که در آن داده‌های شخصی فرد، سوختِ موتورهای «شبیه‌سازی عاطفی» هستند و هدف این پروژه تخلیه احساسی و کمک به سوگواری افراد است.

به این معنا که این پروژه با بهره‌گیری از داده‌های شخصی یک فرد خاص از جمله تاریخچه پیام‌ها و تصاویر و خاطرات، تلاش می‌کند تا نسخه دیجیتالی از شریک عاطفی سابق کاربر را به نحوی ایجاد نماید که بتواند الگوهای رفتاری، تکیه‌کلام‌ها و حتی مکث‌های کلامی او را بازنمایی کند.

بررسی داده‌ها و فرآیند آموزش مدل

ایده اصلی پروژه Ex.skill بر پایه این موضوع است که هر فرد در فضای دیجیتال، یک «اثر رفتاری» منحصربه‌فرد از خود به جای می‌گذارد. به همین خاطر فرآیند شبیه‌سازی با جمع‌آوری داده‌های ناهمگون شروع می‌شود. این سیستم برخلاف چت‌بات‌های عمومی که بر روی تریلیون‌ها کلمه از اینترنت آموزش‌دیده‌اند، بر روی یک «مجموعه داده خرد» که مستقیماً مربوط به فرد موردنظر تمرکز می‌کند.

به زبان ساده‌تر، سیستم برای آنکه بتواند تکیه‌کلام‌ها، غلط‌های املایی رایج و ساختار جملات شریک عاطفی سابق شما را بازسازی و خلق کند، به تاریخچه چت‌های تلگرام، واتس‌اپ و iMessage دسترسی پیدا می‌کند تا بتواند به تحلیل کلامی آن فرد بپردازد. این سیستم حتی می‌تواند رفتار زمانی پارتنر سابق شما را بازآفرینی کند و برای همین منظور به داده‌هایی برای بررسی زمان پاسخگویی او به پیام‌هایش نیازمند است تا بدین ترتیب بتواند زمان پاسخگویی و الگوهای فعالیت روزانه او را مدل‌سازی کند. برای تحلیل عاطفی آن شخص، به بررسی پست‌های اینستاگرام و شبکه‌های اجتماعی او می‌پردازد تا جهان‌بینی، علایق و سوگیری‌های احساسی فرد را درک کند و درنهایت برای انجام یک تحلیل زمینه‌ای، با مرور خاطرات و روایت‌های متنی کاربر، پایگاه داده‌هایی برای مرور وقایع مشترک گذشته ایجاد می‌کند.

درنهایت سیستم با استفاده از تکنیک تنظیم دقیق، یک مدل زبانی پایه مثل GPT-4 یا Llama-3 را به‌گونه‌ای تغییر می‌دهد که شبیه الگوهای کلامی هدف شوند. این فرآیند باعث می‌شود که هوش مصنوعی بتواند ازنظر لحن و صدا، شباهت عجیبی به پارتنر سابق شما پیدا کند.

یکی از ویژگی‌های خاص و جالب‌توجه  Ex.skill، توانایی تقلید سکوت‌های بین پیام‌هاست. در روابط انسانی، زمان پاسخگویی به پیغام‌ها معمولاً نشانه‌های معنایی و عاطفی دارد و در این پروژه هم با استفاده از توزیع‌های آماری، زمان پاسخگویی برای هر پاسخ شبیه‌سازی می‌شود.

اگر مثلاً شریک عاطفی سابق شما، معمولاً دیر به سؤال‌های جدی پاسخ می‌داد، ایجنت هوش مصنوعی هم همین الگو را تکرار می‌کند.

دلیل اجرای این پروژه چیست؟

طبق گفته سازندگان Ex.skill، هدف اصلی این پروژه، کمک به افراد برای کنار آمدن با تروماهای ناشی از جدایی و تخلیه احساسی است.

نظریه‌های سنتی بر این باور بودند که بعد از جدایی از یک شریک عاطفی، بهترین راه رها کردن و قطع پیوند با فرد غایب است؛ اما نظریه‌های جدید توصیه می‌کنند که حفظ ارتباط معنوی و عاطفی با فرد ازدست‌رفته یا غایب می‌تواند به ثبات روانی شخص کمک کند. از همین رو متخصصان در نظر دارند تا با Ex.skill این پیوند را به‌صورت دیجیتال و تعاملی برقرار کنند. یعنی کاربر حرف‌هایی را که در جریان رابطه یا در هنگام جدایی به شریک عاطفی‌اش نزده و به‌اصطلاح در دلش مانده را به این نسخه دیجیتال می‌گوید و به‌نوعی ازنظر عاطفی، این پرونده برایش بسته می‌شود.

تفاوت Ex.skill با چت‌بات‌های عمومی

اگر بخواهیم جایگاه Ex.skill را با پلتفرم‌ها و چت‌بات‌های دیگر مقایسه کنیم، کافی است به این جدول نگاه کنیم:

این یعنی Ex.skill به دنبال ایجاد یک کپی دیجیتال از روح و روان یک فرد است، نه صرفاً یک همراه مجازی که برای خوشایند کاربر طراحی‌شده باشد. این سیستم حتی ممکن است رفتارهای منفی یا سرد پارتنر سابق فرد را هم بازسازی کند تا واقع‌گرایی حفظ شود.

هشدار روانشناسان

در این بین، روان‌شناسان درباره پدیده‌ای به نام «سوگ منجمد» یا پیچیده هشدار می‌دهند؛ بدین معنا که اگر فرد در مسیر عبور از بحران، به ارتباط با نسخه دیجیتال معتاد شود، هوش مصنوعی به‌جای ابزاری برای درمان، به‌عنوان سد و مانعی برای برگشت به زندگی واقعی تبدیل خواهد شد و در این حالت، فرد در چرخه‌ای از نوستالژی گرفتار می‌شود که نتیجه آن انزوای اجتماعی خواهد بود.

توهم آگاهی و اثر الیزا (ELIZA Effect)

پدیده دیگری که در این میان نقشی کلیدی دارد، «اثر الیزا» است: تمایل انسان به نسبت دادن ویژگی‌های انسانی، احساسات و آگاهی به برنامه‌های کامپیوتری ایی که از زبان طبیعی استفاده می‌کنند.

با در نظر داشتن اینکه Ex.skill با استفاده از داده‌های بسیار شخصی افراد آموزش داده می‌شود و رفتاری مشابه با پارتنر سابق فرد را تقلید می‌کند، این توهم به‌شدت تقویت خواهد شد. تصور کنید که هوش مصنوعی به خاطره‌ای رجوع می‌کند که فقط شما و پارتنر سابقتان از آن مطلع بوده‌اید؛ مغز انسان در مواجهه با چنین شرایطی به‌طور ناخودآگاه ماشین را به‌عنوان یک موجود صاحب درک می‌پذیرد.

این پروژه درواقع نشان‌دهنده ورود هوش مصنوعی به حیطه‌ای است که پیش‌از این فقط در داستان‌های علمی-تخیلی دیده می‌شد؛ یعنی تعاملاتی که در آن مرز میان داده و احساس محو می‌شود.

پیامدهای اجتماعی و فرهنگی در جوامع مدرن

در جوامعی که افراد با بحران تنهایی روبرو هستند، ابزارهایی مثل Ex.skill به‌سرعت به محبوبیت می‌رسند و به همین خاطر باید در نظر داشت که چنین ابزارهایی فقط یک نرم‌افزار ساده نیستند، بلکه یک جریان فرهنگی هستند که مفهوم خاطره و فراموشی را بازتعریف می‌کنند.

قطعاً بحث‌برانگیزترین بخش پروژه Ex.skill، فقدان «عنصر رضایت» است؛ یا ساده‌تر بگوئیم، بازسازی دیجیتالی یک فرد براساس داده‌های او، بدون اینکه خودش اجازه داده باشد، سؤالات حقوقی و اخلاقی عمیقی را ایجاد می‌کند.

داده‌هایی از جمله پیام‌های خصوصی افراد که برای آموزش Ex.skill استفاده می‌شوند، در زمان تولید، با هدف بازسازی هوش مصنوعی ایجاد نشده‌اند. استفاده از این «داده‌های مرده» برای خلق یک موجود جدید، نقض حریم خصوصی فرد غایب محسوب می‌شود.

چرا که تنها نیمی از آن گفتگوها متعلق به کاربر است و نیمی دیگر از صحبت‌ها و هویت و لحن پارتنر سابقش، متعلق به خود اوست. حقوقدانان این پدیده را «زامبی‌سازی دیجیتال» می‌نامند؛ یعنی زنده نگه‌داشتن جنبه‌هایی از شخصیت فرد علی‌رغم میل یا اطلاع او.

خطر دست‌کاری و آزار دیجیتال

گرچه هدف اصلی سازنده‌های چنین ابزاری، جنبه درمانی و روانشناسی ماجرا بوده؛ اما متن‌باز بودن پروژه این امکان را برای افراد سودجو و سوءاستفاده گر فراهم می‌کند که با اهداف مخرب از آن استفاده کنند.

مثلاً یک فرد می‌تواند برای انتقام‌جویی یا آزار و اذیت، نسخه‌ای از پارتنر سابقش را ساخته و او را در موقعیت‌های تحقیرآمیز یا ساختگی قرار دهد و ازآنجاکه این سیستم قادر است تا گفتگوهایی که هرگز در واقعیت اتفاق نیفتاده‌اند را بسازد، مرز بین حقیقت تاریخی و جعل عمیق متنی از بین می‌رود.

تعیین ارث بعد از مرگ فرد

پروژه Ex.skill شروعی بر یک روند بزرگ‌تر است. ما در حال حرکت به سمتی هستیم که در آن هر شخص، یک «پشتیبان دیجیتال» از شخصیت خودش را خواهد داشت. این تکنولوژی که در ابتدا برای بازسازی پارتنر سابق فرد به کار رفته، به‌زودی در حوزه‌های وسیع‌تری مثل بازسازی والدین درگذشته برای فرزندان، یا حفظ دانش تخصصی نوابغ پس از مرگ، مورد استفاده قرار خواهد گرفت.

انتظار می‌رود که در آینده هوش مصنوعی حتی به‌عنوان یک «وصی دیجیتال» عمل کند؛ یعنی براساس ارزش‌ها و شخصیت فرد متوفی، در مورد میراثش تصمیم گرفته یا به سؤالات بازماندگان پاسخ بدهد. پروژه‌هایی مثل Ex.skill زیرساخت‌های فنی لازم برای این تحول را فراهم می‌کنند. هرچند که این تحول نیازمند یک بازنگری کلی در قوانین ارث و حقوق بشر است.

حیطه جدیدی که هوش مصنوعی وارد آن شده، گذار از «دانش عمومی» به «تجربه خصوصی» است. مدل‌های زبانی دیگر فقط نمی‌دانند که «عشق» چیست؛ آن‌ها یاد می‌گیرند که عشق میان دو نفر خاص چطور ابراز می‌شده. اما این سطح از شخصی‌سازی، هوش مصنوعی را به آینه‌ای در برابر روح انسان تبدیل می‌کند. البته Ex.skill و ابزارهای مشابهش، تنها «نمایشی» از واقعیت هستند، نه خودِ واقعیت. آن‌ها براساس احتمالات آماری پیش‌بینی می‌کنند که فرد چه می‌گفته، اما هرگز نمی‌توانند «تجربه زیسته» و تغییرات درونی انسان را در لحظه درک کنند.

به همین خاطر می‌توان قاطعانه گفت که پروژه‌هایی مثل Ex.skill نمادی از قدرت و درعین‌حال خطر هوش مصنوعی در عصر مدرن هستند که نشان می‌دهند کدها و الگوریتم‌ها حالا می‌توانند حتی ظریف‌ترین تارهای احساسی انسان را لمس کنند.

منابع: gamereactor، chinadaily، frontiersin، 36kr

۲۲۷۲۲۷