هوش مصنوعی می‌تواند منشاء آثار مفید و مضر باشد. اما به احتمال قوی در جهانی که نشان مهر و دوستی در آن کمتر ‌پیدا و میل به قهر و دشمنی غالب است، قدرت ویرانگری بیشتری دارد. هوش مصنوعی، مرحله اخیر رشد تکنولوژی است و خدا کند که مرحله آخر آن نباشد. این تکنولوژی که حضور علم را در آن آشکارا می‌توان دید تعلق به عصری دارد که بشر در آن کوشید و تا حدودی توانست طبیعت و هر چه در جهان است را به تصرف خود درآورد و مهار کند.

قوام این عصر با تکنیک بود. فهم و درک و تصور غالب این است که تکنیک وسیله‌ای در اختیار آدمی است و برای رفع نیازهای آدمی پدید آمده است. یعنی تکنیک را با حرفه و صنعت قدیم اشتباه می‌کنند ولی تکنیک صورت کامل صنعت قدیم نیست و ‌از حیث ماهیت با آن تفاوت دارد. کسانی که می‌پندارند تکنیک از جنس صنعت قدیم است ملتفت نیستند که تکنیک با خواست و بر اثر اظهار نیاز آنان پدید نیامده بلکه از لوازم اصلی جهان مدرن برای تسخیر و تصرف طبیعت بوده و مردمان پس از پدید آمدن خود را به آن محتاج دیده و وابسته‌اش شده‌اند. کسانی هم تا آنجا پیش رفته  ‌و گفته‌اند که ممکن است روزی بیاید که بشر برده تکنیک شود. آنچه محرز است اینکه تکنیک راه خود را می‌رود و به نیازهای مردمان کاری ندارد، بلکه می‌آید و مردمان را به آنچه آورده است نیازمند می‌سازد. هوش مصنوعی مرحله اخیر رشد تکنیک است و بیم آن می‌رود که آخرین مرحله آن باشد. زیرا، دارای قدرتی است که می تواند جهان را به هرصورتی که می‌خواهد تصویر کند و با دگرگون جلوه دادن وضع جهان و احوال مردمان و حوادث و کارها و چیزها، نظم جهان را بر هم زند و هر آشوبی که بتواند در هر جا پدید آورد.

اکنون وقتی از هوش مصنوعی می‌گوییم، بیشتر نظر به فایده‌اش داریم و بر لزوم برخورداری از آن تأکید می‌کنیم و کمتر می‌اندیشیم که این ماشین هوشمند بر سر جهان و مردم جهان چه می‌تواند بیاورد. اگر اثر وجودی‌اش چیزی باشد که تاکنون از آن دیده‌‎ایم، بیشتر می‌توانیم آن را خطرناک بدانیم. هوش مصنوعی با لطیفه‌های عجیبی که زیر دام و دانه خود دارد، می‌تواند در یک لحظه جهان را پرآشوب و حتی نابود کند. این گمان که اختیار هوش مصنوعی به دست صاحبان آن است، توهم بدی است. هوش مصنوعی در جایی وجود دارد که آنجا کانون قدرت باشد و همواره با قدرت است نه در اختیار دانشمندان.

هوش مصنوعی انسان خردمند نیست. طراحان آن نیز در ابتدا نمی‌خواستند که انسان مصنوعی بسازند. مع‌هذا شاید از جهاتی به انسان مصنوعی شبیه باشد. بعضی از رمانتیک‌های اروپا صورتی از بشرمصنوعی را در خیال خود پرورده بودند که یکی از آنها هیولای فرانکّنشتاین بود. موجودی خطرناک که ویرانگر بود وآدم می‌کشت. اما بالاخره کشته شد. نمی‌دانیم اگر هوش مصنوعی هم به کارهای خطرناک دست بزند و حامل طرحی برای کشتار آدمیان باشد، مردمانی باقی می‌مانند که بتوانند او را از میان بردارند. شاید اگر بخواهد همه چیز را نابود کند وقتی کارش را انجام داد وجودش دیگر وجهی نداشته باشد و خود به خود از میان برود.

آنچه اکنون اهمیت دارد این است که از هوش مصنوعی رو نگردانیم اما شیفته آن نباشیم که این شیفتگی با خرد و دانایی نمی‌سازد. هوش مصنوعی مانند هرتکنولوژی دیگر فایده‌ها دارد و از عهده کارهای بزرگ برمی‌آید اما در وضع کنونی بیشتر به کار ویرانگری می‌آید زیرا قدرت در مسیر ویرانگری است. هوش مصنوعی هم میلش به سوی قدرت است‌ و کاری به صلح و صلاح و بهبود زندگی انسان ندارد. شاید بتواند با محاسبه صلاح را تشخیص دهد اما آن را ترجیح نمی‌دهد زیرا در بند خوب و بد و زشت و زیبا نیست. سرمایه‌اش هم اطلاعات است بی‌آنکه از خرد عملی بهره داشته باشد. ما اکنون نسبتی با تکنیک داریم که نمی‌توانیم از آن رو بگردانیم.

امیدواریم هوش مصنوعی هرچه هست پایان تکنولوژی نباشد. از دانشمندان مجلس استدعا دارم به پرسشها و ابهامهایی که در باب کارکرد هوش مصنوعی وجود دارد پاسخ بدهند. هوش مصنوعی تنها تکنیکی است که مردم نیز به آن اظهار علاقه می‌کنند و در انتظار آنند و چه خوب است به آنها گفته شود که چه انتظارهایی با آن برآورده می‌شود و چه کارهایی از عهده اش برنمی‌آید. مشکل اساسی این است که از این ساخته دست آدمی، می‌توان سؤال و درخواست داشت اما نمی‌توان برایش تکلیف معین کرد. جهان کنونی ر اتکنیک راه می‌برد و متاسفانه نمی‌دانیم این راه به کجا می‌رود. سخن را با درود و احترام به حاضران گرامی پایان می‌دهم.

* متن سخنرانی رضا داوری اردکانی استاد ممتاز دانشگاه تهران و عضو پیوسته فرهنگستان علوم به همایش «مبانی علمی و فلسفی هوش مصنوعی»، فرهنگستان علوم، 21 آبان 1404