نگرانی آقای فیلسوف از هوش مصنوعی

حمیدرضا حبیبی، گروه اندیشه: داوری در این گفتار که سرشار از تأمل فلسفی و نگرش انتقادی به عصر تکنولوژی بود، با زبانی هشداردهنده نسبت به پیامدهای تمدنی و اخلاقی هوش ‌مصنوعی سخن گفت و آن را «مرحله اخیر رشد تکنولوژی» خواند که بیم آن می‌رود «آخرین مرحله» نیز باشد. او تلاش کرد در این هم‌اندیشی بر دو پرسش تأمل گذارد: اول اینکه آیا انسانِ تکنیکی که در آغاز برای تسخیر طبیعت به علم و ابزار روی آورد، اکنون خود اسیر ساخته‌هایش شده است؟ و دوم اینکه اگر هوش مصنوعی آخرین مرحله این مسیر باشد، آیا پس از آن، جایی برای انسان و خرد انسانی باقی خواهد ماند؟ این پرسش‌ها، در کلام فیلسوفی که بیش از نیم‌قرن درباره نسبت علم، عقلانیت و مدرنیته اندیشیده، نه هشدارهایی بدبینانه بلکه دعوتی است به تأمل در جهانی که روزبه‌روز بیشتر به تسخیر ماشین‌ها درمی‌آید.

دکتر رضا داوری اردکانی، سخنان خود را با سپاس از برگزارکنندگان این هم‌اندیشی آغاز کرد و با لحنی فروتنانه گفت که «سالخورده‌ای گوشه‌نشین» است که سخنی درخور چنین مجلسی ندارد، اما از سر وظیفه آنچه در ذهنش درباره ماهیت و پیامدهای هوش مصنوعی می‌گذرد به قلم آورده است. 

هوش مصنوعی؛ بیش از یک ماشین اطلاعات‌پرداز
داوری در آغاز تحلیل خود تأکید کرد:«هوش‌ مصنوعی صرفاً یک ماشین عظیم پر از اطلاعات و اطلاعات‌پرداز نیست، بلکه پدیده‌ای است که می‌تواند منشأ آثار مفید و مضر باشد.» او در عین اذعان به فواید این فناوری، هشدار داد:«در جهانی که نشانه مهر و دوستی در آن کمتر و میل به قهر و دشمنی بیشتر است، قدرت ویرانگری هوش مصنوعی می‌تواند بسیار بیشتر از قدرت سازندگی‌اش باشد.»
به گفته او، «هوش مصنوعی مرحله اخیر رشد تکنولوژی است و خدا کند که مرحله آخر آن نباشد.» او با اشاره به پیوند درونی میان علم و تکنیک افزود:«این پدیده متعلق به عصری است که انسان کوشید طبیعت را به تصرف خود درآورد. قوام این عصر با تکنیک بود. بسیاری از مردم، تکنولوژی را با صنعت قدیم اشتباه می‌گیرند و گمان می‌کنند ابزارهایی در خدمت نیاز انسان‌اند؛ در حالی که تکنیک از لوازم اصلی جهان مدرن است و نه محصول خواست مستقیم انسان.»
 
بردگی انسان در برابر تکنیک
او در بخش دیگری از سخنانش به یکی از بنیادی‌ترین نگرانی‌های فلسفه تکنولوژی اشاره کرد و به وابستگی انسان به ابزارهای خودساخته پرداخت. داوری با انتقاد از تصور رایج که «تکنیک وسیله‌ای در اختیار آدمی» است، گفت:«کسانی که چنین می‌پندارند ملتفت نیستند که تکنیک با خواست آنان پدید نیامده بلکه خود راه خویش را می‌رود و مردمان را به آنچه آورده است نیازمند می‌سازد.»
وی افزود:«برخی اندیشمندان حتی هشدار داده‌اند که ممکن است روزی بشر برده تکنیک شود.» از نظر داوری، هوش‌ مصنوعی تحقق همین هشدار است و به همین دلیل او می‌گوید:«بیم آن می‌رود که این مرحله، آخرین مرحله تکنولوژی باشد؛ چرا که هوش مصنوعی قدرتی دارد که می‌تواند جهان را به هر صورتی که می‌خواهد تصویر کند و با دگرگون جلوه دادن وضع جهان، نظم آن را برهم زند.»
 
توهمِ اختیار و خطر تمرکز قدرت
دکتر داوری اردکانی در بخش دیگری از سخنان خود، بر خطر «توهمِ کنترل انسان بر این فناوری» تأکید گذاشت:«این گمان که اختیار هوش مصنوعی به دست صاحبان آن است، توهمی بد است. هوش مصنوعی در جایی وجود دارد که آنجا کانون قدرت باشد و همواره با قدرت است، نه در اختیار دانشمندان.» بدین ترتیب، او نسبت به پیوند میان هوش مصنوعی و سازوکارهای قدرت هشدار داد و آن را خارج از قلمرو دانش صرف دانست.
رئیس سابق فرهنگستان علوم در تبیینی استعاری، هوش مصنوعی را با «هیولای فرانکنشتاین» مقایسه کرد؛ موجودی خطرناک و ساختگی که سرانجام نابود شد. اما در مورد هوش مصنوعی، او این پرسش را مطرح کرد که اگر روزی این پدیده به طرح‌هایی برای نابودی انسان‌ها دست بزند، آیا مردمانی باقی می‌مانند که بتوانند آن را از میان بردارند؟
 
نه شیفتگی، نه انکار
این استاد فلسفه، رابطه انسان امروز با تکنولوژی را چنین توصیف کرد:«ما اکنون نسبتی با تکنیک داریم که نمی‌توانیم از آن رو بگردانیم. امیدوارم هوش مصنوعی پایان تکنولوژی نباشد.» وی از دانشمندان خواست به پرسش‌ها و ابهامات بنیادینی که درباره کارکرد این فناوری وجود دارد، پاسخ دهند:«هوش مصنوعی تنها تکنیکی است که مردم نیز به آن اظهار علاقه می‌کنند و در انتظار آن‌اند، اما ضروری است به آنان گفته شود که این فناوری چه انتظارهایی را برآورده می‌کند و چه کارهایی از عهده‌اش برنمی‌آید.»
از نظر او، دشوارترین مسأله این است که «از این ساخته دست آدمی می‌توان سؤال و درخواست داشت، اما نمی‌توان برایش تکلیف معین کرد.» این جمله دکتر داوری را شاید بتوان چکیده نگاه فلسفی او به تکنولوژی دانست؛ جهانی که تکنیک در آن ما را راه می‌برد اما متأسفانه نمی‌دانیم این راه به کجا می‌رود.
سخنرانی دکتر رضا داوری اردکانی، فراتر از یک تحلیل فناورانه، هشداری فلسفی درباره مسیری بود که تمدن مدرن در پیش گرفته است. او هوش مصنوعی را صرفاً یک ابزار نمی‌داند، بلکه آن را تجلی نهایی روح تکنیک مدرن قلمداد می‌کند که خودمختار، قدرت‌محور و فارغ از ارزش‌های انسانی، سرنوشت بشر را به سمتی نامعلوم می‌برد. این سخنرانی، دعوتی از جانب این فیلسوف برای تأملی عمیق‌تر درباره آینده هوش‌ مصنوعی بود، پیش از آنکه در مسیر این «هیولای فرانکنشتاین» مدرن قرار بگیریم که شاید دیگر نتوان آن را به سادگی نابود کرد.

بــــرش

شیفتگی به هوش مصنوعی
با خرد و دانایی سازگار نیست
با وجود هشدارهای جدی، داوری از بی‌اعتنایی یا نفی کامل هوش مصنوعی نیز برحذر داشت. او تأکید کرد:«باید از هوش مصنوعی رو نگردانیم اما شیفته آن هم نباشیم، زیرا این شیفتگی با خرد و دانایی ناسازگار است.» به گفته او، هرچند هوش مصنوعی می‌تواند از عهده کارهای بزرگ برآید، اما در جهان کنونی بیشتر در مسیر ویرانگری قرار دارد، چون قدرت در مسیر ویرانگری است.
داوری افزود:«هوش مصنوعی میلش به سوی قدرت است و کاری به صلح و صلاح و بهبود زندگی انسان ندارد. حتی اگر بتواند با محاسبه صلاح را تشخیص دهد، آن را «ترجیح نمی‌دهد» زیرا در بند ارزش‌هایی چون خوب و بد یا زشت و زیبا نیست؛ چون سرمایه هوش مصنوعی «اطلاعات» است، نه «خرد عملی.»