حاکمیت و حکمرانی هوش مصنوعی؛ دو مسیر برای یک آینده مشترک

  آقای دکتر، بگذارید از ریشه شروع کنیم. در فارسی، «حاکمیت» و «حکمرانی» اغلب به‌جای هم استفاده می‌شوند. از منظر علمی و مدیریتی، این دو واژه چه تفاوت دقیقی دارند؟

این سوال بسیار مهمی است و باید صادقانه بگویم که بخش بزرگی از سردرگمی در سیاست‌گذاری هوش مصنوعی ایران، دقیقاً از همین خلط مفهومی نشات می‌گیرد.

وقتی از «حاکمیت شرکتی» صحبت می‌کنیم، منظورمان ساختار داخلی یک سازمان است. لذا حاکمیت هوش مصنوعی در این معنا، یعنی یک شرکت چگونه توسعه، استقرار و نظارت بر سیستم‌های هوش مصنوعی داخلی خودش را مدیریت می‌کند. این اتفاق درون دیوارهای یک سازمان می‌افتد.

حکمرانی اما مفهومی متفاوت است که ریشه در ادبیات علوم سیاسی و سیاست‌گذاری عمومی دارد، به‌خصوص از زمانی که نهادهایی مثل بانک جهانی مفهوم «حکمرانی خوب» را مطرح کردند. حکمرانی به معنای فرایند تعامل میان دولت، بخش خصوصی و جامعه مدنی برای تنظیم یک حوزه در سطح ملی یا بین‌المللی است. حکمرانی هوش مصنوعی یعنی چگونه یک کشور یا جامعه بین‌المللی قوانین، مقررات و سیاست‌های کلان مربوط به توسعه و استفاده از هوش مصنوعی را تدوین و اجرا می‌کند.

پس تفاوت اصلی، تفاوت مقیاس و منبع اقتدار است. حاکمیت اقتدار سازمانی دارد؛ حکمرانی اقتدار قانونی و ملی دارد. البته این نکته را در نظر بگیریم که این دو مستقل از هم نیستند.

شما گفتید این دو مستقل از هم نیستند. این ارتباط را دقیق‌تر توضیح می‌دهید؟ یعنی ضعف در یکی چه اثری روی دیگری می‌گذارد؟

بله، این شاید مهم‌ترین نکته این گفت‌وگو باشد. رابطه این دو، رابطه‌ای دوسویه و نامتقارن است.

وقتی حکمرانی ملی قوی و روشن باشد، یعنی دولت مقررات دقیق، پایدار و قابل‌پیش‌بینی برای هوش مصنوعی داشته باشد بار حاکمیت سازمانی سبک‌تر می‌شود. شرکت‌ها می‌دانند خط قرمزها کجاست، چه الزامات قانونی باید رعایت شود و چه استانداردهایی برای اثبات مسئولیت‌پذیری کافی است.

اما وقتی حکمرانی ملی ضعیف، متغیر یا متناقض باشد، بار حاکمیت سازمانی به‌شدت سنگین‌تر می‌شود. شرکت‌ها مجبورند خودشان، بدون راهنمای بیرونی روشن، چارچوب اخلاقی، ریسک و پاسخگویی را از صفر بسازند. این دقیقاً وضعیتی است که بسیاری از صنایع ایران امروز در آن قرار دارند. نبود یک مرجع نهایی و پایدار در سطح حکمرانی ملی، هزینه ساخت حاکمیت داخلی را برای هر شرکت، جداگانه و بدون هماهنگی، بالا برده است.

در سطح جهانی، امروز چه مدل‌های حکمرانی هوش مصنوعی در رقابت با هم هستند و کدام‌یک از نظر شما موفق‌تر عمل کرده؟

امروز عملاً می‌توان گفت دو رویکرد اصلی حکمرانی هوش مصنوعی در جهان در حال شکل‌گیری می باشند و این موضوع بسیار آموزنده‌ است.

رویکرد اول، مدل اتحادیه اروپا با قانون هوش مصنوعی این اتحادیه است. این قانون یک چارچوب کاملاً مبتنی بر ریسک ایجاد کرده؛ یعنی سیستم‌های هوش مصنوعی را بر اساس سطح خطرشان دسته‌بندی می‌کند. کاربردهای غیرقابل‌قبول که کاملاً ممنوع‌اند (مثل امتیازدهی اجتماعی)، کاربردهای پرخطر که الزامات سنگین دارند (مثل هوش مصنوعی در استخدام یا زیرساخت‌های حیاتی)، کاربردهای محدود که فقط الزامات شفافیت دارند که تقریباً بدون محدودیت‌اند. این قانون در آگوست ۲۰۲۴ لازم‌الاجرا شد. باید بدانید حتی خود اتحادیه اروپا، به‌دلیل کندی در تدوین استانداردهای فنی لازم، بخشی از این جدول زمانی را عقب انداخته، که نشان می‌دهد حتی پیشرفته‌ترین بلوک های اقتصادی جهان هم در اجرای این حجم از مقررات با چالش واقعی روبرو می باشند.

رویکرد دوم، مدل مبتنی بر اصول داوطلبانه‌تر سازمان همکاری اقتصادی و توسعه است. این سازمان به‌جای قانون سخت‌گیرانه با ضمانت اجرای حقوقی، اصول راهنما ارائه می‌دهد که کشورها می‌توانند آزادانه در چارچوب سیاست‌های ملی خودشان پیاده کنند.  طبق آخرین داده‌های همین سازمان، امروز بیش از هفتاد کشور و منطقه در پایگاه سیاست‌گذاری آن مشارکت دارند و بیش از نهصد ابتکار سیاستی هوش مصنوعی در آن ثبت شده است.

با این توصیف، کشورهای در حال توسعه، از جمله ایران، باید کدام مسیر را انتخاب کنند؟ آیا اصلاً باید یکی از این دو مدل را کپی کرد؟

این سوال یک سوال کلیدی است و به نظر بنده، کپی‌کردن کامل از این دو مدل، برای کشوری مثل ایران اشتباه راهبردی است.

چرا مدل اروپایی مناسب نیست؟ چون این مدل برای اقتصادی طراحی شده که زیرساخت دیجیتالی بالغ، نهادهای نظارتی مستقر و باتجربه، و منابع مالی و انسانی گسترده برای اجرای مقررات پیچیده دارد. تحمیل همان سطح از پیچیدگی مقرراتی به اقتصادی که هنوز در حال ساخت زیرساخت پایه هوش مصنوعی است، عملاً روند نوآوری را خفه می‌کند، پیش از آنکه فرصتی برای رشد داشته باشد.

چرا مدل کاملاً داوطلبانه هم کافی نیست؟ چون در نبود ضمانت اجرایی، به‌خصوص در اقتصادهایی که ساختارهای نظارتی هنوز جوان هستند، اصول راهنما به‌راحتی نادیده گرفته می‌شوند یا صرفاً روی کاغذ باقی می‌مانند.

راه‌حلی که می‌توان پیشنهاد داد، یک مدل ترکیبی و مرحله‌ای است. در سال‌های نخست، حکمرانی باید انعطاف‌پذیر و حمایتی باشد تا فضای لازم برای آزمایش و یادگیری فراهم شود، اما همزمان چند خط قرمز غیرقابل‌مذاکره از همان ابتدا تعیین شود (مثل شفافیت در تصمیمات پرخطر و مسئولیت‌پذیری در خطاهای جدی). با بلوغ اکوسیستم، این چارچوب باید تدریجاً به سمت دقت و الزام‌آوری مدل اروپایی حرکت کند. این دقیقاً همان مسیری است که کشورهایی مثل کره جنوبی و سنگاپور در حکمرانی فناوری دیجیتال طی کرده‌اند: شروع انعطاف‌پذیر، سخت‌گیری تدریجی.

بیایید وارد وضعیت مشخص ایران شویم. آیا ایران اصلاً سند حکمرانی هوش مصنوعی دارد؟ خیلی‌ها فکر می‌کنند ایران در این حوزه از صفر شروع کرده.

این تصور رایج، اشتباه است و باید آن را با دقت اصلاح کرد. برخلاف باور عمومی، ایران در سطح سند سیاستی، عقب نیست؛ حتی می‌توان گفت نسبتاً زودهنگام وارد این حوزه شده است.

شورای عالی انقلاب فرهنگی در ۲۹ خرداد ۱۴۰۳ سند ملی هوش مصنوعی جمهوری اسلامی ایران را تصویب کرد؛ سندی که چهارده سیاست کلان و یازده هدف اصلی را برای توسعه هوش مصنوعی کشور تعیین کرده است. این سند یک چشم‌انداز بلندمدت دارد: قرارگرفتن ایران در میان ده کشور برتر جهان در حوزه هوش مصنوعی تا افق ۱۴۱۱ (سال ۲۰۳۲ میلادی). در پی این سند، «سازمان ملی هوش مصنوعی» به‌عنوان نهاد اجرایی زیر نظر ریاست‌جمهوری تاسیس شد.

در ادامه، مجلس شورای اسلامی نیز در اردیبهشت ۱۴۰۴ کلیات طرح هوش مصنوعی ملی را با اکثریت قاطع، یعنی ۱۸۷ رای موافق در برابر ۳۳ رای مخالف، تصویب کرد. این یعنی هم در سطح شورای عالی انقلاب فرهنگی، هم در سطح مجلس، اراده سیاسی برای پرداختن جدی به این حوزه وجود دارد. از نظر بودجه هم، برای سال ۱۴۰۴ بیش از ۲۱۵ میلیون دلار برای تحقیق و توسعه هوش مصنوعی در بودجه کشور در نظر گرفته شده است.

پس اگر سند و بودجه وجود دارد، چالش اصلی حکمرانی هوش مصنوعی در ایران دقیقاً کجاست؟

در واقع این را باید بگویم که سند سیاستی داشتن دلیل بر حکمرانی موثر داشتن نیست. چالش اصلی، نه در نبود سیاست، بلکه در تعدد و عدم هماهنگی نهادهای سیاست‌گذار است؛ پدیده‌ای که در ادبیات حکمرانی به آن «هم‌پوشانی نهادی» یا «چندپارگی حاکمیتی» گفته می‌شود.

بگذارید این را با توالی دقیق زمانی توضیح دهم، چون خود این توالی گویاترین مثال است. در تیر ۱۴۰۳، «سازمان ملی هوش مصنوعی» به‌عنوان نهاد مستقل زیر نظر ریاست‌جمهوری تاسیس شد. اما در اردیبهشت ۱۴۰۴، دولت به نوعی این سازمان را کنار گذاشت و به‌جای آن «قرارگاه توسعه فناوری هوش مصنوعی» را زیر نظر معاونت علمی و فناوری ریاست‌جمهوری ایجاد کرد. تنها چند روز بعد از این تصمیم، مجلس با تصویب کلیات طرح هوش مصنوعی ملی، عملاً درخواست احیای همان سازمان اول را مطرح کرد.

نتیجه این توالی در یک بازه کمتر از یک سال، حداقل سه نهاد مختلف ادعای مسئولیت هدایت سیاست‌گذاری هوش مصنوعی کشور را داشته‌اند. یک سازمان، یک قرارگاه و یک نهاد مصوب مجلس که هنوز در حال شکل‌گیری نهایی است. این دقیقاً همان چیزی است که در بحث حکمرانی خطرناک‌تر از نبود قانون است. نه فقدان مقررات، بلکه فقدان یک مرجع نهایی و پایدار که بتوان به تصمیمات آن اعتماد کرد.

این هم‌پوشانی نهادی که توضیح دادید، برای یک مدیر واقعی در صنعت چه معنای عملی و ملموسی دارد؟ آیا این فقط یک بحث اداری است یا واقعاً روی تصمیمات کسب‌وکار اثر می‌گذارد؟

این پرسش را دقیقاً باید از منظر یک تصمیم‌گیرنده واقعی پاسخ داد، نه از منظر نظری. وقتی در سطح ملی مشخص نیست کدام نهاد متولی نهایی سیاست‌گذاری هوش مصنوعی است، شرکت‌ها با یک بلاتکلیفی تنظیمی روبرو می‌شوند که هزینه‌ای واقعی و اغلب پنهان دارد. این هزینه به دو شکل خودش را نشان می‌دهد.

شکل اول، تعویق سرمایه‌گذاری. بسیاری از هیئت‌مدیره‌ها، به‌طور منطقی، تصمیم می‌گیرند سرمایه‌گذاری بزرگ در زیرساخت هوش مصنوعی را به تعویق بیندازند تا ببینند تصویر نهایی نهاد سیاست‌گذار روشن می‌شود یا نه. این تعویق، در بازاری که رقبای جهانی هر ماه یک گام جلوتر می‌روند، هزینه فرصت سنگینی دارد.

شکل دوم، سرمایه‌گذاری بدون اطمینان. برخی شرکت‌ها با وجود ابهام وارد می‌شوند، اما سرمایه‌گذاری‌شان را بر اساس مقررات فعلی طراحی می‌کنند، بدون اطمینان از اینکه این طراحی با تصمیمات آینده نهاد جدید همخوانی خواهد داشت. این یعنی ریسک بازطراحی پرهزینه در آینده.

راه‌حل عملی که من به همکاران صنعت پیشنهاد می‌کنم این است که به‌جای انتظار برای روشن‌شدن کامل تصویر حکمرانی ملی، حاکمیت داخلی سازمان را طوری طراحی کنید که با هر سناریوی محتمل تنظیمی سازگار باشد. یعنی از همان ابتدا اصول محافظه‌کارانه‌تری را رعایت کنید، حتی اگر قانون داخلی فعلی هنوز آن سطح از دقت را طلب نکند. این یعنی آماده‌بودن پیشاپیش، نه انتظار برای دستور از بالا.

تا اینجا چالش را شناختیم. حالا بپرسم: اگر شما مسئول طراحی نسخه عملی برای حکمرانی ملی هوش مصنوعی ایران بودید، اولین قدم عملی چه بود؟

اولین قدم، نه نوشتن سند جدید (که همان‌طور که گفتم، همین حالا هم داریم)، بلکه ایجاد یک «مرجع نهایی تصمیم» است؛ یک نهاد واحد که اختیار قانونی روشن داشته باشد و بقیه نهادها موظف به هماهنگی با آن باشند، نه رقابت با آن.

این اصل در حکمرانی فناوری بنام اصل «تک‌مرجعیت تصمیم» یا Single Point of Accountability می نامند. یا بهتر است بگوییم «اصل تعیین مرجع نهایی پاسخگویی». کشورهایی که در حکمرانی دیجیتال موفق بوده‌اند، مثل سنگاپور با آژانس توسعه رسانه‌ای هوشمند آن، یک ویژگی مشترک دارند، هرچقدر نهادهای مشورتی و اجرایی زیرمجموعه متعدد باشند، اما یک نهاد نهایی مسئولیت تصمیم آخر و پاسخگویی نهایی را دارد.

برای ایران، این یعنی یکی از این سه گزینه (سازمان ملی هوش مصنوعی، قرارگاه توسعه فناوری، یا نهاد مصوب مجلس) باید به‌صراحت قانونی به‌عنوان مرجع نهایی تعیین شود و بقیه نهادها نقش مشورتی یا اجرایی زیرمجموعه آن را بپذیرند. تا این ابهام حل نشود، هر گام بعدی، هرقدر هم خوب طراحی شده باشد، روی زمین لرزان ساخته می‌شود.

فرض کنیم این تک‌مرجعیت شکل بگیرد. به نظر شما صنایع معدنی را می‌توان یکی از مناسبترین محیطها برا ی آزمون حکمرانی هوش مصنوعی دانست؟

صنایع معدنی از این جهت اهمیت دارند که هم داده محور هستند و هم تصمیمات مبتنی بر هوش مصنوعی در آنها می تواند مستقیماً بر بهره‌وری، هزینه، ایمنی و سرمایه گذاری اثر بگذارد. از اکتشاف و تحلیل داده های زمین شناسی گرفته تا نگهداری پیش بینانه تجهیزات، بهینه سازی فرآوری، مدیریت انرژی و حوزه‌های متعددی وجود دارد که هوش مصنوعی می تواند در آنها وارد شود. مزیت دیگر معدن این است که بسیاری از کاربردهای هوش مصنوعی را می‌توان در محیط‌های مشخص و کنترل شده آزمایش کرد. برای مثال، می توان یک سامانه پیش بینی خرابی تجهیزات را در یک واحد صنعتی آزمایش کرد، عملکرد آن را با شاخصهای مشخص سنجید و در کنار آن، الزامات مربوط به مسئولیت پذیری، کیفیت داده و نظارت انسانی را نیز آزمود. به همین دلیل معتقدم صنایع معدنی می‌توانند آزمایشگاه واقعی و عملیاتی حکمرانی هوش مصنوعی باشند؛ یعنی به جای اینکه همه قواعد از ابتدا و صرفا روی کاغذ طراحی شوند، بخشی از آنها در محیط واقعی صنعت آزموده، ارزیابی و سپس به سیاست گذاری ملی منتقل شود. این رویکرد برای کشوری مانند ایران اهمیت بیشتری دارد؛ زیرا ما هم زمان باید از فرصت هوش مصنوعی برای افزایش بهره وری استفاده کنیم و از ایجاد ریسک‌های جدید نیز جلوگیری کنیم.

آقای دکتر این‌ها همه در سطح حکمرانی ملی بود. حالا برگردیم به حاکمیت سازمانی. شما در سوال‌های قبل گفتید شرکت‌ها نباید منتظر دولت بمانند. اما عملاً یک شرکت از کجا شروع کند؟ نسخه شما چیست؟

می توان به‌صورت سه مرحله‌ای حرکت کرد و عمداً از ساده به پیچیده حرکت می‌کند، چون بزرگ‌ترین اشتباه شرکت‌ها این است که می‌خواهند از روز اول یک چارچوب حاکمیتی کامل و پیچیده بسازند و همین جاه‌طلبی، پروژه را متوقف می‌کند.

مرحله اول، تعیین یک «مالک حاکمیت» در سطح هیئت‌مدیره. نه یک کمیته بزرگ، بلکه یک فرد یا یک کمیته کوچک با اختیار روشن که مسئول تایید نهایی هر پروژه هوش مصنوعی پرریسک باشد. تجربه جهانی نشان داده وقتی مسئولیت پخش می‌شود، در عمل هیچ‌کس مسئول نیست.

مرحله دوم، طبقه‌بندی داخلی پروژه‌ها بر اساس ریسک، دقیقاً با الهام از منطق چارچوب اروپایی که پیش‌تر توضیح دادم. یک سیستم پیش‌بینی خرابی تجهیزات ریسک نسبتاً پایینی دارد؛ یک سیستم که تصمیم استخدام یا اخراج می‌گیرد ریسک بسیار بالاتری دارد. سطح نظارت باید متناسب با این ریسک باشد، نه یکسان برای همه.

مرحله سوم، مستندسازی و شفافیت داخلی. هر تصمیمی که یک سیستم هوش مصنوعی می‌گیرد و اثر واقعی روی کسب‌وکار یا افراد دارد، باید قابل ردیابی و توضیح باشد؛ یعنی بتوان گفت این تصمیم بر چه داده‌ای مبتنی بوده و چرا این خروجی به دست آمده. این اصل، که در ادبیات جهانی «تبیین‌پذیری» نامیده می‌شود، هم برای اعتماد داخلی سازمان لازم است و هم اگر روزی حکمرانی ملی سخت‌گیرانه‌تر شد، شرکت از قبل آماده است، نه اینکه غافلگیر شود.

شما پیش‌تر گفتید حاکمیت سازمانی خوب می‌تواند پیشران حکمرانی ملی باشد. این ارتباط را در عمل چگونه می‌توان فعال کرد؟ یعنی چطور تجربه یک شرکت به سیاست ملی تبدیل می‌شود؟

این سوال به یکی از فرصت‌های نادیده‌گرفته‌شده در گفت‌وگوی سیاست‌گذاری ایران اشاره دارد.

در بسیاری از کشورهای پیشرو، رابطه بین بخش خصوصی و نهاد سیاست‌گذار یک‌طرفه نیست؛ یعنی دولت صرفاً قانون‌گذار نیست و شرکت‌ها صرفاً مجری مقررات نیستند. مکانیزم‌هایی وجود دارد که تجربه عملیاتی شرکت‌های پیشرو، مستقیم وارد فرایند سیاست‌گذاری می‌شود. نمونه‌اش همان چارچوب‌های آزمایشی نظارت‌شده است که پیش‌تر توضیح دادم؛ وقتی یک شرکت در آن فضا فناوری را آزمایش می‌کند، داده و تجربه آن مستقیم به نهاد ناظر بازخورد داده می‌شود و قانون نهایی بر اساس واقعیت میدانی نوشته می‌شود، نه صرفاً بر اساس نظریه.

برای ایران، این یعنی هلدینگ‌ها و شرکت‌های بزرگ صنعتی که پیشتر شروع به ساخت حاکمیت داخلی کرده‌اند، باید تجربه‌شان را مکتوب و در قالب مشورت با نهاد سیاست‌گذار ملی ارائه دهند؛ نه به‌شکل شکایت از ابهام قانونی، بلکه به‌شکل پیشنهاد راهکار مبتنی بر تجربه واقعی اجرا.

 در پایان، اگر بخواهید مسیر پیش‌رو، از امروز تا رسیدن به یک اکوسیستم حکمرانی و حاکمیت بالغ در ایران را در یک جمع‌بندی استراتژیک خلاصه کنید، آن جمع‌بندی چیست؟

جمع‌بندی من در سه گزاره خلاصه می‌شود.

گزاره اول: ایران مشکل نبود سیاست ندارد؛ مشکل تعدد و هماهنگی مراجع دارد. حل این مشکل، نیازمند اراده سیاسی برای انتخاب یک مرجع نهایی است.

گزاره دوم: شرکت‌ها نباید منتظر روشن‌شدن کامل تصویر ملی بمانند. حاکمیت داخلی قوی، نه‌تنها ریسک شرکت را در دوران ابهام کاهش می‌دهد، بلکه می‌تواند به‌عنوان الگوی عملی برای سیاست‌گذار ملی هم عمل کند. این یعنی حاکمیت سازمانی و حکمرانی ملی می‌توانند یکدیگر را تقویت کنند، نه فقط منتظر یکدیگر بمانند.

گزاره سوم، و شاید مهم‌ترین آن، این است که زمان خودش یک متغیر رقابتی است. کشورهایی که این هماهنگی را زودتر شکل دهند، سرمایه و استعداد را جذب می‌کنند؛ کشورهایی که در ابهام نهادی بمانند، حتی با بهترین اسناد و بیشترین بودجه، عقب می‌افتند. ایران سند دارد، بودجه دارد، اراده سیاسی دارد. آنچه اکنون مهم است، هماهنگی است. هماهنگی، برخلاف زیرساخت فنی، نه به سرمایه نیاز دارد، نه به فناوری وارداتی؛ فقط به تصمیم نیاز دارد.

#حاکمیت_و_حکمرانی

#معدن

#هوش_مصنوعی

#سرمایه_گذاری_صدرآرین

#امیر_رحیمی_قاضی_کلایه