خلاصه مدیریتی

بیان/ شرح مسئله

ظهور و پیشرفت هوش مصنوعی علاوه‌بر تحولات اقتصادی و اجتماعی، ساختارهای حکمرانی و اقتدار سیاسی را نیز دچار تغییر کرده است. هر‌چند دولت‌ها برای تحلیل داده‌ها، ارتقای خدمات عمومی و امنیت ملی از ابزارهای مبتنی‌بر هوش مصنوعی استفاده می‌کنند، اما این روند می‌تواند چالش‌هایی را در زمینه اقتدار، مشروعیت و به‌طور کلی مفهوم دولت ـ ملت ایجاد کند.

مفهوم اقتدار به قدرت مشروع دولت برای اعمال حاکمیت اشاره دارد و مشروعیت، با پذیرش عمومی و رضایت شهروندان از تصمیم‌گیری‌های دولت پیوند خورده است. ظهور حاکمیت الگوریتمی و ورود ابزارهای تصمیم‌گیری که مستقل از نیروی انسانی عمل می‌کنند، پرسش‌هایی را پیرامون نقش و مشارکت شهروندان در تصمیم‌گیری و همچنین پاسخ‌گویی دولت در برابر شهروندان ایجاد کرده است. گویی با ورود هوش مصنوعی به عرصه حکمرانی نوعی از مشروعیت فناورانه در تقابل با مشروعیت در معنای سنتی قرار می‌گیرد که بازبینی پیرامون معنای این مفهوم را ناگزیر می‌سازد.

به هر روی، هوش مصنوعی، مفهوم اقتدار و مشروعیت دولت ـ ملت را بازتعریف می‌کند. خوانش نوین این مفاهیم در پس تحولاتی که مبتنی‌بر ظهور و پیشرفت هوش مصنوعی رخ می‌دهد فارغ از اینکه به تضعیف یا تقویت اقتدارگرایی دولت و مشروعیت نهادهای سیاسی بینجامد، واقعیتی غیرقابل انکار است که تبیین تعادلی حق‌مدارانه میان نوآوری فناورانه و اصول بنیادین حقوق اساسی را طلب می‌کند. از این­رو در این گزارش، با ابتنای بر این پرسش اساسی که «مواجهه مفهوم اقتدار و مشروعیت با هوش مصنوعی چگونه خواهد بود؟» تزاحم یا تعارضات احتمالی این رویارویی بررسی خواهد شد.

نقطه‌نظرها/ یافته‌های کلیدی

واکاوی مفاهیم اقتدار و مشروعیت در این گزارش گواهی می‌دهد که ما در آستانه یک تحول مفهومی در ذات دولت ایستاده‌ایم؛ جایی که دو رکن بنیادین حکومت و حکمرانی، یعنی اقتدار و مشروعیت، در حال بازتولید معنایی خود در بستر دیجیتال هستند. از یک‌سو، با گذار از اقتدار کلاسیک وبری که بر انحصار قوه قهریه در قلمرو سرزمینی استوار بود، شاهد ظهور «اقتدار الگوریتمی» هستیم. در این نظم نوین، قلمرو حاکمیت از «خاک» به «داده» گسترش یافته و توانایی پردازش، پیش‌بینی و هدایت رفتار شهروندان، جایگزین ابزارهای سنتی اعمال قدرت شده است. دولتی که فاقد این اقتدار الگوریتمی باشد، عملاً بر فضای زیست شهروندان خود تسلطی ندارد و حاکمیتش به پوسته‌ای حقوقی بدون نفوذ واقعی تقلیل می‌یابد.

از سوی دیگر، همپای این تغییر در اقتدار، لنگرگاه پذیرش حکومت نیز دگرگون شده و مفهوم نوظهور «مشروعیت فناورانه» در حال جایگزینی یا تکمیل صورت‌بندی‌های سنتی مشروعیت است. این نوع از مشروعیت، دیگر نه صرفاً بر فرایندهای سیاسی ورودی (مانند صندوق رأی)، بلکه بر «کارآمدی»، «پاسخگویی هوشمند» و «عدالت محاسباتی» استوار است. شهروند عصر دیجیتال، مشروعیت دولت را در توانایی آن برای تأمین امنیت سایبری، ارائه خدمات پیش‌دستانه و تضمین بی‌طرفی الگوریتم‌ها می‌جوید. خطر راهبردی آنجاست که اگر دولت نتواند این «مشروعیت فناورانه» را از طریق توسعه زیرساخت‌های بومی تأمین کند، مرجعیت حکمرانی به صاحبان پلتفرم‌های جهانی واگذار شده و رابطه ملت و دولت از یک «قرارداد اجتماعی»، به یک «قرارداد خدماتی» متزلزل میان کاربر و شرکت‌های فناوری تنزل می‌یابد.

در چنین بستری، توسعه اکوسیستم بومی هوش مصنوعی و بازآرایی وظایف قوای سه‌گانه، یک «ضرورت وجودی» برای بقای دولت است. تفکیک قوا در این پارادایم جدید باید به گونه‌ای باشد که قوه‌ی مجریه زیرساخت «اقتدار الگوریتمی» را بنا نهد، قوه‌ی مقننه مرزهای اخلاقی آن را ترسیم کند و قوه‌ی قضائیه ضامن تحقق «مشروعیت فناورانه» از طریق عدالت الگوریتمی باشد. پیام نهایی این گزارش صریح است: اگر جمهوری اسلامی ایران نتواند منطق حکمرانی خود را با این دو مفهوم همگام سازد، با خطرِ «تُهی‌شدگیِ معنایِ دولت» مواجه خواهد شد؛ لذا هزینه برای هوش مصنوعی، سرمایه‌گذاری برای حفظ «دولت بودگی» و «حق حاکمیت ملی» در جهان آینده است.

پیشنهاد راهکار تقنینی، نظارتی یا سیاستی

در این چشم‌انداز، مهم‌ترین وظیفه خط‌مشی‌گذاران آن است که رویکردی هماهنگ، چندوجهی و مبتنی‌بر ساختار سه‌گانه قوا اتخاذ کنند. چرا که تنها در سایه تقسیم مسئولیت‌ها میان قوه مجریه، قوه مقننه و قوه قضائیه می‌توان از تشتت تصمیم‌ها جلوگیری کرد و مسیر توسعه هوش مصنوعی را به‌گونه‌ای هدایت کرد که هم با ارزش‌های ملی همخوانی داشته باشد و هم پاسخ‌گوی نیازهای امنیتی، اجتماعی و اقتصادی کشور باشد. چنین رویکردی نه فقط مبتنی‌بر کارآمدی فنی، بلکه بر اصول عدالت، شفافیت، پاسخ‌گویی و مشروعیت اخلاقی استوار است.

قوه مجریه با حمایت از سازمان ملی هوش مصنوعی، می‌تواند بر توسعه زیرساخت‌های بومی نقش‌آفرین باشد و بر تبعیض‌های الگوریتمی نظارت کند. همچنین با ارتقای سطح سواد دیجیتال مسئولان و مردم، بستر مناسب جهت به‌کارگیری این فناوری را تسهیل بخشد. قوه مقننه می‌تواند اصول بنیادین استفاده از هوش مصنوعی را قانونگذاری و قوانین فعلی ازجمله قانون جرایم رایانه‌ای و مدیریت خدمات کشوری را اصلاح کند و دولت را ملزم سازد تا دستورالعمل‌های اجرایی پیرامون این مهم را تهیه و تدوین کند. این قوه باید بسترهای مشارکت نهادهای علمی، تخصصی و عمومی را فراهم سازد تا فرایند قانونگذاری با بررسی‌ها و پژوهش‌های همه‌جانبه صورت گیرد. قوه قضائیه نیز باید با آموزش قضات، تدوین آیین‌نامه‌های قضایی مرتبط با هوش مصنوعی و نظارت بر عملکرد ابزارهای فناورانه در فرایند دادرسی، مسیر عدالت دیجیتال را هموار کند. رسیدگی به دعاوی مربوط به نقض حریم خصوصی، تبعیض الگوریتمی و سوگیری‌های سیستمی نیز باید در دستور کار قرار گیرد.

1. مقدمه

ظهور هوش مصنوعی در جهان معاصر، کاربست مفاهیم سنتی از پیش‌موجود را با پرسش‌هایی روبه‌رو کرده است. با وجود آنکه ابزارهای مبتنی‌بر هوش مصنوعی به‌طور فزاینده‌ای بر سازوکار‌های تصمیم‌گیری، ساختار حکمرانی و عملکرد نظام‌های سیاسی تأثیر می‌گذارند، درک تلاقی این فناوری با شالوده‌ اصلی نظام سیاسی و عناصر سازنده آن مقدم بر تأمل پیرامون آثار آن قرار می‌گیرد.

با انعقاد معاهده وستفالیا در سال 1648، مفهوم دولت ـ ملت به‌عنوان چارچوب سازماندهی سیاسی و سازوکار‌ تعریف رابطه انسان با قدرت به میان آمد. این مفهوم که امروزه به‌عنوان دولت شناخته می‌شود شکل خاصی از مفهوم سیاسی دولت (یک موجودیت سیاسی یا یک سرزمین) است که بر یک ملت (یک موجودیت فرهنگی) حکومت می‌کند و مشروعیت خود را با اعمال اقدام‌های رضایت‌بخش برای شهروندان تأمین می‌کند [1]. لویاتان برآمده از معاهده وستفالیا هرچند در ابتدا بر اقتدار عامل قدرت تأکید داشت؛ اما رفته‌رفته با تفسیر عناصر سه‌گانه‌ خود که متشکل از مرز سرزمینی مشخص، جمعیت و حاکمیت بود، معنای تازه‌ای به مفهوم دولت ـ ملت بخشید.

پیوند خوی عصیانگر قوه «اقتدار» با «مشروعیت»، دولت و ملت را به دو روی سکه چارچوب‌های سیاسی و حکمرانی تبدیل کرد. اقتدار که حاکمیت را به‌عنوان تصمیم‌گیر نهایی به رسمیت می‌شناخت بعد از جنگ جهانی دوم و از سال 1945 با ظهور بازیگران جدید در عرصه بین‌المللی و تعدیل اصول حکمرانی و منع مداخله در امور داخلی دولت‌ها از معنای مطلق خود خارج و رفته‌رفته به مفهومی نسبی تقلیل یافت [2].

در مقابل، مشروعیت مربوط به پذیرش و توجیه اقتدار توسط مردم تحت حکومت می‌شود؛ موضوعی که پدیدآور مفهوم اقتدار مشروع و نسبی‌شدن آن خواهد بود. گونه‌شناسی سه‌گانه ماکس وبر از سه شکل اقتدار سنتی، اقتدار کاریزماتیک و اقتدار قانونی ـ عقلانی سخن می‌گوید و دولت‌های مدرن را به نوع سوم آن سوق می‌دهد [3]. در‌هرحال، باید اشاره داشت که مفهوم مشروعیت برای ثبات و عملکرد سازوکار‌ی سیاسی امری حیاتی و مهم محسوب می‌شود؛ زیرا زیربنای انطباق داوطلبانه شهروندان با قوانین و سیاست‌ها [4] و مقبولیت عنصر اقتدار از سوی شهروندان با همین مفهوم تضمین می‌شود.

ادغام هوش مصنوعی در ساختارهای حاکمیتی فرصت‌ها و چالش‌هایی را در رابطه با اقتدار و مشروعیت ایجاد می‌کند. ابزارهای مبتنی‌بر هوش مصنوعی می‌توانند بر بهبود عملکرد و کارایی سازوکار‌های سیاسی و تصمیم‌گیری اثرگذار باشند. با این‌حال، این ابزارها نگرانی‌هایی را در رابطه با شفافیت، پاسخ‌گویی و البته فرسایش بالقوه نظارت انسانی ایجاد می‌کنند [5]. تصمیم‌های اتخاذ شده توسط یا تحت‌تأثیر هوش مصنوعی ممکن است فاقد مشروعیتی باشد که از جانب نیروهای انسانی و فرایندهای دمکراتیک ناشی می‌شود [6]؛ موضوعی که پرسش‌هایی پیرامون اعمال صحیح قدرت در زمینه‌هایی به میان آورد که هوش مصنوعی به آنها ورود کرده است.

برای مقابله با این چالش‌ها، توسعه چارچوب‌های حاکمیتی به‌گونه‌ای که ابزارهای مبتنی‌بر هوش مصنوعی را در چارچوب معیارهای قانونی، اخلاقی و اجتماعی مقبول تعریف کند، ضرورت می‌یابد [7]. این امر شامل ایجاد سازوکار‌های پاسخ‌گویی شفاف، ارتقای شفافیت در فرایندهای تصمیم‌گیری توسط یا تحت‌تأثیر هوش مصنوعی و مشارکت بازیگران مختلف در توسعه و نظارت بر فناوری‌های هوش مصنوعی است [8].

اما پیش از ترسیم چارچوب‌های تنظیم‌گر که مواجهه این دو با یکدیگر را در بستری متوازن و متعادل ممکن می‌سازد، تبیین چالش‌های هوش مصنوعی با عناصر اصلی مفهوم دولت ـ ملت ضرورت دارد. تلاقی هوش مصنوعی با مفهوم دولت ـ ملت مستلزم بررسی انتقادی چگونگی ایجاد و حفظ اقتدار و مشروعیت در عصر دیجیتال است. با همسو کردن حکمرانی هوش مصنوعی با اصول دمکراتیک و ارزش‌های اجتماعی، می‌توان مشروعیت اقتدار سیاسی را در یک چشم‌انداز دیجیتالی فزاینده حفظ کرد [9]. از‌آنجا‌‌که هوش مصنوعی بر حاکمیت و برساخت‌های اجتماعی تأثیر می‌گذارد، خط‌مشی‌گذاران باید به‌طور فعال به پیامدهای این فناوری‌ها برای حفظ ارزش‌های دمکراتیک و اطمینان از مشروعیت مستمر نهادهای سیاسی بپردازند.

2. پیشینه

با ظهور و پیشرفت هوش مصنوعی، مرکز پژوهش‌های مجلس شورای اسلامی گزارش‌های تحلیلی و توصیفی از ورود این فناوری در حوزه‌های مختلف تهیه و تنظیم کرده است. دفتر مطالعات فناوری‌های نوین، مطالعات بنیادین حکومتی، مطالعات حکمرانی، مطالعات انرژی، صنعت و معدن، مطالعات سیاسی، مطالعات آموزش و فرهنگ هر یک تلاش‌هایی در راستای تبیین ارتباط هوش مصنوعی با امور مختلف داشته‌اند. طرح‌هایی که تا پیش از این مورد توجه قرار گرفته‌ است عمدتاً به ارزیابی فناوری‌های مبتنی‌بر هوش مصنوعی و حدود به‌کارگیری آن در کشورهای مختلف متکی بوده‌ است. گزارش‌هایی درخصوص ظهور و پیشرفت هوش مصنوعی در کشورهای آلمان، هند، امارات متحده عربی، بریتانیا، چین، روسیه و... تدوین شده است که اگرچه در تبیین جایگاه هوش مصنوعی و مواضع کشورها نسبت به آن بسیار روشنگر است اما فاقد نگاهی بنیادین و مبنایی است.

ازسوی دیگر، برخی گزارش‌ها مبتنی‌بر ورود فناوری‌های مبتنی‌بر هوش مصنوعی بر دستگاه‌های سیاسی و تصمیم‌گیر حاکمیتی است که رهنمودهای را در مجلس شورای اسلامی، نظامی اداری و پارلمانی کشور مطرح می‌کند. اما این گزارش‌ها نیز عمدتاً با تکیه بر استقرار دولت ـ ملت در سطح معنایی و مفهومی خود به آثار ورود هوش مصنوعی به آن می‌پردازند. شتاب و سرعت بی‌سابقه تحولات در عرصه هوش مصنوعی، چالشی هستی‌شناختی در مفهوم دولت ـ ملت ایجاد کرده‌ است که تحلیل‌های صرفاً توصیفی، توان پاسخ به پرسش‌ها و رفع ابهامات را ندارد.

این در حالی است که این گزارش در تلاش است تا با نگاهی بنیادین و عمقی، مواجهه هوش مصنوعی و مفهوم دولت ـ ملت را با نگاه حقوق اساسی و فلسفه سیاسی تبیین کند. به دیگر سخن، در این پژوهش تلاش بر آن است که هوش مصنوعی نه صرفاً یک ابزار در خدمت دولت، بلکه یک عامل تحول‌آفرین در خود معنای دولت، اقتدار و مشروعیت سیاسی به چالش بکشاند. این نگاه، امکان فهمی چند لایه از مناسبات قدرت، قانون و مشروعیت را با فناوری‌های نوین فراهم می‌سازد.

به همین منظور، در این گزارش طی سه بخش به زوایای مختلف سؤالات اصلی و فرعی که پیش‌تر آمد، پرداخته خواهد شد. در وهله اول، با نگاهی تاریخی و فلسفی سیر شکل‌گیری مفهوم دولت ـ ملت بیان خواهد شد تا جایگاه دو عنصر اقتدار و مشروعیت در تبیین مفهومی این مهم، روشن شود. در ادامه با ترسیم چیستی مفهوم اقتدار، مواجهه آن با هوش مصنوعی و چالش‌ها و فرصت‌های احتمالی به میان خواهد آمد؛ امری که در بخش بعد نیز با جدال عنصر مشروعیت و هوش مصنوعی ادامه خواهد یافت تا در نهایت و ضمن بخش سوم، امکان‌های ساماندهی و تنظیم این دو امر حیاتی و خطیر در جامعه جهانی و رابطه انسان با قدرت و تکنولوژی از منظر کارکردگرایی بررسی شود.

جدول 1. جدول تحلیل پیشینه پژوهشی

مأخذ: یافته های پژوهش.

3. اقتدار و هوش مصنوعی: هم‌زیستی یا چالش؟

در فلسفه سیاسی، مفهوم بنیادین اقتدار در پیوندی عمیق با مشروعیت، قدرت و برساخت‌های اجتماعی قرار دارد. هسته سخت این مفهوم، نقطه تلاقی دو خواسته‌ای است که اساس قدرت را شکل می‌دهد؛ خواسته‌هایی که گاه در زبان حق و تکلیف معنا می‌شود و گاه از تمایلات درونی و خوی انسان به قدرت سرچشمه می‌گیرد؛ خواسته‌هایی از جنس فرمان دادن و فرمان بردن. ترسیم میل به اعمال قدرت و انتظار اطاعت در عالَم حقوق سبب شد تا مفهوم اقتدار از مفاهیمی چون اجبار و زور متمایز شود و رنگ‌وبویی متوازن و حق‌مدار به خود گیرد.

بااین‌حال، تحولات اجتماعی و تطور زیست جمعی بشر حدود و ثغور مفهوم اقتدار را همواره دستخوش تغییر قرار داده است. ظهور هوش مصنوعی در حکمرانی دولتی هم تنها یک نوآوری تکنولوژی محسوب نمی‌شود، بلکه یک تغییر پارادایمی در مفهوم و مقیاس اقتدار است؛ تغییری که فارغ از ارزیابی لزوم استفاده از هوش مصنوعی در حکومت‌داری یا کنترل ورود این ابزارها به حوزه‌های سیاسی و حکمرانی، تبیین تأثیر این دو مفهوم در یکدیگر را بر هر تصمیمی مقدم خواهد کرد. ازاین‌رو، در این بخش، ابتدا با بررسی مفهوم و جایگاه اقتدار در دولت ـ ملت و فلسفه سیاسی، ظهور و حضور مؤلفه‌های شکل‌دهنده آن تبیین می‌شود و در ادامه ضمن توجه به ویژگی‌های هوش مصنوعی، تلاقی و مواجهه این دو مفهوم روشن می‌شود.

3-1. مفهوم اقتدار: از لویاتان تا رضایت شهروندان

یکی از عناصر مفهوم دولت ـ ملت اقتدار است. مفهومی که با اولین تلاش‌های فلاسفه سیاسی و اجتماعی در راستای درک سازوکار حکومت مورد توجه قرار گرفت و تا به امروز تحولات بسیاری را تجربه کرده است. اقتدار دولت ـ ملت از نظر تاریخی ریشه در معاهده وستفالیای سال 1648 دارد که پس از آن به‌عنوان سنگ‌بنای نظم سیاسی نهادینه شده است [10]. ماهیت اقتدار و حدود به‌کارگیری آن در جوامع سیاسی از قرن‌ها پیش، مسئله اصلی سیاست‌ورزان و متفکران بوده است. برخی با اعطای جوازی مسلم و مطلق، صاحبان قدرت را مالکان بلامنازع حکومت‌داری دانسته‌اند و برخی دیگر با قبول رنج اقتدارگرایی محض، در پی تنظیم و بازخوانی آن برآمده‌اند.

نگاه فیلسوفانی چون هابز به مفهوم اقتدار جنبه‌های مطلق آن استوار بود. توماس هابز وجود اقتداری متمرکز را عامل رهایی انسان از هرج‌ومرج یا آنچه او «وضعیت طبیعی» می‌خواند، می‌دانست[11] و صلح و امنیت را ماحصل اعطای قدرت وضع و اجرای قوانین به او می‌دید. لویاتانی که هابز ترسیم می‌کرد ماهیتی مطلق و غیرقابل تقسیم داشت که هر تلاشی برای تحدید یا تغییر آن به‌ معنای بازگشت انسان به وضع طبیعی خواهد بود.

بر خلاف هابز، جان لاک بر حکومت محدود و حمایت از آزادی‌های فردی تأکید می‌کند. او مشروعیت اقتدار را نه به شکلی مثبت که به‌گونه‌ای مشروط ترسیم می‌کند و آن را منوط به رضایت شهروندان می‌داند. او در کتاب خود از لزوم انعقاد قراردادی سخن می‌گوید که اقتدار حکومت را در عین احترام و حمایت از آزادی‌های فردی به رسمیت می‌شناسد [12]. رابطه‌ای که از سوی لاک درباره اقتدار مطرح می‌شود نه رابطه‌ای یک‌سویه که ارتباطی متقابل میان حکومت‌کنندگان و حکومت‌شوندگان است. او این رابطه را مبتنی‌بر رضایت می‌داند و ادعا می‌کند که افراد امکان تغییر دولت‌ها را نیز دارند [12].

بااین‌حال، تکامل مفهوم اقتدار مرهون تلاش نظریه‌پردازانی است که در جست‌وجوی تصویری مقبول از لویاتانی برآمدند که خشم و سلطه زبان حکمرانی و فرمانروایی‌اش بود. متفکرانی که با تفکیک دو مفهوم اقتدار و قدرت، از لایه‌های هنجاری فرمان‌دادن در کنار هنجارهای چندلایه فرمان‌بردن سخن گفتند. یکی از مهم‌ترین آنها ماکس وبر است که با تقسیم اقتدار به سه نوع 1. سنتی، 2. کاریزماتیک و 3. قانونی ـ عقلانی[13] سلسله‌مراتبی از تطور جریان سلطه آن‌گاه که پدرسالارانه و موروثی عمل می‌کند تا وقتی که به شکلی دمکراتیک درمی‌آید، ارائه می‌دهد. به زعم وبر، اقتدار تنها توانایی وادارکردن به اطاعت نیست، بلکه به رسمیت شناختن حق انجام این کار است که در کنار حضور نیروی قدرت به تأیید افراد هم نیازمند است. هانا آرنت نیز با تأکید بر تفاوت اقتدار با اقناع و اجبار، حاکمیت اجبار را در نبود اقتدار ممکن می‌دانست و استفاده از اقناع را نقطه پایان آن می‌دید [14]. گویی در دیدگاه این متفکران، خوی سلطه‌جوی قدرت رفته‌رفته در مسیر تحولات اجتماعی بقای خود را در همراهی با مردمانی می‌بیند که انتظار اطاعتی بی‌چون‌وچرا از آنها می‌رفت.

به‌طورکلی باید اشاره داشت که توسعه مفهوم دولت ـ ملت ماهیت اقتدار را نیز دستخوش تغییرهایی کرده است. جهانی شدن، از بین رفتن مرزهای سرزمینی، تغییر شکل سیاست‌های اقتصادی و تقویت هویت‌های فراملی همگی ازجمله مواردی است که بازخوانی اندیشه‌های شکل‌دهنده دولت ـ ملت و در رأس آن مفهوم اقتدار را ضرورت می‌بخشد. در این بین، ظهور هوش مصنوعی و استفاده از ابزارهای مبتنی‌بر آن نیز می‌تواند در معنا و مفهوم اقتدار اثرگذار باشد که در بخش‌های بعد به آن اشاره خواهد شد.

3-2. هوش مصنوعی: فراتر از مرزهای انسانی

هوش مصنوعی با تعریف ابزارها و سازوکارهایی مبتنی‌بر علوم کامپیوتر، اقدام‌هایی که پیش از این به کمک هوش انسانی انجام می‌شد را به‌طور ماشینی و بی‌نیاز از نیروی انسانی ممکن می‌سازد. این فناوری را می‌توان به دو نوع 1. هوش مصنوعی محدود یا ضعیف و 2. هوش مصنوعی عمومی یا قوی تقسیم کرد. نوع اول سیستم‌هایی را دربرمی‌گیرد که برای انجام وظایف خاص همچون تشخیص چهره، ترجمه و... طراحی شده‌اند. این در حالی است که نوع دوم شامل ماشین‌هایی است که توانایی درک، یادگیری و اقدام در طیف وسیعی از وظایف و بسیار مشابه مهارت‌های شناختی انسان‌ها می‌شود [15].

هر‌چند در تقسیم‌بندی انواع مختلف هوش مصنوعی، نوع سومی از آن نیز تصور می‌شود که با پیشی‌گرفتن از قدرت‌شناختی انسان خود به‌عنوان هوشی مستقل و نه منطبق یا وابسته به هوش مصنوعی مورد استفاده قرار می‌گیرد؛[16] اما آنچه تا به امروز در محدوده و مقیاس تعاریف موجود در هوش مصنوعی به کار گرفته شده است، معنای اول و دوم آن است. گویی امید انسان به در دست‌ داشتن و کنترل هوش مصنوعی، تصور برآمدن هوشی نوین در کنار هوش انسانی را بعید بداند و تأمل پیرامون چنین پدیده‌ای را برنتابد. بااین‌حال، هوش مصنوعی واجد ویژگی‌هایی است که درک آن نه‌تنها سازوکار نمونه‌های موجود آن را تبیین می‌کند که امکان‌سنجی وقوع انواع دیگر آن در آینده را هم ممکن می‌سازد.

ازاین‌رو، پیش از بررسی مواجهه اقتدار با این مهم و بعد از آنکه سیر تحولات مفهوم اقتدار در فلسفه سیاسی مطرح شد، لازم است تا اجزای کلیدی و ویژگی‌های هوش مصنوعی نیز تبیین شود.

یکی از سازوکار‌های هوش مصنوعی یادگیری ماشین است که با ترسیم مسیری متشکل از داده‌های مختلف، امکان پیش‌بینی و تصمیم‌گیری هوش مصنوعی را فراهم می‌کند. در ادامه، یادگیری عمیق است که قدرت بیشتری به هوش مصنوعی اعطا می‌کند. این سیستم سبب می‌شود تا هوش مصنوعی از امکانات مختلف جهت پردازش عمیق‌تر داده‌ها استفاده کند و ابتکار عمل را به دست گیرد [17]. انواع دیگری از ابزارهای مبتنی‌بر هوش مصنوعی هرچند با دریافت داده‌ها به دنبال طراحی سازوکار‌هایی خودکار هستند، اما شاید بتوان میان ابزارهای تصمیم‌گیر و ابزارهایی که فرایند تصمیم‌گیری را تسهیل و سرعت می‌بخشند، قائل به تفاوت شد. با این تصور، ابزارهای مبتنی‌بر هوش مصنوعی که در مسیر پیشی‌گرفتن از هوش انسانی و اعلام استقلال از آن به تصمیم‌گیری مشغول می‌شوند، مسئله اصلی حکمرانی‌های نوین و حکومت‌های معاصر به حساب آیند. آنچه در تعریف هوش مصنوعی با دولت ـ ملت و مفهوم اقتدار ارتباط می‌یابد، خصیصه‌ای است که به ابزارهای ماشینی امکان اداره امور یا قدرت تصمیم‌گیری می‌دهد.

3-3. اقتدار و هوش مصنوعی: آینده‌ای مبهم؟

مواجهه اقتدار و هوش مصنوعی پرسش‌های جدیدی پیرامون حدود و ثغور مفهوم اقتدار ایجاد می‌کند. لویاتان قرن هفدهمی که با ادعای سلطه کامل و قدرتی بلامنازع سربرآورد، با تأکید متفکران به آزادی‌های فردی و تبیین نقش رضایت شهروندان، تن به عقب‌نشینی داد. سلطه مطلق در پس حق‌خواهی و آزادی‌طلبی قیودی را پذیرفت و ناگزیر به قدرتی مشروط و قابل تغییر و تعدیل تبدیل شد. حال که در جهان معاصر ظهور هوش مصنوعی تردیدهایی پیرامون کاربست مفهوم اقتدار ایجاد کرده‌ است، دو سطح مهم از وقایع قابل تأمل و پیگیری است. اول‌ آنکه، آیا اساساً ابزارهای هوش مصنوعی امکان تلاقی با مفهوم اقتدار را دارند؟ به عبارت دیگر، آن ضرورتی که هوش مصنوعی را به اقتدار پیوند می‌دهند و سخن‌گفتن از دنیای کامپیوتر و سیاست را به هم مرتبط می‌سازد چیست؟ و دوم آنکه، آیا عامل اقتدار تاب پذیرش تحولی دیگر را خواهد داشت؟ پرسشی که ‌جز با تبیین هزینه‌های انکار هوش مصنوعی در جهان معاصر و ورود آن به فلسفه سیاسی حل نخواهد شد. ازاین‌رو، در این بخش نحوه تأثیر هوش مصنوعی بر مفهوم اقتدار مورد بررسی قرار می‌گیرد و ابزارهای مبتنی‌بر هوش مصنوعی که ممکن است در مسیر حکومت‌کردن و فرمان راندن با عامل اقتدار مرتبط باشد، تبیین می‌شود.

در برخی مواقع، هوش مصنوعی می‌تواند به‌عنوان یک ابزار اقتدار مورد استفاده قرار گیرد. در این وضعیت، عامل اقتدار با بهره‌گیری از ابزارهای مبتنی‌بر هوش مصنوعی وظایف خود را پیش می‌برد. ابزارهایی که در این راستا می‌توان به آنها اشاره کرد، بیش‌تر بر سیستم‌های نظارتی، تصمیم‌گیری، اداره امور و نظم اجتماعی تمرکز دارند. به‌عنوان نمونه، ابزارهای پلیسی پیش‌بینی‌کننده یکی از این موارد هستند که با تکیه بر داده‌های موجود در خصوص جرائم، برای پیشگیری از وقوع آنها به کار گرفته می‌شوند [18].

به‌کارگیری ابزارهای مبتنی‌بر هوش مصنوعی در امور مربوط به عامل اقتدار در نگاهی دو‌سویه هم می‌تواند پایه‌های حکومت‌داری را تقویت بخشد و هم ممکن است بقای آن را متزلزل کند. استفاده از هوش مصنوعی در تسهیل مدیریت اداری و کنترل نظم اجتماعی اقتدار را از مفهومی یک‌جانبه و مطلق به بستری پویا تبدیل می‌کند و می‌تواند آغازگر تحولاتی مثبت در عرصه حکومت‌داری شود. بااین‌حال، تمایل اقتدارگرایان به استفاده از هوش مصنوعی ممکن است هوش مصنوعی را به ابزاری برای سرکوب و تهدید تبدیل کند. خدمات اجتماعی که دولت ارائه‌دهنده آن است در یک نگاه به شش دسته تقسیم می‌شود.

جدول2. دسته‌بندی انواع خدمات [19]

در هر یک از حوزه‌هایی که مطرح شد، امکان به‌کارگیری ابزارهای مبتنی‌بر هوش مصنوعی برای دولت فراهم است. بهبود عملکرد دولت در نتیجه ادغام هوش مصنوعی در خدمات عمومی می‌تواند سبب ارتقای رضایت شهروندان شود [20]. امری که در حفظ پایه‌های موجودیت اقتدار یاری‌رسان است و به پاس همراهی آن با تحولات اجتماعی، به حافظ بقایش تبدیل می‌شود.

ازسوی دیگر، مطابق با آنچه در ساختارهای سنتی حکومت‌داری مطرح شد، نگاه فلسفه سیاسی به مفهوم اقتدار بر تصمیم‌ها و رویکردهایی مبتنی است که ازسوی افراد صورت می‌گیرد. گویی اقتدار از طریق رویه‌هایی اعمال می‌شود که ریشه در چارچوب‌های هنجاری همچون قوانین و مقررات دارند و توجیه‌بخش اقدام‌های دولت محسوب می‌شوند [21]. گویی ابتنای عملکرد اقتدار بر قوانین مشخص و روشن از پیش موجود هم به اقدام‌هایی که انجام می‌شود وجهی عقلانی می‌دهد و هم متعاقب آن امکان پاسخ‌گویی و مسئولیت را مهیا می‌کند. ظهور هوش مصنوعی در عرصه اقتدار، نوع جدیدی از رویه‌ها را ایجاد می‌کند که فاقد توجیهات این‌چنینی است. انسان معاصر در مواجهه با هوش مصنوعی در عرصه اقتدار، خود را سردرگم میان تصمیم‌هایی می‌بیند که سازوکار اتخاذ آنها نه در متن مصرح قوانین و مقررات که در کدهایی کامپیوتری خلاصه شده‌است.

هنجار حقوقی به‌عنوان مؤلفه اصلی هر نظام حقوقی نقش اساسی در تنظیم روابط دولت و شهروندان ایفا می‌کند [22]. این هنجار حقوقی ماحصل نظامی است که با سازوکارهای مشخص مسیر الزامی‌شدن هنجار و وجاهت آن را پیموده است. این درحالی است که سیستم‌های هوش مصنوعی ممکن است رویه‌های تصمیم‌گیری را با همبستگی‌های آماری جایگزین کند که فاقد توجیه هنجاری است [23]. برای مثال، در برخی کشورها از الگوریتم‌های پیش‌بینی جرم استفاده می‌شود که بر پایه داده‌های آماری، مناطقی را به عنوان پرخطر شناسایی می‌کنند؛ بدون آن‌که مبنای حقوقی مشخصی برای مداخله در آن مناطق وجود داشته‌باشد. این امر فارغ از این‌که پیوندهای ارتباط شهروندان با قدرت را دچار ابهام می‌کند، پایه‌های اخلاقی و قانونی دولت و مفهوم اقتدار را نیز دگرگون می‌سازد. موضوعی که به خصوص با رکن دیگر مفهوم دولت ـ ملت که همانا مشروعیت و رضایت شهروندان است در ارتباطی تنگاتنگ قرار می‌گیرد.

در کنار رویکردهای سنتی که هوش مصنوعی را ابزاری در دستان عامل اقتدار می‌دانند، یک احتمال مهم دیگر نیز وجود دارد و آن این است که هوش مصنوعی خود به‌عنوان یک عامل مستقل و نوین از قدرت عمل کند. این دیدگاه، که با نظریه‌های پست‌مدرن و پساساختارگرا سازگار است، مفاهیم کلاسیک فلسفه سیاسی را به چالش می‌کشاند. در این رویکرد هوش مصنوعی یک پدیده خنثی و صرفاً فنی نیست، بلکه دارای ابعاد عمیق سیاسی است و مفاهیم سنتی قدرت را به چالش می‌کشد [24]. به عبارت دیگر، قدرت در این سطح نه یک پدیده متمرکز و از بالا به پایین، بلکه یک شبکه نامتمرکز و مولد است که در سراسر جامعه جریان دارد.

از دیدگاه متفکرانی همچون میشل فوکو، قدرت صرفاً ممنوع نمی‌کند یا محدود نمی‌سازد، بلکه دانش و حقیقت را تولید می‌کند. قدرت و دانش به‌طور جدایی‌ناپذیری به هم مرتبط هستند. این نظریه می‌تواند در درک مفهوم «قدرت الگوریتمی» یاری‌رسان باشد. فوکو به تفصیل به رابطه تولیدی و جدایی‌ناپذیر قدرت و دانش می‌پردازد. هرچند او به‌طور مستقیم درباره هوش مصنوعی نمی‌نویسد، اما این آثار چارچوب نظری لازم برای تحلیل «قدرت الگوریتمی» را فراهم می‌کنند [25]. این امر بدان معناست که الگوریتم‌ها تنها اطلاعات را پردازش نمی‌کنند، بلکه واقعیت اجتماعی را نیز تولید و بازتولید می‌کنند. برای مثال، الگوریتم‌های شبکه‌های اجتماعی که محتوا را به ما پیشنهاد می‌دهند، در حال «تولید دانش» و «شکل‌دهی به افکار عمومی» هستند. این فرایند، نمونه‌ای از همان ارتباط جدایی‌ناپذیر قدرت و دانش است که فوکو مطرح کرد. این قدرت، نه از طریق زور، بلکه از طریق کنترل نامحسوس بر اطلاعات و انتخاب‌ها عمل می‌کند.

در واقع، این امر نشان‌دهنده آن است که هوش مصنوعی همواره به‌مثابه یک عامل تحت کنترل و نظارت اقتدار عمل نمی‌کند، بلکه خود می‌تواند مولد طرحی نوین از این مفهوم باشد که نظریات کلاسیک فلسفه سیاسی در تبیین وجاهت منطقی و فلسفی این امر با چالش مواجه شوند. در چنین حالتی معنای سوم از هوش مصنوعی که فراتر از هوش انسانی و مهارت‌های شناختی عمل می‌کند، خود به‌عنوان عاملی مستقل معنای تازه‌ای به مفاهیم سیاسی از پیش موجود می‌بخشد. در این شرایط، نظریات پساساختارگرایانه فلسفه سیاسی و اندیشه‌هایی که تداوم مفهوم اقتدار را در صورت کلاسیک خود به چالش کشیده‌اند، بیشترین ارتباط مفهومی را با این تحول پیدا خواهند کرد.

ازاین‌رو، ضمن توجه به ابزارهایی که هوش مصنوعی برای بهبود کیفیت و عملکرد دولت‌ها ارائه می‌دهد باید اشاره داشت که ماهیت اقتدار نیز ممکن است دستخوش تحولاتی شود. به دیگر سخن، در مواجهه هوش مصنوعی و اقتدار، یک احتمال بر به‌کارگیری ابزارهای هوش مصنوعی جهت تسهیل اشکال مشارکت و ارائه خدمات عمومی ازسوی دولت است و احتمال دیگر به چالش‌های قانونی و اخلاقی مربوط می‌شود. ظهور مدل‌های ترکیبی در اقتدار که در آن قابلیت‌های هوش مصنوعی با ملاحظات هوش انسانی برای تصمیم‌گیری ادغام می‌شود می‌تواند تصویر نوین مفهوم اقتدار در عصر هوش مصنوعی باشد.

4. مشروعیت در عصر هوش مصنوعی؛ از اراده‌ مردم تا اقتدار الگوریتم‌ها

4-1. مفاهیم بنیادین مشروعیت در فلسفه سیاسی

همان‌طور که اشاره شد، مفهوم مشروعیت در فلسفه سیاسی به‌عنوان عامل موجهه اقتدار شناخته می‌شود. نظریه‌پردازان و متفکران در پاسخ به این پرسش که «چه چیزی سبب مشروعیت عامل قدرت می‌شود؟»، عوامل مختلفی را برگزیده‌اند. در نگاه ژان ژاک روسو، رضایت آزادانه و آگاهانه افراد مبنای مشروعیت است. نظریه‌پرداز «قرارداد اجتماعی» مشروعیت را بر اراده عمومی استوار می‌بیند و اراده عمومی، که حاصل توافق آزادانه شهروندان است را به‌مثابه قانون تعریف می‌کند. در این دیدگاه، حاکمیت از آن مردم است و هرگونه اعمال قدرت باید در راستای خیر عمومی باشد و از همین اراده عمومی نشئت گیرد [26].

بااین‌حال، باید توجه داشت که شناسایی توافق یا عدم توافق مردم با حاکمیت، ماحصل عصری است که دوگانه حکومت‌کننده و حکومت‌شونده تا حدی در هم ادغام شده‌اند. در دیدگاه‌های سنتی‌تر فلسفه سیاسی، تحقق ارزش‌های اجتماعی و دستیابی به آرمان‌های اصلی مشروعیت حکومت‌ها را تأیید و تضمین می‌کرد. نگاه افلاطون در «جمهور» مؤید همین امر است؛ او معتقد است که یک دولت عادل و مشروع، دولتی است که در آن هر بخش از جامعه (حاکمان فیلسوف، نگهبانان و تولیدکنندگان) وظیفه خود را به درستی انجام دهد. عدالت در سطح فردی و اجتماعی، هدف اصلی اوست و دولت مشروع، دولتی است که توسط خردمندان اداره شود تا عدالت را برای همه اعضای جامعه محقق سازد [27]. در این نگاه، حکومت‌کننده و حکومت‌شونده نه مقابل هم که در کنار یکدیگر جهت آرمانی بزرگتر پیش می‌روند تا عدالت برای همگان فراهم شود.

ردپای دیدگاه‌ مشروعیت مبتنی‌بر عدالت را بعدها می‌توان در اندیشه جان رالز هم دید. بااین‌حال، او برخلاف فلاسفه پیش از خود که عمدتاً بر «غایت» یا «هدف» عدالت تمرکز داشتند و فضیلت یا سعادت را رکن اصلی مشروعیت می‌دیدند، بر رویه‌ها و اصول زیربنایی توجه کرد که خود به نتایج عادلانه می‌انجامند. از نظر رالز، جامعه‌ای که ساختار اساسی آن (یعنی نهادهای اصلی سیاسی، اجتماعی و اقتصادی) براساس دو اصل عدالت بنا شده باشد، یک جامعه عادلانه و در نتیجه مشروع است. او دو اصل آزادی‌های برابر و تفاوت و برابری منصفانه فرصت‌ها را به‌عنوان اصول عدالت مطرح می‌کند [28]. در چنین حالتی، مشروعیت حکومت نه از یک منبع خارجی بلکه از منصفانه‌بودن رویه‌هایی نشئت می‌گیرد که به تشکیل و اداره جامعه منجر می‌شوند. گویی مشروعیت نه به‌عنوان عاملی که بر اقتدار عارض می‌شود که خود جزئی از اقتدار باشد در بطن حکمرانی نمایان می‌شود.

در برخی دیدگاه‌های فلسفی و سیاسی، مفهوم مشروعیت رنگ‌وبویی الهی به خود گرفته‌ است. اندیشه‌های توماس آکویناس و نظریه‌پردازان مسیحی و مسلمان، در تبیین مفهوم مشروعیت قائل به آن هستند که اقتدار حاکم ناشی از اراده الهی است و ازسوی او تفویض می‌شود. در مقابل، فلاسفه دیگری در علوم سیاسی مشروعیت را نه به‌مثابه تفویض قدرتی ازسوی دیگری که به منزله عنصری از اقتدار می‌بینند. از دیدگاه این گروه از اندیشمندان که «کارآمدی» را مبنای مشروعیت در نظر می‌گیرند، توانایی حکومت در حفظ نظم، امنیت و رفاه عمومی به‌عنوان عامل مشروعیت‌بخش شناخته می‌شود [29]. در چنین حالتی بقای حاکمان با توجه به نیازهای روز افراد جامعه تضمین خواهد شد.

بررسی مفهومی عنصر مشروعیت نشان داد، تداوم اقتدار حکومت‌کنندگان در رضایت و توافق حکومت‌شوندگان با آنان گره خورده است. ازاین‌رو، تأمل پیرامون ابزارهای نوین و تحولاتی که روابط انسانی را دستخوش تحول می‌کند، از ضروریات فهم جایگاه دولت ـ ملت‌ها در عصر معاصر است. به همین جهت لازم است تا پس از تبیین مفهوم مشروعیت در فلسفه سیاسی، تحولات آن در عصری که هوش مصنوعی خدمات عمومی را تحت تأثیر قرار داده است مطرح شود.

4-2. گذار به مشروعیت فناورانه

همان‌طور که گفته شد، نظریه‌های سنتی مشروعیت اغلب بر مفاهیمی مانند رضایت، توافق، نمایندگی و حاکمیت قانون استوار است. در واقع، چالش اولیه این مفهوم بازخوانی مفهوم اقتدار و در نظر گرفتن جایگاه مردم و شهروندان بود. پر واضح است که در این بستر، اگرچه عوامل انسانی دخیل در وضعیت‌های لزوماً برابری قرار ندارند، اما همگی انسان هستند. به دیگر سخن، چالش عوامل غیرانسانی در مفهوم مشروعیت و اقتدار، ماحصل ظهور ابزارهای مبتنی‌بر هوش مصنوعی است؛ ابزارهایی که در‌عین‌حال که می‌توانند تحقق مشروعیت را تسهیل بخشند، زمینه‌ساز بروز چالش‌هایی نیز محسوب می‌شوند.

در بخش پیش، از عنصر رضایت در تعاریف موجود از مشروعیت سخن رفت. حال پرسش آن است که آیا اساساً می‌توان مفهوم رضایت را به تصمیم‌های مبتنی‌بر الگوریتم تعمیم داد؟ یا به دیگر سخن، چگونه می‌توان اطمینان حاصل کرد که شهروندان با نحوه عملکرد و پیامدهای سیستم‌های هوش مصنوعی موافق هستند [30]؟ این پرسش به‌خصوص در مورد الگوریتم‌های جعبه سیاه که سازوکار تصمیم‌گیری آنها برای کاربران و حتی توسعه‌دهندگان مبهم است، اهمیت می‌یابد. در چنین شرایطی، رضایت آگاهانه که سنگ بنای مشروعیت لیبرال است، به یک چالش جدی تبدیل می‌شود. این مسئله با فقدان شفافیت در الگوریتم‌ها تشدید می‌شود، زیرا شهروندان نمی‌توانند فرایندهای پیچیده‌ای را که بر زندگی‌شان تأثیر می‌گذارد، درک یا بازبینی کنند.

ازسوی دیگر، تعاریف عدالت‌محور مشروعیت نیز خود را با چالش سوگیری ابزارهای مبتنی‌بر هوش مصنوعی مواجه می‌بینند. در واقع شاید بتوان چالش عدالت‌گرایان در مفهوم مشروعیت در این پرسش خلاصه خواهد شد که چگونه می‌توان از عدالت و بی‌طرفی در طراحی و پیاده‌سازی سیستم‌های هوش مصنوعی اطمینان حاصل کرد؟ سیستم‌های هوش مصنوعی براساس داده‌های تاریخی آموزش می‌بینند و اگر این داده‌ها حاوی سوگیری‌های اجتماعی یا نابرابری‌های تاریخی باشند، الگوریتم‌ها آنها را بازتولید و حتی تقویت می‌کنند؛ این امر با اصول عدالت توزیعی و رویه‌ای در تضاد است. برای مثال، الگوریتم‌های مورد استفاده در سیستم قضایی ممکن است به‌طور ناخواسته علیه گروه‌های خاصی تبعیض قائل شوند. این نابرابری‌های پنهان، مشروعیت عدالت‌محور یک نظام را تضعیف می‌کند.

همین مقوله در سایر اندیشه‌های مبتنی‌بر مشروعیت نیز قابل تصور است. مفهوم حکمرانی، حاکمیت قانون، دمکراسی، نیروی انسانی و... همگی در گرو آن است تا هوش مصنوعی و مشروعیت به دو مفهوم پیچیده و در عین حال مرتبط با هم تبدیل شود.

تأملاتی از این دست، ظهور مفهومی تحت عنوان «مشروعیت فناورانه» را دور از تصور نمی­داند. این نوع مشروعیت زمانی شکل می‌گیرد که شهروندان، استفاده از فناوری‌هایی چون هوش مصنوعی، کلان‌داده یا الگوریتم‌های یادگیری ماشین را در نهادهای دولتی، نه‌تنها کارآمد بلکه منطبق با ارزش‌های حقوقی و اخلاقی تلقی کنند. مشروعیت فناورانه، برخلاف مشروعیت سنتی که بر رضایت شهروندان از نهادها و قوانین استوار است، بر اعتماد به سازوکارهای فناورانه و شفافیت عملکرد آنها مبتنی است؛ موضوعی که در تعامل با مفهوم دولت ـ ملت، به‌ویژه در زمینه رضایت عمومی و حفظ اقتدار قانونی، اهمیت فزاینده‌ای یافته است.

4-3. هوش مصنوعی و مشروعیت؛ فرصت‌هایی هوشمندانه و چالش‌هایی قابل تأمل

هوش مصنوعی می‌تواند در تقویت مشروعیت نظام‌های سیاسی نقش قابل‌توجهی ایفا کند. افزایش کارایی و بهبود ارائه خدمات عمومی از موارد مهمی است که می‌توان به آن اشاره کرد. دولت‌ها به کمک الگوریتم‌های هوش مصنوعی و ابزارهای مبتنی‌بر آن می‌توانند فرایندهای تصمیم‌گیری را دقیق‌تر و سریع‌تر کنند و در نهایت رضایت عمومی را ارتقا بخشند. سیستم‌های مبتنی‌بر هوش مصنوعی می‌توانند کیفیت خدمات دولتی را بهبود بخشند و اعتماد عمومی را افزایش دهند [31]. به دیگر سخن، هوش مصنوعی دولت‌ها را کارآمد می‌کند و هر چه دولت‌ها کارآمدتر باشند، باور شهروندان به مشروعیت و قابلیت‌های آن افزایش خواهد یافت.

ازسوی دیگر، مشارکت شهروندان در فضای عمومی و فعالیت آنها در اجتماع، همواره به‌عنوان یکی از نقاط مثبت رضایت شهروندان از حاکمیت و تحقق مشروعیت به شمار رفته است. هوش مصنوعی و ابزارهای مبتنی‌بر آن با تحلیل داده‌های مربوط به نظرات شهروندان می‌تواند به حاکمان در راستای درک بهتر خواسته‌های افراد یاری دهد. برخی پژوهش‌ها با رویکرد ابزارنگر نشان می‌دهد بهره‌گیری از هوش مصنوعی در تعاملات دولت و شهروندان، موجب افزایش شفافیت و پاسخ‌گویی حکومت‌ها می‌شود و تمایل مردم به مشارکت بیشتر را تقویت می‌کند [32]. گویی حکومت‌هایی که بتوانند از این ابزارها در راستای ارتباط مؤثرتر با مردم استفاده کنند، مشروعیت خود را تحکیم خواهند کرد.

موضوع دیگری که در رابطه با هوش مصنوعی به‌مثابه یک فرصت برای مشروعیت می‌توان دنبال کرد، مبارزه با فساد و افزایش شفافیت در دستگاه حکومت‌داری است. هوش مصنوعی می‌تواند با شناسایی الگوهای فساد و تحلیل داده‌ها موارد تخلف را مشخص کند. به‌کارگیری هوش مصنوعی در نظارت بر نهادهای اداری و اقتصادی میزان فساد را کاهش می‌دهد و سبب ارتقای سطح اعتماد عمومی خواهد شد [33]. ارتقای سطح اعتماد عمومی به اقدام‌های دولت، پیوند حکومت‌کنندگان و حکومت‌شوندگان را مستحکم می‌سازد و همسویی اقتدار و مشروعیت را تضمین می‌کند.

ابتکارها و اقدام‌های مطرح شده، شاید بیش از پیش با رویه‌های رضایت‌محور تعاریف موجود از مشروعیت همخوانی داشته‌ باشند، این امر ممکن است احراز مشروعیت به‌عنوان یک فرصت را تنها به دیدگاه‌هایی که تحقق این مفهوم را ناشی از رضایت و توافق افراد می‌داند، خلاصه کند. این در حالی است که فرصت هوش مصنوعی و ابزارهای مبتنی‌بر آن به رویکردهای عدالت‌محور مشروعیت نیز تسری می‌یابد. سیستم‌های هوش مصنوعی در صورت طراحی و بهینه‌سازی صحیح، می‌توانند اجرای قوانین را دقیق‌تر و عادلانه‌تر دنبال کنند [34]. هر‌چند این امر مستلزم تضمین بی‌طرفی ابزارهای طراحی‌ شده و پرهیز از سوگیری‌های الگوریتمی است، اما اگر به شکلی صحیح عملی شود، اعتماد شهروندان به نظام قضایی و حکمرانی را تقویت خواهد کرد.

ازاین‌رو، باید اشاره داشت که هوش مصنوعی می‌تواند فرصتی در مسیر تقویت و تضمین مشروعیت محسوب شود. خدمات کارآمدتر، تقویت شفافیت، افزایش مشارکت و مبارزه با فساد ازجمله مواردی است که می‌تواند با به‌کارگیری این فناوری در حکومت‌داری به وقوع بپیوندد. بااین‌حال، تحقق این اهداف مستلزم تدابیر هوشمندانه و مدیریت چالش‌هایی است که استفاده از این ابزارها می‌تواند به دنبال داشته باشد. به همین جهت، پس از بررسی فرصت‌هایی که هوش مصنوعی می‌تواند برای مشروعیت و تقویت آن به همراه داشته‌ باشد، لازم است تا چالش‌‌های به‌کارگیری این فناوری نیز تبیین شود.

استفاده فزاینده از هوش مصنوعی در فرایندهای تصمیم‌گیری در عرصه عمومی و دولتی، به‌ویژه در حوزه‌های حساسی چون امور قضایی، امنیتی و ارائه خدمات عمومی چالش‌های متعددی برای مفهوم مشروعیت به همراه داشته‌ است. تلاقی میان فناوری‌های پیشرفته و حکومت‌داری، نه‌تنها می‌تواند تهدیدی علیه مشروعیت به‌معنای سنتی خود باشد، بلکه ممکن است بازاندیشی و بازخوانی مفهومی آن را نه به‌مثابه اقدامی جهت بهبود روابط مردم و دولت، که بایدی برای بقای دولت ـ ملت تبدیل کند.

·                     ابهام در شفافیت و مسئولیت

یکی از مهم‌ترین چالش‌ها در این‌خصوص، به نبود شفافیت و مسئولیت‌پذیری الگوریتم‌های پیچیده هوش مصنوعی مربوط می‌شود که اغلب از آن با عنوان «جعبه سیاه»یاد می‌کنند. الگوریتم‌های مبتنی‌بر هوش مصنوعی، فاقد شفافیت لازم درخصوص نحوه عملکرد و روند استدلالی خود هستند. این وضعیت، امکان نظارت مؤثر و پاسخ‌گویی تصمیم‌های مبتنی‌بر هوش مصنوعی را با چالش مواجه می‌سازد. به همین جهت، تصمیم‌هایی که به کمک ابزارهای مبتنی‌بر هوش مصنوعی اتخاذ می‌شوند، خود چالشی از جنس مشروعیت به دنبال خواهند داشت. در واقع، به‌کارگیری این فناوری چگونگی اعتماد به حکمرانی الگوریتمی را در‌حالی‌که مبنای تصمیم‌های آن غیرقابل درک است، با تردیدهایی مواجه می‌سازد که مستلزم بازاندیشی در سازوکار‌های شفافیت و پاسخ‌گویی خواهد بود.

·                     تبعیض و بی‌عدالتی الگوریتمی: بازتولید سوگیری‌ها

چالش دیگری که استفاده از هوش مصنوعی در عرصه مشروعیت به همراه خواهد داشت، تبعیض و بی‌عدالتی الگوریتمی است. داده‌های آموزشی مورد استفاده در توسعه سیستم‌های هوش مصنوعی ممکن است حاوی سوگیری‌هایی باشد که ازسوی طراحان آن به این سیستم‌ها منتقل شده است. این سوگیری‌ها می‌تواند به تصمیم‌های تبعیض‌آمیز و ناعادلانه در به‌ویژه در حوزه‌های حساسی چون عدالت کیفری یا تخصیص منابع عمومی منجر شود [35]. در چنین حالتی، ارکان اساسی مشروعیت چون بی‌طرفی و عدالت، در معرض تهدید قرار می‌گیرد و می‌تواند به بی‌اعتمادی و نارضایتی افراد منجر شود.

·                     نقض حریم خصوصی و حقوق بشر

یکی از نگرانی‌ها و دغدغه‌های مهم در به‌کارگیری هوش مصنوعی در دولت، تهدید و نقض حریم خصوصی و حقوق بشر محسوب می‌شود. استفاده از هوش مصنوعی برای جمع‌آوری، تحلیل و پردازش حجم عظیمی از داده‌های شهروندان، پرسش‌هایی اساسی در رابطه با حقوق اساسی افراد و حریم خصوصی آنها ایجاد می‌کند. مفهوم «سرمایه‌داری نظارتی» که ازسوی برخی اندیشمندان مطرح شده‌ است مربوط به زمانی است که در آن داده‌های شخصی به‌عنوان یک منبع مورد بهره‌برداری قرار می‌گیرد [23]. احساس نظارت دائمی و فقدان کنترل بر داده‌های شخصی موضوعی است که می‌تواند اعتماد عمومی و رضایت شهروندان از حکومت را تحت‌تأثیر قرار دهد.

·                     تضعیف نقش انسانی و چالش نمایندگی: ماهیت اقتدار و اراده عمومی

واگذاری و تفویض نقش تصمیم‌گیری به سیستم‌های هوش مصنوعی، به‌خصوص اگر این تصمیم‌ها به موضوع‌های مهم و حساس مربوط باشد، ممکن است سبب تضعیف نقش و مسئولیت انسانی در حکمرانی شود. در واقع پرسش اساسی در این موضوع آن است که آیا می‌توان این موضوع‌ها را به یک الگوریتم واگذار کرد؟ یکی از ارکان اساسی مشروعیت در نظام‌های دمکراتیک، مفهوم نمایندگی و تجلی اراده عمومی است. سیستم‌های هوش مصنوعی به‌عنوان موجودیت‌های غیرانسانی، فاقد اراده، آگاهی و احساسات هستند. بنابراین واگذاری تصمیم‌های مهم به این سیستم‌های تردیدهایی پیرامون نحوه نمایندگی شهروندان و انطباق این تصمیم‌ها با اراده عمومی مطرح می‌کند [36]. چالش اصلی به‌کارگیری چنین ابزارهایی آن است که چگونه می‌توان از همسویی تصمیم‌های الگوریتمی با منافع جمعی اطمینان حاصل کرد؟

·                     چالش کنترل و حاکمیت: تصمیم‌گیری‌های خودکار در شرایط بحرانی

گسترش استفاده از هوش مصنوعی در حوزه‌های حساس مانند امنیت و دفاع، پرسش‌هایی را درخصوص حفظ کنترل انسانی بر این سیستم‌ها و تبعات احتمالی تصمیم‌گیری‌های خودکار در شرایط بحرانی مطرح می‌کند. از دست دادن کنترل بر ابزارهای قدرت و پیامدهای آن برای حاکمیت ملی و مشروعیت بین‌المللی می‌تواند به مفهوم اقتدار و مشروعیت آسیب وارد کند. این امر، ضرورت ایجاد سازوکار‌هایی برای نظارت و مداخله انسانی در فرایندهای تصمیم‌گیری خودکار را برجسته می‌سازد.

در مجموع باید گفت، تلاقی هوش مصنوعی و مشروعیت در کنار فرصت‌هایی که می‌تواند به همراه داشته‌ باشد ممکن است چالش‌هایی اساسی در حفظ و تقویت آن ایجاد کند. ازاین‌رو لازم است تا سازوکار‌هایی برای مدیریت و استفاده بهینه از این ابزار تدبیر شود که در ادامه به آن اشاره می‌شود.

 جدول 3. انواع فرصت‌ها و چالش‌های پیشروی مفهوم مشروعیت در برابر هوش مصنوعی

مأخذ: یافته های پژوهش.

5. ایران و هوش مصنوعی؛ از ظرفیت تا ضرورت

در دو بخش پیش، با تأمل پیرامون دو مفهوم اقتدار و مشروعیت، آثار ورود هوش مصنوعی در عرصه‌های مختلف حکومت‌داری بررسی شد. تلاقی ابزارهای مبتنی‌بر هوش مصنوعی با دو عنصر مهم مفهوم دولت ـ ملت، پرسش‌هایی را پیرامون این امر متبادر به ذهن کرد. در نگاه اول، چالش‌های مربوط به اقتدار در معنای سنتی آن، پس از ظهور و به‌کارگیری هوش مصنوعی مورد توجه قرار می‌گیرد و در گام دوم، پرسش از چیستی این چالش‌ها به حوزه مشروعیت کشیده می‌شود. نتیجه این روند، ترسیم تصویری بود که پیوند فناوری‌های مبتنی‌بر هوش مصنوعی را با عناصر دولت ـ ملت نشان می‌داد. این تصویر دوگانه از چالش‌ها و فرصت‌ها، بُعد تازه‌ای از تأمل پیرامون مفهوم دولت ـ ملت را ایجاد می‌کند که نیازمند آن است تا چارچوب‌های قانونی و اخلاقی لازم تبیین و تنظیم شود. ازاین‌رو، چالش‌ها و فرصت‌هایی که در این بخش مورد توجه قرار می‌گیرد بیشتر جنبه ساختاری و استراتژیک خواهد داشت تا بنیان مفهوم دولت ـ ملت و امکان‌سنجی بقای آن تبیین شود.

5-1. حیات حکمرانی بر مدار الگوریتم

مواجهه دولت‌ها با هوش مصنوعی نه‌تنها به‌معنای پذیرش فناوری‌های جدید است، بلکه دلالت بر تغییر بنیادین بر نحوه عملکرد، اهداف و حتی ماهیت وجودی آن دارد. به دیگر سخن، این مواجهه به تجربه‌ای نوین منتهی خواهد شد که درک ابعاد آن پیش از هر اقدام و واکنشی اولویت دارد؛ تجربه‌ای که نه صرفاً ابزاری برای دولت‌ها که به‌عنوان نیرویی دگرگون‌کننده عمل خواهد کرد که بازنگری‌های اساسی را اجتناب‌ناپذیر می‌کند.

پیش‌تر گفته شد که هوش مصنوعی با قابلیت‌ها و ویژگی‌های منحصربه‌فرد خود می‌تواند در عرصه خط‌مشی‌گذاری عمومی و تحلیل داده‌های جمعی کارآمد باشد. هوش مصنوعی در کنار نکات مثبتی که به‌دنبال دارد، می‌تواند دو نقش حیاتی دولت ـ ملت که بازدارندگی و تأمین امنیت است را با چالش مواجه کند [37]. این امر خصوصاً در سطح امنیت ملی و در راستای توسعه تسلیحات خودمختار، جنگ‌های سایبری و تحلیل اطلاعات می‌تواند معضلی از نوع رقابت تسلیحاتی هوش مصنوعی ایجاد کند که دولت‌ها را در تأمین امنیت و شناسایی استراتژی‌های حفظ اصول سیاسی خود در سطح داخلی و خارجی با تهدید روبه‌رو سازد. از سوی دیگر، مدیریت پیامدهای اجتماعی و اقتصادی تغییرهای ناشی از هوش مصنوعی دولت‌ها در برابر نابرابری و بیکاری تکنولوژیک[38] موضوعی است که بر سیاست‌های اقتصادی و رفاهی دولت‌ها اثرگذار است.

در کنار چالش‌های امنیتی و اقتصادی، هوش مصنوعی پرسش‌هایی در مورد حاکمیت سایبری و استقلال ملی نیز مطرح می‌کند. این چالش با توجه به شرایط خاص ژئوپلیتیک کشور ما می‌تواند ابعاد تازه‌ای به خود گیرد. توسعه و استقرار سیستم‌های هوش مصنوعی توسط بازیگران غیردولتی یا شرکت‌های فناوری چند ملیتی، می‌تواند توزیع قدرت را با اشکال جدیدی روبه‌رو سازد. این امر به‌ویژه در مواردی که زیرساخت‌های حیاتی یا خدمات عمومی به‌طور فزاینده‌ای به الگوریتم‌ها و داده‌های کنترل‌شده توسط بخش خصوصی وابسته می‌شود، مشهودتر است [39].

ازاین‌رو، اتخاذ استراتژی‌هایی برای توسعه ظرفیت‌های بومی در زمینه هوش مصنوعی که شامل تربیت نیروی انسانی متخصص، حمایت از شرکت‌های دانش‌بنیان داخلی و مراکز تحقیقاتی پیشرفته می‌شود، اهمیتی دوچندان می‌یابد. تنظیم مقررات برای کنترل جریان داده و الگوریتم‌ها در سطح ملی و تضمین حاکمیت داده در کشور ازجمله موارد دیگری است که نه‌تنها بر غنای وجودی دولت ـ ملت می‌افزاید که تحکیم ارکان آن و ایجاد یک اکوسیستم فناورانه مستقل و پویا را در کشورهای مختلف نیز تضمین می‌کند.

به‌طورکلی، رهبری هوش مصنوعی و به کنترل درآمدن حدود این فناوری موضوعی است که صاحبان قدرت را با چالشی جدید روبه‌رو می‌کند. گسترش به‌کارگیری فناوری‌های مبتنی‌بر هوش مصنوعی این امکان را به‌عنوان عاملی تعیین‌کننده در آینده اقتصادی و امنیتی کشور‌ها معرفی خواهد کرد و دسترسی به داده‌ها و زیرساخت‌های فناوری خود به منبع قدرت تبدیل خواهد شد [40]. به همین دلیل، توسعه هوش مصنوعی و تلاش در جهت بومی‌سازی آن یکی از مهم‌ترین ضروریات دولت‌ها در آینده به شمار خواهد رفت.

ورود هوش مصنوعی به عرصه‌های مختلف زندگی، ملاحظات اخلاقی و حقوقی پیچیده‌ای را به وجود آورده‌ است. ملاحظاتی که از حریم خصوصی افراد تا حدود مسئولیت‌پذیری در قبال تصمیم‌های خودکار و مبتنی‌بر هوش مصنوعی را شامل می‌شود. سیستم‌های مبتنی‌بر هوش مصنوعی که حجم عظیمی از داده‌های شخصی را پردازش می‌کنند، می‌تواند به ابزاری برای نظارت گسترده تبدیل شود و خطر تهدید و نقض حریم خصوصی را به دنبال داشته باشد. ازسوی دیگر همان‌طور که گفته شد، در مواردی که الگوریتم‌ها به‌طور مستقل تصمیم‌گیری می‌کنند، تعیین مسئولیت و حدود آن نیز با چالش‌های جدی و مهمی روبه‌رو می‌شود که مستلزم بازنگری در چارچوب‌های حقوقی موجود و تدوین قوانینی است که بتواند پاسخ‌گوی این چالش‌ها باشد. به‌عنوان مثال، مسئولیت‌پذیری وسایل نقلیه خودران یا سیستم‌های تصمیم‌گیری قضایی مبتنی‌بر هوش مصنوعی، ازجمله مواردی است که نیازمند تدوین مقررات شفاف و دقیق است [41].

با این وجود باید اشاره داشت که هوش مصنوعی فرصت‌های بی‌بدیلی را در راستای ارتقای ظرفیت‌های دولت ـ ملت و بهبود حکمرانی فراهم می‌آورد. در بعد خط‌مشی‌گذاری عمومی، هوش مصنوعی می‌تواند با تحلیل کلان داده‌ها و ارائه پیش‌بینی‌های دقیق به دولت‌ها در اتخاذ تصمیم‌های آگاهانه‌تر کمک کند. قابلیتی که در حوزه‌های مختلفی چون مدیریت بحران، برنامه‌ریزی شهری و تخصیص منابع می‌تواند به افزایش کارایی و اثربخشی خدمات عمومی منجر شود. به‌عنوان مثال، استفاده از هوش مصنوعی در بخش بهداشت و درمان می‌تواند به تشخیص زودهنگام بیماری‌ها، بهینه‌سازی ارائه خدمات پزشکی و بیماری‌های واگیر کمک کند [42].

در حوزه مشارکت شهروندی، بسترهای مبتنی‌بر هوش مصنوعی با تسهیل ارتباط بین دولت و مردم، می‌تواند به افزایش شفافیت و پاسخ‌گویی منجر شود. هوش مصنوعی امکان تحلیل بازخوردهای شهروندان و شناسایی الگوهای رفتاری را فراهم می‌کند و این امر می‌تواند در درک بهتر نیازها و انتظارات عمومی نقش‌آفرین باشد. همچنین، هوش مصنوعی قابلیت آن را دارد تا در راستای مبارزه با فساد و بهبود امنیت سایبری دولت‌ها به دولت‌ها کمک کند. 

5-2. مشروعیت فناورانه؛ بازاندیشی مرزهای اقتدار و مشروعیت

تلاقی هوش مصنوعی با مفهوم دولت ـ ملت، برگ نوینی از مفهوم اقتدار و مشروعیت را رقم می‌زد که اگر به‌درستی درک نشود، پایه‌های مقبولیت حکومت را متزلزل خواهد کرد. نقش‌آفرینی هوش مصنوعی در عرصه‌های عمومی و ارتباطی که می‌تواند مشارکت و شفافیت دولت ـ ملت‌ها را تحت‌تأثیر قرار دهد، شکل تازه‌ای از مشروعیت را متصور می‌کند که رنگ‌وبوی فناوری به خود می‌گیرد. این «مشروعیت فناورانه» با قبول تحولات دنیای جدید و فناوری‌های نوین، پذیرشی که از سوی حکومت‌شوندگان نائل می‌آید را نه فقط محدود به اَشکال سنتی مشروعیت که با حدود ارتباط حکومت‌کنندگان با ابزارهای جدید ارزیابی می‌کند. این بدان معناست که در عین تداوم مکانیسم‌های سنتی مشروعیت که پیش‌تر از آن سخن رفت و در قالب‌هایی چون انتخابات دمکراتیک و حاکمیت قانون نمایان می‌شود، نوع جدیدی از مشروعیت مطرح خواهد شد که معنای خود را از طریق توانایی بهینه در استفاده از فناوری‌های پیشرفته، به‌ویژه هوش مصنوعی، برای ارائه خدمات بهتر، کارآمدتر و اثربخش‌تر به شهروندان به دست می‌آورد. به بیان دیگر، هوش مصنوعی در حال شکل‌دهی به گذار نظری در مفهوم مشروعیت است. وضعیتی که در آن، حقانیتِ دولت نه صرفاً از مجرای «قانون و انتخابات» (مشروعیتِ ورودی)، بلکه به میزان فزاینده‌ای از طریق «تواناییِ حل‌مسئلهِ فناورانه و خروجی‌های سیستمی» (مشروعیتِ خروجی) سنجیده می‌شود. در این نوع جدید، فناوری از جایگاه «ابزارِ دولت» خارج شده و به یکی از «ارکانِ مقومِ دولت» تبدیل می‌شود.

این مفهوم با تقویت بنیان‌های مشروعیت دولت ـ ملت بقای آن را در تحولات جهان معاصر تضمین می‌کند و همسویی شهروندان با دولت‌ها را تسهیل می‌بخشد. برای مثال، سیستم‌های هوش مصنوعی می‌توانند عملکرد مدیریت ترافیک شهری، تخصیص منابع بهداشتی یا فرایندهای مالیاتی را ارتقا دهند. به‌تبع آن شهروندان نیز ممکن است دولتی را که قادر به ارائه خدمات سریع‌تر و دقیق‌تر است، مشروع‌تر بدانند [43]. هوش مصنوعی و ابزارهای مبتنی‌بر آن سرعت تحولات و وقایع را افزایش می‌دهند و اتکای دولت‌ها به مکانیسم‌های سنتی ارائه خدمات عمومی، کارایی و کارآمدی آنها را با تهدید روبه‌رو خواهد کرد. در مقابل، همراهی دولت‌ها با چنین ابزارهایی پایه‌های مشروعیت را تغییر خواهد داد و در جهانی که سرعت و کیفیت از مهم‌ترین معیارهای عملکرد قابل قبول به شمار می‌رود، حیات مفهوم دولت ـ ملت نیز تضمین خواهد شد.

ازسوی دیگر، هوش مصنوعی می‌تواند تصمیم‌گیری را براساس حجم عظیمی از داده‌ها و با حذف سوگیری‌های انسانی عینی‌تر کند. امری که ممکن است به ایجاد تصوری کمک کند که تصمیم‌های دولتی نه براساس منافع سیاسی یا احساسات که براساس منطق و شواهد علمی هستند و این «عینیت» خود می‌تواند منبع مشروعیت جدیدی باشد. به‌طورکلی، توانایی دولت در ارائه راه‌حل‌های فناورانه برای این چالش‌ها، می‌تواند اعتبار و مشروعیت آن را افزایش دهد.

بااین‌حال، تکیه صرف بر مشروعیت فناورانه و تلاش در راستای همسویی مفهوم مشروعیت با فناوری‌های مبتنی‌بر هوش مصنوعی بیم غفلت از ارکانی را ایجاد می‌کند که تنها در انواع سنتی مشروعیت قابل تصور و تحقق است. دشواری درک عملکرد هوش مصنوعی و سازوکار تصمیم‌گیری آن ممکن است به نبود شفافیت منجر شود و این امر می‌تواند اعتماد عمومی را تضعیف کند. علاوه‌بر این، سوگیری‌های الگوریتمی نیز از دیگر مخاطراتی است که با تکیه صرف به مشروعیت فناورانه می‌تواند رضایت شهروندان و همراهی آنها را با حکومت‌کنندگان تحت‌تأثیر قرار دهد. هنگامی که تصمیم‌های توسط سیستم‌های هوش مصنوعی اتخاذ می‌شوند، تعیین مسئولیت و پاسخ‌گویی در قبال خطاها یا نتایج ناخواسته دشوار می‌شود. بدین‌سان، تکیه بیش از حد بر مشروعیت فناورانه ممکن است به این معنی باشد که تصمیم‌های مهم نه ازطریق بحث عمومی و فرایندهای دمکراتیک، بلکه از طریق مدل‌های الگوریتمی اتخاذ شوند. این امر می‌تواند به تضعیف نقش شهروندان در حکمرانی و فرسایش بنیان‌های دمکراتیک منجر شود.

در واقع، «مشروعیت فناورانه» به‌معنای پذیرش اجتماعی و قانونی فناوری‌هایی مانند هوش مصنوعی در فرایندهای حکومت‌داری است. این مشروعیت زمانی حاصل می‌شود که فناوری نه‌تنها کارآمد باشد، بلکه با ارزش‌های فرهنگی، حقوقی و اخلاقی جامعه هم‌راستا باشد. مشروعیت فناورانه مستلزم آن است که هوش مصنوعی در خدمت عدالت اجتماعی، حفظ کرامت انسانی و تقویت اعتماد عمومی قرار گیرد. برای تحقق این مشروعیت، باید سازوکارهایی برای مشارکت عمومی، ارزیابی اخلاقی و نظارت بین‌نهادی طراحی شود. همچنین، آموزش عمومی و شفاف‌سازی عملکرد الگوریتم‌ها نقش مهمی در افزایش پذیرش اجتماعی دارند.

برای این‌که دولت ـ ملت‌ها بتوانند به‌طور مؤثر از هوش مصنوعی بهره ببرند و در عین حال مشروعیت خود را حفظ کنند، لازم است تا تعادل و توازنی میان اَشکال سنتی و مدرن مشروعیت حاصل آید. این تعادل در عین تداوم مفاهیم سنتی مشروعیت، از فناوری‌های نوین جهت بهبود عملکرد و ارتقای شفافیت استفاده می‌کند و مشارکت شهروندان و رضایت آنها را با بهره‌گیری از ابزارهای تسهیل‌کننده افزایش می‌دهد.

در این راستا، دولت‌ها باید توسعه و استفاده از هوش مصنوعی را به‌گونه‌ای تنظیم کنند که ارزش‌های انسانی، حقوق اساسی و اصول دمکراتیک را در اولویت قرار دهد و با ایجاد نوعی حکمرانی هوش مصنوعی انسان‌محور نظارت انسانی بر تصمیم‌های هوش مصنوعی را تضمین کنند [44]. نظارت انسانی بر هوش مصنوعی، نگرانی‌ها پیرامون سوگیری و تصمیم‌گیری تبعیض‌آفرین هوش مصنوعی را کاهش می‌دهد و مسئولیت و پاسخ‌گویی را به‌عنوان دو اهرم مهم در تحقق کامل مفهوم مشروعیت تضمین می‌کند. 

5-3. حکومت‌داری دیجیتال در ایران

با ظهور هوش مصنوعی، مفهوم چندوجهی دولت ـ ملت از ابعاد گوناگون تحت تأثیر قرار می‌گیرد. هوش مصنوعی می‌تواند مولد نوع جدیدی از حاکمیت باشد که در آن به‌جای کنترل مرزهای جغرافیایی و جمعیت، توانایی یک دولت در کنترل و مدیریت داده‌های تولید شده در قلمرو خود و داده‌هایی که از طریق شبکه‌های بین‌المللی جریان دارند، سنجیده شود. این نوع حاکمیت که گویی حاکمیت اطلاعاتی است شامل توانایی صیانت از داده‌های شهروندان، تنظیم جریان فرامرزی داده‌ها و توسعه زیرساخت‌های ملی هوش مصنوعی می‌شود [45] و شکل نوینی از حکومت‌داری صاحبان قدرت را ایجاد می‌کند.

به‌طور‌کلی، مواجهه دولت ـ ملت با هوش مصنوعی، یک فرایند پیچیده و چندوجهی است که نیازمند آن است تا رویکردی جامع و استراتژیک اتخاذ شود. در بخش پایانی گزارش، مجموعه‌ای از پیشنهادهای کلیدی برای خط‌مشی‌گذاران در ایران ارائه می‌شود تا هم‌زمان با بهره‌برداری از ظرفیت‌های هوش مصنوعی، چالش‌های مرتبط با دولت ـ ملت نیز حل شود. این موارد ضمن توجه به ساختار قانونی، اجتماعی و فرهنگی کشورمان تدوین شده است و بر توسعه بومی این فناوری، افزایش شفافیت و حفظ ارزش‌های ملی و تعامل سازنده تمرکز دارد. در این راستا لازم است تا خط‌مشی‌گذاران به‌طور فعالانه به تدوین سیاست‌های جامع هوش مصنوعی بپردازند تا هم پاسخ‌گوی چالش‌ها باشد و هم قابلیت آن را داشته باشد که جامعه را از فرصت‌های این فناوری بهره‌مند سازد. شاید بهترین راه برای مدیریت این فناوری نوظهور، تدوین سیاست‌هایی است که ناظر بر سه قوه‌ مجریه، مقننه و قضائیه عمل کند. چرا که هر یک از این قوا باید نقشی هماهنگ و مکمل ایفا کنند تا توسعه هوش مصنوعی در ایران، هم‌راستا با ارزش‌های بومی، اصول اخلاقی و امنیت ملی تحقق یابد. ازاین‌رو، این تقسیم‌بندی می‌تواند از تشتت تصمیم‌ها و آرا جلوگیری کند و حکمرانی الگوریتمی با عدالت، شفافیت و مشروعیت همراه باشد.

در همین راستا، می­توان به «سند ملی توسعه هوش مصنوعی» نیز اشاره کرد که با هدف سامان‌دهی بهره‌گیری از ظرفیت‌های فناورانه در عرصه حکمرانی تدوین شده‌است. این سند در تلاش است تا مسیر استفاده از هوش مصنوعی را در چارچوبی مشروع و قابل نظارت تعریف کند. با این حال، تحقق این امر، مستلزم آن است که در عمل سازکارهای تصمیم‌گیری الگوریتمی، نه‌تنها شفاف و پاسخ‌گو باشند، بلکه با هنجارهای حقوقی موجود نیز هم‌راستا شوند؛ امری که در صورت غفلت، می‌تواند اعتماد عمومی و رضایت شهروندان را با چالش مواجه سازد.

تشویق و حمایت از توسعه بومی هوش مصنوعی در جهانی که کنترل و حمایت از داده‌های افراد و به‌کارگیری فناوری‌های نوین در حکومت‌داری نقشی مهم ایفا می‌کند، یک ضرورت استراتژیک است. در همین راستا، حمایت قاطع از راه‌اندازی و توسعه پلتفرم ملی هوش مصنوعی ایران که هم‌اکنون در مرحله نمونه اولیه قرار دارد، باید در اولویت قرار گیرد. علاوه‌بر این، ایجاد انگیزه برای توسعه مدل‌های هوش مصنوعی به زبان فارسی و مجموعه ‌داده‌های همسو با این امر، برای حفظ و تقویت هویت ملی در عصر دیجیتال، حیاتی است. همچنین، گسترش آموزش هوش مصنوعی و افزایش بودجه تحقیق و توسعه، به‌ویژه در دانشگاه‌ها و مراکز پژوهشی، از اهمیت بالایی برخوردار است. حمایت ازکسب‌وکارهای نوین حقوقی و هوش مصنوعی و ایجاد محیط‌های نظارتی تسهیل‌گر، به تسریع نوآوری و تجاری‌سازی کمک خواهد کرد. 

6. جمع‌بندی و نتیجه‌گیری

واکاوی مفاهیم اقتدار و مشروعیت در این گزارش گواهی می‌دهد که ما در آستانه یک تحول مفهومی در ذات دولت ایستاده‌ایم؛ جایی که دو رکن بنیادین حکومت و حکمرانی، یعنی اقتدار و مشروعیت، در حال بازتولید معنایی خود در بستر دیجیتال هستند. از یک‌سو، با گذار از اقتدار کلاسیک وبری که بر انحصار قوه قهریه در قلمرو سرزمینی استوار بود، شاهد ظهور «اقتدار الگوریتمی» هستیم. در این نظم نوین، قلمرو حاکمیت از «خاک» به «داده» گسترش یافته و توانایی پردازش، پیش‌بینی و هدایت رفتار شهروندان، جایگزین ابزارهای سنتی اعمال قدرت شده است. دولتی که فاقد این اقتدار الگوریتمی باشد، عملاً بر فضای زیست شهروندان خود تسلطی ندارد و حاکمیتش به پوسته‌ای حقوقی بدون نفوذ واقعی تقلیل می‌یابد.

از سوی دیگر، همپای این تغییر در اقتدار، لنگرگاه پذیرش حکومت نیز دگرگون شده و مفهوم نوظهور «مشروعیت فناورانه» در حال جایگزینی یا تکمیل صورت‌بندی‌های سنتی مشروعیت است. این نوع از مشروعیت، دیگر نه صرفاً بر فرایندهای سیاسی ورودی (مانند صندوق رأی)، بلکه بر «کارآمدی»، «پاسخگویی هوشمند» و «عدالت محاسباتی» استوار است. شهروند عصر دیجیتال، مشروعیت دولت را در توانایی آن برای تأمین امنیت سایبری، ارائه خدمات پیش‌دستانه و تضمین بی‌طرفی الگوریتم‌ها می‌جوید. خطر راهبردی آنجاست که اگر دولت نتواند این «مشروعیت فناورانه» را از طریق توسعه زیرساخت‌های بومی تأمین کند، مرجعیت حکمرانی به صاحبان پلتفرم‌های جهانی واگذار شده و رابطه ملت و دولت از یک «قرارداد اجتماعی»، به یک «قرارداد خدماتی» متزلزل میان کاربر و شرکت‌های فناوری تنزل می‌یابد.

در چنین بستری، توسعه اکوسیستم بومی هوش مصنوعی و بازآرایی وظایف قوای سه‌گانه، یک «ضرورت وجودی» برای بقای دولت است. تفکیک قوا در این پارادایم جدید باید به گونه‌ای باشد که قوه‌ی مجریه زیرساخت «اقتدار الگوریتمی» را بنا نهد، قوه‌ی مقننه مرزهای اخلاقی آن را ترسیم کند و قوه‌ی قضائیه ضامن تحقق «مشروعیت فناورانه» از طریق عدالت الگوریتمی باشد. پیام نهایی این گزارش صریح است: اگر جمهوری اسلامی ایران نتواند منطق حکمرانی خود را با این دو مفهوم همگام سازد، با خطرِ «تُهی‌شدگیِ معنایِ دولت» مواجه خواهد شد؛ لذا هزینه برای هوش مصنوعی، سرمایه‌گذاری برای حفظ «دولت بودگی» و «حق حاکمیت ملی» در جهان آینده است.

جدول 4. جدول جامع خط‌مشی‌گذاری هوش مصنوعی در ایران ناظر بر سه قوه مجریه، مقننه و قضائیه

مأخذ: یافته های پژوهش.