تصمیمگیری حاکمیتی در دنیای امروز بسیار پیچیده، پویا و شامل اقتضائات منطقهای، بخشی، لحظهای و تخصصی و درعینحال فاقد اهداف شفاف و مورد اجماع است. ورود بازیگران مختلف مانند بخش خصوصی و بازیگران محلی به عرصه تحول اعمال حاکمیتی و تصاحب بخشی از شئون حاکمیت، از علل اصلی این پیچیدگی است. این امور ضرورت بازاندیشی در شیوه سنتی قانونگذاری و تصمیمگیری که رویکرد یکساننگری، همشکلسازی و طی روندهای دمکراتیک را مدنظر داشته، واضح کرده است. بنابراین بخشی از فرایندهای اجرا و تصمیمات حاکمیتی بهجای تصمیمات کلان و جامع توسط حاکمیت، به سایر بازیگران تفویض شده و فرایند تضمین منفعت عمومی از این مجموعه تصمیمات که با عنوان تنظیمگری مطرح شده، با مجموعهای از تصمیمات خرد، بخشی، منطقهای، انعطافپذیر و تخصصی در حوزه خاص جایگزین شده که متمرکز بر خروجیها و تحقق اهداف عملکردی مشخص است. تصمیمات حوزه فناوریهای نوین به شکل خاص ویژگیهای مذکور را دارند.
با ظهور فناوریهای نوین، ضروری است مواجهه حاکمیتها با این تحولات، یک مواجهه هدفمند در راستای توسعه همراه با پیشگیری از پیامدهای ناخواسته آنها باشد. حال آنکه ابعاد مواجهه و اثرگذاری بسیاری از این فناوریها در ابتدای امر ناشناخته و غیرقابلپیشبینی است. ضمن اینکه مسیر توسعه بسیاری از این فناوریها توسط بخش خصوصی و غیرحاکمیتی مقدور و بهصرفه خواهد بود. به همین علت در کنار ابزارهای سنتی حاکمیتی مانند قانون و مقررات و الزام و اجبار، رویکردهای نوینی مانند تنظیمگری در ادبیات مدیریت دولتی مطرح شده است. تنظیمگری بهمعنای عام شامل قانونگذاری، مقررهگذاری و هر نوع مداخله دولتی بوده، اما در معنای خاص و مدنظر این گزارش که در کنار قانونگذاری مطرح میشود، بهدنبال تحقق اهداف اصلی با کنترل روابط ذینفعان مختلف و تمرکز بر خروجیهای مطلوب فارغ از دخالت در فرایند تحقق این خروجیهاست. این مفهوم از تنظیمگری متناسب با مرحله توسعه و رشد فناوریهای نوین ازجمله هوش مصنوعی است.
هدف رویکردهای تنظیمگرانه، تطبیق پیشامدها با اهداف کلی از طریق اجرا و ایجاد تغییرات متناسب در عمل بوده و لازمه این امر، تطبیق نظام تنظیمگری با بستر و محیط بهکارگیری آن است. ضروری است نظام تنظیمگری بسته به مسئله مورد تنظیم و اقتضائات، محیطها و سازوکارهای اجرایی، قابلیت اعمال اثر و تطبیق داشته باشد. بنابراین دستیابی به نظام تنظیمگری بومی و اقتضائی برای کشور براساس چشمانداز علمی، مناسبات فرهنگی- اجتماعی، سرمایه مالی و انسانی و ... ضرورت دارد.
بااینحال در هنگامه طراحی نظام تنظیمگری بومی هوش مصنوعی، میتوان از تجربیات بینالمللی در بازتعریف اصول و مبانی اخلاقی و فنی بهعنوان یک راهنما استفاده کرد. برای مثال، اصول تعریف شده توسط OECD میتواند تا حدی راه را برای تنظیمگران ملی و بخشی در مواردی ازجمله: 1. تنظیمگری با هدف ارتقای روزافزون نقش نوآورانه همه بازیگران خرد و کلان زیستبوم هوش مصنوعی، 2. تثبیت حاکمیت اصول اخلاقی و اجتماعی، 3. تعریف چارچوب شفافیت مسئولانه با هدف جلب اعتماد مردم، 4. ایجاد بستری امن برای توسعهدهندگان محصولات مبتنیبر هوش مصنوعی و 5. پاسخگو کردن بازیگران حقیقی و حقوقی نسبت به عملکرد خود در ارائه خدمات هموار کند.
علاوهبراین، در تدوین مدل بومی، ارائه یک مدل جامع کافی نیست و وجود یک تنظیمگری مرکزی در کنار تنظیمگری بخشی، ضرورت خواهد داشت.
بنابراین با توجه به ملزومات ثابت و متغیر هریک از ذینفعان خرد و کلان عرصه هوش مصنوعی، باید نظامی دووجهی برای تنظیمگری این حوزه طراحی شود که شامل وجه فرابخشی (کلان) و بخشی (خرد) است. وجه اول یعنی «فرابخشی»، یک چارچوب از ضمانتهای اساسی را صرفنظر از اینکه هوش مصنوعی در کدام بخش مورد استفاده قرار میگیرد یا توسعه داده میشود، فراهم کند؛ و ازسویدیگر وجه دوم یعنی «بخشی»، راهنماها یا تعهدات اضافی را برای استفاده از هوش مصنوعی تعیین میکند تا به خطرات و آسیبهای موجود در بخشهای خاص رسیدگی شود. همچنین تنظیم روابط این دو سطح با «تنظیمگر ملی» خواهد بود. ضمنا «سیاستگذاری کلان» این حوزه نیز نیازمند تدبیر است.
هوش مصنوعی بهعنوان یکی از برجستهترین فناوریهای تحولآفرین عصر حاضر، توانسته است تمامی ابعاد زندگی انسانها، از اقتصاد و بهداشت تا حملونقل و امنیت، را تحتتأثیر قرار دهد. این فناوری با فراهم آوردن فرصتهای بینظیر، همزمان چالشهای اخلاقی، حقوقی و اجتماعی را نیز بههمراه داشته است. ازاینرو، مداخله حاکمیتها و راهبری توسعه این فناوری که در قالب حکمرانی هوش مصنوعی مطرح میشود، اهمیتیافته و بهعنوان ضرورتی اجتنابناپذیر مطرح شده است. ضرورتی که هدف آن ایجاد تعادلی میان توسعه نوآوریهای فناورانه و حفاظت از منافع عمومی، اخلاق و امنیت جامعه است. یکی از رویکردها به حکمرانی هوش مصنوعی، رویکرد تنظیمگری است. در کشورهای در حال توسعهای همچون ایران، تنظیمگری هوش مصنوعی بهدلیل وجود موانع نهادی، قانونی، اقتصادی و اجتماعی با پیچیدگیهای ویژهای روبهرو است. نبود زیربنای ادبیاتی متقن و چارچوبهای قانونی شفاف، فقدان هماهنگی میان نهادهای ذیربط و محدودیت منابع مالی و فنی ازجمله چالشهای اساسی پیش روی این کشورها بوده که این مسائل نهتنها مانع بهرهبرداری بهینه از ظرفیتهای هوش مصنوعی میشوند، بلکه ممکن است ریسکهای ناشی از سوءاستفاده از این فناوری را افزایش دهند. این گزارش بهدنبال ارائه یک درک عمیق و جامع از ضرورتهای تنظیمگری هوش مصنوعی و چالشهای پیش روی آن، زمینهساز تدوین چارچوبهای تنظیمگرانه مناسب در این حوزه است. در این راستا، به بررسی ابعاد مختلف تنظیمگری پرداخته شده و با بهرهگیری از رویکردی تحلیلی، تلاش میشود تا راهکارهایی عملی و منطبق با شرایط بومی ارائه دهد.
درخصوص سابقه بحث تنظیمگری مرکز پژوهشها در گزارشی با عنوان «مفهوم تنظیمگری و ارتباط آن با نظام حکمرانی»[1]، بهصورتکلی به ادبیات حوزه تنظیمگری، اصول، تعاریف و جایگاه آن در مفهوم حکمرانی بهصورت مبسوط پرداخته شده است. این گزارش تنظیمگری را یکی از کارکردهای اصلی نظام حکمرانی نوین دانسته که در کنار سایر کارکردها مانند سیاستگذاری، بازتوزیع، تسهیلگری و نیز کارکرد سنتی ارائه کالا و خدمات، چارچوب کلان نظام حکمرانی مدرن را شکل میدهد. این گزارش تأمین منفعت عمومی را هدف اصلی طرح تنظیمگری میداند. این گزارش بیان میکند که در ایران طی سالیان طولانی، اکثر وظایف تنظیمگرانه بهطور مستقیم توسط حکومت انجام میگرفته و تفکیک مشخصی بین سیاستگذاری و تنظیمگری وجود نداشته است، اما با گذشت زمان بهتدریج سازمانهایی در زیرمجموعه دولت بهوجود آمدند که با تمرکز بر وظایف تنظیمگرانه، اموری همچون مجوزدهی، تنظیم بازار و اعمال برخی جرائم بر متخلفان را برعهده گرفتند و با تأسیس نهادهایی همچون کانون وکلا و سازمان نظام پزشکی، تنظیمگری بخشی و تخصصی پیشرفت کرده و بهمرور برخی نهادهای نسبتاً مدرن تنظیمگر دولتی مانند سازمان تعزیرات حکومتی، سازمان حمایت از تولیدکنندگان و مصرفکنندگان و اخیراً سازمان تنظیم مقررات رادیویی و شورای رقابت نیز با هدف ایفای نقش تنظیمگرانه دولت ایجاد شدهاند.
در گزارش دوم از سلسلهگزارش حاضر با عنوان «حکمرانی هوش مصنوعی (۲): مفاهیم، ابعاد و مؤلفهها»[2] که در سال 1403 به چاپ رسید، به وجوه گوناگون مفهوم حکمرانی هوش مصنوعی پرداخته شده و از مفهوم تنظیمگری بهعنوان یکی از رویکردهای حکمرانی هوش مصنوعی نام برده شده است. در این گزارش، علاوهبر مطالعه مفهوم تنظیمگری هوش مصنوعی، به الزامات نهادی مورد نیاز آن برای جمهوری اسلامی ایران و نقش مجلس شورای اسلامی در بازطراحی نظام تنظیمگری چابک در حوزه فناوریهای مبتنیبر هوش مصنوعی اشاره شده است. گزارش حاضر در ادامه گزارش مذکور، بهدنبال بررسی و تفصیل بحث تنظیمگری هوش مصنوعی در کشور است.
این بخش بهطور خلاصه مفاهیم اصلی مرتبط با تنظیمگری را بیان میکند تا برمبنای آن تحلیل رویکردهای مختلف در ارتباط با تنظیمگری هوش مصنوعی ممکن شود. تعاریف زیادی از مفهوم «تنظیمگری» وجود دارد. بهعنوانمثال، براونسورد و گودوین در کتاب «قوانین و فناوریهای قرن بیستویک»، تعریفی از تنظیمگری را ارائه کردهاند[3]: «تنظیمگری، اعمال کنترل بر رفتار واحدهاست».
این تعریف بهگونهای بیان شده است که هرگونه مداخلهای که مرتبط با تغییر رفتار در زیرمجموعه باشد را دربرمیگیرد؛ ازجمله قانونگذاری و مقررهگذاری. ضمناً بیان نهتنها ابزارهای طراحی خطمشی، بلکه سازوکارهای کنترلی برای شرایط خاص را نیز شامل میشود.
در دورانی که دولتها دیگر تنها بازیگران بلامنازع عرصه اداره امور عمومی محسوب نمیشوند و توزیع اقتدار عمومی از نهادهای رسمی به بخش خصوصی، نهادهای عمومی و بازیگران محلی و فراملی به رسمیت شناخته شده است، تنظیمگری ازجمله مهمترین ظرفیتهای حکمرانی مدرن محسوب میشود [1].
بااینحال آنچه از مفهوم تنظیمگری مدنظر این گزارش است، تنظیمگری بهمعنای خاص بوده که ایده پشت این معنا از تنظیمگری این است که چون تصمیمگیری در دنیای امروز بسیار پیچیده و پویاست و نیازمند توجه به اقتضائات منطقهای، بخشی، لحظهای، آنی، تخصصی و فاقد اهداف شفاف و بینالاذهانی است و از طرف دیگر ورود بخش خصوصی و بازیگران محلی به عرصه تحولات و اعمال حاکمیتی گسترش یافته، ضروری است در شیوه سنتی قانونگذاری و تصمیمگیری که رویکرد یکساننگری، همشکلسازی و طی روندهای دمکراتیک را مدنظر داشته، بازنگری شود. بنابراین بخشی از فرایندهای اجرا و تصمیمات حاکمیتی بهجای تصمیمات کلان و جامع توسط حاکمیت، به سایر بازیگران تفویض شده و فرایند تضمین منفعت عمومی از این مجموعه تصمیمات که با عنوان تنظیمگری مطرح شده است، با مجموعهای از تصمیمات خرد، بخشی، منطقهای، انعطافپذیر و تخصصی در حوزه خاص جایگزین میشود که متمرکز بر خروجیها و تحقق اهداف عملکردی مشخص است. اهداف طرحهای تنظیمگرانه معمولاً مورد مناقشه هستند و در طول زمان تغییر میکنند[4], [5]. گفتنی است؛ کارکرد تنظیمگری شامل مجموعه مداخلات حاکمیتی در فعالیتهای اقتصادی و اجتماعی با استفاده از ابزارهای مختلف حقوقی، اقتصادی، اجتماعی و ... با هدف تحقق سیاستها و یا منافع عمومی است.
کارکرد تنظیمگری خود شامل زیرکارکردهایی است که میتوان آنها را در موارد ذیل برشمرد [1]:
الف) مقرراتگذاری: تدوین و تصویب مقرراتی که تعیینکننده قواعد رفتار بازیگران هستند.
ب) آگاهسازی: آگاهسازی بازیگران تحت تنظیم از اهداف تنظیمگری و چارچوبی که ذیل آن باید رفتار کنند.
ج) رصد: رصد بازیگران با هدف آگاهی از وضعیت حوزه تحت تنظیمگری و میزان تعهد به مقررات وضع شده.
د) اعمال مقررات: طراحی سازوکارهای لازم برای جهتدهی به رفتار بازیگران و استفاده از سازوکارهای انگیزشی و تنبیهی.
ه) داوری و حل منازعات: تصمیمگیری در مورد عواقب عدم پایبندی به مقررات یا حلوفصل منازعات.
و) مجازات: اعمال مجازات و تنبیههای لازم در موارد تخلف.
ز) ارزیابی: پایش نظام تنظیمگری و اعمال اصلاحات لازم.
ح) طراحی مکانیسم: چینش بازیگران و تعریف ارتباطات بین آنها بهگونهای که نتیجه عملکرد و تعاملات بازیگران تأمینکننده اهداف مدنظر تنظیمگر باشد.
هریک از کارکردهای فوق میتوانند بهطور مستقیم توسط نهادهای حاکمیتی انجام شده و یا به بخشهای غیرحاکمیتی واگذار شوند.
طراحی هر نظام تنظیمگری خاص، منعکسکننده اهداف و نیازهای بازیگران و ذینفعان آن زیستبوم است. انسجام و کامل بودن در طراحیها، بسته به درجه تضاد بین منافع و قدرت طرفهای مختلف درگیر یا تحتتأثیر فرایند طراحی، بسیار متفاوت خواهد بود. اصلاحات بعدی در نظامات تنظیمگرانه ممکن است الزامات را گسترش دهد یا پسگرفته و یا ساده کند، اما اغلب پیچیدگی آنها را افزایش میدهد[6].
در رابطه با طراحی نظام تنظیمگرانه جدول زیر با هدف دستهبندی معیارها مطرح شده است.
جدول 1. معیارهای طراحی و ارزیابی یک نظام تنظیمگری[3]،[8]،[9] و [10]
|
فرایند |
- وضوح اهداف و الزامات: اهداف و تعهدات برای تنظیمکنندهها و ذینفعان قابل درک باشد. - شفافیت: فرایندهای توسعه و بررسی باز باشد و الزامات منتشر شود. - مشارکت: همه ذینفعان در فرایندهای توسعه و بررسی مشارکت داشته باشند. - انعکاس منافع ذینفعان: به نیازهای ذینفعان رسیدگی و منافع مشروع نهادهای تنظیمگر منعکس شود. |
|
محصول |
- جامعیت: تمام جنبههای مرتبط در یک چارچوب منسجم گنجانده شده باشد. - صرفهجویی: نظام تنظیمگری، بیش از آنچه قابل توجیه است، دچار لختی یا باراضافی نباشد. - پیکربندی: الزامات بهاندازه کافی مشخص و عملیاتی شده باشند تا امکان اجرای مؤثر و کارآمد توسط تنظیمگرها فراهم باشد. - ارزش آموزشی: الزامات بهجای نثر انتزاعی و گفتمانی به شکل توضیحی و آموزنده بیان شوند. |
|
خروجی |
- نظارت: رفتارهای تنظیم شده تحت نظارت باشند. - قابلیت اجرا: رفتارهای تنظیم شده مشمول اقدامات اجرایی، هم بهطور مستقیم توسط ذینفعان، و هم توسط سازمانهای اجرایی باشد. - اجرا: نهادهای مجری، دارای اختیارات و منابع مناسبی باشند و از آنها برای دستیابی به انطباق استفاده کنند. - شفافیت: اقدامات انجام شده توسط تنظیمگرها و پاسخهای تنظیمشوندهها منتشر شود تا بر رفتار همه تنظیمشوندهها تأثیر گذارد. - بازبینی: طرح کلی نظام تنظیمگری برای اطمینان از مطابقت نتایج با اهداف، مورد بازبینی و تطبیق قرار گیرد. |
حکمرانی هوش مصنوعی به مجموعهای از فرایندها، سیاستها، و سازوکارهایی اطلاق میشود که با هدف مدیریت، نظارت و هدایت استفاده مسئولانه و ایمن از فناوریهای هوش مصنوعی طراحی شدهاند. لزوم پرداخت به تنظیمگری هوش مصنوعی بهعنوان یکی از بخشهای اصلی حکمرانی هوش مصنوعی یا یکی از کارکردها یا رویکردهای ممکن به حکمرانی، از آنجا ناشی میشود که این مفهوم با تدوین سازوکارهای عملیاتی و استانداردها و هماهنگیها، تعادل میان نوآوری و ملاحظات اخلاقی، امنیتی و اجتماعی را تضمین میکند و خطرات بالقوه این فناوری را به حداقل میرساند.
با توجه به راهبردی بودن فناوری هوش مصنوعی، ضروری است که نظام تنظیمگری هوش مصنوعی، ذیل سیاستهای کلانی که مسیر راه کشور و افقهای راهبردی توسعه این فناوری را تعیین میکنند، تعبیه شود تا زمینهساز تحقق این سیاستهای کلان و دستیابی کشور به اهدافی متعین و مترقی باشد. بنابراین در این گزارش، ساختار سیاستگذاری کلان این حوزه نیز باید مدنظر قرار گیرد.
تنظیمگری هوش مصنوعی به مجموعهای از قوانین بخشی، مقررات، استانداردها و دستورالعملهایی اشاره دارد که برای توسعه، هدایت، پیادهسازی و استفاده بهینه و صحیح از این فناوریها تدوین شده و هدف از آن، ایجاد تعادل بین استفاده از دستاوردهای هوش مصنوعی و حفاظت از حقوق افراد و جامعه است[7].
تنظیمگری در حوزه هوش مصنوعی نیازمند اتخاذ دیدگاه جامعی است که شامل توجه مداوم به توسعه و درعینحال شفافیت، اخلاق، همکاری بینالمللی و ... باشد. توجه به اصول اخلاقی بهویژه در مراحل اولیه طراحی نظام تنظیمگرانه و توسعه فناوریهای هوش مصنوعی بسیار ضروری است. این رویکرد به مهندسان و طراحان این فناوری کمک میکند تا از ابتدا ملاحظات اخلاقی را در نظر بگیرند و از پیامدهای ناخواسته جلوگیری کنند. علاوهبراین، شفافیت در الگوریتمها و فرایندهای تصمیمگیری بسیار حائز اهمیت است؛ لذا باید مکانیسمهایی وجود داشته باشد که از طریق آن، کاربران امکان فهم چگونگی تصمیماتی که توسط سیستمهای هوش مصنوعی گرفته میشود را داشته باشند. این شفافیت نهتنها درک بهتری از فناوری را فراهم میکند، بلکه مسبب افزایش اعتماد عمومی نیز خواهد بود. در این میان، همکاری بینالمللی برای ایجاد استانداردها و قوانین مشترک نیز حیاتی است. با توجه به اینکه هوش مصنوعی مرزهای جغرافیایی را درنوردیده و بهسرعت در حال پیشرفت است، کشورها باید بهطور مشترک برای تعیین قواعدی که حریم خصوصی، امنیت و استفاده اخلاقی از هوش مصنوعی را تضمین میکند، همکاری کنند[8].
برای اینکه بتوان از هر فناوری نوظهوری بهصورت بهینه بهرهبرداری و از خطرات و آثار منفی آن جلوگیری کرد، داشتن بستری قانونی و شفاف ضروری است؛ دلایل بسیاری وجود دارد که اثبات میکند تنظیمگری در حوزه هوش مصنوعی از واجبات عصر حاضر بوده و تمامی این دلایل از دغدغههای اجتماعی، اخلاقی و امنیتی برخاسته که برخی از آنها شامل موارد زیر است:
الف) تضمین منفعت عامه: با پیچیده شدن مسائل حاکمیتی و طرح نظریه حکمرانی و گسترش نقش بازیگران غیردولتی، خصوصی و محلی در امور اجتماعی، لازمه تضمین حصول منفعت عامه از عملکرد این بازیگران بیشازپیش مشخص شده که بر این اساس مهمترین هدف و الزام طرح تنظیمگری در عصر کنونی تضمین منفعت عامه از کنشهای بازیگران مختلف است. در عرصه فناوری هوش مصنوعی که بخش اعظمی از توسعه آن بر دوش بخش خصوصی و غیردولتی است، تنظیمگری نقش بسیار مهمی خواهد داشت.
ب) تأثیرات اخلاقی و اجتماعی: استفاده گسترده از هوش مصنوعی مسائل اخلاقی بیسابقهای را بهدنبال دارد؛ زیرا سیستمهای هوش مصنوعی اغلب در زمینه اجتماعی بسیار پیچیده عمل میکنند و این امکان وجود دارد که تأثیرات اجتماعی و اخلاقی آن بلافاصله قابل تشخیص و رسیدگی نباشد. این پیچیدگی احتمال بروز چالشهای اخلاقی غیرمنتظره، بهویژه زمانی که سیستمهای هوشمند برای اتخاذ تصمیماتی کلان برای زندگی انسانها بهکار گرفته میشود، افزایش مییابد[6]. ازاینرو، طراحی نظام تنظیمگری همراه با رصد، تصمیمات جزئی، انعطافپذیری و چابکی بالا، از الزامات پیش روی جوامع است.
ج) امنیت و حریم خصوصی: سیستمهای گوناگون مبتنیبر هوش مصنوعی مانند رباتهای پزشکی، پهپادها و وسایل نقلیه خودران و ... نگرانیهای قابلتوجهی را در زمینه امنیت، حریم خصوصی و استفاده نادرست از دادههای شخصی بهوجود آورده است. در این زمینه، چارچوبهای تنظیمگر باید بهگونهای طراحی شوند که الزامات و ملاحظات تنظیمگری بخشی برای هر حوزه بهصورت مجزا دیده شود[9].
د) مسئولیت و پاسخگویی: زمانی که سیستمهای هوش مصنوعی در هر زمینهای با شکست مواجه میشود، ضرورت وجود نهادی برای مسئولیتپذیری در قبال آن مشخص خواهد شد. یک نظام تنظیمگر میتواند با تعیین مرزهای مشخص بین بازیگران و ذینفعان، به واضح شدن مسائل و مسئولیتها کمک و الزام پاسخگویی هریک از ذینفعان این حوزه اعم از تولیدکنندگان، توسعهدهندگان و کاربران را مشخص کند[10].
ه) جلوگیری از آسیب: یک نظام تنظیمگر میتواند با تکیه بر همان مرزبندیها و وظایف تعیین شده برای بازیگران، مصرفکنندگان و جامعه را از آسیبهای احتمالی که در سیستمهای هوش مصنوعی رخ میدهد (مانند خرابی، طراحی نامناسب، یا سوءاستفادههای مختلف سیستم)، مصون نگه دارد. چنین آسیبهایی به سوگیری در تصمیمگیری، تبعیض، از دست دادن استقلال و سایر آسیبهای اجتماعی و اخلاقی منجر خواهد شد[9].
و) تشویق نوآوری مسئولانه: تنظیمگری میتواند در عین ایجاد استانداردهایی که شفافیت، انصاف و رفتار اخلاقی را در طراحی و استقرار سیستمهای هوش مصنوعی افزایش میدهد، دسترسی به نوآوریهای بیخطر را تسهیل کند[9] چراکه خود عامل آزادی عمل و جهتگیری مناسب برای توسعهدهندگان هوش مصنوعی خواهد بود.
ز) سازگاری جهانی: با توجه به جهانی بودن فناوریهای هوش مصنوعی، به چارچوبهای تنظیمی نیاز است که در سطح بینالمللی شناخته و پذیرفته شده باشند. بهطوریکه اطمینان حاصل شود در استقرار و عملکرد سیستمهای هوش مصنوعی در سراسر مرزها، استانداردهای اخلاقی و ایمنی جهانی برآورده میشود[9].
ح) چالشهای مالکیتی: گسترش هوش مصنوعی مسبب جایگزینی بسیاری از نقشهای انسانی شده که نگرانیهایی در مورد ایمنی، حریم خصوصی و پیامدهای اخلاقی ماشینهای مستقل در جامعه را برانگیخته است[10] لذا توجه و مطالعه عمیق به مفهوم مالکیت و بازتعریف آن به تناسب ماهیت هوش مصنوعی ازجمله کارکردهای بنیادین یک نظام تنظیمگری متقن در این حوزه است.
این دلایل نشاندهنده ضرورت تدوین نظام تنظیمگری جامع و متناسبی است که علاوهبر ایجاد ظرفیت در مواجهه چابک با پیشرفتهای سریع فناوریهای هوش مصنوعی، تأثیرات اجتماعی، اخلاقی و قانونی گستردهتری را نیز در نظر میگیرد. هدف اصلی این است که جوامع در عین کاهش خطرات این فناوری، از مزایای آن بهرهمند شوند.
دولتها و نهادهای بینالمللی، بهواسطه تنظیمگری و طراحی چارچوبهای جدید، شروع به پاسخگویی به نیازهای برآمده از کاربست فناوریهای مبتنیبر هوش مصنوعی کردهاند. تنظیمگری فناوری هوش مصنوعی در سراسر جهان ازجمله در ایالات متحده، چین، اتحادیه اروپا و حتی خاورمیانه در حال طراحی و اجراست. نهادهای تنظیمگر در این کشورها، اسنادی را پیشنهاد یا نهایی کردهاند که بر برخی محدودیتها، توسعه مسئولیتپذیرانه و فرایندهای (الگوریتمهای) تأیید شده، تأکید دارند. نقاط تمرکز گوناگون در امر تنظیمگری در مناطق مختلف جغرافیایی، مجموعهای از پیچیدگیهای نظارتی را برای تصمیمگیران این حوزه ایجاد میکند و همه آنها بهدنبال ایجاد تعادل بین ارتقای بهرهوری در دستاوردها و توسعه مسئولانه هستند.
برای ارزیابی چشمانداز در حال تحول تنظیمگرانه هوش مصنوعی، هشت حوزه تنظیمگری بررسی و تحلیل شدهاند. این بررسی نهتنها شامل فعالیتهای تنظیمگری هوش مصنوعی داخلی آنها، بلکه شامل تلاشهای بینالمللی نیز میشود. این حوزهها (کشورها) شامل 1. کانادا، 2. چین، 3. اتحادیه اروپا (EU)، 4. ژاپن، 5. کره، 6. سنگاپور، 7. بریتانیا و 8. آمریکا است. این قواعد و ابتکارات تنظیمگرانه، از رصدخانه خطمشی هوش مصنوعی سازمان همکاری اقتصادی و توسعه (OECD) برگرفته شده است[11]. براساس تجزیهوتحلیلها، ۶ روند کلیدی تنظیمگری برای سیاستگذاران و شرکتها شناسایی شده تا در جهت افزایش اعتماد در استفاده از هوش مصنوعی در نظر گرفته شوند.
رویکردهای گوناگونی در هشت حوزه مورد مطالعه، در حکمرانی هوش مصنوعی وجود دارد که منعکسکننده رویکردهای فرهنگی متنوع برای تنظیمگری و بهطور ویژه تنظیمگری هوش مصنوعی است. ظهور چندین روند تنظیمگرانه، خود نشاندهنده تحولات در خطمشیگذاری این حوزه بوده که از چند منظر قابل بررسی است. از یکسو به نیازها و ملاحظات داخلی کشورها اشاره دارد و ازسویدیگر، وابستگیها و تعاملات بینالمللی را شامل میشود که برآمده از ماهیت این حوزه است. این تلاشها همه بر هدف کاهش خطرات هوش مصنوعی همزمان با تسهیل ارائه مزایای بالقوه اجتماعی و اقتصادی آن برای شهروندان متمرکز شده است. این هدف مشترک، 6 گرایش را در رویکرد این نهادهای تنظیمگر به نظارت و قانونگذاری حوزه هوش مصنوعی را ایجاد کرده که در ادامه در قالب کلانروندهای تنظیمگری هوش مصنوعی بررسی میشوند.
اصول هوش مصنوعی، که توسط OECD و گروه 20 (G20) در سال 2019 به تصویب رسید، بهعنوان یک معیار جهانی برای کمک به دولتها و سازمانها در شکلدهی رویکردی انسانمحور به هوش مصنوعی عمل میکند. گفتمانی که در سال 2016 در مورد اصول اخلاقی حاکم بر هوش مصنوعی آغاز شد.
جدول 2. خلاصه اصول و توصیههای هوش مصنوعی OECD به دولتها [11]
|
اصول هوش مصنوعی OECD |
توصیههای OECD به دولتها |
|
هوش مصنوعی باید با هدایت رشد فراگیر، توسعه پایدار و رفاه به مردم و کره زمین کمک کند. |
تسهیل سرمایهگذاری دولتی و خصوصی در تحقیق و توسعه برای تشویق نوآوری حوزه هوش مصنوعی قابل اعتماد. |
|
سیستمهای هوش مصنوعی باید بهگونهای طراحی شوند که به حاکمیت قانون، حقوق بشر، ارزشهای دمکراتیک احترام بگذارند و باید بسترهای حفاظتی مناسبی را دربرگیرند؛ بهعنوانمثال، امکان مداخله انسانی را، در صورت لزوم، برای تضمین تشکیل یک جامعه منصفانه و عادلانه فراهم کنند. |
تقویت اکوسیستمهای هوش مصنوعی قابل دسترس با کمک زیرساختها و فناوریهای دیجیتال و مکانیسمهایی برای اشتراکگذاری دادهها و دانش مرتبط با آن. |
|
لزوم وجود فرایند «آشکارسازی مسئولانه» در جهت حصول اطمینان از آگاهی مردم از مواجهه با سیستمهای هوش مصنوعی و توانایی به چالش کشاندن نتایج حاصله از این سیستمها. |
ایجاد یک محیط سیاستی که راه را برای استقرار سیستمهای هوش مصنوعی قابل اعتماد باز کند. |
|
سیستمهای هوش مصنوعی باید در طول عمر خود به شیوهای قدرتمند، حفاظت شده و ایمن عمل کنند و خطرات احتمالی باید بهطور مستمر ارزیابی و مدیریت شوند. |
تجهیز افراد به مهارتهای حوزه هوش مصنوعی و حصول اطمینان از حمایت کارمندان جهت انتقال عادلانه. |
|
سازمانها و افرادی که سیستمهای هوش مصنوعی را توسعه میدهند، بهکار میگیرند یا راهاندازی میکنند؛ باید در قبال عملکرد خود در راستای اصول ذکر شده پاسخگو باشند. |
همکاری در سراسر مرزها و بخشهای گوناگون برای به اشتراک گذاشتن اطلاعات، توسعه استانداردها و تلاش جهت سرپرستی مسئولانه هوش مصنوعی. |
ابتکاراتی که قبلتر توسط نهادهای تنظیمگری ایجاد شده، با این اصول سازگار است. بهعنوانمثال، قوانین متعلق به اتحادیه اروپا و کانادا، مقرراتی الزامی را در حوزه مدیریت ریسک و دادههای برنامههای پرخطر هوش مصنوعی مانند استفاده از هوش مصنوعی برای زیرساختهای حیاتی یا تصمیمگیریهای مربوط به استخدام نیروی کار ایجاد میکند. این الزامات با اصول OECD برای پاسخگویی و استفاده قدرتمند، حفاظت شده و ایمن از هوش مصنوعی سازگار است. اتحادیه اروپا برای برخی کاربردهای هوش مصنوعی «خط قرمز» تعیین کرده است؛ یعنی برخی از موارد کاملاً ممنوع هستند. بهعنوانمثال، استفاده از هوش مصنوعی بهمنظور امتیازدهی اجتماعی که براساس رفتار اجتماعی یا ویژگیهای شخصی بوده، فراتر از اصول OECD میباشد و ممنوع است[12].
سایر حوزههای تنظیمگری مانند بریتانیا، ژاپن و سنگاپور بهجای اتخاذ مقررات خاص، بر ارائه راهنمایی برای صنایع مبتنیبر اصول OECD متمرکز هستند. با وجود اینکه چین یک کشور عضو در OECD نیست، اصول OECD مبنای اصول هوش مصنوعی G20 است که توسط رهبران G20، ازجمله چین در ژوئن 2019 تأیید شد[13].
اصول هوش مصنوعی OECD میتواند آوردههای مهمی برای تنظیمگری هوش مصنوعی در کشور داشته باشد. این اصول، با تأکید بر محوریت انسان، شفافیت، مسئولیتپذیری و ایمنی، چارچوبی جامع بهمنظور توسعه و استفاده از سیستمهای هوش مصنوعی ارائه میدهند. بهرهگیری از این اصول میتواند به ایران کمک کند تا با اتخاذ سیاستهایی مانند تقویت زیستبوم هوش مصنوعی، تسهیل سرمایهگذاری در تحقیق و توسعه، و ایجاد مکانیسمهای شفافیت و پاسخگویی، زیرساختهای لازم برای حکمرانی هوش مصنوعی قابل اعتماد را فراهم کند. همچنین، این رویکرد بهواسطه تمرکز بر همکاریهای بینالمللی و اشتراک دانش، فرصتهایی را برای همسویی با استانداردهای جهانی و تقویت جایگاه ایران در زیستبوم بینالمللی هوش مصنوعی ایجاد میکند. البته این چارچوب ممکن است از جنبههای ارزشی حمایت کند که لزوماً در چارچوب اسلامی و فرهنگی جمهوری اسلامی ایران قرار نگیرد. لذا هرنوع پذیرش این چارچوبها باید همانند اعلامیه حقوق بشر اسلامی با حق تحفظ ازسوی جمهوری اسلامی ایران همراه باشد. البته محصولاتی که در دسترس مردم ایران هستند از این چارچوبها تبعیت میکنند که نشانگر لزوم اهتمام به رشد بومی در این حوزه است.
در هر هشت کشور بررسی شده، مبنای تنظیمگری بر تفسیر اصول هوش مصنوعی در ساحت عمل متمرکز است. درحالیکه رویکرد آنها میتواند از راهنمایی داوطلبانه تا قوانین اجباری متغیر باشد؛ لذا همه حوزههای (کشور) تنظیمگری، یک رویه مبتنیبر ریسک را برای هوش مصنوعی دنبال میکند. در آوریل 2023، وزرای فناوری و دیجیتال گروه هفت دیدگاه واحدی درباره هوش مصنوعی ابراز کردند و خواستار این شدند که سیاستها و مقررات هوش مصنوعی، «مبتنیبر ریسک» باشد. این رویکرد مستلزم تنظیم یا تعدیل مقررات با خطرات ناشی از فعالیتهای خاص مرتبط با هوش مصنوعی برای ایجاد تعادل مناسب بین کاهش خطرات و درعینحال تشویق توسعه و استفاده مسئولانه از هوش مصنوعی است. این رویکرد همچنین به سیاستگذاران اجازه میدهد تا نسبت به نوآوریهای سریع هوش مصنوعی واکنش نشان دهند و آنها را قادر میسازد تا تعادل الزامات (تنظیمات) حیاتی بین کاهش خطرات هوش مصنوعی و تسهیل مزایای آن را حفظ کنند. مزیت اصلی رویکرد مبتنیبر ریسک این است که امکان مداخله تنظیمگرانه زودهنگام را فراهم میکند و درعینحال تقاضاها و هزینههای تطابق را متناسب با تأثیرات منفی احتمالی نگه میدارد. گفتنی است؛ قانون هوش مصنوعی اتحادیه اروپا[14] و قانون هوش مصنوعی و دادههای کانادا[15] نمونههای مفیدی را از رویکرد مبتنیبر ریسک ارائه میدهند.
در دسامبر 2023، اتحادیه اروپا پس از ماهها مذاکرات فشرده، به توافقی درباره شرایط و اجزای کلیدی دستورالعمل هوش مصنوعی دست یافت. دستورالعمل هوش مصنوعی، نحوه تنظیمگری هوش مصنوعی را در بازار ۲۷ کشور عضو اتحادیه اروپا یکسانسازی خواهد کرد. این دستورالعمل برای هر شرکتی، صرفنظر از کشور محل استقرار آن، که سیستمهای هوش مصنوعی را توسعه داده است یا میفروشد و این سیستمها توسط هر فردی که در اتحادیه اروپا استفاده میشود، اعمال خواهد شد. این دستورالعمل نسبت به بخشهای مختلف بیطرف بوده و برای تمام سیستمهای هوش مصنوعی قابل اجراست و یک چارچوب تطابق مرحلهای را شامل میشود که براساس سطح ریسک دستهبندی شده است. شدیدترین الزامات برای توسعهدهندگان و بهرهبرداران از سیستمهای هوش مصنوعی که بهعنوان «پرخطر» طبقهبندی میشوند و سیستمهای هوش مصنوعی عمومی (شامل مدلهای پایه و سیستمهای هوش مصنوعی مولد) که ممکن است «ریسکهای سیستماتیک» ایجاد کنند، اعمال میشود. طبقهبندی ریسک در این قانون شامل موارد زیر است:
این رویکرد با تقسیم سیستمها براساس میزان خطر احتمالی میتواند در تنظیمگری سیستمهای مبتنیبر فناوری هوش مصنوعی در کشور بهکار آید. هرچند که لازمه اتخاذ این رویکرد، توسعه سیستمهای مختلف مبتنیبر هوش مصنوعی و بهکارگیری این سیستمها در بخشهای مختلف و آشنایی با اقتضائات آنهاست. به علت اینکه این سیستمها هنوز به بلوغ و رشد کافی در کشور نرسیدهاند، نمیتوان مبنای اصلی تنظیمگری را رویکرد مبتنیبر ریسک قرار داد. گرچه بهصورت سنتی تنظیمگران بخشی در کشور ایران عموماً از زاویه مخاطرات به پدیدههای نوظهور ورود میکنند و در ادامه مداخله و وساطت دستگاههای فرابخشی روند نوآوری را حفظ خواهند کرد.
در کشورهای بررسی شده، این شناخت وجود دارد که ملاحظات بخشی باید در تنظیمگریهای هوش مصنوعی در نظر گرفته شود؛ زیرا استفاده از این فناوری میتواند در برخی بخشها خطرات منحصربهفرد یا بیشتری ایجاد کند. بهعنوانمثال، تعیین راهنماییها یا قوانین اضافی مخصوص برای خودروهای خودران که در خیابانها بهکار گرفته میشوند، بهدلیل خطرات ایمنی بیشتر، ضروری است. همچنین، ناظران بانکی ممکن است بخواهند قوانین خاصی را در رابطه با استفاده بانکها از هوش مصنوعی در نظر بگیرند تا خطرات احتمالی که هوش مصنوعی ممکن است در ارائه وام به مصرفکنندگان (مثلاً ارزیابیهای ناعادلانه) ایجاد کند را به حداقل برسانند. قطعاً خطرات و الزامات بهکارگیری این فناوری در بخش سلامت با بخش آموزش بسیار متفاوت خواهد بود.
در حال حاضر حوزههای تنظیمگری رویکردی دوگانه برای تنظیمگری هوش مصنوعی اتخاذ کردهاند؛ رویکرد فرابخشی (کلان) و بخشی (خرد). رویکرد اول یعنی «فرابخشی»، یک چارچوب از ضمانتهای اساسی را صرفنظر از اینکه هوش مصنوعی در کدام بخش مورد استفاده قرار میگیرد یا توسعه داده میشود، فراهم میکند. ازسویدیگر، رویکرد دوم یعنی «بخشی»، راهنماها یا تعهدات اضافی را برای استفاده از هوش مصنوعی تعیین میکند تا به خطرات و آسیبهای موجود در بخشهای خاص رسیدگی کند. بهعنوانمثال، چارچوب حکمرانی هوش مصنوعی سنگاپور، راهنماییهای بخشی را برای سازمانهای خصوصی ارائه میدهد تا با اصول راهنمای سنگاپور در مورد استفاده اخلاقی از هوش مصنوعی همسو شوند. علاوهبراین چارچوب، مرجع پولی سنگاپور راهنمای بخشی خاصی برای بخش مالی در مورد اصول عدالت، اخلاق، مسئولیتپذیری و شفافیت در استفاده از هوش مصنوعی و تحلیل دادهها صادر کرده است.
جدول ۳ نمونههایی از نحوه مواجهه برخی از حوزههای مورد بررسی را نسبت به سیاستهای تنظیمگری فرابخشی و بخشی در زمینه هوش مصنوعی را ارائه میدهد.
جدول3: سیاستهای بخشی و فرابخشی در حوزههای مختلف[11]
|
حوزه تنظیمگری |
سیاستهای فرابخشی |
سیاستهای بخشی |
|
کانادا |
قانون هوش مصنوعی و دادهها (بخشی از لایحه C-27) |
در بخش عمومی؛ دستورالعمل در مورد تصمیمگیری خودکار[16] |
|
چین |
هنجارهای اخلاقی برای نسل جدید هوش مصنوعی[17] اقدامات اداری برای خدمات هوش مصنوعی مولد (پیشنویس)[18] |
خدمات اطلاعات اینترنتی؛ مقررات مدیریت توصیههای الگوریتمی خدمات اطلاعات اینترنتی[19] اقدامات موقت برای مدیریت خدمات هوش مصنوعی مولد[20] |
|
اتحادیه اروپا |
قانون هوش مصنوعی (AI Act) |
ماشینآلات صنعتی؛ بازنگری در دستورالعمل ماشینآلات اتحادیه اروپا[21] |
|
ژاپن |
راهنمای حکمرانی برای اجرای اصول هوش مصنوعی[22] |
ایمنی کارخانههای صنعتی؛ راهنمای ارزیابی قابلیت اعتماد هوش مصنوعی در زمینه ایمنی کارخانهها[23] |
|
کره |
استراتژی اجرای هوش مصنوعی قابل اعتماد[24] |
بهبود زیرساختهای شهری؛ قانون شهر هوشمند[25] |
|
سنگاپور |
مدل چارچوب حکمرانی هوش مصنوعی[26] |
بخش مالی؛ اصول عدالت، اخلاق، مسئولیتپذیری و شفافیت سنگاپور[27] |
|
بریتانیا |
نقشه راه برای یک اکوسیستم تضمینکننده هوش مصنوعی مؤثر[28] |
منابع انسانی؛ شیوههای استخدام: نظارت بر پیشنویس راهنمایی در محل کار[29] |
|
ایالات متحده |
طرح کلی برای منشور حقوق هوش مصنوعی[30] |
تجهیزات پزشکی؛ برنامه عملیاتی FDA برای هوش مصنوعی/ یادگیری ماشین[31] |
با توجه به نوپا بودن توسعه فناوری هوش مصنوعی در کشور و علاوهبرآن گستره جمعیتی و مسائل اجتماعی مختلف، توجه به رویکرد بخشی و فرابخشی در تنظیمگری هوش مصنوعی در کشور بسیار ضروری و راهگشا خواهد بود. در این زمینه سازمان ملی هوش مصنوعی میتواند نقش تنظیمگر فرابخشی را ایفا کند که در تعامل با تنظیمگرهای بخشی در حوزههای مختلف مسائل، جمعیتی و منطقهای فعالیت میکند.
تنظیمگری در حوزه هوش مصنوعی فراتر از وضع چارچوبهای فنی برای این فناوری است و ابعاد گستردهای از سیاستگذاری در حوزههای مرتبط مانند دادهها، امنیت سایبری، هویت دیجیتال و جریانهای محتوای دیجیتال را نیز دربرمیگیرد. این روند نشان میدهد که توسعه هوش مصنوعی، مستلزم بازتعریف سیاستهای موجود و تدوین چارچوبهای جدید برای همراستاسازی این فناوری با اصولی همچون ایمنی، عدالت و شفافیت است. بررسی رویکردهای جهانی در این زمینه نشان میدهد که اتحادیه اروپا، با اتخاذ راهبردی جامع، از پیشرفتهترین الگوهای تنظیمگری در حوزه هوش مصنوعی برخوردار است.
قوانین اتحادیه اروپا در حوزه مالکیت دادهها، شفافیت و امنیت سایبری بهعنوان نمونههایی از این رویکرد مطرح هستند. قانون دادههای اتحادیه اروپا، دسترسی و استفاده منصفانه از دادههای موردنیاز برای هوش مصنوعی را در تمامی بخشها تسهیل کرده و به کاهش انحصار دادهای کمک میکند. مقررات عمومی حفاظت از دادهها (GDPR) نیز با تمرکز بر چالشهای ناشی از استفاده از دادههای شخصی در تصمیمگیریهای خودکار، علاوهبر حفاظت از حریم خصوصی، شفافیت و توضیحپذیری این فرایندها را تقویت میکند. همچنین قانون خدمات دیجیتال، مقرراتی برای استفاده از هوش مصنوعی در دسترسی و توزیع محتوای دیجیتال ارائه کرده است که به مقابله با انتشار اطلاعات نادرست و افزایش اعتماد عمومی به پلتفرمهای آنلاین کمک میکند. در حوزه امنیت سایبری، قانون تابآوری سایبری اتحادیه اروپا با معرفی تدابیر جدید، حفاظت از مصرفکنندگان و کسبوکارها در برابر تهدیدات پیچیده ناشی از هوش مصنوعی را تضمین کرده و تابآوری زیرساختهای دیجیتال را افزایش میدهد.
این تجربههای جهانی میتواند برای کشور نیز درسآموز باشد. با توجه به شرایط کشور، تنظیمگری در حوزه هوش مصنوعی باید بهگونهای طراحی شود که نیازهای بومی و اقتضائات ملی و نهادی را در نظر بگیرد. طراحی چارچوبهای شفاف برای مالکیت دادهها و اشتراک آن میان بخشهای مختلف میتواند موانع موجود در مسیر توسعه هوش مصنوعی را کاهش دهد. همچنین، توسعه مقررات مشابه GDPR برای حفاظت از دادههای شخصی کاربران ایرانی، علاوهبر ارتقای اعتماد عمومی، استفاده مسئولانه از این فناوری را تضمین میکند. در زمینه امنیت سایبری، تدوین قوانینی مشابه قانون تابآوری سایبری اتحادیه اروپا میتواند آسیبپذیری زیرساختهای حیاتی کشور را کاهش داده و امنیت فضای دیجیتال را تقویت کند. لازم به ذکر است که در این زمینه کشور دارای اسناد بالادستی مانند سند راهبردی جمهوری اسلامی ایران در فضای مجازی بوده که طراحی نظام حکمرانی داده را به «وزارت ارتباطات و فناوری اطلاعات»، طراحی نظام بهکارگیری فناوریهای نوین فضای مجازی ازجمله هوش مصنوعی را به «معاونت علمی، فناوری و اقتصاد دانشبنیان ریاستجمهوری» تفویض کرده است. ضمناً سند ملی هوش مصنوعی کشور، ذیل راهبردها و اقدامات ملی، بحث تدوین نظام حکمرانی داده را ازجمله زیرساختهای حکمرانی دانسته و بر آن تأکید کرده است. در اجراییسازی این اقدامات کارگروه تعاملپذیری دولت الکترونیک بهعنوان متولی «ایجاد هماهنگی، نظارت، تصمیمسازی در تبادل اطلاعات بیندستگاهی بهمنظور حفظ یکپارچگی، استانداردسازی، تسهیل و تسریع در ارائه خدمات الکترونیکی و به اشتراکگذاری اطلاعات ذینفعان» میتواند نقش مؤثری ایفا کند.
درنهایت، مدیریت جریانهای محتوای دیجیتال از طریق تنظیمگری هوش مصنوعی میتواند به بهبود کیفیت محتوای آنلاین و مقابله با چالشهایی همچون انتشار اطلاعات نادرست کمک کند. اتخاذ رویکردی جامع و چندبُعدی مشابه اتحادیه اروپا، مسیری مشخص برای ایران فراهم میکند تا ضمن استفاده بهینه از فرصتهای هوش مصنوعی، چالشهای آن را بهصورت مؤثر مدیریت کرده و به توسعه پایدار و مسئولانه این فناوری در کشور دست یابد.
تنظیمگران در اتحادیه اروپا، سنگاپور و بریتانیا، از سندباکس برای تنظیمگری هوش مصنوعی بهمنظور مقابله با چالشهای دوگانه (1) توسعه و (2) عدم تجربه در زمینه فناوریهای هوش مصنوعی استفاده میکنند. محیط آزمون یا سندباکس تنظیمگری، آزمایش فناوریهای نوآورانه را در محیطی تحت نظارت، با مقرراتی که ممکن است از نظر زمان، و یا دامنه، محدود باشد، امکانپذیر میسازد. این رویکرد قبلاً در بخش فینتک برای تقویت همکاری بخش دولتی و خصوصی استفاده شده است. مرجع راهبرد امور مالی انگلستان در این مفهوم پیشرو بوده، محیط آزمون یا سندباکس خود را در سال 2014 تأسیس کرده و از آن زمان تاکنون، در حدود 40 حوزه تنظیمگری تکرار شده است. مزایای بسیاری در این رویکرد وجود دارد، ازجمله؛ توسعه مقررات هدفمندتر و مؤثرتر، تقویت سرمایهگذاری خطرپذیر، تسهیل رقابت و ایجاد انگیزه برای ارتباطات بهتر بین تنظیمگران و شرکتهای مشارکتکننده.
اکنون مرجع راهبرد امور مالی انگلستان در حال آزمایش سیستمهای هوش مصنوعی در فینتک است، درحالیکه دفتر کمیسر اطلاعات بریتانیا آزمایش حریم خصوصی دادهها در هوش مصنوعی را برعهده دارد.
در آسیا، سنگاپور ازجمله کشورهایی است که محیط آزمون یا سندباکس تنظیمگری مشابه با مرجع راهبرد امور مالی انگلستان ایجاد کرده است. بهطور خاص، سازمان توسعه رسانه سنگاپور و کمیسیون حفاظت از دادههای شخصی در حال آزمایش «AI Verify» هستند؛ یک ابزار جدید RegTech که برای ارزیابی قابلیت اعتماد سیستمهای هوش مصنوعی براساس اصول انصاف، اخلاق، مسئولیتپذیری و شفافیت طراحی شده است. علاوهبراین، جعبههای شنی هوش مصنوعی در اسپانیا، سوئد و آلمان در حال آمادهسازی برای اجرای قانون هوش مصنوعی اتحادیه اروپاست[32].
سازوکار سندباکس با توجه به اقتضائات خاص کشور در حوزه فناوری (مانند سرعت اینترنت، فیلترینگ، دسترسی به داده و ...) میتواند بستر مناسبی جهت توسعه شرکتها و محصولات مرتبط با هوش مصنوعی در یک محیط آزمون با شرایط و دسترسیهایی فراتر از دسترسی عمومی باشد. ضمن اینکه در این سندباکسها، خروجیها و عملکرد این فناوری قابل رصد و ارزیابی، پیش از توسعه عمومی خواهد بود. این امر در کشور ما که این فناوریها در مرحله نوپایی است و بسیاری از پیامدهای محصولات مرتبط، هنوز بررسی نشده است، مفید خواهد بود. از طرفی با توجه به ضرورت رها نگذاشتن این حوزه توسط حاکمیت و از سمت دیگر فقدان شفافیت مسائل و چالشهای مبتلابه در این حوزه، سازوکار محیط آزمون میتواند در نقشآفرینی شرکتها و ذینفعان مختلف در مقررهگذاری به شیوه مرحلهای و آزمایشی و حصول نتیجهای سنجیده و مشارکتی و کاهش مقاومت این ذینفعان مؤثر باشد.
روند 6. حرکت رو به رشد برای همکاری بینالمللی در درک و رسیدگی به خطرات سیستمهای مبتنیبر هوش مصنوعی
در طول سال ۲۰۲۳، توجه عمومی بیشتر به توسعه و انتشار هوش مصنوعی که تواناییهای چشمگیری نیز دارند با افزایش تلاشها برای ایجاد یک مبنای مشترک جهانی برای مدیریت و تنظیم هوش مصنوعی همراه بوده است. کارگروه مدیریت هوش مصنوعی (OECD)[33] کمیته شورای اروپا در مورد هوش مصنوعی،[34] مشارکت جهانی در هوش مصنوعی[35] و ابتکارات مختلف در نهادهای سازمان ملل (مثلاً توصیههای یونسکو در مورد اخلاق هوش مصنوعی[36] و راهنمای خطمشی یونیسف در خصوص هوش مصنوعی مورد استفاده برای کودکان)[37]، و «جریان هیروشیما بر روی هوش مصنوعی مولد»[38] ازجمله ابتکارات کشورها و سازمانهای بینالمللی بهمنظور ایجاد بستری در راستای توسعه همکاریهای بینالمللی برای تنظیمگری هوش مصنوعی هستند. این ابتکارات با همسو کردن پاسخهای بینالمللی و تدوین پیوندنامههای جامع و مؤثر به شتاب جهانی برای همکاری در زمینه حکمرانی هوش مصنوعی کمک میکنند. اهمیت آنها در ماهیت مشارکتی آنها نهفته است؛ بهطوریکه گفتمان جهانی را در مورد چالشهای پیچیده ایمنی، اخلاق و حکمرانی هوش مصنوعی گردهم میآورد.
در این میان، پیمان شانگهای بهعنوان یک ساختار منطقهای و اتحادیه بریکس بهعنوان یک ائتلاف اقتصادی، نقش بسزایی در همگرایی سیاستهای هوش مصنوعی ایفا میکنند. پیمان همکاری شانگهای، بهعنوان یکی از مهمترین ائتلافهای منطقهای، هدف خود را بر توسعه همکاریهای امنیتی، اقتصادی و علمی- فناوری میان اعضا متمرکز کرده است. این پیمان با حضور کشورهایی همچون چین، روسیه، هند و کشورهای آسیای مرکزی، پتانسیل قابلتوجهی برای هماهنگسازی سیاستهای هوش مصنوعی دارد. در بیانیه اخیر این پیمان[39]، بر لزوم تسریع توسعه فناوریهای هوشمند و تدوین راهکارهای مشترک برای مدیریت چالشهای اخلاقی، امنیتی و اقتصادی ناشی از هوش مصنوعی تأکید شده است. ایران که اخیراً به عضویت رسمی این پیمان درآمده، میتواند از ظرفیتهای علمی و فناوری اعضای این پیمان برای تقویت زیرساختهای هوش مصنوعی خود استفاده کند. دسترسی به تجربیات پیشرفته چین و روسیه در حوزه هوش مصنوعی و مشارکت در پروژههای منطقهای ازجمله فرصتهایی است که میتواند به ارتقای توانمندیهای داخلی کمک کند. علاوهبراین، تعامل با کشورهای آسیای مرکزی، بهدلیل شباهتهای فرهنگی و ساختارهای اقتصادی مشابه، بستری مناسب برای توسعه همکاریهای فناورانه فراهم میکند.
ازسویدیگر، اتحادیه بریکس شامل کشورهای برزیل، روسیه، هند، چین و آفریقای جنوبی، یکی از مهمترین ائتلافهای اقتصادی جهان است که بر ایجاد توازن در نظام جهانی تمرکز دارد. در زمینه هوش مصنوعی، بریکس بهتازگی اعلام کرده که قصد دارد ائتلافی برای هماهنگی سیاستهای هوش مصنوعی ایجاد کند[40]. این اقدام با هدف مقابله با تسلط انحصاری کشورهای غربی بر استانداردهای این فناوری و ایجاد چارچوبهای مستقل برای تنظیمگری انجام میشود. ایران، بهعنوان یکی از شرکای استراتژیک این اتحادیه، میتواند با بهرهگیری از این ظرفیت، رویکردهای بومی خود را در چارچوب سیاستهای جهانی مطرح کند. عضویت ایران در بریکس میتواند فرصتهایی برای انتقال دانش، مشارکت در تدوین استانداردهای منطقهای و بهرهگیری از سرمایهگذاریهای مشترک در حوزه هوش مصنوعی ایجاد کند. همچنین، با توجه به روابط نزدیک ایران با روسیه و چین، این امکان وجود دارد که ایران بهعنوان پل ارتباطی میان کشورهای بریکس و منطقه خاورمیانه نقشآفرینی کند.
تنظیمگری هوش مصنوعی در ایران با چالشهای عملیاتی متعددی مواجه بوده که نیازمند طراحی مکانیسمهایی برای نظارت و اجرای مؤثر این چارچوب است. ایجاد کانالهای ارتباطی قوی بین نهادهای نظارتی، ذینفعان و مردم برای شفافسازی و انتشار اطلاعات نظارتی ضروری بوده و در این میان آگاهی عمومی و اقدامات آموزشی برای ارتقای درک و انطباق با تنظیمگری هوش مصنوعی نیز بسیار حائز اهمیت است. تقویت ظرفیت در نهادهای نظارتی از طریق آموزش و سرمایهگذاری در زیرساختهای فناورانه ضروری بوده تا نظارت مؤثر بر هوش مصنوعی را تضمین کند.
از منظر اقتصادی، چالشهای مرتبط با تنظیمگری هوش مصنوعی شامل نیاز به بودجه و منابع کافی برای توسعه، پیادهسازی و اجرای تنظیمات توسعهمحور است. این شامل تأمین منابع مالی و ایجاد زیرساختهای فنی لازم برای حمایت از توسعه هوش مصنوعی است. کشورهای در حال توسعه مانند ایران اغلب با محدودیتهای منابع مواجه هستند که مشارکتهای دولتی- خصوصی، کمکهای بینالمللی و سرمایهگذاریهای استراتژیک را به اجزای حیاتی تنظیمگری مؤثر تبدیل میکنند.
چالشهای اجتماعی و فرهنگی، بر اهمیت اعتماد عمومی و پذیرش فناوریهای مبتنیبر هوش مصنوعی و چارچوبهای نظارتی آن تأکید دارند. فرایندهای نظارتی شفاف، پاسخگو و متشکل از ذینفعان مختلف برای ایجاد اعتماد و رفع نگرانیهای عمومی ضروری است. علاوهبراین، ادغام دستورالعملهای اخلاقی و حساسیتهای فرهنگی در تنظیمگری هوش مصنوعی میتواند اطمینان حاصل کند که برنامههای کاربردی هوش مصنوعی به هنجارها و ارزشهای فرهنگی متنوع نقاط مختلف کشور احترام میگذارند.
چالشهای ارزیابی و انطباق نیز حائز اهمیت هستند و بر نیاز به ارزیابی مستمر نظامهای تنظیمگری و مکانیسمهای بازخورد برای تطبیق تنظیمات با پیشرفتهای فناوری هوش مصنوعی تأکید دارند. ارزیابی آثار تنظیمگری هوش مصنوعی بر نوآوری، رشد اقتصادی، رفاه اجتماعی و امنیت عمومی باید بهطور منظم انجام شود. ایجاد یک سیستم نظارتی مؤثر برای سنجش و پاسخ به چالشهای جدیدی که هوش مصنوعی مطرح میکند، ضروری است.
یکی دیگر از مهمترین چالشها، پرکاری و تعدد نهادهای مدعی در حوزه تنظیمگری داده، فضای مجازی و اخیراً هوش مصنوعی بوده که فقدان دستورکار مشخص و صریح برای هر نهاد را بر چالشهای بیننهادی افزوده است. لذا ضروری است؛ نگاشت نهادی مشخصی به شیوه مشارکتی در این حوزهها تدوین و در اختیار دستگاههای مختلف قرار گیرد.
توسعه هوش مصنوعی در کشور سه مسئله اصلی را شامل میشود. اول سیاستگذاری کلان این حوزه است که ضروری است با درنظرگیری ابعاد مختلف این فناوری و اثرگذاری راهبردی آن بر بخشهای مختلف و توسعه کشور در سالهای آتی، مدنظر قرار گیرد. در این راستا پینشهاد میشود دبیرخانه مشترکی متشکل از دبیرخانه سه شورای عالی کشور یعنی شورای عالی فضای مجازی، شورای عالی انقلاب فرهنگی و شورای عالی امنیت ملی، تشکیل شده و سیاستگذاری کلان این حوزه را بر عهده بگیرد.
دوم توسعه فناوری و زیرساختهای سختافزاری یا نرمافزاری این فناوری مانند الگوریتمها، مدلها و ...؛ این توسعه به علت هزینهبر بودن، دیربازده بودن و ضرورت تمرکز تیم و هستهای نخبگانی و علمی، از عهده بخش خصوصی یا نظام دانشگاهی در کشور برنمیآید و پیشنهاد میشود با حمایت بخش دولتی در یک نهاد متمرکز، چابک و نخبگانی به نام مرکز ملی راهبری هوش مصنوعی یا آزمایشگاه ملی هوش مصنوعی، ذیل سازمان ملی هوش مصنوعی پیگیری شود.
مسئله سوم توسعه کاربست این فناوری در بخشهای مختلف ازجمله بخش حاکمیتی و بخش خصوصی است. در بخش عمومی به علت اقتضائات این بخش مانند صرف بودجه عمومی، تمایل تصمیمگیران این حوزه به نمایش خروجیها و دستاوردها و جذابیت حوزه هوش مصنوعی در ایجاد دستاورد نمایشی، شکاف دانشی بخش عمومی با فناوری هوش مصنوعی و امکان سوءاستفاده شرکتهای خصوصی از این شکاف دانشی و درنهایت ضرورت وجود نقشه راهی منسجم از کاربست این فناوری، ضروری خواهد بود که هرگونه تعریف پروژه و صرف بودجه عمومی در این حوزه با تأیید یک نهاد راهبر واحد و مطلع صورت گیرد که یکی از فلسفههای تشکیل سازمان ملی هوش مصنوعی همین امر بوده است.
در کاربست این فناوری در بخش خصوصی که منابع مالی خود را داشته و متناسب با اهداف خود به خرجکرد این منابع میپردازد، وظیفه اصلی بخش حاکمیتی علاوهبر تسهیل بستر داده و مشوقهایی در حوزههای خاص، تضمین حفظ منفعت عامه و عدم تجاوز به حقوق عمومی و خصوصی در این کاربست است. در این راستاست که بحث تنظیمگری هوش مصنوعی اهمیت مییابد. با توجه به قرار داشتن کشور در مواجهه اولیه با این فناوری و عدم شفاف بودن پیامدها و موارد لازم به ورود حاکمیت، در این گزارش پیشنهاد شده است که سازوکار سندباکس و محیط آزمون مورد توجه قرار گیرد. ضمن اینکه ضروری است ظرفیت پویایی و تخصصی شدن در مقررهگذاری این بخش مدنظر قرار گیرد که در گزارش حاضر ساختار تنظیمگری بخشی، فرابخشی و ملی مدنظر قرار گرفته است.
تنظیمگری هوش مصنوعی بهعنوان یکی از ابعاد کلیدی حکمرانی فناوری، نقشی حیاتی در توازن میان نوآوری و حفاظت از ارزشها و منافع عمومی ایفا میکند. این گزارش با بررسی جامع اصول، چالشها و رویکردهای جهانی تنظیمگری هوش مصنوعی، تلاش دارد تا زمینهای برای تدوین نظامی بومی و کارآمد در ایران فراهم آورد. در نگاه کلی، 6 روند کلیدی تنظیمگری جهانی نشاندهنده تأثیرگذاری اصولی مانند شفافیت، اخلاقمداری، همکاری بینالمللی، و تمرکز بر مدیریت ریسک بر سیاستهای کشورهاست. ازجمله این روندها میتوان به اتخاذ رویکرد مبتنیبر ریسک و تمرکز بر سیاستهای بخشی و فرابخشی اشاره کرد. این اصول، راهنمایی مهم برای تطبیق سیاستها با تحولات سریع فناوری و پاسخ به نیازهای اجتماعی و اقتصادی فراهم میکنند. بهویژه، اصول OECD در این زمینه بهعنوان چارچوبی جهانی، مورد تأکید قرار گرفته است.
با وجود این، تنظیمگری بومی باید بازتابدهنده ویژگیها و مقتضیات ملی باشد. ایران با چالشهایی ازجمله محدودیتهای نهادی، کمبود منابع، ضعف در هماهنگی بین نهادهای ذیربط، فقدان شفافیت در قوانین و ... مواجه است. این چالشها، ضرورت ایجاد یک نظام تنظیمگری دوگانه (فرابخشی و بخشی) را برجسته میکند. نهاد مرکزی باید نقش هماهنگی و نظارت کلان را ایفا کند، درحالیکه تنظیمگران بخشی وظیفه پرداختن به جزئیات کاربردی هر حوزه را برعهده داشته باشند.
یکی از مهمترین چالشهای تنظیمگری در ایران، نبود زیرساختهای لازم برای آموزش و تربیت نیروی متخصص و تدوین قوانین سازگار با نیازهای متغیر هوش مصنوعی است. این مسئله در کنار ضرورت توجه به مسائل فرهنگی، اخلاقی و اجتماعی، تدوین سیاستهای شفاف و بومی را الزامی میکند. همچنین، توجه به امنیت سایبری، مالکیت دادهها، و توسعه زیرساختهای دیجیتال از دیگر محورهایی است که باید در نظام تنظیمگری لحاظ شود.
پیشنهاد میشود، تنظیمگری هوش مصنوعی در کشور، ضمن بهرهگیری از تجربیات موفق جهانی، بر سه محور اصلی تمرکز کند:
بنابراین تشکیل یک نظام تنظیمگری سهسطحی در حوزه حکمرانی هوش مصنوعی پیشنهاد میشود که شامل سهسطح زیر است:
این نظام تنظیمگری در راستای تحقق اهداف کلان کشور در توسعه هوش مصنوعی، عمل خواهد کرد. با توجه به ابعاد مختلف این فناوری، پیشنهاد میشود سیاستگذاری کلان در این حوزه با ساختار زیر محقق شود:
در پایان لازم به ذکر است که تنظیمگری هوش مصنوعی نهتنها یک الزام فناورانه، بلکه ضرورتی راهبردی برای توسعه پایدار، مدیریت ریسکها، و بهرهمندی بهینه از این فناوری است. ایجاد یک نظام تنظیمگری شفاف، انعطافپذیر و مشارکتی میتواند به کشورمان کمک کند تا با حفظ استقلال و بهرهگیری از ظرفیتهای داخلی، جایگاهی پیشرو در این حوزه بهدست آورد.