خلاصه مدیریتی

 بیان/شرح مسئله

در سال‌های اخیر، هوش مصنوعی به‌عنوان یکی از فناوری‌های تحول‌آفرین‌ قرن بیست‌ویکم، جایگاه ویژه‌ای در حوزه‌های مختلف از جمله نظام سلامت یافته است. این فناوری با توانایی پردازش حجم انبوه داده‌ها، یادگیری عمیق، و انجام تحلیل‌های پیچیده، قابلیت بهبود فرایندهای تشخیصی، درمانی، و مدیریتی را فراهم می‌کند. بااین‌حال، به‌کارگیری هوش مصنوعی در نظام سلامت، علاوه‌بر فرصت‌هایی که دارد، چالش‌هایی را نیز به‌همراه دارد.

نبود قوانین و چارچوب‌های نظارتی شفاف و یکپارچه یکی از مسائل کلیدی در این حوزه است که نگرانی‌هایی در زمینه‌هایی نظیر حفظ حریم خصوصی داده‌های بیماران، شفافیت الگوریتم‌ها، و جلوگیری از سوگیری‌های نظام‌مند به‌وجود آورده است. همچنین، می‌تواند استفاده از هوش مصنوعی را در تصمیم‌گیری‌های پزشکی، مسئولیت‌پذیری و اطمینان عمومی با چالش‌هایی مواجه ‌کند.

ضرورت دارد ضمن بهره‌گیری از تجربیات جهانی و تطبیق آن با نیازهای بومی، راهکارهایی جامع برای تنظیم‌گری و نظارت بر استفاده از هوش مصنوعی تدوین شود. این راهکارها نه‌تنها باید به فرصت‌های موجود پاسخ دهند، بلکه باید به چالش‌های اخلاقی، اجتماعی، و فنی نیز بپردازند تا استفاده از این فناوری هم‌راستا با تأمین امنیت، عدالت، و کیفیت خدمات سلامت باشد.

نقطه‌نظرات/ یافته‌های کلیدی

هوش مصنوعی فرصت‌های متعددی به‌منظور تحول در نظام سلامت کشور فراهم می‌کند. از جمله این فرصت‌ها عبارت‌اند از: ارتقای کیفیت خدمات پیشگیری، تشخیصی و درمانی، خودکارسازی فرایندها و کاهش خطاهای انسانی، بهبود کیفیت آموزش پزشکی، عدالت الگوریتمی و تصمیم‌گیری دقیق‌تر، تسهیل در توسعه و ارزیابی اثربخشی داروهای جدید، و مدیریت هوشمند داده‌ها و منابع سلامت. هوش مصنوعی در نظام سلامت می‌تواند با چالش‌هایی مواجه باشد؛ از جمله: نقض حریم خصوصی و امنیت داده‌ها، احتمال جایگزینی نیروی انسانی با این فناوری، انحصاری شدن بازار توسط توسعه‌دهندگان، کمبود زیرساخت‌های سخت‌افزاری و فنی، مسائل اخلاقی مربوط به استفاده از هوش مصنوعی در فرایندهای حساس، تبعیض الگوریتمی و نابرابری‌های ناشی از آن و آگاهی ناکافی کارکنان و بیماران نسبت به فناوری و پذیرش آن.

تنظیم استانداردهای قانونی و فنی برای به‌کارگیری هوش مصنوعی در پزشکی، از جمله ارزیابی ایمنی و اثربخشی الگوریتم‌ها و نرم‌افزارهای مرتبط با سلامت اهمیت زیادی دارد. این استانداردها شامل تعیین مسئولیت‌ها و الزامات ثبت‌نام برای سیستم‌هایی است که بدون مداخله انسانی عمل می‌کنند.

نیاز به شفافیت در تصمیم‌های هوش مصنوعی و اعتبارسنجی نتایج آنها از طریق تحقیقات بالینی معتبر، به‌منظور افزایش اعتماد به این فناوری‌ها و پذیرش آنها در جامعه پزشکی ضروری به‌نظر می‌رسد.

ایجاد پایگاه‌های داده و زیرساخت‌های لازم برای جمع‌آوری و تحلیل داده‌های بزرگ پزشکی به‌عنوان یک پیش‌نیاز برای پیاده‌سازی مؤثر هوش مصنوعی در سلامت شناخته می‌شود.

کشورهای مختلف _ از جمله اتحادیه اروپا، آمریکا، استرالیا، چین، برزیل و سنگاپور _ قوانین، سیاست‌ها و دستورالعمل‌هایی را برای استفاده از هوش مصنوعی در بخش سلامت تدوین کرده‌اند که برخی از آنها به مرحله اجرا رسیده‌اند. سازمان بهداشت جهانی نیز، با توجه به اهمیت این موضوع، مجموعه‌ای از آیین‌نامه‌ها را منتشر کرده است تا به کشورها در تنظیم‌گری هوش مصنوعی در نظام سلامت کمک کند.

پیشنهاد راهکارهای تقنینی، نظارتی یا سیاستی

ضروری است قوانین، مقررات و دستورالعمل‌های لازم ناظر بر موارد ذیل برای زمینه‌سازی بهره‌برداری بهینه از فرصت‌های هوش مصنوعی و مقابله مؤثر با چالش‌ها پیش‌بینی شود:

حفاظت از داده‌ها، تعیین مسئولیت‌های هوش مصنوعی، امنیت سایبری و اصول اخلاقی در طراحی فناوری‌ها،

تعریف چرخه توسعه ساختاریافته همراه با نظارت قانونی در همه مراحل توسعه هوش مصنوعی،

ایجاد تعادل بین شفافیت داده‌ها و حفاظت از حریم خصوصی افراد،

تضمین عدالت در دسترسی به خدمات سلامت مبتنی‌بر هوش مصنوعی،

مسئولیت مدنی و کیفری مطابق با شرایط جدید هوش مصنوعی شامل مسئولیت محض، بیمه اجباری، مسئولیت نیابتی و اعطای شخصیت حقوقی به هوش مصنوعی،

اصلاح قوانین کار با تأکید بر اصول انسانی و اخلاقی و حمایت از افرادی که شغلشان در معرض خطر جایگزینی توسط هوش مصنوعی قرار دارد،

طراحی چارچوب حکمرانی هماهنگ که شامل ساختارهای مردم‌محور، نظام مجوزدهی پویا و همکاری‌های بین‌بخشی و بین‌المللی باشد،

حمایت از مالکیت فکری، ارائه مشوق‌های مالی و مالیاتی، جلوگیری از انحصارطلبی و ایجاد محیط‌های آزمایشی همراه با مقررات حمایتی برای تقویت نوآوری‌های داخلی در زمینه هوش مصنوعی،

تضمین رقابت آزاد و جلوگیری حداکثری از انحصارطلبی.

1. مقدمه

هوش مصنوعی شاخه‌ای از علوم کامپیوتر بوده که برای شبیه‌سازی هوش انسانی در ماشین‌ها طراحی شده است. این سیستم‌ها با بهره‌گیری از الگوریتم‌های هوش مصنوعی می‌توانند، بدون نیاز به دخالت مستقیم انسان‌ها، فعالیت‌هایی مشابه تفکر و تصمیم‌گیری انسان انجام دهند. درحال‌حاضر، استفاده از ابزارهای هوش مصنوعی در حال رشد بوده و صنایع مختلف را دچار تغییرات عمده کرده است. ازاین‌رو، به‌روز بودن و بهره‌گیری از فناوری‌های نوین برای پیشرفت در همه زمینه‌ها ضروری است. شاید در گذشته توسعه این فناوری دور از ذهن بود، اما اکنون در همه حوزه‌ها کاربرد دارد. به‌رغم چالش‌ها، سیستم‌های این فناوری برای ایجاد جهانی پیشرفته در حال پیشرفت‌اند، بنابراین دستاوردهای نوین در این زمینه همچنان رخ خواهد نمود.

با توجه به افزایش شیوع بیماری‌های مزمن و کمبود نیروی متخصص در عرصه سلامت، هوش مصنوعی به‌دلیل قابلیت پردازش حجم بالای داده‌ها و تولید نتایج دقیق به یکی از فناوری‌های مورد توجه در حوزه سلامت تبدیل شده است [1][2]. البته استفاده از هوش مصنوعی باید با احتیاط انجام شود زیرا هدف از به‌کارگیری این فناوری در نظام سلامت، بهبود وضعیت سلامت جامعه و ارتقای نتایج درمانی بیماران است. بدون آزمایش و اطمینان از ایمنی این سیستم‌ها، ممکن است خطراتی به‌همراه داشته باشد و اضطراب‌های اجتماعی ایجاد کند. همچنین، لازم است که قوانین دقیقی برای ثبت‌نام و پاسخ‌گویی توسعه‌دهندگان وضع شود تا فعالیت‌ها به‌طور شفاف و مسئولانه انجام گیرد. سپردن تصمیم‌گیری‌ها به هوش مصنوعی ممکن است تهدیدهایی برای استقلال انسان داشته باشد؛ بنابراین، رعایت اصول اخلاقی از جمله محافظت از خودگردانی، توجه به منافع عمومی، اطمینان از شفافیت، رعایت عدالت و تضمین دسترسی برابر به خدمات از اهمیت ویژه‌ای برخوردار است [1][3][4][5]. تحولات اساسی ناشی از ورود عصر سیستم‌های هوش مصنوعی می‌تواند ضمن بهبود رفاه فردی و اجتماعی، نگرانی‌هایی را درخصوص تهدید کرامت انسانی، حقوق بشر و حاکمیت قانون ایجاد کند [6]. با توجه به این مسائل و دیگر چالش‌های اخلاقی و قانونی، نیاز فوری به تدوین قوانین جامع برای نظارت بر توسعه و به‌کارگیری این فناوری نوظهور در سطح جهانی به‌وجود آمده است [7]. این قوانین به‌منظور استفاده بهینه از مزایای این فناوری و جلوگیری از هرگونه تخلف و آسیب‌پذیری تدوین خواهند شد.

این تحقیق پس از معرفی تعاریف اولیه و بررسی کاربردهای هوش مصنوعی در نظام سلامت، به چالش‌ها و فرصت‌های موجود در استفاده از این فناوری در حوزه سلامت می‌پردازد و تجربه‌های جهانی در زمینه قانونگذاری هوش مصنوعی در سلامت را مرور خواهد کرد. در ادامه، قوانین موجود در کشور که به این حوزه مرتبط هستند و برخی مطالعات انجام شده در ایران بررسی خواهند شد. در نهایت، راهکارهایی برای مواجهه با چالش‌های این فناوری پیشنهاد خواهد شد.

2. تعاریف هوش مصنوعی و کاربرد آن در حوزه سلامت

درحال‌حاضر هیچ تعریف جهانی و مورد توافقی برای هوش مصنوعی وجود ندارد [8]. براساس یکی از تعاریف ارائه شده در دانشنامه بریتانیکا، هوش مصنوعی به توانایی کامپیوتر دیجیتال یا ربات تحت کنترل کامپیوتر گفته می‌شود که بتواند کارهایی را انجام دهد که معمولاً به موجودات هوشمند نسبت داده می‌شود [4][9]. در تعریفی دیگر که در «سند ملی هوش مصنوعی جمهوری اسلامی ایران» ارائه شده است، هوش مصنوعی به توانایی ماشین‌ها برای انجام وظایف خودکار و ساختارمند مانند یادگیری، درک، استنتاج، حل مسائل، پیش‌بینی، تصمیم‌گیری و عمل کردن از طریق به‌کارگیری دانش و اطلاعات و پردازش داده‌ها اشاره دارد. این توانایی‌ها می‌توانند آثار گسترده‌ای بر انسان و روابط انسانی در محیط‌های فیزیکی یا مجازی ایجاد کنند و همچنین بازتاب‌هایی در زمینه محیط زیست داشته باشند [10].

جدول 1.تعاریف و مفاهیم اصلی در هوش مصنوعی پزشکی [11]

در سال‌های اخیر، علاقه‌مندی به استفاده از هوش مصنوعی در حوزه سلامت به‌طور چشمگیری افزایش یافته و این فناوری به‌عنوان ابزاری امیدوارکننده برای ایجاد تحولات اساسی در این زمینه، از کشف داروهای جدید گرفته تا ارائه خدمات پیشرفته بهداشتی، مطرح شده است. هوش مصنوعی در بخش بهداشت و درمان کاربردهای متنوعی دارد؛ از جمله ارتقای دقت تشخیص، پایش سلامت بیماران از طریق اپلیکیشن‌ها و دستگاه‌های پوشیدنی و خودکارسازی فرایندهای اداری [1][3][8] [7][12][13][14][15][16][17][18][19][20][21][36].

در شکل 1 سه دسته اصلی کاربردهای هوش مصنوعی در حوزه سلامت به نشان داده شده است:

شکل 1. نمای کلی از اهداف و کاربردهای هوش مصنوعی در نظام سلامت [7][ 22]

اگرچه هوش مصنوعی هنوز به‌طور رسمی و اجرایی وارد ساختارهای سلامت و بهداشت عمومی نشده است، اما در بسیاری از کشورهای پیشرو در حوزه سلامت، سازمان‌های دولتی در حال فراهم‌کردن زیرساخت‌های لازم و پیشبرد تحقیق و توسعه این فناوری برای به‌کارگیری در نظام سلامت هستند و سالانه بودجه‌های چشمگیری به این موضوع اختصاص می‌دهند. برای نمونه، سرویس ملی سلامت انگلستان فقط برای ایجاد زیرساخت‌های شبکه‌ای لازم در توسعه هوش مصنوعی مرتبط با تصویربرداری‌های پزشکی، مبلغی معادل ۲۱ میلیون پوند تخصیص داده است [23]. علاوه‌بر این، در آوریل ۲۰۲۴ بودجه‌ای بالغ بر ۳.۴ میلیارد پوند برای فناوری و تحول نظام سلامت بهNHS  اختصاص یافت که قرار است طی سه سال، از آوریل ۲۰۲۵ به این سازمان تخصیص داده شود [24]. برای مثال دیگر، مؤسسه ملی سلامت آمریکا در پروژه‌ای موسوم به «پلی به هوش مصنوعی»، طی دوره‌ای چهارساله بودجه‌ای معادل ۱۰۰ میلیون دلار را سرمایه‌گذاری کرده است. هدف این پروژه توسعه هوش مصنوعی برای کمک به تصمیم‌گیری‌های بالینی و شخصی‌سازی خدمات مراقبت سلامت است [25][26].

3. بررسی پیشینه مطالعات انجام شده در ایران

مطالعات مرتبط با هوش مصنوعی در حوزه سلامت در ایران عمدتاً به جنبه‌های فنی این فناوری پرداخته‌اند و پژوهش‌های اختصاصی در زمینه قوانین و مقررات هوش مصنوعی در این حوزه محدود بوده است. علاوه‌بر این، بسیاری از تحقیقات موجود از داده‌ها و منابع کشورهای دیگر استفاده کرده‌اند. با وجود محدودیت‌ها، در این بخش تلاش شده تا از پژوهش‌های داخلی بهره‌برداری شود که نتایج آنها در جداول پیوست 1 و 2 ارائه شده است.

بررسی‌ها نشان می‌دهد چالش‌های اصلی مرتبط با به‌کارگیری هوش مصنوعی در نظام سلامت ایران شامل موارد زیر است:

1. نقض حریم خصوصی و امنیت داده‌ها،
2. احتمال جایگزینی نیروی انسانی با فناوری هوش مصنوعی،
3. انحصار ایجادشده توسط توسعه‌دهندگان،
4. کمبود زیرساخت‌های سخت‌افزاری و فنی،
5. مسائل اخلاقی ناشی از استفاده از هوش مصنوعی در فرایندهای حساس،
6. تبعیض الگوریتمی و نابرابری‌های ناشی از آن،
7. آگاهی ناکافی کارکنان و بیماران نسبت به فناوری و پذیرش آن.

در مقابل چالش‌ها، هوش مصنوعی فرصت‌های متعددی در نظام سلامت فراهم می‌کند؛ از جمله:

1. ارتقای کیفیت خدمات پیشگیری، تشخیصی و درمانی،
2. خودکارسازی فرایندها و کاهش خطاهای انسانی،
3. بهبود کیفیت آموزش پزشکی،
4. عدالت الگوریتمی و تصمیم‌گیری دقیق‌تر،
5. تسهیل در توسعه و ارزیابی اثربخشی داروهای جدید،
6. مدیریت هوشمند داده‌ها و منابع سلامت.

برای غلبه بر چالش‌ها و بهره‌برداری از فرصت‌ها، راهکارهای زیر در مطالعات پیشنهاد شده‌اند:

1. تدوین قوانین جامع و فرابخشی:

قوانین باید موانع سازمانی را رفع کرده و تسهیلات لازم برای توسعه‌دهندگان فراهم کنند. این قوانین باید شامل:

• حفاظت از داده‌ها و حریم خصوصی،
• استانداردهای امنیت سایبری،
• اصول اخلاقی طراحی و استفاده از فناوری‌های نوین.

2. ایجاد شفافیت الگوریتم‌ها:

توسعه‌دهندگان ملزم به شفاف‌سازی عملکرد الگوریتم‌ها و جلوگیری از تبعیض الگوریتمی باشند.

3. تقویت زیرساخت‌های فنی و سخت‌افزاری:

سرمایه‌گذاری در تجهیزات و فناوری‌های موردنیاز ضروری است.

4. افزایش آگاهی و مهارت کارکنان نظام سلامت:

برگزاری دوره‌های آموزشی مداوم برای کارکنان جهت سازگاری با عصر هوش مصنوعی پیشنهاد شده است.

5. مشوق‌ها و حمایت‌های حقوقی:

ایجاد قوانین حمایت از مالکیت فکری و ارائه مشوق‌های مالیاتی برای شرکت‌های نوآور داخلی.

6. ایجاد ساختار حکمرانی فراگیر و منعطف:

این ساختار باید شامل همکاری میان دولت، بخش خصوصی، دانشگاه‌ها و جامعه مدنی باشد و قوانین آن قابلیت بازنگری و انطباق با شرایط متغیر را داشته باشند.

درمجموع پژوهش‌های انجام شده تأکید دارند که موفقیت در بهره‌گیری از هوش مصنوعی در حوزه سلامت نیازمند همکاری همه‌جانبه ذی‌نفعان و تدوین قوانین متوازن است. در این مسیر، باید علاوه‌بر توجه به فرصت‌ها، چالش‌ها را به‌طور جدی مدیریت و برای ایجاد یک نظام سلامت هوشمند و کارآمد اقدام کرد.

 4. چالش‌ها و فرصت‌های هوش مصنوعی در حوزه سلامت

توسعه سریع فناوری‌های جدید به‌صورت توأمان با فرصت‌ها، چالش‌هایی را پدید می‌آورد. لازم است در سطوح مختلف این چالش‌ها شناسایی شوند و ضمن بهره‌برداری از فرصت‌ها، برنامه‌ریزی مناسب جهت مواجهه با چالش‌ها و مدیریت آنها انجام شود. این چالش‌ها که ابعاد مختلف اخلاقی، اجتماعی و سیاسی را شامل می‌شوند، از دغدغه‌هایی مهم منشأ می‌گیرند که معمولاً در قالب 10 پرسش مندرج در جدول 2 مطرح می‌شوند:

جدول 2. پرسش‌های متداول درخصوص کاربرد هوش مصنوعی در عرصه سلامت [19]

به‌منظور پاسخ‌گویی به پرسش‌های مطرح شده و ارائه شفافیت بیشتر در این زمینه، در ادامه به بررسی برخی چالش‌های کلیدی مرتبط با استفاده از هوش مصنوعی در نظام سلامت می‌پردازیم.

مهم‌ترین چالش‌های ناشی از به‌کارگیری هوش مصنوعی در نظام سلامت

حریم خصوصی و امنیت داده‌ها

برای تحلیل پیامدهای احتمالی اخلاقی، اجتماعی و قانونی ناشی از بهره‌گیری از هوش مصنوعی در حوزه سلامت، ابتدا باید مشخص شود که داده‌هایی که برای طراحی الگوریتم‌ها به‌کار می‌روند از چه منابعی جمع‌آوری شده‌اند:

1. داده‌های تحقیقاتی: شامل اطلاعات موجود در مخازن تحقیقاتی مانند داده‌های بیوبانک.
2. داده‌های بالینی یا بهداشت عمومی: نظیر پرونده‎های الکترونیک سلامت، داده‌های بیمه، نمونه‌های خون جمع‌آوری شده برای غربالگری نوزادان، آمار سرشماری و موارد مشابه.
3. داده‌های غیربالینی: داده‌های گردآوری شده از دستگاه‌های پوشیدنی، تلفن‌های همراه، جستجوهای اینترنتی یا شبکه‌های اجتماعی [7].

چالش مشترک میان هر سه گروه داده‌ها، تأمین امنیت آنهاست. در زمینه هوش مصنوعی، موضوع حفظ حریم خصوصی و امنیت داده‌ها از جمله دغدغه‌های اصلی به‌شمار می‌رود. هوش مصنوعی بر پایه تحلیل داده‌های عظیم و مهمی همچون اطلاعات شخصی افراد عمل می‌کند و همین مسئله نگرانی‌هایی پیرامون سرقت اطلاعات محرمانه یا سوءاستفاده از آنها به‌وجود می‌آورد.

برای مقابله با این نگرانی‌ها، می‌توان از روش‌هایی نظیر استفاده از الگوریتم‌های رمزگذاری قوی، ذخیره داده‌ها در محیط‌های امن و محدودسازی دسترسی به افراد قابل اعتماد بهره گرفت. همچنین، ارائه‌دهندگان خدمات هوش مصنوعی باید شفاف‌سازی کنند که چه اطلاعاتی از کاربران جمع‌آوری می‌شود و هدف از استفاده آنها چیست؛ به‌علاوه، فقط اطلاعات ضروری را از کاربران دریافت کنند.

گسترش استفاده از هوش مصنوعی و فناوری‌های مرتبط در حوزه سلامت، احتمال وقوع حملات سایبری به این سیستم‌ها را افزایش می‌دهد. اشتراک‌گذاری داده‌ها با توسعه‌دهندگان خارج از نظام سلامت نیز ممکن است امنیت داده‌ها را به خطر اندازد. افزون بر این، هکرها یا عوامل مخرب دیگر ممکن است تلاش کنند خروجی‌های سیستم‌های هوش مصنوعی را دست‌کاری کنند یا داده‌هایی از بیماران که در فرایند آموزش الگوریتم‌ها به‌کار می‌برند را به سرقت ببرند [1][5][17][28][29][30][31][32][33][68][79].

چالش‌های اخلاقی

توسعه و به‌کارگیری هوش مصنوعی در حوزه سلامت نیازمند رعایت اصول اخلاقی خاصی است تا خودمختاری، کرامت و ارزش‌های انسانی حفظ شود. برخی از مهم‌ترین این اصول عبارت‌اند از:

الف) رضایت آگاهانه برای استفاده از داده‌ها [4]،

ب) امنیت و شفافیت عملکرد هوش مصنوعی،

ج) عدالت الگوریتمی و عدم سوگیری،‌

د) حفظ حریم خصوصی داده‌ها،

ه) ایمنی و جلوگیری از آسیب به بیماران،

و) عدالت در دسترسی عمومی به خدمات سلامت مبتنی‌بر هوش مصنوعی [5][20][34].

کیفیت داده

یکی از بزرگ‌ترین چالش‌ها در زمینه هوش مصنوعی، کیفیت داده‌ها است [2][3]. سیستم‌های هوش مصنوعی بر پایه یادگیری از داده‌ها عمل می‌کنند، بنابراین به نوع و محتوای داده‌ها بستگی دارند. برای آموزش و آزمایش سیستم‌های هوش مصنوعی، داده‌های بزرگ و با کیفیت بالا ضروری هستند و این داده‌ها می‌توانند از منابع مختلفی بسته به کاربرد مورد نظر استخراج شوند. در مواردی همچون تعیین پروتکل‌های درمانی، این داده‌ها معمولاً از منابع علمی به‌دست می‌آیند [37][38][39]، درحالی‌که برای برخی کاربردها مانند آموزش و تمرین هوش مصنوعی ممکن است تصاویر بالینی و اطلاعات موجود در پرونده‌های الکترونیکی سلامت به‌عنوان منابع مورد نیاز استفاده شوند [1][8][12][13] [14][15][16]. در برخی موارد، اطلاعات ممکن است به‌طور مستقیم توسط توسعه‌دهندگان هوش مصنوعی جمع‌آوری شوند. اگر داده‌های نادرست یا ناقص به هوش مصنوعی ارائه شوند، نتایج حاصل از ابزارهای هوش مصنوعی نیز نادرست خواهند بود. بنابراین، توسعه‌دهندگان هوش مصنوعی باید اطمینان حاصل کنند که داده‌ها از صحت و کیفیت کافی برخوردارند [20][40][41][42].

نیروی انسانی

کادر بهداشت و درمان برای استفاده از هوش مصنوعی به مهارت‌ها و آموزش‌های جدید نیاز دارد [2][43][44][45][46]. این مهارت‌ها به‌نوبه خود می‌تواند با بهبود جمع‌آوری و نگهداری داده‌ها، به توسعه و ارزیابی سیستم‌های هوش مصنوعی کمک کند [5]. مطابق یکی از مطالعات 92 درصد از پزشکان شاغل در NHS از مهارت‌های لازم برای استفاده از هوش مصنوعی برخوردار نیستند [47]. به‌علاوه، نقش‌های جدید متمرکز بر فناوری در سیستم سلامت ایجاد خواهند شوند، مانند نقش‌هایی که بر مهندسی داده یا حکمرانی متمرکزند. طبق پیش‌بینی شرکت پرایس واتر هاوس کوپرز در دوره ۲۰۱۸ تا ۲۰۲۸ با ایجاد فرصت‌های شغلی جدید مرتبط باهوش مصنوعی اشتغال در حوزه بهداشت و درمان در بریتانیا ۲۲ درصد افزایش خواهد یافت. بااین‌حال، هوش مصنوعی به‌عنوان دانشی نوظهور و در حال تکامل شناخته می‌شود. برای بهره‌گیری از ابزارهای کاربردی آن در بازارهای مختلف، به متخصصانی در این حوزه نیاز است، چرا که استفاده نادرست از این ابزارها، همانند سایر فناوری‌ها، می‌تواند اثرات زیان‌باری به‌همراه داشته باشد. درحال‌حاضر، تعداد محدودی از افراد به دانش کافی برای استفاده مؤثر از ابزارهای هوش مصنوعی دست یافته‌اند و این مسئله فرایند یافتن متخصصان مناسب برای پیاده‌سازی سیستم‌های هوش مصنوعی را چالش‌برانگیز کرده است. هرچند در شرایط فعلی پیشنهاد اصلی این است که هوش مصنوعی به‌عنوان مشاور در نظام سلامت ایفای نقش کند نه به‌عنوان جایگزین کامل انسان، اما نباید از چالش‌هایی نظیر افزایش نرخ بیکاری به‌دلیل خودکار شدن برخی وظایف غافل شد [21][47][48][49][50][51].

ارتباط بیمار با ارائه دهنده خدمت

تشخیص سریع‌تر یا دقیق‌تر بیماری به بیماران امکان می‌دهد که پیش از بروز عوارض به درمان دسترسی پیدا کنند، امری که بهبود نتایج سلامت را به دنبال دارد [52]. بااین‌حال، تحقیقاتی درباره افکار عمومی در انگلستان نشان می‌دهد که مردم معتقدند همدلی انسانی بخش اساسی مراقبت‌های بهداشتی است و سیستم‌های هوش مصنوعی نباید به تضعیف روابط بیمار و پزشک منجر شود. عده‌ای بر این باورند که پزشکان می‌توانند ارزیابی‌های جامع‌تری درخصوص تشخیص‌ها یا درمان‌ها پیرامون سیستم‌های هوش مصنوعی ارائه دهند [4][53][54][55]. همچنین، باید در نظر داشت که استفاده گسترده از هوش مصنوعی ممکن است نظام سلامت کشورها را با تعداد زیاد بیماران مواجه کند، به‌طوری که مدیریت آنها فراتر از ظرفیت منابع و امکانات باشد [5].

پذیرش اجتماعی هوش مصنوعی در نظام سلامت

یکی از چالش‌های اساسی در توسعه و به‌کارگیری هوش مصنوعی در نظام سلامت، پذیرش اجتماعی آن است. عواملی مانند اطلاعات کافی درباره مزایا و معایب هوش مصنوعی، سن و سطح تحصیلات، نقش مهمی در میزان پذیرش این فناوری در جامعه دارند. برای مثال، در گروه‌های اجتماعی جوان‌تر با تحصیلات و آگاهی بیشتر درباره هوش مصنوعی، تمایل بیشتری به استفاده از این فناوری در حوزه سلامت مشاهده می‌شود [56]. اگرچه بیماران عموماً به کاربرد هوش مصنوعی در نظام سلامت به دیدی مثبت نگاه می‌کنند، اما تأکید دارند که نظارت پزشک برای پیشگیری از آسیب‌های احتمالی ضروری است. نگرانی از افزایش هزینه‌های سلامت نیز یکی از دغدغه‌های اصلی بیماران است. برای تقویت پذیرش عمومی و کاهش شک و تردیدها، آگاه‌سازی بیماران درباره مزایا و خطرات هوش مصنوعی در مراقبت‌های بهداشتی بسیار اهمیت دارد [57].

پایداری مدل‌های کسب‌وکار

پایداری مدل‌های کسب‌وکار یکی دیگر از چالش‌های عمده است که ممکن است قابلیت مقیاس‌پذیری استفاده از هوش مصنوعی را محدود کند. حتی برای دولت‌ها و سیستم‌های بزرگ بهداشتی، هوش مصنوعی ابزاری پرهزینه به شمار می‌رود. این چالش شامل هزینه ابزارهایی که به بیماران ارائه می‌شود نیز می‌گردد. بسیاری از بیماران، حتی در کشورهای توسعه‌یافته، تمایلی به پرداخت مستقیم برای خدمات سلامت دیجیتال ندارند. برای حل این مشکلات، شرکت‌های ارائه‌دهنده راه‌حل‌های هوش مصنوعی به دنبال مدل‌های جایگزین پرداخت و جریان‌های درآمدی هستند. بااین‌حال، برخی از این مدل‌ها، مانند فروش داده‌های بیماران به شرکت‌های داروسازی یا تجهیزات پزشکی، نگرانی‌های اخلاقی و حریم خصوصی را تشدید می‌کنند [58][59].

هزینه‌های سلامت

اجرای سیستم‌های هوش مصنوعی نیازمند زیرساخت‌های مناسبی است که فراهم‌سازی آنها هزینه‌بر است. علاوه‌بر این، نگهداری، به‌روزرسانی سیستم‌ها و ارتقای مهارت کارکنان برای استفاده مؤثر از این فناوری، هزینه‌های مداومی را به‌همراه دارد. در مقابل، خودکارسازی وظایف اداری و بالینی به کمک هوش مصنوعی می‌تواند به کاهش هزینه‌ها و افزایش بهره‌وری منجر شود [61][60]. به‌عنوان مثال، در انگلستان گزارش مؤسسه سیاست عمومی در سال ۲۰۱۸ نشان داد که هوش مصنوعی می‌تواند سالانه تا ۱۲ میلیارد پوند در سرویس ملی سلامت(NHS) صرفه‌جویی ایجاد کند. همچنین، برخی مطالعات حاکی از آن هستند که سیستم‌های هوش مصنوعی در تشخیص‌هایی مانند سرطان پوست می‌توانند عملکردی برابر یا حتی بهتر از کلینیک‌ها داشته باشند، که این امر می‌تواند هزینه‌های درمان آینده را کاهش دهد [62][63].

عدالت در سلامت

سیستم‌های هوش مصنوعی، بسته به نحوه توسعه و استفاده، می‌توانند نابرابری‌های بهداشتی را کاهش یا افزایش دهند. برای مثال، این سیستم‌ها قادرند با ارائه تشخیص‌ها و توصیه‌های درمانی دقیق‌تر، تنوع در مراقبت‌ها را کمتر کنند. بااین‌حال، در برخی موارد، تبعیض‌هایی علیه رنگین‌پوستان در عملکرد ابزارهای هوش مصنوعی گزارش شده است، چرا که داده‌های مورد استفاده برای توسعه این ابزارها عمدتاً مربوط به نژاد سفید بوده‌اند [17][35][64][68]. یکی از راهکارهای مقابله با این چالش، توسعه هوش مصنوعی بومی بر پایه اطلاعات سلامت هر منطقه است، به جای استفاده از فناوری‌هایی که براساس داده‌های دیگر کشورها طراحی شده‌اند [5].

انحصار و تمرکز قدرت

انحصار و تمرکز قدرت در دست تعداد محدودی از شرکت‌های بزرگ یکی دیگر از چالش‌های جدی در حوزه هوش مصنوعی است. بررسی‌ها نشان می‌دهد که بازار هوش مصنوعی تا حد زیادی در اختیار چند شرکت بزرگ فناوری قرار دارد، که این امر می‌تواند منجر به محدود شدن نوآوری و خلاقیت در این زمینه شود [65] [105] [95].

چالش‌های حقوقی

ظهور هوش مصنوعی با چالش‌های حقوقی متعددی همراه است. کمبود قوانین و مقررات حقوقی یکی از موانع اصلی توسعه و استفاده از این فناوری در کشورها به‌شمار می‌رود [59]. در تدوین قوانین نظارتی برای هوش مصنوعی، لازم است میان سه عامل کلیدی تعادل ایجاد شود:

الف) حمایت از نوآوری و پیشرفت داخلی در حوزه هوش  مصنوعی،

ب) حفاظت از حقوق و منافع شهروندان در برابر خطرات و نقض حریم خصوصی،

ج) جلوگیری از برتری شرکت‌های خارجی و حفظ جایگاه اقتصاد دیجیتال داخلی [65].

یکی از چالش‌های مهم، تعیین مسئولیت‌های مدنی و کیفری در ارتباط با هوش مصنوعی است. به‌عنوان مثال، پرسش‌هایی همچون تعیین مسئولیت در صورت خطای سیستم یا تصمیم‌گیری‌های اشتباه آن همچنان بی‌پاسخ مانده‌اند، برای مثال:

• اگر یک خدمت مبتنی‌بر هوش مصنوعی به فرد آسیب برساند مسئولیت آن با چه کسی است؟
• در صورت بروز خطا در تشخیص بیماری مسئولیت با چه کسی است؟
• در صورت بروز خطا در مواردی که هوش مصنوعی ارائه‌دهنده توصیه و راهنمایی جهت تصمیم‌گیری است و تصمیم نهایی توسط انسان گرفته می‌شود، مسئولیت آن برعهده چه کسی است؟
• با توجه به ماهیت جعبه سیاه برخی الگوریتم‌های هوش مصنوعی آیا امکان تعیین مسئولیت کیفری در شرایط جعبه سیاه وجود دارد؟ برای مثال، در شرایط جعبه سیاه اگر ضرری ایجاد شود، آیا این ضرر از قبل قابل پیش‌بینی بوده است؟ [1][66]

جهت مواجهه با چالش‌های حقوقی راهکارهای متعددی قابل تصور است:

• مسئولیت محض. نیازی باتوجه‌به عدم امکان اثبات برخی از عناصر مسئولیت مدنی عام و پیچیدگی‌های هوش مصنوعی، نیازی با اثبات تقصیر توسعه‌دهنده نیست و به‌صرف وقوع حادثه وی مسئول جبران خسارت خواهد بود.
• بیمه اجباری. بیمة جبران خسارت را برعهده دارد و بدین‌ترتیب توسعه‌دهنده از جبران خسارت مصون می‌شود. یکی از آثار مثبت چنین رویکردی هموارسازی پیشرفت علم و تکنولوژی در این حوزه است.
• مسئولیت نیابتی. نایب که در اینجا توسعه‌دهنده است به‌دلیل وجود یک رابطه مسئول ضرری است که دیگری یعنی هوش مصنوعی وارد کرده است؛ حتی اگر خود مرتکب هیچ تقصیری نشده باشد.
• شخصیت حقوقی هوش مصنوعی. اعطای شخصیت حقوقی به هوش مصنوعی و اقامه دعوا نسبت به آن در صورت بروز خسارت [66].

فرصت‌های هوش مصنوعی در حوزه سلامت

فرصت‌هایی که هوش مصنوعی برای حقوق کار فراهم می‌کند شامل افزایش بهره‌وری، کاهش هزینه‌ها، ایجاد مشاغل جدید و بهبود شرایط کاری است. که البته در حوزه سلامت فرصت‌های اخیرالذکر در قالب پوشش وسیع‌تر، سریع‌تر و دقیق‌تر در عرصه عملیات مراقبت و نظارت بالینی بیمار نمود پیدا می‌کند و به‌تبع آن کاهش نیاز به حضور شمار کمتری از نیروی متخصص حوزه عملیاتی تحت پوشش هوش مصنوعی حادث می‌شود. بدیهی است در حوزه سلامت ناظرینی با شرح وظایف جدید پا به عرصه حضور خواهند گذاشت که مشخصاً مسئولیت پایش عملکرد هوش مصنوعی و پوشش خلأ‌های میان بخشی را برعهده خواهند گرفت.با این توصیف فضای تأمین، پایش و حفظ و ارتقای سلامت حوزه تحت پوشش هوش مصنوعی به‌مراتب کیفی‌تر، کم‌خطاتر، گسترده‌تر، کم‌هزینه و با بهره‌وری بالاتر و نهایتاً رضایتمندی ارتقایافته‌ای همراه خواهد بود.

این درحالی است که چالش‌هایی مانند ازدست‌رفتن مشاغل سنتی، نیاز به بازآموزی نیروی کار، نگرانی‌های مربوط به حریم خصوصی و اخلاقیات نیز مطرح هستند که باید در تقابل با فرصت‌های مطروحه در حوزه هوش مصنوعی مورد بررسی قرار گرفته و رجحان ضرورت بهره‌گیری از این فرصت‌ها به‌ویژه در نظام سلامت واکاوی شود. از نگاه دیگر مشاغلی جدید پدید می‌آیند که ممکن است به چارچوب‌های قانونی و سیاستگذاری جدیدی نیاز داشته باشند. نحوه مواجهه سیاستگذاران با این چالش حقوقی اجتماعی یکی از مهم‌ترین مسائل عصر هوش مصنوعی خواهد بود [50].

چالش‌های هوش مصنوعی از منظر نظام سلامت

• حجم داده و ضرورت حفاظت از داده‌های شخصی

قوانین مربوط به جریان داده‌ها و حفاظت از داده‌های شخصی، یکی از حوزه‌های چالش مهمی است که باید به آن توجه ویژه شود. نباید از نظر دور داشت که سیستم‌های هوش مصنوعی نیاز به تغذیه با حجم زیادی از داده‌ها دارند تا به‌درستی آموزش ببینند و نتایج دقیقی تولید کنند. اساساً داده به‌عنوان سوخت اقتصاد دیجیتال شناخته می‌شود و عدم دسترسی شرکت‌های فعال فناوری اطلاعات به آن، رشد و توسعه آنان را غیرممکن می‌سازد. این واقعیت که برخی از این داده‌ها شامل داده‌های شخصی هستند و بسیاری از سیستم‌های هوش مصنوعی ویژگی‌هایی مانند مشکل جعبه سیاه دارند، نگرانی‌هایی را در مورد حفاظت از حقوق و آزادی‌های مشروع و اساسی هنگام استفاده از چنین سیستم‌هایی به‌وجود می‌آورد.

• تمایز تنظیم‌گری هوش مصنوعی در نظام سلامت

در حیطه نظام سلامت این بعد از امنیت داده‌های شخصی حساسیت ویژه‌ای می‌یابد. ازاین‌رو، در این زمینه، قانون باید بتواند از اشخاص در برابر آثار سوء هوش مصنوعی بر داده‌های شخصی محافظت کند و درعین‌حال، ضمن:

1. حفظ حریم شخصی و اسرار بیمار،
2. محافظت و پایش داده‌های پرمخاطره و حیاتی،
3. پوشش شکاف‌های تحقیقاتی، خدماتی، سیستمی و بالینی با دامنه و حواشی حقوقی گسترده مرتبط به سلامت آحاد جامعه.

مانعی برای توسعه فناوری هوش مصنوعی در نظام سلامت نباشد. این تمایز و مرزبندی کارشناسانه در تنظیم‌گری حقوقی حاکم بر هوش مصنوعی در نظام سلامت را در سطح جدی‌تری می‌طلبد.

آنچه مرزبندی در قوانین هوش مصنوعی در نظام سلامت را با حقوق جاری و ساری در عرصه‌های دیگر انکارناپذیر می‌کند بحث مخاطرات جانی و البته برگشت‌ناپذیر و بالطبع جبران‌ناپذیر ناشی از خلأها و خطاهای محتمل این حوزه است.گستردگی دامنه علم پزشکی و نامتناهی بودن پیچیدگی‌ها و درهم‌تنیدگی‌های مرتبط به این علم تمایز بی‌قیدوشرطی با سایر حوزه ها را رقم می‌زند و ضرورت مرزبندی معنادار تنظیم‌گری نظام حقوقی انحصاری نظام سلامت را به ذهن اهالی دانش متبادر می‌کند.

در سال‌های اخیر، کشورهایی مانند آمریکا و چین به‌دلیل سیاست‌های داده باز، رشد معناداری را در حوزه اقتصاد دیجیتال و از جمله هوش مصنوعی کسب کردند؛ به‌طوری‌که سهم اقتصاد دیجیتال آمریکا فاصله زیادی با دیگر کشورها و حتی کل کشورهای اتحادیه اروپا دارد [67].

البته باید توجه داشت تنظیم‌گری ابزاری حقوقی است که در خدمت سیاست‌ها و اهداف نظام حقوقی قرار می‌گیرد و تنها دربردارنده مقررات محدودکننده و سخت‌گیرانه نسبت به صنعت نیست، بلکه تنظیم‌گری در بسیاری از نظام‌های حقوقی برای تقویت بخش خصوصی و عبور از تصدی‌گری دولتی با خصوصی‌سازی توسعه‌یافته است [65].

به‌عنوان جمع‌بندی این بخش، شکل 2 چالش‌های استفاده از ابزار هوش مصنوعی در سطح کلان را نشان می‌دهد.

شکل 2. چالش‌های پیش روی کاربردهای هوش مصنوعی در سلامت جهانی [58]

5. تجربیات جهانی در تنظیم‏‎گری هوش مصنوعی در حوزه سلامت

با وجود تلاش‌هایی که در سطح جهانی صورت گرفته است، همان‌طور که پیش‌تر اشاره شد، قوانین موجود در حوزه سلامت برای مسائل مهمی مانند حفاظت از داده‌ها و حقوق افراد در عصر هوش مصنوعی کافی نیستند. در این بخش از پژوهش، به بررسی تجربیات کشورها و نهادهای بین‌المللی در تنظیم‌گری هوش مصنوعی با تمرکز ویژه بر حوزه سلامت خواهیم پرداخت.

بدیهی است که نظام هوش مصنوعی مؤثرتر و کارآمدتر، سیستمی است که به‌طور هم‌زمان چالش‌های حوزه سلامت، ناهنجاری‌های اجتماعی، جرایم اداری و مالی و حتی مشکلات فراروی جامعه بشری را پوشش داده و سامان‌دهی کند. به عبارت دیگر، این نظام می‌تواند سلامت در ابعاد مختلف را تضمین کرده و در نهایت منجر به افزایش بهره‌وری و کاهش هزینه‌ها و منابع مورد نیاز در سطح جامعه بشری شود.

با این پیش‌فرض، نگاهی به تلاش‌های انجام شده در عرصه‌های بین‌المللی می‌تواند مفید و آموزنده باشد.

اتحادیه اروپا در سال‌های اخیر گام‌های قابل توجهی در تنظیم‌گری هوش مصنوعی برداشته است و تلاش کرده چارچوبی منسجم برای استفاده ایمن و اخلاقی از این فناوری ارائه دهد. یکی از برجسته‌ترین اقدامات در این زمینه، تدوین «قانون هوش مصنوعی اتحادیه اروپا» بوده که هدف آن طبقه‌بندی سیستم‌های هوش مصنوعی براساس سطح خطر و میزان تأثیرگذاری بر سلامت، ایمنی و حقوق اولیه افراد است. این قانون سازوکارهایی را برای مدیریت و کنترل خطرات مرتبط با فناوری هوش مصنوعی پیشنهاد می‌کند و الزاماتی برای توسعه‌دهندگان و کاربران این سیستم‌ها در نظر گرفته است.

شکل 3. طبقه‌بندی ریسک هوش مصنوعی براساس پیشنهاد سال 2021  اتحادیه اروپا در زمینه قانونگذاری هوش مصنوعی [70]

براساس این قانون، فعالیت سیستم‌هایی که تهدیدی جدی برای ایمنی افراد به‌شمار می‌آیند، مانند فناوری‌هایی که از زیست‌سنجی یا شناسایی احساسات استفاده می‌کنند، ممنوع است. سایر سیستم‌های هوش مصنوعی درصورتی‌که الزامات قانونی و سطح خطر مشخص شده را رعایت کنند و تحت نظارت قرار گیرند، مجاز به فعالیت خواهند بود. این قانون همچنین شامل سازوکارهای پیچیده‌ای برای اجرای قوانین و شناسایی تخلفات است. به‌موجب الزامات شفافیت، توسعه‌دهندگان هوش مصنوعی موظف به انتشار خلاصه‌ای از داده‌هایی هستند که برای توسعه این فناوری‌ها استفاده کرده‌اند. برخی از بخش‌های این قانون همچنین الزامات خاصی برای مدیریت ریسک، حاکمیت داده، نظارت انسانی، شفافیت، دقت، استحکام و امنیت سایبری سیستم‌های هوش مصنوعی دارند و برخی دیگر تعهدات توسعه‌دهندگان را نسبت به کاربران این سیستم‌ها مشخص می‌کنند. به‌طورکلی، این قانون از یک چارچوب مبتنی‌بر ریسک استفاده می‌کند و سیستم‌های پرخطر مانند آنهایی که از شناسایی بیومتریک یا مدیریت سوابق سلامت الکترونیکی استفاده می‌کنند، در بخش مراقبت‌های بهداشتی دسته‌بندی می‌شوند. البته ممکن است این سیستم که حاکمیت هوش مصنوعی را به تمهیدات بهداشتی محدود می‌کند، نیاز به بحث و جایگزینی الگوهای چندمنظوره تکامل‌یافته داشته باشد. همچنین، طبق نظر کارشناسان اتحادیه اروپا، قانون هوش مصنوعی ممکن است انعطاف‌پذیری لازم را نداشته باشد و مقرراتی برای طبقه‌بندی برنامه‌های جدید به‌عنوان سیستم‌های پرخطر در صورت بروز خطرات غیرمنتظره وجود ندارد. برخی توسعه‌دهندگان هوش مصنوعی نیز به این مقررات اعتراض کرده‌اند و معتقدند که این قوانین ممکن است نوآوری‌ها را محدود کند [71].

مجموعه سیاست‌های ناظر بر حوزه هوش مصنوعی که تا به امروز در اتحادیه اروپا تدوین شده‌اند، در جدول 3 فهرست شده‌اند.

جدول 3. خلاصه از سیاست‏های تنظیمی مصوب اتحادیه اروپا در حوزه هوش مصنوعی [65]

5-1. انگلستان

هوش مصنوعی از منظر کلان که بر حوزه سلامت اثر میگذارد

این کشور در ارتباط با هوش مصنوعی اقداماتی را به انجام رسانده که خواسته یا ناخواسته بر گسترش هوش مصنوعی در نظام سلامت تأثیر گذار خواهد بود و می‌توان گفت درحال‌حاضر بریتانیا یک رویکرد غیرمتمرکز و تدریجی را اتخاذ کرده است. این چارچوب به‌منظور این طراحی شده که نهادهای تنظیم مقررات خاص در هر حوزه بتوانند به‌سرعت به مشکلات ناگهانی و غیرقابل پیش‌بینی ناشی از هوش مصنوعی واکنش نشان دهند و از تدابیر هدفمند استفاده کنند. [78]  در این راستا پارلمان بریتانیا، در سال 2017 به‌منظور بررسی آثار اقتصادی، اخلاقی و اجتماعی پیشرفت‌های هوش مصنوعی و به‌منظور بررسی آثار اقتصادی، اخلاقی و اجتماعی پیشرفت‌های فناوری هوش مصنوعی، کمیته‌ای با عنوان کمیته هوش مصنوعی از اعضای مجلس اعیان بریتانیا تشکیل داد.

قوانین و تنظیم گری‌های ویژه نظام سلامت

در ارتباط با توسعه هوش مصنوعی در نظام سلامت [79] در این کشور وظیفه وضع قوانین لازم بر فناوری‌ها و محصولات نوین بر پایه هوش مصنوعی در نظام سلامت به آژانس تنظیم مقررات داروها و محصولات بهداشتی (MHRA) محول شده است. [80] همچنین، استفاده از داده‌های شخصی در سیستم‌های هوش مصنوعی تحت نظارت دفتر کمیسر اطلاعات (ICO) قرار دارد.

 [81] NHS حاکمیت هوش مصنوعی در نظام سلامت را بر چهار اصل استوار می‌داند؛

• قانونگذاری و تعیین استانداردهای لازم،
• ارزیابی و اعتبارسنجی براساس آنها،
• ارائه گایدلاین‌های تشریح‌کننده نحوه استفاده از هوش مصنوعی،
• تعیین مسئولیت استفاده از هوش مصنوعی در سطح فردی و سازمانی [82].

این سازمان برای نرم‌افزارهای مورد استفاده در سلامت، استانداردهای ایمنی اضافی تعیین کرده است. توسعه سیستم‌های هوش مصنوعی مرتبط با سلامت در NHS به‌عنوان تحقیقات پزشکی طبقه‌بندی می‌شود و نیاز به تأیید از طرف اداره تحقیقات سلامت دارد. طبق اعلام کمیسیون کیفیت هرکدام از ذی‌نفعان هوش مصنوعی که در آینده بتواند بدون مداخله انسانی تشخیص بدهند یا درمان کنند، باید به‌طور رسمی به ثبت برسند. در سال 2019، مؤسسه ملی بهداشت و مراقبت عالی بریتانیا با همکاری NIH «چارچوب استانداردهای مستند برای فناوری‌های سلامت دیجیتال» را منتشر کرد که مقرراتی را برای محصولات مختلف سلامت دیجیتال، از جمله برنامه‌ها و نرم‌افزارها تعریف کرده است. در سپتامبر 2021، MHRA قانون «نرم‌افزار و هوش مصنوعی به‌عنوان ابزار پزشکی، تغییر برنامه» را برای ایجاد یک چارچوب نظارتی جامع بر هوش مصنوعی در نظام سلامت انگلستان آغاز کرد. این برنامه به دنبال تعریف قوانینی است ناظر بر:

• امنیت سایبری
• حریم خصوصی داده‌ها
• سوگیری الگوریتم‌ها و
• ارزیابی هوش مصنوعی پس از توسعه

علاوه‌بر این، در نوامبر 2022، شورای تنظیم مقررات آینده انگلستان قانونی به نام «مقررات هوش مصنوعی به‌عنوان یک دستگاه پزشکی» را منتشر کرد که بر تعریف قوانین برای چرخه عمر محصول برای تجهیزات پزشکی هوش مصنوعی تمرکز دارد. باتوجه‌به تعدد نهادهای متولی موضوع در انگلستان، برخی از ذی‌نفعان فرایندهای نظارتی فعلی را دشوار و مانع نوآوری می‌دانند [47][69][83][84][85][86][87]. بااین‌حال، دولت بریتانیا در حال بررسی تأسیس یک نهاد مرکزی است. در صورت تأسیس، نهادهای تنظیم‌گر در هر حوزه، پیش از اجرای هرگونه دستورالعمل خاص مرتبط باهوش مصنوعی، ملزم به مشورت با این نهاد مرکزی خواهند بود [88].

5-2. ایالات متحده آمریکا

هوش مصنوعی از منظر کلان که بر حوزه سلامت اثر میگذارد

در تاریخ ۳۰ اکتبر ۲۰۲۳، یک فرمان اجرایی به تصویب رسید که بر توسعه و استفاده ایمن، امن و قابل اعتماد از هوش مصنوعی در همه حوزه‌ها تمرکز دارد [89]. برخلاف رویکرد اتحادیه اروپا، این فرمان بیشتر بر تدوین دستورالعمل‌ها، استانداردها و روش‌های همکاری بین‌المللی متمرکز است. اگرچه این فرمان به مجموعه‌ای از چالش‌ها و فرصت‌ها پرداخته است، اما مانند اتحادیه اروپا سیستم‌های هوش مصنوعی را براساس ریسک طبقه‌بندی نمی‌کند. این فرمان براساس طرح اولیه حقوق هوش مصنوعی که شامل پنج اصل غیرالزام‌آور است، طراحی شده و هدف آن کاهش آسیب‌های بالقوه ناشی از سیستم‌های هوش مصنوعی بدون محدود کردن نوآوری است.

در ایالات متحده، درحال‌حاضر هیچ چارچوب قانونی خاصی برای فناوری‌های مبتنی‌بر هوش مصنوعی وجود ندارد و می‌توان گفت دولت آمریکا در مقایسه با برخی کشورهای دیگر، رویکرد کمتری از نظر مداخله در این حوزه دارد. به‌جای وضع قوانین سخت‌گیرانه، تمرکز بیشتری بر ایجاد استانداردها و دستورالعمل‌های داوطلبانه است. بخش خصوصی و شرکت‌های فناوری نقش کلیدی در تدوین این استانداردها دارند و تأکید عمده بر خودتنظیمی صنعت و نظارت داخلی شرکت‌های فعال در زمینه هوش مصنوعی است [65] [90] .

قوانین و تنظیم گری‌های ویژه نظام سلامت

درحال‌حاضر در آمریکا، وظیفه نظارت بر کلیه محصولات دیجیتال حوزه سلامت به مرکز عالی سلامت دیجیتال (DHCoE) محول شده است. این مرکز که زیرمجموعه سازمان غذا و داروی آمریکاست، علاوه‌بر نظارت با رویکرد نوآورانه، مسئول اشتراک‌گذاری دانش، ایجاد شبکه و گسترش همکاری میان فعالان این حوزه نیز می‌باشد. همچنین، NIH  علاوه‌بر سرمایه‌گذاری قابل توجه در پروژه «پلی به هوش مصنوعی» و فراهم کردن زیرساخت‌های ضروری برای توسعه آن، از جمله داده‌های بزرگ و معتبر، اقدام به وضع قوانینی در زمینه هوش مصنوعی کرده است. برای مثال، این نهاد به‌منظور حفظ اصول محرمانه اطلاعات، از داوران مقالات خواسته است که از به‌کارگیری هوش مصنوعی برای تجزیه‌وتحلیل مقالات و قراردادها خودداری کنند، چرا که قرار دادن اطلاعات حساس و دقیق در اختیار ابزارهای هوش مصنوعی می‌تواند خطر افشای این اطلاعات را افزایش دهد [92].

با وجود شرایط خاص آمریکا درخصوص عدم وجود مسیر شفاف مرتبط با  فناوری‌های مبتنی‌بر هوش مصنوعی، سازمان غذا و دارو، آن را تحت چارچوب قانونی موجود برای نرم‌افزارها و دستگاه‌های پزشکی ارزیابی می‌کند. در آوریل ۲۰۱۹، سازمان غذا و دارو چارچوبی قانونی برای نرم‌افزارهای مبتنی‌بر هوش مصنوعی و یادگیری ماشین معرفی کرد که براساس آن، توسعه‌دهندگان مسئول عملکرد سیستم‌های هوش مصنوعی خود شناخته می‌شوند و هر گونه تغییر در کاربرد مورد نظر سیستم، نیازمند آغاز مجدد فرایند تأیید است. همچنین این سازمان یک برنامه تحت عنوان «چارچوب قانونی برای نرم‌افزارهای و دستگاه‌های پزشکی مبتنی‌بر هوش مصنوعی و یادگیری ماشین» را در ژانویه ۲۰۲۱ معرفی کرد که پنج اقدام کلیدی را براساس رویکرد «چرخه عمر کل محصول» برای نظارت بر دستگاه‌های پزشکی هوش مصنوعی انجام می‌دهد:

۱. طراحی چارچوب قانونی ویژه،

۲. پیاده‌سازی بهترین شیوه‌های یادگیری ماشین،

۳. اتخاذ رویکردی متمرکز بر بیمار برای تضمین شفافیت دستگاه‌ها برای کاربران،

۴. توسعه روش‌هایی برای حذف سوگیری از الگوریتم‌های یادگیری ماشین و بهبود آنها،

۵. شروع آزمایش‌ها برای ارزیابی عملکرد در محیط‌های واقعی [69].

5-3. چین

هوش مصنوعی از منظر کلان که بر حوزه سلامت اثر میگذارد

رویکرد قانونگذاری هوش مصنوعی در چین با تأکید بر «کنترل دولتی» مشخص می‌شود. چین هوش مصنوعی را به‌عنوان یک اولویت راهبردی ملی در نظر گرفته و به‌طور فعال در حال توسعه و تنظیم‌گری آن است. به‌منظور تنظیم‌گری این حوزه، «قانون هوش مصنوعی چین» در سال 2021 تصویب شد که چهارچوب قانونی کاملی را ارائه می‌دهد. علاوه‌بر این، چین استانداردهای فنی و اخلاقی سختگیرانه‌ای برای توسعه و استفاده از هوش مصنوعی تعیین کرده و نظارت مستقیم بر فعالیت‌های شرکت‌های فناوری در این زمینه را اعمال می‌کند. به‌علاوه، محدودیت‌های زیادی در زمینه حریم خصوصی و امنیت داده‌ها در چین وجود دارد. [65] قانون «اقدامات موقت برای مدیریت خدمات هوش مصنوعی مولد» که در اپریل ۲۰۲۳ توسط اداره فضای مجازی چین ابلاغ شده، رویکرد نظارتی مبتنی‌بر تکنولوژی را مدنظر قرار داده است. براساس این قانون، هر فناوری جدید پیش از عرضه باید از آزمایش‌های امنیتی عبور کند. علاوه‌بر این، الزامات جداگانه‌ای برای بررسی امنیت الگوریتم‌های مختلف در نظر گرفته شده است [93]. این مقررات به‌ویژه برای فناوری‌های هوش مصنوعی که قادر به تأثیرگذاری بر افکار عمومی هستند، اعمال می‌شود. بااین‌حال، باید توجه داشت که چارچوب نظارتی هوش مصنوعی چین تنها شامل فناوری‌هایی می‌شود که خدمات آنها در چین و برای عموم قابل دسترس باشد؛ به این معنا که سیستم‌های هوش مصنوعی مورد استفاده در شرکت‌ها، مؤسسات تحقیقاتی و دانشگاه‌ها و همچنین فناوری‌هایی که کاربران خارج از چین را هدف قرار می‌دهند، از این قانون معاف هستند [94]. همچنین، طبق قوانین موجود، الگوریتم‌های یادگیری ماشینی که توسط هوش مصنوعی بهبود یافته‌اند، مالکیت معنوی مشخصی ندارند و نیاز فوری به چارچوب‌های قانونی برای حل و فصل حقوق مالکیت معنوی محتوای تولید شده توسط هوش مصنوعی وجود دارد که در محافل دانشگاهی چین در حال بحث است، اما تاکنون هیچ اجماع یا پیشنهاد قانونی در این زمینه ارائه نشده است [95].

قوانین و تنظیم گری‌های ویژه نظام سلامت

دو پروتکل «اصول راهنما برای دسته‌بندی و تعریف هوش مصنوعی» و «اصول راهنما برای بازنگری ثبت دستگاه پزشکی مبتنی‌بر هوش مصنوعی» با تمرکز بیشتری قانونگذاری و تعیین خط‌مشی هوش مصنوعی در نظام سلامت را دنبال می‌کنند. [96][97] سازمان ملی محصولات پزشکی چین که وظیفه نظارت و قانونگذاری برای محصولات پزشکی را برعهده دارد، «راهنمای فنی در مورد نرم افزارهای مجهز به هوش مصنوعی» را در ژوئن 2019 منتشر کرد. این دستورالعمل با توجه به ویژگی‌های خاص فناوری یادگیری عمیق، از جمله ماهیت جعبه سیاه، اهدافی همچون کنترل کیفیت داده‌ها، اعتبارسنجی الگوریتم‌ها و ارائه روش‌هایی برای ارزیابی خطرات بالینی را مدنظر قرار داده است. در 8 ژوئیه 2021، NMPA «راهنمای طبقه‌بندی و تعریف نرم‌افزار مبتنی‌بر هوش مصنوعی به‌عنوان یک دستگاه پزشکی» را منتشر کرد که شامل اطلاعاتی در مورد طبقه‌بندی و اصطلاحات دستگاه‌های پزشکی مبتنی‌بر هوش مصنوعی، ایمنی و اثربخشی الگوریتم‌های هوش مصنوعی می‌باشد. در 7 مارس 2022، یکی از زیر مجموعه‌های NMPA به نام مرکز ارزیابی تجهیزات پزشکی دستورالعمل «راهنمای ثبت و بررسی دستگاه‌های پزشکی مبتنی‌بر هوش مصنوعی» را منتشر کرد. این دستورالعمل‌ها استانداردهایی برای تضمین کیفیت نرم‌افزار و امنیت سایبری دستگاه‌های پزشکی ارائه می‌دهند و تمامی مراحل چرخه عمر محصول را در نظر می‌گیرند.NMPA  علاوه‌بر آغاز استانداردسازی مقررات مرتبط با هوش مصنوعی در سطح ملی، با تمرکز بر عوامل خطر و مدیریت جامع چرخه عمر محصولات هوش مصنوعی از طریق انتشار این دستورالعمل‌ها، تلاش می‌کند تا هماهنگی در سطح بین‌المللی را نیز ارتقا دهد [69].

5-4. برزیل

هوش مصنوعی از منظر کلان که بر حوزه سلامت اثر میگذارد

قانون عمومی حفاظت از داده‌های شخصی برزیل که در اوت ۲۰۱۸ به تصویب رسید و از سپتامبر ۲۰۲۰ اجرایی شد، از GDPR اروپا الهام گرفته و بر حریم خصوصی داده‌های شخصی تمرکز دارد؛ اما به‌طور خاص هوش مصنوعی را تنظیم نمی‌کند. [98] در سپتامبر 2021، چارچوب قانونی برزیل برای هوش مصنوعی، با هدف قانونگذاری توسعه و استفاده از فناوری هوش مصنوعی در برزیل توسط «مجمع نمایندگان برزیل» تصویب شد. این قانون یک رویکرد مبتنی‌بر ریسک را مدنظر قرار داده، اما فقط ناظر بر توسعه هوش مصنوعی است و کاربردهای مختلف آن را در نظر نمی‌گیرد. به دنبال تصویب این قانون، مجلس سنای برزیل از طرح‌های قانونگذاری هوش مصنوعی در کشورهای عضو سازمان توسعه و همکاری اقتصادی الهام گرفت و پیشنهاد ذی‌نفعان مختلف و مردم را برای پیش‌نویس قانون هوش مصنوعی در دسامبر 2022 دریافت کرد.

قوانین و تنظیم گری‌های ویژه نظام سلامت

پیش‌نویس قانون هوش مصنوعی، ابزارهای هوش مصنوعی مرتبط با سلامت را به‌عنوان سیستم‌های پرخطر طبقه‌بندی کرده است. توسعه‌دهندگان این سیستم‌ها ملزم‌اند ارزیابی‌های الگوریتمی را به‌طور منظم و با شفافیت کامل انجام دهند. در این قانون حقوق مرتبط با حوزه‌های زیر لحاظ شده است:

• جلوگیری از تبعیض و سوگیری،
• حفظ حریم خصوصی،
• حفاظت از داده‌های شخصی.

علاوه‌بر این، صرف‌نظر از سطح ریسک سیستم هوش مصنوعی، پیش‌نویس قانون تأکید دارد که ارائه‌دهندگان این سیستم‌ها به‌طور کامل در قبال هرگونه خسارت ناشی از عملکرد آنها مسئول خواهند بود [69][98].

5-5. سنگاپور

هوش مصنوعی از منظر کلان که بر حوزه سلامت اثر میگذارد

استراتژی ملی هوش مصنوعی سنگاپور بر شناسایی اولویت‌ها و منابع در سطح ملی، ایجاد همکاری میان ذی‌نفعان مختلف برای تحقق تأثیرهای مثبت هوش مصنوعی، و مدیریت ریسک‌ها و تغییراتی که با گسترش این فناوری به‌وجود می‌آید، تمرکز دارد. در همین راستا، در تاریخ ۲۵ مه ۲۰۲۲، اداره توسعه رسانه‌های اطلاعاتی اولین چارچوب ارزیابی حاکمیت هوش مصنوعی جهان را با عنوان «تأییدیه هوش مصنوعی» برای توسعه‌دهندگان هوش مصنوعی در سنگاپور معرفی کرد. این چارچوب شامل یازده اصل اخلاقی هوش مصنوعی است که در حوزه‌های قضایی مختلف جهان مورد توجه قرار گرفته و با چارچوب‌های بین‌المللی شناخته‌شده‌ای مانند اتحادیه اروپا، OECD، و چارچوب حاکمیت مدل هوش مصنوعی سنگاپور هماهنگ است. این یازده اصل عبارت‌اند از:

• شفافیت،
• توضیح‌پذیری،
• تکرارپذیری،
• ایمنی و امنیت،
• پایداری عملکرد،
• انصاف،
• حاکمیت داده،
• پاسخ‌گویی،
• عاملیت و نظارت انسانی،
• رشد فراگیر و رفاه اجتماعی،
• پایداری زیست‌محیطی.

قوانین و تنظیم گری‌های ویژه نظام سلامت

به‌طور خاص، درخصوص بخش بهداشت و درمان، سازمان علوم بهداشتی سنگاپور در آوریل ۲۰۲۲ نسخه دوم «راهنمایی‌های نظارتی برای نرم‌افزارهای پزشکی دیجیتال - رویکرد چرخه عمر» را منتشر و بر این نکته تأکید کرد که توسعه‌دهندگان باید هدف مدنظر، جزئیات داده‌های ورودی، مشخصات عملکرد، تدابیر کنترلی و گزارش‌دهی پس از عرضه هوش مصنوعی خود را ارائه دهند. همچنین راهنمای توسعه‌دهندگان و کاربران هوش مصنوعی تحت عنوان «راهنمای هوش مصنوعی در بهداشت و درمان» توسط وزارت بهداشت سنگاپور در اکتبر ۲۰۲۱ منتشر شده است [69].

5-6. استرالیا:

هوش مصنوعی از منظر کلان که بر حوزه سلامت اثر میگذارد

مطابق سندی تحت عنوان «بهترین استفاده از فرصت هوش مصنوعی» که دولت استرالیا در ژانویه ۲۰۲۴ منتشر کرده است، قانونگذاری هوش مصنوعی فرایند کلی زیر را دنبال خواهد کرد:

شکل 4. رویکرد تنظیمگری هوش مصنوعی در استرالیا [99]

یکی از جنبه‌های قابل توجه در رویکرد استرالیا به قانونگذاری هوش مصنوعی، تأکید بر خودتنظیمی صنعت است. توسعه‌دهندگان هوش مصنوعی برای حفظ اعتبار و ارزش کسب‌وکار خود به رعایت ضوابط اخلاقی و حرفه‌ای ملزم‌اند. این رویکرد می‌تواند تأثیری حتی قوی‌تر از قوانین و نظارت‌های خارجی داشته باشد. بااین‌حال، با گسترش استفاده کاربران از هوش مصنوعی و افزایش رقابت در بازار، برخی توسعه‌دهندگان ممکن است برای دستیابی به مزیت رقابتی، این ضوابط را نادیده بگیرند. در چنین شرایطی، نقش بیمه، به‌ویژه بیمه‌های خصوصی، پررنگ‌تر می‌شود زیرا بیمه‌ها به کسب‌وکارهای هوش مصنوعی فشار می‌آورند تا اصول و چارچوب‌های مشخصی را رعایت کنند. سیستم‌های هوش مصنوعی که از این چارچوب‌ها تبعیت نکنند، بیمه نخواهند شد و این به‌عنوان مانعی جدی در مسیر توسعه آنها عمل می‌کند [99].

قوانین و تنظیم‌گری‌های ویژه نظام سلامت در استرالیا

«کالج سلطنتی متخصصان رادیولوژی استرالیا و نیوزلند» دستورالعمل «اصول اخلاقی برای هوش مصنوعی در پزشکی» را در آوریل 2019 منتشر کرد. این سند بر اهمیت ارتقای مهارت پزشکان و توسعه استانداردهای لازم در پزشکی تأکید می‌کند. قانونگذاری هوش مصنوعی در پزشکی تحت کنترل سازمان کالاهای درمانی قرار دارد. در اوت 2021، ضمن اصلاح مقررات قدیمی، دستورالعملی با عنوان «تغییرات نظارتی برای دستگاه‌های پزشکی مبتنی‌بر نرم‌افزار» برای توضیح اصلاحات منتشر شد. این دستورالعمل شامل یک رویکرد طبقه‌بندی مبتنی‌بر ریسک است. باوجود تلاش برای فراهم‌کردن زمینه استفاده از هوش مصنوعی در نظام سلامت از جمله تدوین برخی قوانین در سطح ملی، توسعه پرونده سلامت الکترونیک و تحلیل داده‌های آن، TGA سعی دارد دررابطه‌با عوامل پرخطر که تأثیر زیادی بر ایمنی بیمار دارد، در سطح بین‌المللی هماهنگ شود [69].

هوش مصنوعی از منظر کلان که بر حوزه سلامت اثر میگذارد

سازمان بهداشت جهانی: با اینکه تاکنون هیچ‌یک از نهادهای بین‌المللی، چه در سطح عمومی و چه در حوزه سلامت، قوانین مشخصی برای هوش مصنوعی وضع نکرده‌اند، سازمان بهداشت جهانی به‌عنوان مرجع جهانی در زمینه سلامت، یک چارچوب کلی شامل ۶ اصل را برای هدایت دوران هوش مصنوعی تعریف کرده است [22]:

جدول 4. اصول کلی تعریف شده ازسوی سازمان بهداشت جهانی در حوزه هوش مصنوعی [22]

6. قوانین کلان و زیرساختی مؤثر بر حوزه هوش مصنوعی سلامت

6-1. قوانین و مقررات بخشی (ویژه نظام سلامت)

6-1-1. نبود قانون جامع در حوزه هوش مصنوعی

درحال‌حاضر، قانونی جامع و اختصاصی در نظام حقوقی کشور برای هوش مصنوعی‌ وجود ندارد. نظام حقوقی ایران تاکنون رویکردی فعال و تنظیمی نسبت به هوش مصنوعی اتخاذ نکرده است [65].

6-1-2. قوانین مرتبط و قابل تعمیم به هوش مصنوعی

هرچند قانونی اختصاصی در زمینه هوش مصنوعی وجود ندارد، اما برخی قوانین و مقررات عمومی حوزه فناوری را می‌توان به هوش مصنوعی مرتبط یا قابل تعمیم دانست. مهم‌ترین این قوانین در جدول 5 آمده است.

جدول 5. قوانین قابل تعمیم و تفسیر به حوزه هوش مصنوعی در ایران

6-2. نواقص قوانین موجود

قوانین موجود به برخی الزامات و چالش‌های مشترک تکنولوژی‌های نوین مانند شفافیت و محرمانگی اطلاعات، توسعه زیرساخت‌های سخت‌افزاری و نرم‌افزاری و تعیین مجوزهای لازم پرداخته‌اند، اما در زمینه هوش مصنوعی نواقص زیر مشهود است:

• بی‌توجهی به ماهیت الگوریتم‌های یادگیری عمیق،
• چالش‌های شفافیت پردازش داده‌ها،
• بی‌توجهی به آثار شگرف هوش مصنوعی بر نیاز به نیروی کار و منابع انسانی،
• نیاز به بازنگری در قوانین موجود در این حوزه و تدوین قوانین پویا و انعطاف‌پذیر مطابق با ماهیت داینامیک هوش مصنوعی و اقتضای زمانه.

6-3. جایگاه هوش مصنوعی در برنامه هفتم توسعه

برنامه هفتم توسعه جمهوری اسلامی ایران به فناوری‌های نوین توجه ویژه‌ای داشته است. هرچند فقط در دو بند (بند «ت» ماده (۹۹) و بند «ج» ماده (65)) مستقیماً به هوش مصنوعی اشاره شده است، مواد متعددی زیرساخت‌های توسعه این فناوری را فراهم می‌کنند. این بندها در جدول 6 آورده شده‌اند.

جدول 6. بندهای مرتبط با هوش مصنوعی در برنامه هفتم توسعه

6-4. چشم‌انداز پیش‌رو در حکمرانی هوش مصنوعی

با وجود اقدامات پراکنده نهادهای مختلف در تدوین اسناد سیاستی مرتبط با هوش مصنوعی، ناهماهنگی میان دستگاه‌های متولی و ضعف همکاری‌های بین‌بخشی، همچنان از موانع اصلی توسعه مسئولانه و اخلاقی این فناوری است [65].

«مرکز ملی هوش مصنوعی» در آذرماه ۱۴۰۲ با هدف آغاز فعالیت‌های جدی در زمینه حکمرانی و توسعه فناوری هوش مصنوعی تأسیس شد. براساس چشم‌انداز ترسیم شده در سند ملی هوش مصنوعی، جمهوری اسلامی ایران تا افق ۱۴۱۲ هجری شمسی قصد دارد با ایجاد زیست‌بومی پیشرفته و نوآور در حوزه هوش مصنوعی، که مبتنی‌بر اصول و ارزش‌های اسلامی است، با تکیه بر ظرفیت‌های داخلی و بهره‌گیری هوشمندانه از همکاری‌های جهانی در میان ۱۰ کشور برتر دنیا در این زمینه قرار گیرد. همچنین، هدف از این توسعه، بهره‌گیری از هوش مصنوعی در حکمرانی، حل مسائل کلان کشور و ایجاد بیشترین پیشرفت در حوزه‌هایی چون ثروت‌آفرینی، ارزش‌آفرینی، سلامت، رفاه، امنیت و آسایش مردم است[10].

7. جمع‌بندی و پیشنهادها

در سال‌های اخیر، گسترش و پیشرفت ابزارها و فناوری‌های مبتنی‌بر هوش مصنوعی تأثیر چشمگیری بر حوزه‌های مختلف، از جمله سلامت، داشته است. بااین‌حال، مانند هر فناوری نوظهور دیگری، این پیشرفت‌ها علاوه‌بر فرصت‌ها، چالش‌هایی را نیز به‌همراه دارند که نیازمند پیش‌بینی و پیشگیری دقیق و در صورت لزوم، اقداماتی هوشمندانه برای مدیریت آنهاست تا از آسیب‌های احتمالی به سلامت جامعه جلوگیری شود. این مسئله در حوزه سلامت اهمیت ویژه‌ای دارد زیرا هدف اصلی این حوزه حفظ جان انسان‌هاست و هرگونه نقص در ارائه خدمات می‌تواند پیامدهای ناگوار مالی، جسمی و معنوی برای دریافت‌کنندگان خدمات سلامت به‌دنبال داشته باشد.

ازاین‌رو، بسیاری کشورها به بررسی فرصت‌ها و چالش‌های هوش مصنوعی در نظام سلامت پرداخته و طرح‌ها و دستورالعمل‌های مختلفی را برای قانونگذاری و تنظیم‌گری این فناوری پیشنهاد داده‌اند. هوش مصنوعی کاربردهای گسترده‌ای در حوزه سلامت دارد، از جمله بهبود پیشگیری از بیماری‌ها، ارتقای خدمات تشخیصی و درمانی، اولویت‌بندی خدمات و تسهیل تحقیقات و توسعه دارو، که تاکنون نتایج مثبتی نیز به‌همراه داشته است. به همین دلیل، کشورهای پیشرو در حوزه فناوری، به توسعه زیرساخت‌های لازم برای بهره‌برداری از این فناوری‌ها در نظام سلامت توجه ویژه‌ای نشان داده‌اند. بااین‌حال، باید دقت داشت که تصمیم‌گیری‌های عجولانه و بدون بررسی جوانب مرتبط، به‌ویژه در حوزه سلامت، می‌تواند پیامدهای منفی به‌همراه داشته باشد و اهداف توسعه‌دهندگان در راستای حفظ و ارتقای سلامت را تحت تأثیر قرار دهد.

با توجه به موارد مذکور، به‌منظور مواجهه مؤثر با چالش‌ها و ایجاد زمینه بهره‌برداری بهینه از فرصت‌های هوش مصنوعی باید قوانین، مقررات و دستورالعمل‌های ضروری ناظر بر موارد ذیل در دستور کار سیاستگذاران این حوزه قرار گیرد:

حفاظت از داده‌ها، تعیین مسئولیت‌های هوش مصنوعی، امنیت سایبری و اصول اخلاقی در طراحی فناوری‌ها،

تعریف چرخه توسعه‌ای ساختاریافته همراه با نظارت قانونی در همه مراحل توسعه هوش مصنوعی،

ایجاد تعادل بین شفافیت داده‌ها و حفاظت از حریم خصوصی افراد،

تضمین عدالت در دسترسی به خدمات سلامت مبتنی‌بر هوش مصنوعی،

مسئولیت مدنی و کیفری با شرایط جدید ناشی از هوش مصنوعی، شامل مسئولیت محض، بیمه اجباری، مسئولیت نیابتی و اعطای شخصیت حقوقی به هوش مصنوعی،

اصلاح قوانین کار با تأکید بر اصول انسانی و اخلاقی و حمایت از افرادی که شغلشان در معرض خطر جایگزینی توسط هوش مصنوعی قرار دارد،

طراحی چارچوب حکمرانی هماهنگ که شامل ساختارهای مردم‌محور، نظام مجوزدهی پویا و همکاری‌های بین‌بخشی و بین‌المللی باشد،

حمایت از مالکیت فکری، ارائه مشوق‌های مالی و مالیاتی، جلوگیری از انحصارطلبی و ایجاد محیط‌های آزمایشی همراه با مقررات حمایتی برای تقویت نوآوری‌های داخلی در زمینه هوش مصنوعی،

تضمین رقابت آزاد و جلوگیری حداکثری از انحصارطلبی.