مؤلفه‌های حکمرانی هوش مصنوعی

به گزارش گروه پژوهش خبرگزاری آنا، حکمرانی هوش مصنوعی به عنوان بستر راهبری توسعه هوش مصنوعی، یک مفهوم پویا و چندوجهی بوده و نقش مهمی در ساخت آینده جوامع مدرن ایفا خواهد کرد.

حکمرانی هوش مصنوعی شامل مجموعه‌ای از فرایندها، استانداردها، قوانین و خط مشی‌ها می‌شود که به منظور راهبری، مدیریت، کنترل بهینه، توسعه و کاربست فناوری هوش مصنوعی و پیامد‌های مرتبط با آن طراحی می‌شود.

نتیجه آن اقداماتی است که هدف آن تضمین ایمنی، عدالت، شفافیت و اخلاق در توسعه، اجرا و استفاده از سیستم‌ها و فناوری‌های مبتنی بر هوش مصنوعی است.

در همین راستا مرکز پژوهش‌های مجلس در گزارشی با عنوان «حکمرانی هوش مصنوعی (۲): مفاهیم، ابعاد و مؤلفه‌ها» مطرح می‌کند که استفاده فزاینده از هوش مصنوعی در زمینه‌های گوناگون نظیر بهداشت، آموزش، امنیت و خدمات عمومی، اهمیت ایجاد زیرساخت‌های حقوقی و اجرایی مناسب برای مدیریت این فناوری را دوچندان کرده است. کشور‌های در حال توسعه همچون ایران، که با چالش‌هایی نظیر محدودیت زیرساخت‌های فنی، نبود نظام جامع حکمرانی داده و عدم آگاهی عمومی مواجه هستند، نیازمند ایجاد چارچوبی منسجم برای هدایت این فناوری‌اند. عدم مدیریت مؤثر بر توسعه و کاربست هوش مصنوعی ممکن است به تشدید نابرابری‌ها، نقض حریم خصوصی، تهدیدات امنیتی و کاهش اعتماد عمومی بینجامد.

این گزارش بیان می‌کند که حکمرانی هوش مصنوعی به عنوان چارچوبی برای مدیریت و کنترل این فناوری، بر اصولی نظیر ایمنی، عدالت، شفافیت، و احترام به حقوق بشر استوار است. این مفهوم تنها به وضع مقررات محدود نمی‌شود، بلکه شامل سازوکار‌هایی برای ارتقای فرهنگ‌سازی، تقویت دانش عمومی و توانمندسازی ذی‌نفعان نیز می‌شود. علاوه بر این، حکمرانی هوش مصنوعی باید بتواند تعادلی میان نوآوری و رعایت ملاحظات اجتماعی ایجاد کند تا به ارتقای کیفیت زندگی کمک نماید و هم‌زمان از بروز خطرات و پیامد‌های ناخواسته جلوگیری کند.

این گزارش ادامه می‌دهد که با توجه به این مهم و ابلاغ سند ملی هوش مصنوعی که بیانگر اهمیت راهبردی آن است، پرداخت به مفهوم حکمرانی هوش مصنوعی با هدف طراحی قواعد کلان کنشگری ذی‌نفعان این حوزه امری حیاتی است. قواعدی که به‌وضوح اهداف، مسئولیت‌ها و راهبرد‌های لازم جهت توسعه مؤثر و مطلوب این فناوری را تبیین کند و چابکی لازم برای مواجهه با تعارضات این حوزه را داشته باشند. از وجوه دیگر پرداخت راهبردی به مفهوم حکمرانی هوش مصنوعی، توانمندسازی مدیران و کارکنان بخش دولتی و خصوصی با هدف ارتقای سطح آگاهی و میزان پذیرش فناوری‌های مبتنی‌بر هوش مصنوعی است که خود از چالش‌های قابل‌توجه پیش‌رو کشورهاست.

این گزارش توضیح می‌دهد که حکمرانی هوش مصنوعی، پیش از هر چیز، مستلزم طراحی نظام حکمرانی داده است. چراکه داده، به‌مثابه مواد خام در توسعه هوش مصنوعی است. در بند «۱» ماده (۵) سند ملی هوش مصنوعی (راهبرد‌ها و اقدامات ملی)، به «لزوم تدوین نظام حکمرانی داده، به‌منظور تسهیل در بهره‌برداری انتفاعی و غیرانتفاعی از داده‌های تولیدی کشور از طریق اصلاح قوانین و مقررات موجود و به رسمیت شناختن مالکیت و حق بهره‌برداری انتفاعی هر شخص یا نهاد بر داده‌های تولیدی خود با حفظ ملاحظات امنیت ملی، رعایت حریم خصوصی و اخلاق عمومی» اشاره شده است.

این گزارش پیشنهاد «تدوین نظام نوآورانه تسهیل‌گر-تنظیم‌گر جامع و چندلایه» را مطرح کرده و توضیح می‌دهد که با توجه به ابلاغ سند ملی هوش مصنوعی و هدف‌گذاری‌های کلان آن، نیل به اهداف سند مستلزم طراحی نظامی است که شامل مجموعه‌ای از رهنمایی‌ها، قوانین و مقررات باشد که تمامی جنبه‌های توسعه و استفاده از هوش مصنوعی را پوشش دهد. این نظام باید به‌گونه‌ای طراحی شود که ضمن تضمین سرمایه‌گذاری استراتژیک، قابلیت انعطاف‌پذیری داشته باشد و بتواند با تغییرات سریع فناوری همگام شود و نیاز‌های مختلف جامعه را برآورده کند.

این گزارش با ارائه پیشنهاد «ایجاد سازوکار‌های نظارت و ارزیابی» بیان می‌کند که با توجه به بند «۶» ماده (۴) سند ملی هوش مصنوعی (سیاست‌های راهبردی)، که به ضرورت نظارت و مراقبت بر تصمیمات و خودمختاری هوش مصنوعی و جلوگیری از رخ‌نمانگاری و اعتبارسنجی اجتماعی بدون رعایت حقوق افراد و قوانین کشور تأکید دارد و در راستای اطمینان از رعایت قوانین و مقررات مربوط به حکمرانی هوش مصنوعی، ایجاد سازوکار‌هایی برای نظارت و ارزیابی منظم، با توجه به اینکه مقوله «نظارت» از کلان‌کارکرد‌های مجلس شورای اسلامی است، ضروریست. این سازوکار‌ها باید طبق بند «۳-۱» «راهبرد‌ها و اقدامات ملی» سند ملی هوش مصنوعی، شامل «تدوین استاندارد‌های مربوط به مالکیت فکری تولیدات مبتنی‌بر هوش مصنوعی و به اشتراک‌گذاری داده و همچنین ایمنی و امنیت سیستم‌ها و خدمات هوش مصنوعی» باشد.

این گزارش پیشنهاد «توسعه زیرساخت‌های فنی، فرهنگی و ترویجی» را مطرح و بیان می‌کند که بند «۲» ماده (۵) سند ملی هوش مصنوعی با عنوان «آموزش و پژوهش»، به اهمیت توجه زیرساختی و ساختاری در توسعه منابع انسانی در این حوزه پرداخته است. در این راستا به‌منظور ارتقای نیروی انسانی مؤثر و توسعه هوش مصنوعی در کشور، لازم است که زیرساخت‌های فنی، فرهنگی و ترویجی مناسب ازجمله با بسترسازی تأسیس و گسترش اندیشکده‌ها، کانون‌های فکری و حلقه‌های میانی در حوزه هوش مصنوعی ایجاد شود.

در این گزارش در توضیح پیشنهاد «ارتقای همکاری بین‌المللی» آمده است که بند «۶» «راهبرد‌ها و اقدامات ملی» سند ملی هوش مصنوعی، به «تعاملات بین‌المللی» اشاره دارد. حکمرانی هوش مصنوعی یک مسئله جهانی بوده و نیازمند همکاری و تعامل بین کشورهاست. با توجه به گزاره‌های بند «۶»‌ام، ایجاد کنسرسیوم‌های منطقه‌ای و بین‌المللی با هدف تبادل دانش و فناوری و تدوین استاندارد‌های مشترک برای حکمرانی هوش مصنوعی، می‌تواند به بهبود کیفیت و کارایی حکمرانی‌این فناوری کمک کرده و از ایجاد انحصار و یکجانبه‌گرایی در حکمرانی جهانی آن پیشگیری کند. این همکاری‌ها می‌توانند به کشور‌های مختلف امکان دهند تا با چالش‌های مشابه به‌طور مؤثرتر مقابله کرده و از تجربیات یکدیگر بهره‌برداری کنند.

این گزارش درخصوص «توسعه مکانیسم‌های مشارکت عمومی» آورده است که «تقویت مردم‌محوری و روحیه تعاون در توسعه و بهره‌برداری از هوش مصنوعی»، از موارد مورد توجه سند ملی هوش مصنوعی در ماده (۴) یعنی «سیاست‌های راهبردی» است. مشارکت مردم، نخبگان و ذی‌نفعان مختلف در فرایند تصمیم‌گیری و اجرای خط‌مشی‌های مربوط به حکمرانی هوش مصنوعی بسیار ضروری و ارزشمند است؛ بنابراین لازم است که مجلس و مرکز پژوهش‌ها، با توجه به ظرفیت‌های ارتباطی و اندیشکده‌های حکمرانی و قانونگذاری استانی خود، سازوکار‌هایی برای بهره‌گیری نظرات و نگرش‌های گوناگون جامعه و ایجاد فضایی برای ارتباط مستقیم بین حاکمیت و شهروندان و بسط حکمرانی مردمی در توسعه هوش مصنوعی فراهم کنند.

این گزارش درباره «تولید ادبیات حقوقی» توضیح می‌دهد که در زمینه مسائل حقوقی، یکی از چالش‌های عمده کشور عدم وجود کلیدواژه‌های تخصصی فارسی ناظر به مفاهیم فنی- حقوقی در حوزه هوش مصنوعی است. ازاین‌رو پیشنهاد می‌شود برای تبیین مفهومی و ارائه این کلیدواژه‌های فارسی، کمیته‌ای میان‌رشته‌ای با مشارکت بخش‌های مختلف ذی‌نفع در مرکز پژوهش‌های مجلس در این زمینه تشکیل شود.