هوش مصنوعی قاضی می‌شود؟

جوان آنلاین: همه‌چیز با چند تصویر شروع شد. عکس‌هایی که هوش‌مصنوعی به واسطه داده‌ها طراحی کرد، هنوز هم برای بسیاری از ما شبیه بازی است، اما این فناوری که مشخص نیست آینده جهان را دستخوش چه تغییراتی کند، فراتر از بازی‌های روزانه ما از سوی نرم‌افزار‌های فعلی است. «هوش مصنوعی» جهان را متحول خواهد ساخت، آن چنان که شاید بسیاری از داشته‌های امروز ما برای فردا کاربردی نباشد و هیچ پیدا و پنهانی دیگر در میان نباشد. یکی از حوزه‌هایی که هوش مصنوعی به آن ورود پیدا خواهد کرد «علم حقوق» است. شاید بپرسید مگر هوش مصنوعی امکان ورود به حوزه علوم نظری و استنتاجی را هم خواهد داشت یا خیر؟! جواب این سؤال و بسیاری دیگر از سؤالات در پرونده این هفته «جوان» با برترین صاحب‌نظران و پژوهشگران حوزه علم حقوق و هوش مصنوعی است که در مسیر شناخت بیشتر این فناوری قرار دارند. 

پنجره فرصتی توسعه هوش مصنوعی ۲ سال آینده بسته می‌شود

سیدمهدی شریعت‌زاده دکترای هوش مصنوعی و مدیر میز هوش مصنوعی پژوهشگاه فضای مجازی در گفتگو با «جوان» معتقد است حداکثر تا دو سال آینده پنجره فرصتی توسعه هوش مصنوعی در کشورمان فراهم است که اگر در این بازه زمانی کاربست هوش مصنوعی و تقاضای واقعی فناوری و اقتصادی شدن آن اتفاق افتد این فناوری به نقطه قوت ملی تبدیل می‌شود و شاهد استفاده از آن در انواع عرصه‌ها خواهیم بود، اما اگر این اتفاق تا بسته شدن پنجره فرصت نیفتد عملاً تلاش‌های بعدی تأثیر جدی و مؤثری نخواهند داشت و ما حداکثر در حد کاربر فناوری خواهیم بود.

 متن گفتگو را با هم بخوانیم. 

هوش مصنوعی از چه زمانی به صورت جدی مطرح شد و توجهات را به خود جلب کرد؟

از دو سال گذشته با رونمایی سرویس چت جی بی‌تی (ChatGPT) شرکت اوپن‌ای آی (OpenAl) توجهات جهانی به فناوری هوش مصنوعی جلب شد، اما در واقع چت بات‌ها یکی از مهم‌ترین مصادیق هوش مصنوعی مولد هستند که صرفاً بخشی از ابعاد فناوری هوش مصنوعی است و همه ابعاد فناوری را در بر نمی‌گیرد. از ۷۰ سال پیش با فراز و فرود مختلف فناوری هوش مصنوعی وجود داشت و همچنان مسیر خود را طی می‌کند که از حدود شش سال پیش با پیشرفت الگوریتم‌ها و ایجاد فناوری، مدل‌های بنیادین برای تکامل و درخشش هوش مصنوعی مولد و چت بات‌ها فراهم شد. طبیعتاً این خط سیر در آینده هم ادامه خواهد داشت. 

آیا هوش مصنوعی بر علم حقوق هم تأثیر می‌گذارد؟

در حال حاضر از مهم‌ترین موضوعات کاربرد هوش مصنوعی در حوزه حقوقی و Leg- Tech یا فناوری‌های حقوقی است. در برخی کشور‌های اروپایی در چند سال اخیر تصمیم‌گیری اولیه دعاوی به عهده هوش مصنوعی سپرده شده است. اگر بخواهیم دقیق‌تر بگوییم در جایی که مبتنی بر رویه قضایی و آرای قضایی رأی و تصمیم گرفته می‌شود طبیعتا حجم داده‌های موجود بسیار بیشتر است و علاوه بر این سبک داوری پرونده‌ها هم تا حد زیادی مبتنی بر داده‌های قبلی بوده نه استنتاج، بنابراین در این حوزه‌ها ما شاهدیم فناوری هوش مصنوعی در کاربرد قضایی بسیار زودتر استفاده شده است. به این دلیل که توانایی بارگذاری و مرور پرونده‌های ده‌ها و صدسال اخیر پرونده‌ها برای کامپیوتر امکانپذیر بوده است. برای مثال در یک استارتاپ انگلیسی تدوین رأی اولیه و پیش‌بینی پرونده‌های صادره، بیش از نیم میلیون جذب سرمایه صورت گرفته است که این اعداد نشان می‌دهد این زمینه ارزش آفرینی و اثربخشی قابل توجهی داشته و خواهد داشت. 

کاربرد‌های هوش مصنوعی در حوزه حقوق چیست یا اینکه بهتر است بپرسیم چطور می‌توان از هوش مصنوعی در حوزه حقوق استفاده کرد؟ به طور مثال در عرصه قضاوت، آیا می‌توان قائل به امکان صدور رأی قضایی یا دستیاری قضایی به کمک یا به وسیله هوش مصنوعی شد؟

فناوری‌های دیجیتال حقوقی یا Leg- Tech‌ها فقط به ابعاد تصمیم‌گیری آرا محدود نیستند، به عنوان مثال تطبیق هویت اسناد و قرارداد‌ها از موضوعات کاربرد فناوری نوظهور دیجیتال در حوزه حقوقی است. موضوع تنقیح قوانین و کمک به تدوین قوانین و حتی پیش‌بینی احتمال عدم تأیید قوانین در مراحل نهایی تصویب قانون، احتمال اعتراض نهاد‌های بالادستی به پیش‌نویس قانون تدوین شده و این قبیل موارد در حوزه Leg- Tech قرار می‌گیرد. طبیعتاً یکی از ابعاد ماجرا، کمک به پیش‌بینی رأی نهایی دادگاه از منظر وکالت و دفاع از حقوق طرفین دعوا یا غربال اولیه آراست که بر اساس آن وقتی پرونده از سطح مشخصی پایین‌تر بوده یا رقم موضوع پرونده از سقفی پایین‌تر است، هوش مصنوعی در جایگاه تسهیل‌گر امور متنوع و مختلف قرار خواهد گرفت. حتی به دور از هوش مصنوعی فناوری بازیابی و جست‌وجو در اطلاعات به منظور بازیابی قوانین و مقرره‌های مشابه و نزدیک به قانونی که در مراحل اولیه تصویب است در سال‌های قبل هم استفاده می‌شده و می‌شود. موضوعات دیگری مثل دسترس پذیری اطلاعات برای مخاطبان یا جست‌وجوی روش‌های ساده دسترسی به متن قوانین مصادیق فناوری دیجیتال در حوزه قضایی هستند که طبیعتاً برای مخاطبان آشناست و سال‌هاست مورد استفاده قرار می‌گیرد. 

 آیا هوش مصنوعی می‌تواند جایگزین انسان در این حوزه‌ها باشد؟

سرنخ مناسب برای پیدا کردن جواب این سؤال بازخوانی تجربه ورود فناوری و ورود اینترنت در دنیاست یا حتی فراگیر شدن برق در دنیا مثال دیگری است. به عنوان مثال روشن‌تر این سؤال مطرح می‌شود که آیا خودرو جای حمل و نقل توسط انسان را می‌گیرد؟! این سؤال دقیقی نیست، چراکه نه می‌توانیم بگوییم خودرو جایگزین حمل و نقل انسان شده و نه می‌توانیم بگوییم نشده است. خودرو، ابزار تسهیل‌گر است، بنابراین هوش مصنوعی ابزاری پیچیده است که تا پیش از این در جهان تجربه نکرده بودیم و ماهیت آن با جست‌وجو در اینترنت تفاوت ذاتی ندارد. 

 وضعیت توسعه هوش مصنوعی در امور قضایی در ایران چگونه است؟ 

ما الان در اواخر پنجره فرصت توسعه هوش مصنوعی در کشور هستیم که حداکثر حوالی دو سال آینده چنین پنجره فرصتی وجود دارد. اگر در این بازه زمانی کاربست هوش مصنوعی و تقاضای واقعی فناوری و اقتصادی شدن آن در حوزه هوش مصنوعی اتفاق افتد این فناوری به نقطه قوت ملی تبدیل می‌شود و شاهد استفاده از آن در انواع عرصه‌ها خواهیم بود، اما اگر این اتفاق تا بسته شدن پنجره فرصت نیفتد عملاً تلاش‌های بعدی تأثیر جدی و مؤثری نخواهند داشت و ما حداکثر در حد کاربر فناوری خواهیم بود. به طور مثال جست‌وجوی اینترنت و ایمیل و فناوری شبیه آن در سال‌های گذشته دور از دسته دوم بودند و ما در کشور به رغم انواع حمایت‌ها و صرف هزینه‌های مختلف تجربه موفق و فراگیری در حوزه ایمیل و جست‌وجو نداشتیم و نداریم و دوره تسلط به این فناوری گذشته است. احتمال تکرار این رخداد در حوزه هوش مصنوعی هم وجود دارد. 

هر فناوری الزامات اخلاقی به دنبال خود دارد همانطور که بحث فضای مجازی و اینترنت داشت. نقد‌های زیادی درمورد فرهنگ استفاده از اینترنت و… بود. مسئولیت‌ها و الزامات هوش مصنوعی را از کجا باید شروع کرد؟

نیاز اصلی این است که همان فناوری‌هایی را که نسبت به آنها در زمان مناسب عملکردی نداشتیم حسب تجربه به درستی بررسی کنیم. مثل فضای مجازی. ما اگر روی این موضوع به جمع بندی برسیم تسری دادن آن به سایر فناوری‌ها از جمله هوش مصنوعی کار دشواری نخواهد بود. بزرگ‌ترین مانع در زمینه اخلاق فناوری و فرهنگ‌سازی فناوری در حوزه هوش مصنوعی نبود ایده مدون در خصوص فناوری‌های قبلی است. 

هوش‌مصنوعی جای قاضی و وکیل را نمی‌گیرد

زهرا رضایی، دانش‌آموخته دکترای هوش مصنوعی، مدیر گروه آینده پژوهشی پژوهشگاه قوه‌قضائیه مجری پروژه طراحی دستیار هوشمند قضایی می‌گوید: هوش‌مصنوعی در حوزه‌های مشخص یا پرتکرار که تشتت آرا در آن وجود ندارد، بسیار ساده‌تر وارد می‌شود، ولی در سایر حوزه‌ها که موضوعات پیچیده وجود دارد، در حال حاضر و حتی سال‌های آینده نیازمند وجود قاضی هستیم، هرچند بحث ما این است که استفاده از هوش‌مصنوعی به عنوان دستیار قضایی (نه جایگزین قاضی یا وکیل) کاربردی خواهد بود. 

متن گفتگو را با هم بخوانیم 

هوش‌مصنوعی در یک تعریف ساده چیست و در حال حاضر چه حیطه‌ها، حرفه‌ها و علومی بیشتر تحت تأثیر هوش‌مصنوعی قرار گرفتند؟

هوش‌مصنوعی را به آن چیزی اطلاق می‌کنیم که تلاش می‌کند رفتار‌های هوشمندانه انسانی از خود نشان دهد و قدرت یادگیری، استدلال، حل مسئله و تصمیم‌گیری داشته باشد و بتواند آن را در سیستم کامپیوتری شبیه‌سازی کند. 

در حال حاضر، هوش مصنوعی، صرفاً یک رشته نیست و به صورت فرارشته‌ای درآمده و در همه حوزه‌ها جای خود را باز کرده است. برای مثال در پزشکی جهت درمان، در کشاورزی برای بهینه‌سازی محصولات و مدیریت منابع آب و خاک، در بازاریابی جهت بررسی رفتار مشتریان و در منابع انسانی برای گزینش و رتبه‌بندی سرمایه انسانی استفاده می‌شود. در ایران به دلیل ماهیت داده‌ای که شرکت‌ها دارند، در حوزه مالی و بانکی خیلی بیشتر مؤثر بوده است؛ کما اینکه حوزه‌های دیگر مانند علوم اجتماعی، حقوقی و… نیز از هوش‌مصنوعی متأثر هستند. 

 ماهیت هوش‌مصنوعی چیست و چه ارتباطی بین آن با هوش انسانی دارد؟

از آنجا که هوش‌مصنوعی بر گرفته از ساختار مغزی انسان است، در بسیاری از مواقع دقیقاً بر مبنای مباحث علوم شناختی مغز انسان شکل گرفته و تقلیدی از فرآیند‌های یادگیری و شناختی انسان است. هوش‌مصنوعی از نظر سرعت و دقت خیلی بهتر از انسان است، اما در حال حاضر برخلاف هوش انسانی در جنبه‌های احساسی، عاطفی و خلاقیت شاید پایین‌تر بوده، ولی در آینده این موضوع تغییر می‌کند. همچنان که الان مدل‌های جی‌پی‌تی که وارد بازار می‌شوند از ۱۴۰ به ۱۶۰ تبدیل شده است، یعنی IQ آن از یک انسان نیز بالاتر رفته است، اما هنوز این فاصله بین خلاقیت و قضاوت بین هوش انسانی و هوش‌مصنوعی وجود دارد. 

 آیا هوش مصنوعی اساساً بر علوم نظری یا استنتاجی به ویژه حقوق تأثیر خواهد گذاشت یا گذاشته است و به صورت مصداقی در مورد سایر کشور‌ها بگویید که اکنون این حوزه تا کجا ورود کرده است؟

طبق مطالعات انجام شده کشور چین در سال ۲۰۱۲ در حوزه حقوق ورود کرده است و الان بسیاری از دادگاه‌های این کشور به صورت هوشمند اداره می‌شود. ظهور هوش‌مصنوعی در کشور‌های مختلف با نظام قانونی مختلف موجود در این کشور‌ها متفاوت دیده شده است. در جا‌هایی که نیاز بوده براساس آرای قضات قبلی رأی صادر شود قاعدتاً استفاده از هوش‌مصنوعی سریع‌تر رشد کرده است. برای مثال هلند در جرائم مالی ورود پیدا کرده است یا در برخی از کشور‌ها مثل نیوزیلند در حوزه قوانین موجر و مستأجر از هوش‌مصنوعی برای صدور رأی استفاده می‌شود. 

آیا هوش‌مصنوعی در همه حوزه‌ها و ابعاد حقوق می‌تواند ورود کند؟

با توجه به نوع نظام قانونگذاری ما که فقهی است، ورود هوش‌مصنوعی چالش برانگیز است. این علم قاضی است که در پرونده‌ها رأی می‌هد و ممکن است دو پرونده کاملاً یکسان دارای دو رأی کاملاً متفاوت باشد، به همین دلیل نمی‌توان در همه موارد وارد شد. به نظر ما ورود هوش‌مصنوعی در حوزه حقوقی می‌تواند با فازبندی مشخص صورت پذیرد. هوش‌مصنوعی در حوزه‌های مشخص یا پرتکرار که تشتت آرا در آن وجود ندارد، بسیار ساده‌تر وارد می‌شود، ولی درسایر حوزه‌ها که موضوعات پیچیده وجود دارد، در حال حاضر و حتی سال‌های آینده نیازمند وجود قاضی هستیم، هرچند بحث ما این است که استفاده از هوش‌مصنوعی به عنوان دستیار قضایی (نه جایگزین قاضی یا وکیل) کاربردی خواهد بود. انتظار ما این است که هوش‌مصنوعی به قضات و وکلا تحلیل دهد و کمک کند تا حجم کاری آنها کم شود و وقت بیشتری روی پرونده‌هایی که از عهده هوش‌مصنوعی برنمی‌آید، بگذارند و سریع‌تر فرآیند‌های قضایی طی شود. 

 صرفاً در حال حاضر چنین وضعیتی وجود دارد یا اینکه در آینده هم با چنین نتیجه‌ای پیش خواهیم رفت؟

با توجه به نظام حقوقی که در ایران حاکم است، فکر می‌کنم تا سال‌های آینده نیز به همین روال پیش خواهد رفت. اغناسازی در حوزه قضایی کار راحتی نیست، اما می‌توان امیدوار بود که هوش‌مصنوعی به قاضی تحلیل ارائه دهد و در واقع در دنیا هم همینطور است، اما هوش‌مصنوعی جای یک قاضی و وکیل را نمی‌گیرد. 

 هوش‌مصنوعی تا کجا می‌تواند به حریم خصوصی افراد ورود کند؟

به طور کلی در حال حاضر در ایران بحث‌های حریم خصوصی، مالکیت معنوی و مسئولیت مدنی به صورت باز می‌باشد، اما در برخی از کشور‌های اروپایی حریم خصوصی یک اصل است و در قانون اتحادیه اروپا یکی از اصولی که باید در هوش‌مصنوعی رعایت شود، بحث حریم خصوصی است. این فناوری می‌تواند داده‌ها را تحلیل و بهینه‌سازی کند، اما با شرط رعایت قوانین حریم خصوصی باید انجام شود. در حقوق، فناوری هوش‌مصنوعی برای کشف تخلف، تحلیل پرونده و تسهیل فرآیند‌های اداری در حال استفاده است، بنابراین داده‌هایی که استفاده می‌شود باید شفاف و قابل کنترل باشند. برای مثال اگر قرار است داده‌ها وارد فضای حقوقی شوند و تحلیل روی آن صورت پذیرد، باید گمنام‌سازی انجام شود تا به حریم خصوصی اشخاص تعرضی صورت نگیرد تا اگر تخطی صورت گرفت قابل شناسایی و پیگیری باشد. در ایران هم اگر به سمتی برویم که قانون هوش‌مصنوعی را با پیروی از قوانین مطالعه شده سایر کشور‌های دنیا مثل اتحادیه اروپا بنویسیم، بحث حریم خصوصی کم کم حل خواهد شد. 

 باتوجه به اینکه ما تجربه عدم قانونگذاری در بحث فضای مجازی را داشته‌ایم و پیامد‌های آن را دیده‌ایم، برای اینکه این تجربه در حوزه هوش‌مصنوعی تکرار نشود، چه راهبردی را باید در نظر بگیریم ضمن اینکه خطرات احتمالی راهبرد‌ها را هم ببنیم و همچنین مانع توسعه و پیشرفت نسل‌های آینده نشویم؟ 

قانونگذاری در ایران موضوعات چالش برانگیزی است. تا بحث قانونگذاری پیش می‌آید، بحث‌های محدویت‌ها یا مباحث اخلاقی مطرح می‌شود و از آن طرف نوآوری تهدید می‌شود. هوش‌مصنوعی در اروپا از سال ۲۰۱۶ شروع شده و گذار بسیار طولانی داشته است، اما اجازه داده تا سازمان‌ها و نهاد‌های توسعه‌دهنده در این قانونگذاری مشارکت داشته باشند و نهایتاً منجر به قانونی شود انعطاف‌پذیری بالایی دارد. در قانونگذاری بحث حفاظت از حریم خصوصی، شفافیت، بی‌طرفی، مسئولیت‌پذیری و توضیح‌پذیری الگوریتم‌ها مطرح می‌شود. همه این موارد لازمه قانونگذاری است. اتحادیه اروپا به عنوان یک سند مدرن و چارچوب‌دار از سال ۲۰۱۶ تا ۲۰۲۴ آیین‌نامه‌های اجرایی و اسناد مختلفی درخصوص حریم خصوصی و موارد دیگر منتشر کرده است. یک چارچوب قانونگذاری مشخص باید بعد از مطالعه صورت پذیرد. پیشنهاد ما برای نگارش قانون، استفاده از ذی‌نفعان آن است. اگر فضایی وجود دارد که در آن فضا بحث قانونگذاری را به اشتراک بگذارند تا افراد نظر بدهند و براساس بازخورد‌هایی که از جامعه علمی و جامعه ذی‌نفعان می‌گیرند، قانون را بنویسند. قانونی نوشته نشود که باعث سوء‌گیری یک سمت یا منجر به از بین رفتن فناوری شود. در اتحادیه اروپا تلاش شده است جهت نوشتن قانون، توسعه فناوری با رعایت ریسک‌های هوش‌مصنوعی در نظر گرفته شود و اگر ما این مسئله را رعایت کنیم، یک قانون‌نویسی جامع انجام خواهد شد. 

پیش بینی شما به عنوان آینده پژوه، از آینده این فناوری در ایران در حوزه علم حقوق چیست؟

قوه‌قضائیه در حوزه هوش‌مصنوعی گام‌های خوبی برداشته و البته این قوه همیشه با چند چالش روبه‌روست. هدف اصلی تسهیل عدالت است، اما با حجم زیادی از پرونده‌ها و دادرسی روبه‌رو هستیم، به همین خاطر دسترسی مردم به خدمات عمومی کند شده است. استدانداردسازی و تسهیل فرآیند‌ها برای قوه‌قضائیه در موضوعات حقوقی خیلی مهم است. در سند تحول قوه‌قضائیه مکرراً به هوش‌مصنوعی اشاره شده و مسئولیت‌هایی را متوجه ارکان قوه‌قضائیه کرده است. به دلیل اینکه بنده در این سیستم مشغول به کار و پژوهش هستم، احساس می‌کنم سرعت رشد در حوزه حقوق به نسبت خوب است هر چند که در زیرساخت‌ها و دسترسی به داده به شدت مشکل داریم، اما برای رفع آنها تلاش می‌شود. 

 آیا برنامه‌ای در حال حاضر در این زمینه وجود دارد؟

در سند تحول برخی مسئولیت‌ها از جمله دستیار هوشمند قضایی مطرح شده است. پژوهشگاه قوه‌قضائیه در سه سال گذشته طراحی و تست پایلوت آن را کلید زده و فاز‌های مختلفی دارد که روی آن کار انجام می‌شود. در این فاز‌های عملیاتی بحث شباهت‌یابی اسناد، گمنام‌سازی اسناد، تولید پیش‌نویس رأی و سیستم پیشنهاد دهنده برای مجازات جایگزین حبس را داشتیم. چت‌بات قضایی یکی دیگر از موارد است که براساس قانون و مقررات، در مورد آرای وحدت رویه و نظرات مشورتی اقدام می‌شود. چت‌بات براساس مدل‌های ارائه شده به عنوان چت‌بات پرسش و پاسخ است. حداقل پژوهشگاه قوه‌قضائیه در این زمینه به عنوان مغز متفکر ورود کرده است، ولی، چون ما وظیفه اجرایی در قوه‌قضائیه نداریم، معمولاً گفتمان‌سازی می‌کنیم و مطالعات و پژوهش‌هایی انجام می‌دهیم. این محصول آماده و تست و ارزیابی آن انجام شده و فقط باید از سمت مرکز آمار قوه‌قضائیه پیاده‌سازی در سطح عملیاتی پیش برود. 

کشور به لحاظ تدوین استاندارد‌ها و الزامات فعالیت در حوزه هوش‌مصنوعی دچار کاستی است

محمدصادق فراهانی، معاون پژوهش‌های بنیادین پژوهشکده شورای نگهبان در گفتگو با «جوان» معتقد است: هنجارگذاران ایرانی تاکنون جنبه توسعه‌ای هوش‌مصنوعی را مطمح نظر قرار داده‌اند و کشور به لحاظ تدوین استاندارد‌ها و الزامات فعالیت در حوزه هوش‌مصنوعی دچار کاستی است. متن گفتگو را در ادامه بخوانید.

آیا قانونگذاری در حوزه هوش‌مصنوعی ضرورت دارد؟

به نظرم مهم‌ترین شاخص در این زمینه، داشتن یک نگاه چندبعدی است؛ نگاهی که حداقل شامل توجه همزمان به دو مقوله «حکمرانی با فناوری و فضای مجازی» و «حکمرانی بر فناوری و فضای مجازی» باشد، یعنی از یکسو به صورت کنشگرانه و فعال دریابیم چه ظرفیت‌هایی در فناوری‌های نوظهور مثل هوش‌مصنوعی و فضای مجازی وجود دارد که می‌تواند کیفیت حکمرانی و زیست جمعی ما ایرانیان را ارتقا دهد (حکمرانی با فناوری) و از سوی دیگر چه تهدیداتی در به‌کارگیری و استفاده از این فناوری‌ها وجود دارد که ممکن است منافع عمومی جامعه ایرانی را به خطر اندازد و طبیعتاً الزامات مواجهه با این تهدیدات چیست؟ (حکمرانی بر فناوری). با این حال، در رابطه با اهمیت تنظیم‌گری حوزه هوش‌مصنوعی به همین مقدار اکتفا می‌کنم هر آنچه – از جمله هوش مصنوعی- که از مسیر رفع بخشی از نیاز‌های عمومی یک جامعه (از نیاز‌های خدماتی گرفته تا نیاز‌های امنیتی) در گستره کلان بر منافع عمومی آحاد ملت اثر بگذارد، نیازمند تنظیم‌گری است. تصویب اسناد هنجاری، چون «قانون هوش‌مصنوعی اتحادیه اروپا ۲۰۲۴»، «برنامه هوش‌مصنوعی چین ۲۰۲۴»، «فرمان اجرایی رئیس‌جمهور ایالات متحده برای هوش‌مصنوعی ۲۰۲۳»، «قانون هوش‌مصنوعی و داده‌ها کانادا ۲۰۲۲»، «راهبرد دفاعی هوش‌مصنوعی انگلستان ۲۰۲۲»، «برنامه ملی هوش‌مصنوعی فرانسه ۲۰۲۱»، «برنامه هوش‌مصنوعی فنلاند ۲۰۲۰»، «برنامه ملی هوش‌مصنوعی آلمان ۲۰۱۸» و حتی برنامه‌های هوش‌مصنوعی کشور‌های غرب آسیا مانند عربستان ۲۰۲۰، ترکیه ۲۰۲۱ و امارات متحده عربی ۲۰۱۷ خود گواه بر ضرورت مواجهه مؤثر با این پدیده است. 

هوش‌مصنوعی با چه چالش‌های حقوقی رو‌به‌روست؟

علاوه بر چالش «شخصیت حقوقی»، نگرانی از تضمین «حقوق بشری و شهروندی» آحاد ملت یکی دیگر از چالش مهم حقوقی هوش‌مصنوعی است. پرونده‌های متعددی در سرتاسر جهان وجود دارد که نشان می‌دهد چگونه حقوق شهروندان می‌تواند از سوی هوش‌مصنوعی به خطر بیفتد. ازسوء استفاده از داده‌های کاربران و نقض حریم خصوصی ایشان گرفته تا تبانی الگوریتمی و نقض حقوق اقتصادی اشخاص تا مهندسی اراده کاربران و سوگیری و تبعیض در طراحی الگوریتم‌ها و نقض بی‌طرفی در آنها و بالاخره به کارگیری هوش‌مصنوعی در ارتکاب جرائم علیه بشریت که در فلسطین و لبنان شاهد آن هستیم. 

آیا سایر کشور‌های دنیا مدلی کارآمد برای نظام‌مند کردن هوش‌مصنوعی تبیین کرده‌اند تا علاوه بر کاهش خطرات احتمالی آن، مانع توسعه و پیشرفت این فناوری کاربردی نشوند؟

طبیعتاً کشور‌هایی که نام برده شد به تناسب اقتضائات زیست‌بوم ویژه خود به مواجهه با این پدیده پرداخته‌اند. به عنوان مثال، اتحادیه اروپا به عنوان مجموعه‌ای که در حوزه هوش‌مصنوعی اغلب، مصرف‌کننده محصولات و فناوری‌های شرکت‌های امریکایی است و در واقع به دلیل سیاست‌های توسعه‌ای که در نیم‌قرن گذشته دنبال کرده، امروزه بازار فناوری خود را به ایالات متحده واگذار کرده و به یک مصرف‌کننده بدل شده است، برای جبران چنین وضعیتی و صیانت از حقوق اتباع خود در برابر پلتفرم‌های امریکایی در تنظیم‌گری هوش‌مصنوعی و فضای مجازی رویکردی تضییقی و سختگیرانه در پیش گرفته است. «قانون خدمات دیجیتال ۲۰۲۳»، «قانون بازار‌های دیجیتال ۲۰۲۳» و اخیراً «قانون هوش‌مصنوعی ۲۰۲۴»، به رغم اینکه هر سه، در مقدمه خود به برقراری توازن میان «رشد و توسعه این فناوری‌ها» و «لزوم کاهش مخاطرات آنها» اشاره دارند، اما در عمل ضوابط سختگیرانه‌ای را برای فعالیت شرکت‌های دارای موقعیت مسلط و راهبردی در این عرصه مانند مایکروسافت، گوگل، اپل، متا و… در نظر گرفته‌اند. تا حدی که دو روز قبل مالک تلگرام اعلام کرده بود: «کاربران روسی از آزادی رسانه‌ای بیشتری نسبت به کاربران اروپایی این پلتفرم برخوردارند.» در مقابل، ایالات متحده به عنوان کشوری که اصلی‌ترین شرکت‌ها و بازیگران هوش‌مصنوعی در آن ایجاد شده‌اند و از سوی کاربران بسیاری در دنیا مورد استفاده قرار می‌گیرند، در برنامه‌های خود رویکردی توسعه‌ای را نسبت به این حوزه در پیش گرفته و اهدافی، چون «تضمین رهبری در حوزه هوش مصنوعی»، «بهره‌برداری از فناوری‌های پیشرفته هوش‌مصنوعی برای تقویب مأموریت‌های امنیت ملی»، «جذب استعداد‌های فنی هوش‌مصنوعی و تقویت زیرساخت‌های محاسباتی» و «توسعه تحقیقات هوش‌مصنوعی ملی» را در نظر دارد و در کنار این موارد «تدوین منشور حقوق هوش‌مصنوعی برای حمایت از حقوق اشخاص» را نیز مورد اشاره قرار داده است. 

نحوه فعلی مواجهه کشور ما با قوانین فعلی نسبت به این فناوری چگونه است؟

تاکنون در حوزه هوش‌مصنوعی تنها سند هنجاری مصوب «سند ملی هوش مصنوعی» است که به تصویب شورای عالی انقلاب فرهنگی رسیده است و به لحاظ رویکردی، مشابه مدل ایالات متحده به معرفی متولیان و راهبرد‌های کلان حکمرانی در حوزه هوش‌مصنوعی پرداخته است. به عبارت دیگر، هنجارگذاران ایرانی تاکنون جنبه توسعه‌ای هوش‌مصنوعی را مطمح نظر قرار داده‌اند و کشور به لحاظ تدوین استاندارد‌ها و الزامات فعالیت در حوزه هوش‌مصنوعی، چه «تنظیم‌گری پیشینی» هوش‌مصنوعی و در نظرگرفتن ضوابط پیشگیرانه برای جلوگیری از وقوع تخلفات و چه «تنظیم‌گری پسینی» و تدبیر نحوه مواجهه قانونی با تخلفات ارتکاب یافته و دچار کاستی است. 

 برای اینکه تجربه تلخ عدم قانونگذاری فضای مجازی در حوزه هوش‌مصنوعی تکرار نشود چه راهبرد‌هایی را باید در نظر گرفت تا حکمرانی سایبری کشور با ورود این فناوری جدید به خطر نیفتد؟

به نظر می‌رسد که لازم است پیاده‌سازی یک «بسته سیاستی» را در این رابطه در پیش گرفت: 

نخست آنکه حاکمیت باید دست به انتخاب «نظریه حکمرانی هوش مصنوعی» بزند. نظام راجح و مرجوح را میان رشد و توسعه این فناوری و تضمین حقوق افراد را طراحی کند. این نکته اصلاً به معنای صفر و یکی نگریستن به قضیه نیست. چه بسا لازم باشد در این حوزه مثلاً برای استارتاپ‌ها راهبرد حمایتی و رشد و توسعه را در پیش گرفت و برای شرکت‌های بزرگ داخلی، تضمین حقوق افراد در سطح داخلی و تسهیلگری توسعه در سطح بین‌المللی را. یا برای مواجهه با شرکت‌های بزرگ خارجی این حوزه که عمدتاً به ضوابط کشور تمکین نمی‌کنند، استفاده از ظرفیت‌های مجامع بین‌المللی همسو (مانند شانگهای و بریکس) و ملزم‌کردن آنها به ضوابط آن مجامع یا حتی ایجاد چنین مجامع و تفاهمنامه‌هایی. دوم آنکه همزمان با طراحی اسناد هنجاری لازم‌الاجرا از ابزار‌های نرم حکمرانی استفاده کند و با ابزار‌های انگیزشی، مشارکتی و تعاملی جامعه را با خود همراه سازد و از این طریق مسئله فضای مجازی را از امری سیاسی به امری سیاستی با گام‌هایی چون، درگیرکردن جامعه در فرآیند‌های طراحی الزامات این حوزه و آگاهی‌سازی ایشان درخصوص مخاطرات این حوزه و منقلب سازد.