نقش سلاح های خودکار مبتنی بر هوش مصنوعی و کنترل انسانی در حقوق بین الملل بشردوستانه: چالش یا تعامل؟(مقاله علمی وزارت علوم)
منبع:
مطالعات حقوقی دوره ۱۷ زمستان ۱۴۰۴ شماره ۴
313 - 368
حوزههای تخصصی:
مقدمه: پس از ظهور هوش مصنوعی در عرصه فناوری جهانی، به کارگیری آن در تسلیحات نظامی که به جای تکیه بر مدل برنامه نویسی گذشته، می تواند از طریق یادگیری ماشینی یعنی آموزش و بازخورد پس از استفاده کاربر، یاد بگیرد چگونه وظیفه ای را به انجام رساند، علی رغم مزایای متعدد، کنترل انسانی را به عنوان اصل بنیادی حقوق بین الملل بشردوستانه که در پی تنظیم رفتار طرف های درگیر در مخاصمات مسلحانه و کاستن از رنج های غیرضروری (در عین توجه به ضرورت تضعیف دشمن) است به چالش می کشد. از آنجا که وجود قابلیت «یادگیری» دائمی از محیط در سامانه یادگیرنده ماشینی، رفتار آن و چگونگی پردازش ورودی های جدید را غیرقابل پیش بینی و فهم می کند، امکان کنترل گری انسانی برای چنین سامانه هایی با رفتار غیرقابل پیش بینی و فرآیندهای تصمیم گیری غیرشفاف محل پرسش جدی است و از آن بالاتر این سؤال مطرح می شود که آیا اساساً سیستم های یادگیری ماشین برای رعایت IHL نیازمند کنترل انسانی هستند؟ روش ها : این مقاله ابتدا در ضمن مروری تکنولوژیک بر سامانه های یادگیرنده خودکار، به توضیح توانایی این سامانه ها در یادگیری و تحلیل و تطبیق مداوم تجربیات و فرآیندهای تصمیم گیری غیرشفاف و نتایج غیرقابل پیش بینی و در نتیجه دشوار شدن کنترل معنادار انسانی بر آن ها می پردازد و سپس با تحلیل قدرت سامانه در پردازش سریع حجم عظیم داده ها و به کارگیری آن ها در اتخاذ تصمیمات استراتژیک و دقیق، پتانسیل بالا برای افزایش رعایت IHL توسط این سامانه ها را اثبات خواهد کرد. یافته ها : امروزه یادگیری ماشینی با کاهش نرخ کنش و واکنش های اشتباه در محیط های پیچیده، در طیف گسترده ای از فعالیت های نظامی به کار گرفته می شود. این سامانه ها با ابتنا بر دو نوع یادگیری عمیق و تقویتی از مرز توانایی های انسانی در حل مسائل پیچیده جنگی عبور کرده و به دلیل عدم محدودیت به ظرفیت ها و پیش فرض های انسانی، در ایجاد راه حل های نوآورانه بسیار کارآمدتر هستند که البته این ویژگی رفتار ماشین ها را در مراحل قبل و بعد از وقوع غیرقابل پیش بینی و غیرقابل فهم می سازد و ممکن است رعایت الزامات احتیاطی حقوق بین الملل بشردوستانه ازجمله تکلیف مراقبت دائمی را با دشواری مواجه سازد که در مورد نقش کنترل انسانی در ایفای این تکلیف، سه نظریه «کنترل انسانی معنادار»، «شرورت دخالت انسانی پیش از تصمیم گیری در حملات» و «امکان حذف دخالت انسانی پیشینی» مطرح است. در نظریه سوم با توجه به ابتنای تصمیم گیری سامانه های یادگیرنده در شرایط حساس بر داده های کلان و فرآیندهای غیرقابل فهم انسانی باید گفت نظارت یا دخالت انسان عملاً بی معنی است و البته حتی با وجود غیرقابل فهم بودن و عدم کنترل انسانی، ممکن است این سامانه ها قادر باشند تصمیمات هدف گیری منطبق بر IHL را بهتر از سامانه های تحت کنترل انسانی اتخاذ کنند. این توانایی ممکن است ناشی از قابلیت پردازش و تحلیل حجم بسیار بیشتری از داده ها با دقت و سرعتی فراتر از انسان باشد. بنابراین، نباید صرفاً به دلیل عدم امکان نظارت معنادار انسانی، استفاده از آن ها ممنوع شود، مگر اینکه دلیلی قطعی بر ضرورت نظارت انسانی اقامه شود. نتیجه گیری : پیاده سازی سامانه های خودکار مبتنی بر یادگیری ماشینی در میدان های نبرد، ضرورت بازتعریف مفهوم «کنترل انسانی معنادار» را آشکار می سازد. یافته ها نشان می دهد که این سامانه ها در برخی شرایط می توانند بدون نظارت مستقیم انسانی با اصول حقوق بین الملل بشردوستانه (IHL) منطبق عمل کنند و در عین حال، در شرایط خاص، اعمال کنترل انسانی برای تضمین رعایت IHL ضروری است. رویکرد متداول «هرچه کنترل انسانی بیشتر، بهتر» نیازمند بازنگری است. تمرکز باید بر «قابلیت پیش بینی قابل قبول» سامانه ها باشد، به گونه ای که عملکرد آن ها با استانداردهای IHL منطبق و قابل ارزیابی باشد. این چارچوب، مسیر طراحی، آزمون و تأیید سامانه ها را روشن کرده و نظارت انسانی را در مرحله ای اعمال می کند که بیشترین اثرگذاری را دارد. در نهایت، با طراحی و بهره گیری مسئولانه از سامانه های یادگیرنده، می توان ضمن رعایت اصول اساسی IHL، از جمله ضرورت نظامی و کاهش خسارات غیرضروری، از ظرفیت های فناورانه برای کاهش تلفات غیرنظامیان بهره برد. رویکرد پیشنهادی، تعادل میان قابلیت های فناورانه و مسئولیت انسانی را برقرار ساخته و امکان استفاده بهینه از فناوری های نوین در چارچوب حقوق بین الملل بشردوستانه را فراهم می آورد.