هوش مصنوعی و جنسیت در حقوق بین‌الملل

صدای ایران، محمدمهدی سیدناصری* - در طول مخاصمات مسلحانه، روابط نابرابر قدرت و معایب ساختاری ناشی از محرک های جنسیتی تشدید می‌شوند. در طول چند دهه‌ی گذشته، شناختی فزاینده از (نقش) این محرک ها به ویژه در زمینه ی خشونت‌های جنسی و مبتنی بر جنسیت در مخاصمات مسلحانه به‌عمل آمده، که برای مثال، قطعنامه شورای امنیت سازمان ملل متحد ۱۳۲۵ در مورد زنان صلح و امنیت، نمونه ای از آن است. اگرچه ابتکاراتی همانند این قطعنامه، پیشرفتی مثبت است در راستای به رسمیت شناختن تبعیض علیه زنان و معایب ساختاری که آنها در طول مخاصمات مسلحانه از آن رنج می‌برند، ولی جنبه‌های دیگری از درگیری‌های مسلحانه، که به ویژه استفاده از هوش مصنوعی برای هدف‌گیری در برابر بینش‌های مربوط به جنسیت مقاوم باقی مانده‌اند. این امر به ویژه در بعد عملیاتی حقوق بشردوستانه که دربردارنده قواعدی است در مورد تعیین هدف در مخاصمات مسلحانه، مشکل ساز است. 

لازم است به منزله‌ی ورود به بحث، به تعریف حقوق بشردوستانه استناد کنیم که منظور از آن «قواعد ایجاد کننده حق و تکلیفی است که در طول مناقشه و در هر مکانی که دایره‌ی تخاصم وجود داشته باشد، مجری خواهد بود». این یادداشت ترجمه و تدوینی از مقاله‌ی آندره فارس جیمنز است که یک حقوقدان بین‌المللی است که بر حقوق بین‌الملل بشردوستانه، امنیت بین‌المللی و کنترل تسلیحات و حقوق بین‌المللی بشر متمرکز شده است. 

برخی از جنبه‌های جنسیتی اعمال حقوق بین الملل بشردوستانه، به ویژه در زمینه‌ی تجاوز جنسی و سایر مقوله‌های خشونت جنسی علیه زنان در جریان مخاصمات مسلحانه، از دیرباز مورد شناسایی قرار گرفته است. در نتیجه، توجه زیادی به مسأله تضمین پاسخگویی برای جرایم خشونت جنسی در جریان مخاصمات مسلحانه شده، در حالی‌که سایر جنبه‌های مخاصمه مانند جنبه‌ی عملیاتی حقوق بین‌الملل بشر دوستانه مغفول باقی مانده است. 

در اعمال اصل تفکیک، که مستلزم تمایز غیرنظامیان از رزمندگان است (تنها دومی ممکن است هدف یک حمله‌ی قانونی باشد)، فرضیات جنسیتی مبتنی بر این‌که چه کسی یک تهدید تلقی می‌شود، اغلب نقش مهمی ایفا کرده است. 

در جنگ مدرن، که اغلب به شکل درگیری‌های شهری و نامتقارنی هستند که رزمندگان می‌توانند با جمعیت غیرنظامی ترکیب شوند، برخی نظامیان و گروه‌های مسلح برای تمایز درست از غیر نظامیان تلاش بسیاری می‌کنند. با توجه به کلیشه‌های جنسیتی رفتار مورد انتظار از زنان و مردان، جنسیت به عنوان یک «هویت دو فاکتو در تکمیل دسته بندی غیرنظامیان، عمل می‌کند». 

در عمل، این مسأله می‌تواند به این معنا باشد که برای هدف قرار دادن زنان، الزامات حقوق بین‌الملل بشردوستانه به صورت سخت‌گیرانه و دقیق اعمال می‌شود. اما، در مورد مردان غیرنظامی جوان، این بازداری، کمتر به نظر می‌رسد، ملاحظات جنسیتی همراه با سایر عوامل نظیر موقعیت جغرافیایی، آنها را با خطر بیشتری برای هدف قرار گرفتن مواجه می‌کند. یک مثال بارز از کاربرد اصل تفکیک، به اصطلاح «حملات هدفمند» است، زیرمجموعه‌ای از حملات هواپیماهای بدون سرنشین توسط ایالات متحده است، (البته) خارج از مکانی که آن را به‌عنوان «مناطق مخاصمات فعال»، در نظر گرفته است. 

حملات هدفمند، افرادی را که در نبردگاه (میدان جنگ) سنتی نبوده، هدف قرار می دهند بدون آن که آن‌ها را به طور شخصی شناسایی کند، بلکه هدف‌گیری این افراد، تنها مبتنی است بر الگوهای زندگی. براساس گزارش‌های واصله از این حمله‌ها، کافی است که افراد مورد هدف، از گروهی «مردان نظامی بالغی» باشند که در منطقه عملیاتی تروریست ها، زندگی می‌کنند و «رفتار آنها به اندازه کافی مشابه تروریست ها باشد تا برای مرگ نشان شوند». با این حال همان‌گونه که سازمان ماده‌ی ۳۶ متذکر می‌شود، به دلیل فقدان شفافیت در مورد استفاده از پهبادهای مسلح در حملات هدفمند، تعیین دقیق استاندارهای مورد استفاده دولت آمریکا برای طبقه‌بندی افراد خاص به عنوان اهداف قانونی، دشوار است. براساس گزارش نیویورک تایمز، از ماه می ۲۰۱۲ میلادی در محاسبه‌ی تلفات حمله های پهبادهای مسلح، دولت امریکا «همه مردان  واجد سن نظامی را در منطقه مورد حمله، به عنوان رزمنده حساب کرده…. مگر آن‌که اطلاعاتی صریحاً بتواند بی‌گناهی آنها پس از مرگ را اثبات کند».

با این حال، هنگامی که یک هدف به عنوان «هدف نظامی» معتبر ارزیابی می شود، تاثیر جنسیت در ارزیابی تناسب معکوس می شود. اصل تناسب مستلزم اطمینان از آن است که آسیب پیش بینی شده به غیر نظامیان و اموال غیرنظامی در مقایسه با مزیت نظامی مورد انتظار از حمله «بیش از حد» نباشد. ولی در ارزیابی مزیت پیش‌بینی شده (نظامی) و آسیب های پیش بینی شده غیرنظامی ، «مزیت نظامی» می تواند شامل کاهش احتمالی شمار تلفات رزمندگان خود فرمانده به عنوان یک مزیت باشد، به عبارت دیگر تلفات واقعی جان غیرنظامیان می‌تواند با اجتناب از تلفات احتمالی نظامیان «جبران» شود. این مسأله این نتیجه عملی را ایجاد می کند که «زندگی رزمندگان، که اکثریت قریب به اتفاق آنها مرد هستند» مهمتر از «افراد غیرنظامی» است، که در بطن میدان جنگ هستند که اغلب و بطور نامتناسبی، زنان هستند. با در نظرگرفتن این موارد از اعمال حقوق بین‌الملل بشردوستانه، می‌توانیم نتیجه بگیریم که یک جنبه‌ی جنسیتی در بعد عملیاتی این شاخه از حقوق وجود دارد.

فناوری های جدید، به ویژه هوش مصنوعی به طور فزاینده ای برای کمک به فرماندهان در تصمیم گیری های مربوط به هدف گیری به کار گرفته شده اند. به ویژه، الگوریتم های یادگیری ماشینی، حجم عظیمی از داده ها را برای شناسایی قواعد یا الگوها پردازش می نمایند، سپس نتایجی را در مورد اجزای جداگانه اطلاعات بر اساس این الگو ها ترسیم می کنند.

در حال حاضر هوش مصنوعی در جنگ در  تصمیم‌های مربوط به هدف‌گیری به اشکال مختلف، نقش دارد. برای مثال، الگوریتم‌های هوش مصنوعی می‌توانند خسارات جانبی را تخمین بزنند و در نتیجه به فرماندهان کمک کنند تا تجزیه و تحلیلی از اصل تناسب داشته باشند. به همین ترتیب، برخی از پهبادهای مجهز به هوش مصنوعی برای شناسایی و در حال حاضر برای اسکن محیط شهری به منظور یافتن حمله کنندگان پنهان، آموزش دیده اند، به عبارت دیگر، برای تمایز بین غیرنظامیان و رزمندگان بر اساس اصل تفکیک. در واقع در جنگ‌های مدرن، استفاده از هوش مصنوعی در حال گسترش است. به عنوان مثال در مارس ۲۰۲۱ میلادی کمیسیون امنیت ملی هوش مصنوعی، کمیسیونی با مجوز کنگره‌ی ایالات متحده امریکا، گزارشی را منتشر نمود با تاکید بر این که چگونه در آینده، فن آوری‌های مجهز به هوش مصنوعی، به هر یک از سطوح جنگ نفوذ می‌کنند. همچنین از وزارت دفاع خواست تا به منظور تبدیل هوش مصنوعی به نیروی آماده باش تا سال ۲۰۲۵میلادی، هوش مصنوعی را در کارکردهای اساسی و مهم و نظام‌های موجود تلفیق کنند. 

همانطور که نیل دیویسون و جاناتان هوروویتس یادآور شده اند، در حالی که استفاده از هوش مصنوعی رشد می‌کند، بسیار مهم است که اطمینان حاصل شود که توسعه و بکارگیری آن (به خصوص زمانی که همراه با استفاده از سلاح‌های خودآیین باشد)، با حمایت از غیرنظامیان همراه باشد. با این حال حتی اگر اصول حقوق بشردوستانه را بتوان به طور درست به برنامه ریزی فن آوری های نظامی مبتنی بر هوش مصنوعی (یک «اگر» بزرگ و قابل تردید) منتقل کرد، چنین انتقالی، تاثیرات ناهمگون جنسیتی ناشی از اعمال حقوق بشردوستانه را که در پیش به آن پرداخته شد، مجدداً ایجاد و یا حتی دوچندان خواهد کرد. مورد پهبادهایی که از حملات هدفمند استفاده می کنند، نشان می دهد که ادغام فن آوری های جدید در جنگ، خطر انتقال (و در مورد فن آوری‌های هوش مصنوعی تشدید و تثبیت) بی عدالتی‌های جنسیتی که در حال حاضر در اجرای قواعد حقوقی فعلی را دربر خواهد داشت. 

دلایل متعددی وجود دارد که هوش مصنوعی ممکن است به تثبیت و تشدید  نابرابری های جنسیتی منتهی شود. نخست، این الگوریتم‌ها تنها به اندازه داده های ورودی مطلوب هستند – و اطلاعات اصلی مشکل ساز هستند. برای کارکرد صحیح، هوش مصنوعی به حجم عظیمی از داده ها نیاز دارد. با این حال، جمع آوری و انتخاب این داده ها خنثی نیستند. در حوزه هایی با اعمال زیان کمتر، مانند تصمیم‌گیری وام مسکن و یا عملیات پلیسی پیش دستانه، مواردی از جهت گیری های جنسیتی (و غیره) در برنامه نویسان و افراد مسئول طبقه بندی اطلاعات نمونه ها و یا حتی مجموعه داده ها (اغلب شامل داده های بیشتر در مورد افراد سفید پوست، مرد) دیده شده است. شاید بتوان گفت که دشوارتر از شناسایی و اصلاح جهت گیری های فردی، موارد یادگیری ماشینی هستند که الگوهای تاریخی بی‌عدالتی را تکرار و تقویت می کنند، صرفا به این دلیل چنین الگوهایی به نظر هوش مصنوعی اطلاعات مفیدی را به جای «پارازیت های نامطلوب» ارایه دهند. همانطور که نوئل شارکی یادآور می‌شود، «فشار اجتماعی به سمت انصاف و عدالت بیشتر توسط ارزش‌های تاریخی در مورد فقر، جنسیت و قومیت مستتر در داده‌های بزرگ، سرکوب می‌شوند. هیچ دلیلی بر این باور وجود ندارد که بتوان جهت گیری‌های موجود در داده‌های هدف، را به نحو متفاوت و یا آسانتری بیابیم».

این بدان معناست که تعصب های تاریخی انسانی می توانند منجر به داده های آموزشی ناقص و یا غیرموثق شوند. برای مثال، یک الگوریتم پیش بینی کننده برای اعمال اصل تفکیک براساس «شرح حال هدف»، همراه با سایر ابزارهای گردآوری اطلاعات، نظارت و بازیابی، دارای جهت گیری جنسیتی خواهد بود، چنان‌چه در داده های آن مردان در سن نظامی، صرف نظر از سایر عوامل، معادل رزمنده تلقی شوند. همانطور که حمله‌های امضایی پهبادها نشان می‌دهد، طبقه بندی خودکار مردان به عنوان رزمنده و زنان به عنوان افراد آسیب‌پذیر منجر به اشتباهاتی در هدف‌گیری شده است. 

با گسترش  استفاده از یادگیری ماشینی در هدف‌گیری، این جهت‌گیری‌ها تقویت خواهد شد، چنان‌چه برای تصحیح آن اقدامی نشده باشد (چراکه) در هر حمله ای به طور فزاینده اطلاعات جهت‌گیری شده ارایه خواهد شد. برای کاستن از این نتیجه، اطمینان از تنوع، دقت و منفک بودن داده های جمع آوری شده و تأمل طراحان الگوریتم، در مورد چگونگی اعمال با جهت گیری جنسیتی اصول تفکیک و تناسب حیاتی است. جمع آوری داده با کیفیت بالا به این معنی است که علاوه بر مسائل دیگر، اطمینان حاصل شود که داده‌ها جدا از جنسیت هستند. در غیر اینصورت یافتن اینکه چه جهت‌گیری‌هایی در پس این فرضیات قرار دارد، چه اقدامی برای مقابله با این جهت گیری‌ها می توان انجام داد و چه اقدامی نمی توان انجام داد، غیر ممکن خواهد بود. اطمینان از داده های با کیفیت بالا نیز مستلزم جمع آوری انواع بیشتر و مختلف داده ها، از جمله داده ها در مورد زنان است. به علاوه از آنجا که ابزارهای هوش مصنوعی، جهت گیری های سازندگانش را منعکس می‌کند،تضمین این که مستخدمان زن، نقش های فنی به عهده خواهند گرفت و مستخدمان مرد کاملاً برای درک جنسیت و سایر گرایشات آموزش دیده اند، برای کاستن از جهت گیری های جنسیتی بسیار مهم است. 

گنجاندن مشاوران جنسیتی نیز گام مثبتی خواهد بود تا اطمینان حاصل شود که طراحی الگوریتم و تفسیر آنچه الگوریتم توصیه یا پیشنهاد می‌کند، جهت گیری ها و پویایی های جنسیتی را در نظر می‌گیرد. با این حال، مسایل مربوط به کیفیت داده ها، زیر مجموعه مسایل بزرگتر در مورد امکان کدنویسی حقوق بشردوستانه است و حتی اگر این امر ممکن باشد، مشکل بزرگتر در مورد گننجاندن ملاحظات جنسیتی در کدهای حقوق بشر دوستانه است. کدنویسی ملاحظات جنسیتی در هوش مصنوعی در بهترین حالت، بسیار چالش برانگیز است، چراکه جنسیت برساخته ای اجتماعی و فردی است. به همین ترتیب، فرایند توسعه هوش مصنوعی خنثی و بدون جهت‌گیری نیست، چراکه هم سیاست و هم اخلاق در آن گنجانده شده است، این مسأله با حوادث مستندی از جهت گیری‌های کدنویسی هوش مصنوعی اثبات شده است. 

در نهایت، اصول و قواعد مدرن حقوق بشردوستانه، تدوین شدند که تبعیض ساختاری علیه زنان به رسمیت شناخته نشده بود. این تبعیض ها «طبیعی» یا حتی به نفع زنان تلقی می‌شد.  در نتیجه، در زمان بررسی چگونگی کدنویسی حقوق بشر دوستانه، ضروری است که دیدگاههای جنسیتی انتقادی در تفسیر هنجارها و قوانین مربوط به مخاصمات مسلحانه، گنجانده شود. یک نمونه از این نوع تعامل انتقادی با حقوق بشر دوستانه در تفسیر جدید کمیته بین المللی صلیب سرخ از کنوانسیون سوم ژنو ارایه شده است. این تفسیر جدید، با درنظر گرفتن ملاحظات ویژه از خطرات و نیازهای جنسیتی خاص (پاراگراف ۱۷۴۷) فرضیات مبنایی جنسیتی منسوخ شده مانند این پیش فرض که زنان، وضعیت غیررزمنده دارند یا این‌که زنان به دلیل «تاب آوری، نیرو و ظرفیت کمتر» (پاراگراف ۱۶۸۲) نیازمند ملاحظات خاصی هستند، را بازنگری کرده است. این تغییر نشان می دهد که یک دیدگاه جنسیتی در تفسیر قواعد جنگ نه تنها مطلوب است بلکه ممکن است. این تغییر همچنین تأکیدی است بر نیاز فوری به بازبینی مجدد اصول حقوق بشر دوستانه در مورد هدف گیری شامل اصل تفکیک و تناسب و ارزیابی چگونگی تاثیر متفاوت اعمال این اصول بر جنسیت‌ها، به طوری که هر الگوریتم توسعه یافته برای اجرای اصول حقوق بشردوستانه، این دیدگاه ها را از ابتدا در خود جای داده باشد. 

به عنوان اولین حرکت در این بازنگری، تاکید مجدد بر این که اصول عدم تبعیض بر حقوق بشردوستانه نیز اعمال می شود و باید در همه نسخه های الگوریتمی این قواعد گنجانده شود، ضروری است. به طور خاص اصل تفکیک به فرماندهان اجازه می دهد که به طور قانونی، تنها کسانی که به عنوان رزمنده شناسایی شده اند و یا کسانی که مستقیماً در جنگ شرکت نموده اند، هدف قرار دهد. ماده ۵۰ پروتکل نخست الحاقی کنوانسیون ژنو، غیرنظامیان را به شیوه ای منفی تعریف می‌کند به این معنی که غیر نظامیان کسانی هستند که متعلق به هیچ یک از طبقه بندی های ارایه شده از رزمندگان نیستند و حقوق بشردوستانه نیز هیچ اشاره ای به جنسیت دال بر هویت به منظور ارزیابی آنکه فرد مورد نظر، رزمنده است یا خیر نمی کند. در این خصوص، «مردان در سن نظامی» نمی‌تواند میانبری برای شناسایی رزمندگان باشد. مردان طبقه ای از غیرنظامیان را نیز تشکیل می‌دهند. همانگونه که مایا برم یادآور می‌شود «در چارچوب هدایت مخاصمات، محدوده ای برای «اهداف طبقه بندی شده»وجود دارد، اما اصل عدم تبعیض در درگیری های مسلحانه، نیز اعمال می شود. تفکیک ناروا مبتنی بر نژاد، جنس، مذهب، ریشه ملیتی یا معیارهای مشابه ممنوع شده است.»‌ 

به همین ترتیب، در هر تلاشی برای تبدیل اصل تناسب به کد، باید تأثیرات جنسیتی محاسبات فعلی از تناسب، شناسایی و اصلاح شوند. به عنوان مثال، در سراسر سوریه بین سالهای ۲۰۱۱ تا ۲۰۱۶میلادی ، هفتاد و پنج درصد زنان غیرنظامی کشته شده در خشونتهای جنگی، از طریق گلوله باران یا بمباران هوایی کشته شدند. در مقابل چهل و نه درصد مردان غیرنظامی در خشونتهای جنگی از طریق گلوله باران و یا بمباران هوایی کشته شدند، مردان بیشتر در تیراندازی کشته شدند.‌ این امر حاکی از آن است که روش ها و سلاح های خاص اثرات جداگانه ای بر جمعیت‌های غیرنظامی که براساس مرزهای جنسیتی از یکدیگر جدا شده اند، دارد. نویسندگان این مقاله یادآور می‌شوند که روش‌های در حال تحول مورد استفاده نیروهای سوری، مخالفان و نیروهای بین المللی در درگیری ها، منجر به کاهش تلفات رزمندگان شده اند، چرا که استفاده از گلوله باران و بمباران، دو سلاحی که نشان داده شد درصد بالایی از تلفات غیرنظامی به ویژه زنان و کودکان غیرنظامی را به همراه دارد، در طول جنگ افزایش یافته بود. 

نویسندگان این مقاله همچنین یادآور شده اند که تغییر الگوهای رفتاری غیرنظامیان و رزمندگان ممکن است تا حدی افزایش میزان تلفات زنان در مقایسه با مردان غیرنظامی را توضیح دهد. «افزایش احتمالی تلفات زنان و کودکان قربانی در مقایسه با مردان غیرنظامی می تواند به این دلیل باشد که تعداد مردان غیرنظامی در کل جمعیت، به مرور زمان با اسلحه گرفتن برخی برای تبدیل شدن به رزمنده کاهش می یابد». 

بر اساس درک حاضر، حقوق بشر دوستانه ضرورتی به تجزیه و تحلیل آثار جنسیتی نمی بیند، به عنوان مثال انتخاب بمباران هوایی در مقابل تیراندازی. با این حال، این تحقیق پیشنهاد می کند که انتخاب بمباران هوایی به عنوان یک تاکتیک منجر به کشته شدن بیشتر زنان غیر نظامی نسبت به مردان غیرنظامی خواهد شد. (تقریبا ۳۷ درصد زنان کشته شده در جنگ در مقابل ۲۳ درصد مردان کشته شده). انتخاب تیراندازی به عنوان یک تاکتیک نتایج معکوس دارد، به طوری که ۲۳ درصد مردان غیرنظامی در مقایسه با ۱۳ درصد زنان در تیراندازی کشته شدند. با این که هیچ صحبت از تناسب «درست» میان تلفات ناشی از تاکتیک مشخص در میان مردان و زنان غیرنظامی ممکن نیست، اما این نابرابری ها، پیامدهای عمیق و واقعی را برای مردم غیرنظامی در جریان و پس از جنگ، به دنبال دارد که صرفاً تحت قواعد معمول تناسب و تفکیک بررسی نمی شود. در این خصوص اگر چه توسل به زوربرای محدود کردن تلفات نیروهای خودی ممنوع نشده است، چنین راهبردی، باید با در نظر گرفتن تأثیر این سیاست بر جمعیت غیر نظامی طرف‌مقابل از جمله آثار جنسیتی باشد. 

گردآوری داده ها در مورد چگونگی تأثیر ابزار یا روش خاص جنگ بر جمعیت غیرنظامی، به فرماندهان این امکان را می دهد که تصمیم گیری آگاهانه تری داشته باشند. اذعان به اینکه آثار سلاح در جنگ، جنسیتی است، اولین قدم کلیدی است که باید برداشته شود. در برخی موارد پیشرفتی در تلفیق دیدگاه جنسیتی در حقوق بشر دوستانه موضوعه حاصل شده است، مانند مورد مهمات خوشه ای که ماده ۵کنوانسیون ممنوعیت این سلاح ها، متذکر می‌شود که دولت ها باید در کمک رسانی به قربانیان حساسیت های جنسیتی را در نظر داشته باشند. اما بیشتر این تجزیه تحلیل ها ابتدایی است و ضرورت آن به وضوح مشخص نیست. در زمینه توسعه فناوری های مبتنی بر هوش مصنوعی، بازتاب تأثیر جنسیتی الگوریتم در زمان توسعه هوش مصنوعی، تملک و بکارگیری آن ضروری است. فرایند کدگذاری اصول تفکیک و تناسب حقوق بشر دوستانه در سیستم هوش مصنوعی فرصت مفیدی را فراهم می کند برای بازنگری در اعمال این اصول با نگاهی بر تفاسیری که دیدگاه های جنسیتی مدرن را در نظر می گیرد (هم از نظر نحوه تفسیر این اصول حقوق بشردوستانه و هم تأثیر متفاوت آن بر زنان و مردان) همانگونه که تفسیر جدید کمیته‌ی بین‌المللی صلیب سرخ از کنوانسیون سوم ژنو نشان می دهد، شناسایی و تلفیق نیازهای جنسیتی خاص در تفسیر و اعمال قواعد موجود جنگ، نه تنها ممکن بلکه مطلوب است. سلب مسوولیت: این پست به عنوان بخشی از کارآموزی تحقیقاتی در دانشگاه اراسموس روتردام تهیه شده است. این تحقیق، توسط کنسرسیوم خلع سلاح و منع اشاعه اتحادیه اروپا، به عنوان بخشی از ابتکار آموزشی بزرگتر اتحادیه اروپا، با هدف ایجاد ظرفیت در نسل بعدی دانشمندان و متخصصان سیاست منع اشاعه و برنامه نویسی، تامین مالی شده است. نظرات بیان شده در این پست، صرفاً نظرات نویسنده است و لزوماً دیدگاه دانشگاه اراسموس روتردام و کنسرسیوم خلع سلاح و منع اشاعه اتحادیه اروپا را منعکس نمی کند.