علیرضا دقیقی، وکیل پایهیک دادگستری، جعبه سیاه را به وضعیتی اشاره میکند که الگوریتمهای یادگیری ماشین به گونهای عمل میکنند که حتی سازندگان آنها نیز نمیتوانند منطق دقیق رسیدن به یک خروجی را به طور کامل توضیح دهند. این پدیده صرفا یک مشکل فنی نیست؛ بلکه مجموعهای از چالشهای اخلاقی عمیق را در سامانه عدالت ایجاد میکند.
حق بر توضیح و کرامت انسانی
یکی از بنیادیترین چالشهای اخلاقی، محرومشدن فرد از فهمیدن «چرا»ی تصمیم است. وقتی قاضی یا هیئت آزادی مشروط براساس خروجی یک سامانه جعبه سیاه حکم میدهد و نمیتواند بگوید با کدام متغیرها و با چه وزنی به آن نتیجه رسیدهاند، فرد در موقعیتی قرار میگیرد که نه میتواند استدلال را درک کند و نه آن را به طور مؤثر به چالش بکشد. این وضعیت با اصل احترام به کرامت انسانی و حق مشارکت معنادار در فرایند قضائی در تضاد است.
بیشتر بخوانید: احمد کرمی: دفاع مقدس الگوی وحدت و ایستادگی ملت ایران است
پاسخگویی و مسئولیتپذیری
در سامانه جعبه سیاه، زنجیره مسئولیتپذیری میشکند: قاضی میگوید «ابزار این را گفته». توسعهدهنده میگوید «مدل پیچیده است و قابل توضیح کامل نیست». نهاد خریدار میگوید «ما فقط از ابزار تأییدشده استفاده کردهایم». نتیجه این است که هیچکس به طور واقعی مسئول پیامدهای تصمیم نیست. این وضعیت اخلاقی نگرانکننده است، چون اصل پاسخگویی را که از ارکان حاکمیت قانون است، تضعیف میکند.
جعبه سیاه امکان پنهانماندن سوگیریهای ساختاری را فراهم میکند. بسیاری از متغیرهای استفادهشده در ابزارهای پیشبینی خطر تکرار جرم، خود محصول تصمیمهای قبلی پلیسی و اجتماعی هستند. چون منطق داخلی سامانه قابل مشاهده نیست، این سوگیریها نه شناسایی میشوند و نه اصلاح. در نتیجه سامانه نهتنها بیطرف نیست، بلکه الگوهای تبعیضآمیز موجود را بازتولید و تقویت میکند.
شفافیت یکی از منابع اصلی مشروعیت قضائی است. وقتی مردم احساس کنند تصمیمهای مهم زندگیشان از طریق سامانههایی گرفته میشود که حتی قضات هم بر آنها مشرف نیستند، اعتماد به عدالت بهتدریج فرسوده میشود. این فرسایش اعتماد یک حلقه بازخورد منفی ایجاد میکند.
تحول در نظام قضائی نیازمند آن است که قدرت عمومی پیشبینیپذیر، قابل توضیح و قابل اعتراض باشد. جعبه سیاه این سه ویژگی را همزمان تضعیف میکند. وقتی خروجی الگوریتم جای استدلال حقوقی را بگیرد، قانون به جای آنکه هنجار قابل فهم باشد، به نتیجه محاسباتی غیرقابل مناقشه تبدیل میشود. این تحول، ماهیت نهاد قضا را از محل گفتوگوی عقلانی به محل اعمال قدرت فناورانه تغییر میدهد.
بیشتر بخوانید: مردم مازندران عشق و ارادت خود به ایران را ثابت کردند · تراستهای پنهان؛ ۸۰ میلیون بشکه نفت و چهار سؤال بیپاسخ
