پایگاه خبری مکتوبنامه: جعبه سیاه به وضعیتی گفته میشود که در آن الگوریتمهای یادگیری ماشین به گونهای عمل میکنند که حتی سازندگان آنها نیز نمیتوانند منطق دقیق رسیدن به یک خروجی را به طور کامل توضیح دهند. این موضوع تنها یک مسئله فنی نیست، بلکه چالشهای اخلاقی عمیقی را در سامانه عدالت به وجود میآورد.
علیرضا دقیقی، وکیل پایهیک دادگستری، درباره جعبه سیاه توضیح میدهد که این پدیده سبب میشود قاضی یا هیئت آزادی مشروط هنگام صدور حکم بر اساس خروجی این سامانه، ناتوان از ارائه دلایل و وزن متغیرهای موثر در تصمیم خود باشند. در چنین شرایطی، فرد محکوم نمیتواند دلیل تصمیم را درک یا به طور مؤثر به آن اعتراض کند، که این مسئله با کرامت انسانی و حق شرکت در فرایند قضائی در تضاد است. این امر انسان را از «سوژه» فعال به «موضوع» منفعل تصمیمگیری تبدیل میکند.
یکی دیگر از چالشها، از بین رفتن زنجیره پاسخگویی و مسئولیتپذیری است؛ قاضی میگوید «ابزار این را گفته»، توسعهدهنده مدعی میشود «مدل پیچیده و قابل توضیح کامل نیست» و نهاد خریدار میگوید فقط از ابزار تأیید شده استفاده کرده است. نتیجه این شکستن زنجیره مسئولیت، ناپذیرفتن واقعی پیامدهای تصمیمها توسط هیچ یک از طرفها است که میتواند به تضعیف اصل پاسخگویی، یکی از ارکان حاکمیت قانون، منجر شود.
از سوی دیگر، جعبه سیاه به مخفیماندن سوگیریهای ساختاری کمک میکند. متغیرهای بهکاررفته در سامانههای پیشبینی خطر مانند سابقه دستگیری، محل سکونت یا وضعیت خانوادگی، اغلب محصول تصمیمهای قبلی پلیسی و اجتماعی هستند. از آنجایی که منطق داخلی این سامانهها قابل مشاهده نیست، سوگیریها نه شناسایی میشوند و نه اصلاح، که باعث تقویت تبعیض و نقض اصل برابری در برابر قانون میگردد.
این شرایط همچنین به فرسایش اعتماد عمومی منجر میشود؛ زمانی که مردم احساس کنند تصمیمات مهم زندگیشان مانند زندان یا آزادی مشروط به وسیله سامانههایی اتخاذ میشود که حتی قضات نیز بر آنها تسلط کامل ندارند، اعتماد به عدالت به تدریج کاهش مییابد. کاهش اعتماد موجب کاهش همکاری با نهادهای قضائی و افزایش احتمال استفاده از فناوریهای پیچیدهتر و مبهمتر، سپس تشدید بیاعتمادی میشود.
یکی دیگر از مسائل ظریف اخلاقی، ظهور «شفافیت نمایشی» است. برخی شرکتها یا نهادها ممکن است گزارشها یا نمودارهای کلی و توضیحات سطحی ارائه دهند که ظاهر شفافیت را ایجاد کند، اما اطلاعات واقعی و قابل استفاده برای چالش حقوقی را در اختیار قرار ندهد. این نوع شفافیت، خطرناکتر از ابهام آشکار است، زیرا حس اطمینان کاذب ایجاد کرده و مانع اصلاح واقعی میشود.
تهدید حاکمیت قانون در سطح سیستمی
حاکمیت قانون نیازمند آن است که قدرت عمومی قابل پیشبینی، قابل توضیح و قابل اعتراض باشد. جعبه سیاه این سه ویژگی را همزمان تضعیف میکند. زمانی که خروجی الگوریتم جایگزین استدلال حقوقی شود، قانون به جای اینکه هنجاری قابل فهم باشد، به نتیجهای محاسباتی و غیرقابل مناقشه تبدیل میشود. این تحول، ماهیت نهاد قضا را از مکانی برای گفتوگوی عقلانی به محلی برای اعمال قدرت فناورانه تبدیل میکند.
جمعبندی اخلاقی
چالش اخلاقی جعبه سیاه تنها مربوط به «نبود توضیح» نیست، بلکه مسئله انتقال قدرت بدون انتقال مسئولیت و تهدید کرامت و مشارکت انسانی است. این پدیده نتیجه تعامل میان معماری فناورانه یادگیری ماشین، مشوقهای اقتصادی مانند محرمانگی تجاری، و ضعف نهادی همچون نبود آموزش و نظارت مؤثر است.
تا زمانی که سامانه قضائی قادر نباشد منطق تصمیمهای مبتنی بر هوش مصنوعی را به گونهای توضیح دهد که برای طرفین دعوا و عموم قابل فهم و قابل چالش باشد، استفاده از این ابزارها با الزامات اخلاقی بنیادین عدالت ناسازگار باقی میماند.