گزارش کرسی ترویجی «کاربرد هوش مصنوعی در مشاوره اخلاقی؛ از ظرفیت های تحول آفرین تا چالش های اخلاقی»

شصت و چهارمین کرسی از کرسی­های ترویجی نقد و مناظره با عنوان «کاربرد هوش مصنوعی در مشاوره اخلاقی؛ از ظرفیت­های تحول آفرین تا چالش­های اخلاقی» به همت گروه اخلاق دانشگاه معارف اسلامی و با حضور حجت‌الاسلام جناب آقای دکتر رضا جعفری (دانشجوی دکتری گروه اخلاق اسلامی دانشگاه معارف اسلامی) به عنوان ارائه‌دهنده و حجج اسلام آقایان دکتر بنیانی (استادیار گروه اخلاق اسلامی دانشگاه معارف اسلامی) و دکتر فلاح (دانشیار گروه اخلاق اسلامی دانشگاه معارف اسلامی) به عنوان ناقد و حجت‌الاسلام جناب‌آقای زهیر رضازاده (دانشجوی دکتری دانشگاه معارف اسلامی) به عنوان دبیر علمی جلسه در تاریخ یکشنیه ۲۱ تیر ۱۴۰۵ در دانشگاه معارف اسلامی برگزار گردید.

متن اولیه پیشنهادی از سوی ارائه دهنده مقاله­ای علمی پژوهشی با همین عنوان است که در فصلنامه علمی پژوهشی اخلاق پژوهی در تابستان ۱۴۰۴ به چاپ رسیده است.

در ابتدای این جلسه حجت‌الاسلام دکتر رضا جعفری با بیان این نکته که ابعاد پیچیده موقعیت های اخلاقی در عصر حاضر ضرورت مراجعه به مشاوره اخلاقی را برای تصمیم درست اخلاقی دو چندان کرده است، یکی از ابزارهای امروزی در این زمینه را هوش مصنوعی و چت بات هایی معرفی کردند که به صورت فراگیر در اختیار همگان قرار گرفته است. از این­رو پرداختن به این بحث به صورت جدی می­بایست مورد توجه اندیشمندان اخلاق باشد. وی در ادامه بحث خود را در سه مرحله ارائه کرده است. در مرحله نخست پس از ارائه تعریفی از مشاوره اخلاقی و هوش مصنوعی به بیان ظرفیت های هوش مصنوعی برای کمک در تصمیم گیری اخلاقی پرداختند و این امور را فهرست کردند: (۱) افزایش دقت و کارآمدی مشاوره اخلاقی، (۲) ارائه مشاوره اخلاقی در لحظه، (۳) شخصی سازی مشاوره اخلاقی، (۴) توسعه ابزارهای نوین برای مشاوره اخلاقی، (۵) پردازش داده­های عظیم، (۶) دسترسی بیست و چهار ساعته و (۶) استدلال محاسباتی. در مرحله دوم چالش­های اخلاقی استفاده از ابزار هوش مصنوعی در مشاوره اخلاقی را به صورت تفصیلی به بحث گذاشته و به این موارد را اشاره کردند: (۱) سوگیری الگوریتمی که از چند جهت با آن مواجه است: از جهت داده­هایی که به هوش مصنوعی داده شده است، از جهت الگوریتمی که طراح برای این ابزار در نظر می­گیرد و از جهت استفاده مستمر از آن که موجب می­شود این سوگیری تجدید شود. (۲) فقدان مسئولیت­پذیری و (۳) عدم وجود ظرافت­های انسانی مانند احساسات و همدلی عمیق و درک کامل زمینه و بافتار فرهنگی و تجربه زیسته و رنج بشری. در مرحله سوم به ارائه چارچوب­های راهبردی برای طراحی هوش مصنوعی مسئولانه پرداختند و این موارد را پیشنهاد کردند: (۱) تغذیه با داده­های متنوع و عادلانه، (۲) شفافیت در منطق تصمیم­گیری الگوریتم، (۳) نظارت مستمر و تخصصی انسانی و (۴) تدوین چارچوب اخلاقی اختصاصی. در آخر به صورت جمع­بندی با توجه به فرصت­ها و چالش­های بیان شده بحث ایشان به این نتیجه منتهی شده است که هوش مصنوعی باید یارتصمیم اخلاقی باشد نه جانشین تصمیم اخلاقی.

در ادامه این کرسی دکتر فلاح به عنوان ناقد نخست، ابتدا با اشاره به اهمیت و نقاط قوت پژوهش حاضر به نقد نظرات ارائه دهنده محترم پرداختند. ایشان بعد از ذکر اشکالاتی ناظر به متن مقاله، بر روی دو مسأله متمرکز گشتند: (۱) این اموری که به عنوان ظرفیت برای هوش مصنوعی در مشاوره اخلاقی بیان شده است خود دارای آسیب­هایی است که باید به آنها اشاره می­شد؛ مثلا داده­های عظیمی که به وسیله هوش مصنوعی به ما داده می­شود در بسیاری از موارد موجب تحیر و سرگردانی می­شود که آسیبی جدی است. (۲) توجه به موضوع مشاوره در حوزه اسلامی و معیارهای موجود در آن که متاسفانه در پژوهش از آن غفلت شده است.

سپس حجت الاسلام دکتر بنیانی با تحسین موضوع و پژوهش ارائه شده، این نقدها را مطرح کرده­اند: (۱) یکی از اشکالاتی که باید به آن اشاره می­شد دامن زدن مراجعه به رویه به هوش مصنوعی به مسئله فردگرایی است در حالی که سابقاً در مسئله مشاوره، انسان­ها با ارتباط گرفتن با انسان­های دیگر از فردگرایی خارج می­شدند. (۲) اشکال دیگر اشکال روشی بوده است که جا داشت در این زمینه با افرادی که با چالش­های مشاوره دست و پنجه نرم می­کنند مصاحبه می­شد.