به نقل از psychologytoday، روان پریش کسی است که توانایی درک درست و غلط از منظر اخلاقی را ندارد. او می داند که مثلاً هل دادن یک زن سالمند برای جلو زدن در صف دستگاه خودپرداز از نظر اجتماعی ناپسند است، اما هیچ احساسی هم زمان در او شکل نمی گیرد که به او بگوید این کار از نظر اخلاقی اشتباه است. برای روان پریش ها هیچ چیز از نظر اخلاقی اشتباه احساس نمی شود.

اگرچه سایکوپاتی به عنوان یک تشخیص رسمی در DSM-5 وجود ندارد، اما معمولاً برای توصیف اختلالاتی به کار می رود که با فقدان احساسات اخلاقی همراه اند. برای بسیاری، رفتار هوش های مصنوعی به ویژه مدل های زبانی بزرگ با این تعریف از روان پریشی هم خوانی دارد. هوش مصنوعی، که چیزی جز تولیدکننده های احتمالاتی متن نیستند، فاقد ظرفیت زیستی برای تجربه هر نوع احساسی هستند، چه برسد به احساسات اخلاقی. بنابراین، رفتار زبانی آن ها صرفاً بر اساس قواعد و نه احساسات شکل می گیرد.

در نگاه اول، این قیاس منطقی به نظر می رسد. همان طور که الینا نرانتزی اشاره می کند، هوش مصنوعی غیراخلاقی اما عقلانی است. یعنی می توان آن را طوری برنامه ریزی کرد که تصمیماتی عقلانی بگیرد که با قواعد اخلاقی تعریف شده توسط انسان هم خوانی داشته باشد. مثلاً می توان خودروی خودران را طوری برنامه ریزی کرد که برای نجات گروهی از کودکان، به تیر چراغ برق برخورد کند و راننده را قربانی کند. این یک محاسبه ساده ی فایده گرایانه در مواجهه با یک دوراهی اخلاقی است. اما نکته مهم این است که این تصمیم از احساس درونی درباره درست یا غلط بودن ناشی نمی شود. هوش مصنوعی نمی تواند غم یا درد را تجربه کند، و بنابراین نمی تواند پیامدهای احساسی (و در نتیجه اخلاقی) زیر گرفتن یک کودک را شبیه سازی کند.

این موضوع در مورد روان پریش ها نیز صدق می کند. آن ها به طور مشهور فاقد ظرفیت همدلی هستند و نمی توانند تصور کنند که زن سالمند هنگام هل داده شدن چه احساسی دارد یا کودک هنگام زیر گرفته شدن چه رنجی می کشد. مانند هوش مصنوعی، آن ها باید به طور صریح آموزش ببینند که این کارها از منظر عقلانی اشتباه هستند.

هم هوش مصنوعی و هم روان پریش ها قادرند حضور احساسات اخلاقی را تقلید کنند. همان طور که فیلسوف کاترین میسل هورن اشاره می کند، با وجود ناتوانی در احساس همدلی، هر دو قادرند احساسات را بر اساس نشانه های عینی تشخیص دهند، همدلی را تقلید کنند و از این توانایی برای اهداف فریبکارانه استفاده کنند.

به همین دلایل، ممکن است وسوسه شویم که هوش مصنوعی را در دسته روان پریش ها قرار دهیم. اما ماجرا پیچیده تر از این است. هوش مصنوعی روان پریش نیست، بلکه چیزی کاملاً متفاوت است.

نکته مهمی در ذهن انسان وجود دارد که این قیاس را پیچیده می کند. برخلاف هوش مصنوعی، روان پریش ها دارای آگاهی هستند. آن ها می توانند افکار و احساسات خود (یا فقدان آن ها) را از منظر فراشناختی تجربه و تحلیل کنند. آن ها می دانند که روان پریش هستند و می توانند درباره این واقعیت تأمل کنند. در نتیجه، می توانند تصمیمی آگاهانه برای رفتار اخلاقی بگیرند، بر اساس معیارهایی که خودشان تعیین می کنند. روان پریش ها می توانند و اغلب نیز چنین می کنند زندگی ای کاملاً اخلاقی داشته باشند، بدون آنکه هرگز احساسات اخلاقی را تجربه کنند، به لطف مجموعه ای از ظرفیت های شناختی دیگر که در اختیار دارند.

اما هوش مصنوعی فاقد تمام این ظرفیت هاست. مفهوم آسیب برای آن بی معناست. همان طور که نرانتزی اشاره می کند: برای درک معنای آسیب رساندن به کسی، باید تجربه ای از درد داشته باشید. هوش های مصنوعی، بنابراین، از اساس از داشتن احساسات اخلاقی محروم اند، در حالی که روان پریش ها، به عنوان انسان های دارای آگاهی، می توانند در اصل احساسات اخلاقی را تجربه کنند اما به طور پاتولوژیک این کار را نمی کنند. روان پریش ها می توانند به صورت عقلانی و آگاهانه ماهیت نقص خود را درک کنند، قیاس های جدیدی بر اساس ظرفیت های موجود خود بسازند و رفتارشان را با توجه به آن آگاهی تغییر دهند.

بنابراین، هوش مصنوعی روان پریش نیست، بلکه چیزی کاملاً متفاوت است. آن ها نمی توانند درباره حالات ذهنی درونی خود تأمل کنند. نمی توانند از منظر اول شخص درباره اخلاق استدلال کنند. این بدان معناست که خطر بالقوه ای وجود دارد: برخلاف روان پریش، هوش مصنوعی ممکن است به نتیجه ای کاملاً عقلانی برسد که بر اساس پارامترهای کاری اش منطقی است، اما منجر به آسیب یا رنج برای انسان شود آسیبی که هوش مصنوعی نه می فهمد و نه می تواند در هیچ سطحی درک کند.

در مقابل، روان پریش حداقل می تواند از تفکر خود فاصله بگیرد و پیامدهای واقعی اعمالش را درک کند و بسنجد که آیا با اهدافش مثلاً آسیب نرساندن هم خوانی دارد یا نه.

از یک سو، این قیاس مفید است، زیرا همان طور که نرانتزی می گوید: برای تولید رفتار اخلاقی، احساسات اخلاقی الزامی نیستند. اما باید بپذیریم که وضعیت تقریباً روان پریش اما نه کاملاً هوش مصنوعی، یک خطر بالقوه است. ما واقعاً نمی دانیم هوش های مصنوعی چگونه به تصمیمات اخلاقی می رسند. آن ها در این زمینه جعبه های سیاه هستند؛ فاقد آگاهی، شعور و فراشناختی که به ما اجازه می دهد حداقل بفهمیم یک روان پریش چه فکری می کند.

و اگر از هوش مصنوعی در حوزه هایی استفاده کنیم که به طور سنتی نیازمند شناخت اجتماعی و قضاوت اخلاقی هستند مانند سلامت، آموزش، روان درمانی یا مراقبت از کودکان ممکن است از تصمیمات غیراخلاقی آن ها که صرفاً بر اساس منطق گرفته شده، غافلگیر شویم. غافلگیر شویم به شکلی که اگر با یک روان پریش واقعی طرف بودیم، شاید نمی شد.