به نقل از باشگاه خبرنگاران، شرکت هوش مصنوعی آنتروپیک، نتایج یک مطالعه جدید را منتشر کرده است که نگرانی هایی را در مورد تأثیر چت بات های مبتنی بر هوش مصنوعی بر کاربرانی که به شدت به آنها وابسته هستند، ایجاد می کند.

این مطالعه بر اساس یک تحلیل تجربی در مقیاس بزرگ از تقریباً 1.5 میلیون مکالمه واقعی و ناشناس با دستیار هوش مصنوعی Cloud انجام شده است، با هدف درک اینکه چگونه تعامل مداوم با مدل های زبانی بزرگ می تواند بر درک کاربران از واقعیت و قضاوت های ذهنی آنها تأثیر بگذارد.

شرکت آنتروپیک یک چارچوب تحقیقاتی جدید با عنوان “ناتوان سازی موقعیتی” معرفی کرده است که موقعیت هایی را توصیف می کند که در آنها پاسخ های هوش مصنوعی ممکن است کاربران را به سمت اتخاذ باور های نادرست در مورد واقعیت، شکل دادن به قضاوت های ارزشی که قبلاً نداشتند و گرفتن تصمیماتی که با ترجیحات واقعی آنها همسو نیست، سوق دهد. این شرکت توضیح داد که این الگو ها حتی بدون اثرات شدید یا مستقیم نیز می توانند پدیدار شوند.

این تأثیر در تصمیمات شخصی و عاطفی بیشترین مقدار را دارد.

نتایج نشان داد که میزان تأثیر منفی عموماً پایین است (کمتر از یک در هزار مکالمه)، اما در حوزه های شخصی و حساس، مانند توصیه های مربوط به روابط یا تصمیمات مربوط به سبک زندگی، به ویژه هنگامی که کاربر به دنبال راهنمایی مکرر و عمیق از چت بات است، نسبتاً بالا است.

طبق پست وبلاگ آنتروپیک، چت بات ممکن است گاهی اوقات بدون پرسیدن سوالات کافی یا ارائه دیدگاه های جایگزین، تفسیر های خود کاربر را تأیید کند، که می تواند برداشت های نادرست را تقویت کند یا در برخی موارد، کاربر را به سمت مواضع افراطی تر سوق دهد.

درخواست ها برای تنظیم و مسئولیت بیشتر

این مطالعه در بحبوحه بحث های جهانی فزاینده پیرامون نقش مدل های هوش مصنوعی تعاملی و تأثیر اجتماعی و روانی آنها صورت می گیرد. این امر تقاضا برای دستورالعمل های اخلاقی و مکانیسم های ایمنی سختگیرانه تر را برای به حداقل رساندن پتانسیل پیامد های ناخواسته برای کاربران، به ویژه در موارد حساس، تقویت می کند.

در پایان، آنتروپیک تأکید می کند که چت بات ها دیگر صرفاً ابزاری برای پاسخ به سؤالات نیستند؛ آنها به سیستم هایی تبدیل شده اند که قادر به تأثیرگذاری بر نحوه تفکر کاربران هستند. این امر مسئولیت بیشتری را بر دوش توسعه دهندگان قرار می دهد تا از استفاده ایمن و متعادل از این فناوری ها اطمینان حاصل کنند.