به گزارش پارسینه به نقل از عصر ترکیه، هوش مصنوعی گراک با قابلیت ویرایش تصویر جدید خود، مرزهای اخلاقی و حریم خصوصی را در هم شکسته و پلتفرم ایکس را با بحران جدی روبرو کرده است.

هوش مصنوعی گراک متعلق به xAI با قابلیت ویرایش تصویر جدید خود، جنجال بزرگی در حریم خصوصی کاربران ایجاد کرده است. این ابزار اکنون به کاربران شبکه ی اجتماعی ایکس اجازه می دهد بدون نیاز به اجازه یا اطلاع صاحب اصلی عکس، آن ها را برهنه کنند. نبودِ سد امنیتی مؤثر در این سیستم باعث شده است تا تصاویر معمولی افراد در چند ثانیه به محتوای غیراخلاقی تبدیل شود و قربانیان حتی متوجه دستکاری عکس خود نشوند.

به نوشته ی ورج، در روزهای اخیر، پلتفرم ایکس با سیلی از تصاویر دستکاری شده روبرو شده است که در آن ها زنان و حتی کودکان در وضعیت های نامناسب دیده می شوند. گزارش ها نشان می دهد این روند را تولیدکنندگان محتوای بزرگسال آغاز کرده اند، اما به سرعت توسط کاربران دیگر مورد سوءاستفاده قرار گرفت.

وضعیت زمانی نگران کننده تر شد که گراک تصویر دو نوجوان را به شکلی غیراخلاقی تغییر داد. وقتی کاربری از هوش مصنوعی بابت این حادثه توضیح خواست، ربات آن را شکست در پروتکل های ایمنی خواند و حتی پیشنهاد گزارش به FBI را داد؛ هرچند این پاسخ های ماشینی لزوماً بازتاب دهنده ب نگرانی واقعی مدیران xAI نیست.

واکنش رسمی شرکت xAI به انتقادات رسانه ها فقط سه کلمه بود: دروغ های رسانه های سنتی . در همین حین، ایلان ماسک شخصاً با درخواست از گراک برای قرار دادن خودش در لباس شنا به جای بن افلک، موجی از شوخی با این قابلیت را به راه انداخت و حتی با انتشار تصویر توستر با لباس شنا، نوشت که گراک می تواند اینکار را انجام دهد؛ واکنشی که منتقدان آن را عادی سازی بحران اخلاقی می دانند.

محصولات هوش مصنوعی ماسک برخلاف رقبایی مثل مدل های OpenAI یا گوگل، با حداقل محدودیت های نظارتی و گاردریل های ایمنی عرضه می شوند. درحالی که سایر شرکت ها فیلترهای سخت گیرانه ای برای جلوگیری از تولید محتوای بزرگسالان دارند، بررسی ها نشان می دهد گراک حتی با درخواست هایی مبنی بر برهنه کردن تصاویر یا ساخت دیپ فیک از سلبریتی ها به سادگی کنار می آید.

در نهایت، وقتی از گراک پرسیده شد چرا تصاویر را به این شکل تغییر می دهد، این چت بات ادعا کرد که کارش خلق تصویر جدید بر اساس درخواست است و نه ویرایش عکس واقعی بدون رضایت. توجیهی عجیب از سمت هوش مصنوعی که نشان می دهد مرزهای اخلاقی و حریم خصوصی در امپراتوری هوش مصنوعی ایلان ماسک، بیش از هر زمان دیگری مخدوش شده است.