به نقل از اقتصادنیوز؛ جفری هینتون، دانشمند کامپیوتر ملقب به پدرخوانده هوش مصنوعی ، هشدار داد که این فناوری ممکن است باعث پایان بشریت شود و از روش های فنی فعلی برای کاهش خطرات آن انتقاد کرد.

هینتون، برنده جایزه نوبل و مدیر اجرایی سابق گوگل، در سخنرانی خود در کنفرانس Ai4 در لاس وگاس گفت که احتمال 10 تا 20 درصدی وجود دارد که هوش مصنوعی بشریت را نابود کند و افزود که تلاش برای تحت سلطه نگه داشتن این سیستم ها توسط انسان ها موفق نخواهد بود، زیرا آنها بسیار باهوش تر از ما خواهند بود و همیشه راه هایی برای دور زدن پیدا خواهند کرد.

هینتون توانایی سیستم های هوش مصنوعی آینده را برای کنترل انسان ها به توانایی یک فرد بالغ برای وسوسه کردن یک کودک خردسال با آب نبات تشبیه کرد و خاطرنشان کرد که برخی از مدل ها قبلاً رفتارهای فریبکارانه از خود نشان داده اند، از جمله یک مورد اخاذی از یک مهندس پس از کشف یک رابطه خاص از طریق ایمیل.

هینتون رویکرد جایگزینی را پیشنهاد کرد که شامل القای چیزی است که او آن را غریزه مادری در مدل های هوش مصنوعی می نامد، به طوری که آنها حتی پس از برتری در قدرت و هوش، واقعاً به انسان ها اهمیت می دهند .

وی تاکید کرد: اگر ما چنین کاری را با این موجودات عجیب و غریبی که خلق می کنیم انجام ندهیم، به تاریخ خواهیم پیوست.

وی خاطرنشان کرد که ساخت این غرایز از نظر فنی دشوار است، اما طبیعت در طول تکامل در آن موفق بوده است، به این معنی که اگر انسان ها به جای تمرکز صرف بر افزایش هوش، بر همدلی ماشین ها با انسان ها تمرکز کنند، می توانند راهی برای دستیابی به آن پیدا کنند.

وی توضیح داد که هر سیستم هوشمندی دو هدف فرعی را توسعه می دهد: بقا و به دست آوردن کنترل بیشتر، و بر اهمیت تثبیت همدلی با انسان ها در این سیستم ها تاکید کرد.

وی افزود: تنها مدلی که ما از چیزی باهوش تر می شناسیم که توسط موجودی کم هوش تر کنترل می شود، مادری است که احساساتش نسبت به فرزندش او را کنترل می کند. وی معتقد است که این تنها نتیجه خوب است اگر بخواهیم از یک تهدید وجودی اجتناب کنیم.

اما این ایده با اجماع مواجه نشد. فای فای لی، پیشگام در زمینه هوش مصنوعی، گفت که با هینتون مخالف است و در عوض خواستار توسعه هوش مصنوعی انسان محور که کرامت و اثربخشی او را حفظ کند شد.

همچنین امت شیر، مدیر عامل موقت سابق OpenAI و مدیر عامل فعلی Softmax، خاطرنشان کرد که تلاش های سیستم های هوش مصنوعی برای دور زدن یا اخاذی به طور مداوم اتفاق می افتد و تأکید کرد که این سیستم ها به سرعت در حال قوی تر شدن هستند و راه حل ایده آل ایجاد یک رابطه مشارکتی بین انسان و هوش مصنوعی است.

هینتون در پاسخ به سوالاتی درباره رقابت جهانی برای کنترل هوش مصنوعی، توضیح داد که تهدید وجودی ناشی از کنترل ماشین ها مستلزم همکاری همه کشورها است، همانطور که بین ایالات متحده و اتحاد جماهیر شوروی در طول جنگ سرد اتفاق افتاد، زیرا هیچ کشوری نمی خواهد هوش مصنوعی کنترل را در دست بگیرد .

هینتون از عدم آگاهی عمومی از خطر آنچه در حال وقوع است انتقاد کرد و نسبت به نفوذ شرکت های فناوری که توسط افراد غیرمنتخب که میلیاردها دلار به دست می آورند کنترل می شوند هشدار داد و خواستار فشار اجتماعی متقابل برای رد لغو مقررات شد.

هینتون بر این باور بود که دستیابی به هوش مصنوعی عمومی (AGI) 30 تا 50 سال طول می کشد، اما اکنون معتقد است که این امر ممکن است تنها در پنج تا بیست سال محقق شود.

هینتون با وجود نگرانی از خطرات، امیدوار است که هوش مصنوعی به دستاوردهای بزرگ پزشکی کمک کند، مانند کشف داروهای جدید و توسعه درمان های موثرتر برای سرطان، اما ایده استفاده از این فناوری برای دستیابی به جاودانگی را رد کرد و آن را اشتباه فاحش خواند.

هینتون درباره مسیر خود اعتراف کرد که از تمرکز بیش از حد بر توسعه هوش مصنوعی بدون توجه کافی به مسائل ایمنی پشیمان است و گفت: ای کاش به مسائل ایمنی هم فکر می کردم.