جوان آنلاین:  سه غول بزرگ پشت دیوار ما ایستاده‌اند، شاید هم بیشتر، شاید هم این سوی دیوار باشند. سه غول ترسناک، شاید هم مهربان. شاید برخی ترسناک و برخی مهربان و شاید، هم ترسناک، هم مهربان. فقط نکته آن جاست که ما خوابیم، چون آنچه در این‌باره از زبان مسئولان دولتی و غیردولتی می‌شنویم نشانی از بیداری در آن نمی‌بینیم. نام این سه غول، اینترنت نامریی، ماهواره‌های استارلینک و هوش‌مصنوعی است. 

می‌خواهم ابتدا داستانی از خواب غفلت بگویم. شاید 25 سال پیش بود. هنوز رایانه و اینترنت و دیجیتال در ایران عمومی نشده بود. در کل روزنامه کیهان یک رایانه (گویا دست‌دوم) آورده بودند که در اختیار مترجم فرانسه روزنامه قرار گرفت. همکار من در دانشگاه تهران، ارشد ادبیات قبول شده بود. استاد سنتی و البته غافل از فناوری‌های نو به دانشجویان خودش تکلیف سخت ومالایطاق می‌داد. تکلیف همکار من این بود که در این دو سال ارشد یا زودتر، مثنوی را بخواند و مشخص کند کلمه «رضا» چندبار در مثنوی به کار رفته است. همکار من عزای عظمی گرفته بود. آن زمان یک پدیده برای مشتاقان ادبیات در دسترس قرار گرفت؛ سی‌دی‌های گنجور با قابلیت جست‌و‌جو! من آن را تهیه کرده بودم. شب در خانه با یک جست‌وجوی ساده ابیاتی از مثنوی را که «رضا» داشتند (به گمانم 11 بیت) نوشتم و صبح فردا برای همکارم آوردم! حالا او عزای دیگری گرفت؛ اگر همین امروز یا حتی در یکی‌دوماه آینده تکلیف را به استاد عرضه کند، استاد شک خواهد کرد. مثنوی‌پژوهی هفتاد من عمر می‌خواهد. اگر دوست ما می‌خواست بعد از یکی، دوسال تکلیف را به استاد بدهد، انتظار این مدت درحالی که گنجی در دست داشت، او را از پا درمی‌آورد! پس این دو سال برای او و برای استادش یک «مسئله» بود. ایلان ماسک نیز از «دو سال دیگر» که مهلتی به دنیاست، خبر داده و هوش‌مصنوعی مهلتش تمام شده و اینترنت نامریی از خیلی قبل‌ها در کار ما رخنه کرده است. 

غول اول: اینترنت نامریی

«اینترنت نامریی» (Invisible Internet) به غولی از فضای وب اشاره دارد که مانند بخش زیرین کوه یخ از دید موتور‌های جست‌و‌جو و نظارت‌های عمومی پنهان است. بخش آشکار همان اینترنتی است که هر روز استفاده می‌کنیم، مثل سایت‌های خبری، شبکه‌های اجتماعی و فروشگاه‌های آنلاین که در گوگل، ایندکس یا مشخص شده است. پنهان‌بودن اینترنت نامریی نه‌فقط فنی که فرهنگی، سیاسی و اخلاقی است. شاید مهربان باشد، اما بیشتر ترسناک است. اینترنت نامریی چند لایه دارد. یک لایه، «وب عمیق» (Deep Web) است، یعنی بخشی از اینترنت که با موتور‌های جست‌و‌جو، ایندکس نمی‌شود و می‌توان به پایگاه‌های داده علمی، پرونده‌های دولتی، سرویس‌های بانکی، سامانه‌های پزشکی، و هر نوع محتوایی اشاره کرد که فقط با احراز هویت یا جست‌وجوی مستقیم در دسترس است. این را می‌توان روی مهربان غول دانست، اما وب تاریک (Dark Web) ترسناک است. این بخش، بخشی از وب عمیق است که به‌صورت آگاهانه و با فناوری‌های خاص از دید عموم و موتور‌های جست‌و‌جو پنهان نگه داشته می‌شود و فقط با نرم‌افزار‌های خاص مانند «تور» (Tor‌=The Onion Router) [یک شبکه ارتباطی ناشناس و رمزگذاری‌شده مثل پوست پیاز که به افراد اجازه می‌دهد بدون آنکه کسی بفهمد «که هستند» و «کجا هستند»، به اینترنت متصل شوند] در دسترس است. وب تاریک، از یک‌سو بستری برای فعالیت‌های مشروع مانند حفاظت از حریم خصوصی است و مورد علاقه روزنامه‌نگاران آزاد وکنش‌گران سیاسی، اما در سوی دیگر، به کار مجرمان قاچاق، فروش داده و حملات سایبری هم می‌آید. 

پروژه اینترنت نامریی با تور فرق دارد؛ تور، بیشتر برای مرور ناشناس وب عادی است، در حالی که پروژه اینترنت نامریی شبکه‌ای درونی و بسته است که ارتباطات آن صرفاً درون خود شبکه انجام می‌شود. در اینترنت نامریی ما محتوای ایندکس‌نشده هم داریم که فایل‌ها، تصاویر، صفحات وب و ویدئو‌هایی هستند که در دسترس عمومی‌اند، اما موتور‌های جست‌و‌جو آنها را پیدا نمی‌کنند، مثلاً به‌دلیل نبود لینک یا تنظیمات. البته برخی از محتوای ایندکس‌نشده در وب نامریی به معنای امنیتی آن نیست، مثل فایل‌های شخصی، یا صفحات بدون لینک. این بخش از نظر فنی پنهان است، اما ناشناس یا خطرناک نیست. در همین فضا شبکه‌های ناشناس  (Anonymity Networks)، فناوری‌هایی هستند که با استفاده از رمزگذاری چندلایه، مسیریابی ناشناس و توزیع ترافیک، هویت کاربر و مسیر داده را پنهان می‌کنند، مثلاً با هدف حفاظت از آزادی بیان و جلوگیری از ردیابی و کنترل. 

می‌توان به مهربانی‌های اینترنت فکر کرد. کسانی هم که در این فضا فعال هستند بیشتر اسیر همین مهربانی شده‌اند، اما اینترنت نامریی تهدیدی است برای حریم خصوصی. کاربران عادی، ناآگاه از خطرات، ممکن است در تماس با محتوای آلوده یا دام‌های دیجیتال قرار گیرند و داده‌های حساس مانند اطلاعات کارت بانکی، هویت دیجیتال و رمز عبور ممکن است از طریق بازار‌های تاریک فروخته شود. من شماری از تهدیدات را که معمولاً در نظام ارتباطات و فعالان این عرصه به آنها اشاره می‌شود، فهرست می‌کنم: جرائم سایبری مانند تجارت غیرقانونی مواد مخدر، اسلحه، انسان، اطلاعات و بدافزار، هک و انتشار داده‌های محرمانه. پولشویی و تبادلات رمزارزی بدون ردپا. انتشار شایعات، پروپاگاندا یا محتوای افراطی و تروریستی، سازماندهی جنبش‌های غیرشفاف یا خشونت‌آمیز. فقط یکی از ترسناک‌ترین بخش‌های اینترنت نامریی آنجاست که بازار سیاه جهانی شکل می‌گیرد که در آن حریم خصوصی و داده‌های شهروندان مانند کالا معامله می‌شود. مورد دیگر گسترش سریع اخبار جعلی، تبلیغات هدفمند و عملیات تأثیرگذاری است که تشخیص صدق را از کذب برای شهروندان عادی غیرممکن می‌کند و از همه مهم‌تر شاید، رشد جرائم سایبری از هک تا تجارت غیراخلاقی. 

به همین‌خاطر شاید یک پیش‌بینی نزدیک به واقع آن باشد که در آینده با بحران اعتماد به فضای وب مواجه شویم. وقتی هر شهروند در یک حباب اطلاعاتی نامریی و شخصی‌سازی شده زندگی کند، دیگر توافقی بر سر واقعیت‌های اساسی وجود نخواهد داشت و گفت‌وگوی سازنده در جامعه را غیرممکن می‌سازد. بحران حباب اطلاعاتی و فروپاشی اعتماد، پیامد همزمان وب پنهان و وب آشکار الگوریتمی است؛ اولی از پنهانی و دومی از افراط در شخصی‌سازی رنج می‌برد. نتیجه؟ رفتن به فضا‌های پنهان و نامطمئن، آب‌رفتن اعتماد به دولت‌ها و رسانه‌ها و در نهایت بی‌اعتمادی شهروندان به یکدیگر! هر شهروند یک هدف بالقوه برای ناامنی روانی خواهد شد، چنانکه آثار این ناامنی را همین‌حالا به وفور می‌بینیم. چه بسا مرز میان آزادی دیجیتال و هرج‌ومرج سایبری کمرنگ شود. آینده تعامل و تبادل ما با وب، روندی دوگانه دارد. از یک طرف با پیشرفت هوش مصنوعی، رمزارز‌ها و ارتباطات رمزگذاری‌شده و بخش نامریی وب رشد خواهد کرد. در آن صورت دولت‌ها و شرکت‌ها که به مدل «دیدن و کنترل کردن» عادت کرده‌اند با اینترنت نامریی این توانایی را از دست خواهند داد و کاربران عادی به دنبال فضا‌های امن‌تر و خصوصی‌تر خواهند رفت. از طرف دیگر ممکن است دولت‌ها به سمت هوش مصنوعی شفاف بروند (که این هم از دسترس ما خارج است!). البته باید منتظر شکل‌گیری سازمان‌های ملی و بین‌المللی جدید برای نظارت‌ها و آموزش‌های سایبری هم باشیم. اکنون نمی‌توان با دقت گفت که آینده به چه شکل در خواهد آمد. عوامل تأثیرگذار بر آینده وب بی‌شمارند. قطعاً دنیا به سمت توسعه قوانین خواهد رفت، اما دورزدن قانون را چه می‌کند؟! دنیای عاقل با رعایت عدالت و آزادی، به سمت کنترل بخش ترسناک این فناوری با خود فناوری مثلاً با الگوریتم‌های هوش مصنوعی می‌رود و دنیای کمتر اندیشیده به دنبال قوانین سخت یا حذف و تعدیل. در هر دو دنیا کمتر به ارتقای سواد دیجیتال فکر خواهند کرد. ما گمان می‌کنیم در ایران سواد دیجیتال پایین است، اما این یک معضل جهانی است. به هر حال اینترنت نامریی آینه‌ای از روان انسان مدرن یعنی میل به آزادی، پنهان‌کاری، و گریز از کنترل است. اگر خردمندانه مهار نشود، هرج و مرج دیجیتال و بی‌اعتمادی به دولت‌ها و به یکدیگر را داریم ولی با بیداری از خواب بی‌خردی و از دست‌ندادن فرصت‌ها ابزاری برای بهترین نیاز‌های بشر مدرن خواهد بود. 

غول دوم: استارلینک

حالا وقتی با اینترنت نامریی آشنا شدیم می‌توان رفت سراغ پروژه ایلان ماسک یعنی ماهواره‌های استارلینک. او اخیراً گفته است «تا دو سال دیگر، تلفن شما مستقیماً به ماهواره‌های استارلینک وصل خواهد شد. بدون اپراتور، بدون سیم‌کارت، بدون منطقه کور»! می‌توان ابتدا دلخوش بود به پوشش سراسری در مناطق دورافتاده یا فاقد زیرساخت مخابراتی مثل کوه و دشت و دریا یا کاهش هزینه‌های زیرساختی از دکل تا فیبر نوری (که در تهران درحال کندن زمین برای جاسازی آن هستند!)، اما این حتی روی مهربان آن هم نیست. ماسک برای رضای خدا موش نگرفته است. هر کشور و ملتی که به ماهواره او وصل شود بعداً باید با قوانین او زندگی کند. حتی اگر دولت‌ها راضی باشند، ملت‌ها دست آخر و هنگامی که خود را اسیر تحت وب استارلینک دیدند و از جیب هم هزینه کردند ناراضی و درواقع نابود خواهند شد. بماند که توان دولت‌ها برای نظارت یا حفاظت از داده‌ها به صفر نزدیک می‌شود. به‌علاوه حاکمیت فرکانسی و تنظیم مقررات چه خواهد شد؟! اپراتور‌های موبایل طبق مجوز‌های ملی کار می‌کنند، اما استارلینک یک شبکه جهانی است که کنترل بر آن سخت‌تر است. امنیت ملی و ایمنی ارتباطات نیز در خطر است. دولت‌ها نمی‌توانند به‌راحتی ارتباطات حساس یا اضطراری را از زیرساخت خارجی عبور دهند. درآمد دولت‌ها از مالیات، مجوز و تعرفه‌های ارتباطی کاهش می‌یابد، چون بسیاری از کاربران دیگر به خدمات اپراتور‌های داخلی نیازی نخواهند داشت. نقش اپراتور‌های سنتی کاهش می‌یابد و سهم بازارشان کم می‌شود، مخصوصاً در مناطق کم‌جمعیت یا روستایی. سرمایه‌گذاری‌های کلان آنها در دکل‌ها و فیبر‌ها زیر‌سؤال می‌رود و مدل اقتصادی‌شان بی‌اثر می‌شود. آنها ناچار خواهند شد یا با استارلینک همکاری کنند یا با آن رقابت کنند که در هر دو حالت نیاز به بازنگری در ساختار مالی و فنی دارند. هرچند تمامی آنچه گفته شد امنیتی و سیاسی است، اما فهمش با این مثال‌ها روشن‌تر است که، چون وابستگی کشور‌ها به زیرساخت جهانی بیشتر می‌شود، در صورت بروز تنش سیاسی یا تحریم، شرکت صاحب ماهواره می‌تواند دسترسی را محدود یا قطع کند! احتمال اختلال، ربایش داده یا جاسوسی از فضا افزایش می‌یابد و شبکه‌های ملی آسیب‌پذیرتر می‌شوند. نظارت بر حریم خصوصی دشوارتر خواهد شد، زیرا مسیر داده از مرز‌های ملی عبور می‌کند و تابع قوانین کشور دیگری است. جرائم سایبری و فعالیت‌های غیرقانونی نیز آسان‌تر پنهان می‌شود، چون مسیر ارتباطات قابل رهگیری نخواهد بود. در ایران این چیز‌ها سخت‌تر و زیان‌آورتر خواهد بود. ظاهراً چیزی مانع آن نیست. تجربه پارازیت نشان داد نباید سراغ آن رفت. ممکن است فعلاً فقط تلفن‌های همراه جدید یا با تراشه مخصوص موفق به این ارتباط باشند که عمومی شدن آن هم زمان زیادی نمی‌برد. 

غول سوم: هوش مصنوعی

اما غول سوم هوش مصنوعی است که همین آقای ماسک و دیگران در آن پیشرو هستند. در ایران هنوز بین اینکه سازمان هوش مصنوعی داشته باشیم یا وزارتخانه کاسه «چه کنم» دست گرفته‌ایم و زیرساختی نداریم. مردم به شدت معتاد به استفاده از آن شده‌اند. دانشگاه‌ها هنوز دانشجو را درگیر مقاله‌نویسی می‌کنند و نمی‌دانند آن آقای هوش دارد چه‌ها که نمی‌کند! آموزش‌وپرورش هم مانند آموزش عالی در غفلت است. مثالی بزنم. سال پیش که حتی بسیاری از دانشگاهیان و استادان به‌ویژه علوم انسانی از کارکرد‌های حتی عادی هوش مصنوعی بی‌خبر بودند یا اگر چیزکی می‌شنیدند آن را در محیط دانشگاه به تمسخر و تکذیب می‌گرفتند و خود را اجل از آن می‌دانستند که یافته‌های سالیان دراز تحصیل را با نوع مصنوعی‌اش مقایسه کنند، فرزند من که کلاس هفتم بود و در کلاس مجازی مدرسه (به‌خاطر آلودگی هوا) شرکت داشت، با این پرسش معلم ریاضی روبه‌رو شد که «مستطیلی به طول 4 و عرض 3 را حول محور طول می‌چرخانیم. مساحت استوانه‌ای را که شکل می‌گیرد، محاسبه کنید». دانش‌آموز سریعاً پرسش معلم را به چت‌جی‌پی‌تی داد و با یک دستور اضافه برای مرتب‌کردن پاسخ که مناسب عرضه به معلم باشد، پاسخ بسیار حرفه‌ای را ارسال کرد! من آن زمان تازه متوجه شدم که او مدت‌هاست با این حربه برای کلاس‌های مجازی آشناست! 

هوش مصنوعی دیگر یک ابزار صرف نیست، در حال تبدیل‌شدن به «زیربنای تمدن دیجیتال» است. در نخستین دهه ظهور هوش مصنوعی، بیشتر ابزار‌ها رایگان یا نیمه‌رایگان بود تا داده و کاربر جمع‌آوری کنند. اما امروز، شرکت‌های بزرگ در حال تجاری‌سازی کامل آن هستند. این یعنی خروج میلیارد‌ها دلار پول از کشور‌ها و سرازیرشدن آن به امریکا و چین و کسانی که زیرساخت دارند. اکنون مدل‌های پیشرفته فقط با اشتراک پولی در دسترس است، مرز‌های ملی را درنوردیده است و در اختیار دولت‌ها، شرکت‌ها و حتی افراد ناشناس قرار دارد. تولید اطلاعات جعلی و شبیه‌سازی صدا و تصویر می‌تواند به جنگ‌های روانی و رسانه‌ای دامن بزند. کشور‌هایی که زیرساخت و داده کافی ندارند، در برابر قدرت‌های فناورانه آسیب‌پذیر می‌شوند. الگوریتم‌ها می‌توانند رفتار شهروندان، افکار عمومی و حتی انتخابات را جهت‌دهی کنند. وابستگی کشور‌ها به زیرساخت شرکت‌های بزرگ خارجی خطرناک است، زیرا ممکن است در شرایط بحران، دسترسی‌ها محدود یا دستکاری شوند. به‌همین دلیل، آینده امنیت ملی بدون استقلال فناورانه در حوزه هوش مصنوعی قابل تصور نیست. 

در ساحتی دیگر، هوش مصنوعی همزمان که یادگیری را آسان‌تر می‌کند، خطرات عمیقی برای نهاد‌های علمی دارد. ارزش کوشش انسانی و تفکر تحلیلی کاهش می‌یابد، زیرا پاسخ‌ها سریع و آماده در دسترس‌اند. این را به‌ویژه کسانی که قبل از این پدیده، در فرایندی فرسایشگر و خانمان‌سوز یک رساله دکتری را با ده‌ها منبع تهیه کرده‌اند می‌فهمند!

از این پس معلمان و دانشگاه‌ها در تشخیص دانش واقعی از تولید ماشینی ناتوان می‌شوند. پژوهش‌ها ممکن است به تکرار و ترکیب سطحی محتوا محدود شوند، نه به کشف واقعی. چنانکه قبل از هوش مصنوعی خود اینترنت کم‌وبیش چنین بلایی بر سر پژوهش‌ها آورده بود. نسل جدید به‌جای فهم عمیق، به جست‌و‌جو و کپی معتاد می‌شود.

شرکت‌ها کنترل کامل بر داده، آموزش و خروجی را در اختیار دارند. شکاف میان کشور‌ها و افراد ثروتمند با طبقات پایین‌تر افزایش می‌یابد، چون دسترسی به نسخه‌های قدرتمندتر هزینه‌بر خواهد بود. نتیجه این روند آن است که هوش مصنوعی به‌جای یک «دانش عمومی»، تبدیل به «سرمایه خصوصی» می‌شود و عدالت دانشی و حتی معرفتی در جهان آسیب می‌بیند. شاید فقط استادان فلسفه بتوانند تبیین کنند که «فاصله طبقاتی معرفتی» برای انسانی که مسیری تکاملی را طی کرده است و به معرفت پیشینی هم مجهز است، ممکن است یا غیرممکن. 

آیا دانشگاه‌ها خودشان را آماده کرده‌اند که در بازتعریف نقش خود از «منبع دانش» به «پرورش تفکر نقاد» تعجیل کنند.

آنچه من می‌بینم پاسخ منفی است. به همین دلیل معتقدم خطرناک‌ترین پیامد، نه اقتصادی و نه سیاسی، بلکه شناختی است. یکی از استادان دانشگاه معتقد است انسان مدرن در حال از دست‌دادن مهارت تمرکز، صبر و تفکر عمیق است. اتکا به پاسخ‌های آماده موجب می‌شود مغز درگیر فرایند «یادگیری زنده» نشود. تحلیل، خلاقیت و قضاوت اخلاقی جای خود را به الگوریتم‌ها می‌دهند. با گذشت زمان، انسانی که ارباب ابزار است، نوکر ابزار می‌شود. به تعبیر فیلسوفان فناوری، در آینده شاید انسان «می‌داند که می‌داند»، اما نمی‌فهمد چرا یا چگونه می‌داند. 

در ساحتی عمیق‌تر، هوش مصنوعی ممکن است تعریف «انسان بودن» را تغییر دهد. اگر خلاقیت، احساس و قضاوت اخلاقی نیز شبیه‌سازی شود، مرز میان انسان و ماشین کمرنگ خواهد شد. اکنون بسیاری را می‌شناسم که نشسته‌اند و چاره اختلافات زن‌وشوهری را از دستگاه مقابل‌شان می‌پرسند! خود من تجربه تعبیر خواب را به ناچار با هوش‌مصنوعی درمیان گذاشتم و از جواب هم قانع و راضی شدم! جامعه ممکن است ارزش معنوی و اخلاقی تصمیم‌ها را فراموش و فقط به کارایی فکر کند. فرهنگ جهانی یکنواخت می‌شود، چون مدل‌های زبانی بر اساس داده‌های محدود و غرب‌محور آموزش دیده‌اند. 

هوش مصنوعی را نمی‌توان متوقف کرد، اما می‌توان آگاهانه هدایتش کرد. دولت‌ها باید قوانین اخلاقی، شفافیت الگوریتمی و کنترل داده را تقویت کنند (که در این جهت هم ما فعلاً تماشاچی هستیم). دانشگاه‌ها باید مهارت تفکر انتقادی، فلسفه علم و اخلاق فناوری را آموزش دهند. کاربران باید یاد بگیرند که هوش مصنوعی «ابزار فهم» است، نه «جایگزین فهم». جوامع باید میان سرعت پیشرفت و عمق آگاهی توازن برقرار کنند. 

می‌دانم این‌توصیه‌ها در شرایط فعلی ما که به قول تکراری رییس‌جمهور «روی گنج خوابیده‌ایم، اما گرفتار یک میلیارد دلار هستیم»، خواب و رؤیاست، اما باید از خواب بیدار شویم. این سه غول روی دیوار‌های شهر رسیده‌اند. ترسناکند، اما اگر علی‌بابای دانش خود را به کار بگیریم، می‌توانیم آنها را در چراغ جادو به کنترل درآوریم. دانش آن، اما در اختیار مدیران سفارشی و رانتی نیست.

منبع: روزنامه جوان