به نقل از فارس، در گزارشی تازه که در اجلاس هوش مصنوعی برای خیر عمومی در ژنو منتشر شد، اتحادیه بین المللی مخابرات (ITU) وابسته به سازمان ملل متحد هشدار داد: شرکت ها باید از ابزارهای پیشرفته برای شناسایی و مقابله با اطلاعات نادرست و محتوای دیپ فیک استفاده کنند؛ چرا که این پدیده به تهدیدی جدی برای امنیت انتخاباتی و نظام های مالی تبدیل شده است. دیپ فیک ها شامل تصاویر، ویدیوها و صداهای تولیدشده با هوش مصنوعی که چهره یا صدای افراد واقعی را به طور متقاعدکننده ای بازسازی می کنند، در حال تبدیل شدن به ابزاری خطرناک در جنگ های اطلاعاتی اند.به گفته ITU، مقابله با این فناوری نیازمند وضع استانداردهای سخت گیرانه و همکاری گسترده در سطح جهانی است.ITU در این گزارش توصیه کرده است که پلتفرم های توزیع محتوا، به ویژه شبکه های اجتماعی، پیش از انتشار محتوا از ابزارهای تأیید دیجیتال برای تشخیص اصالت تصاویر و ویدیوها بهره ببرند. به گفته ITU، این نهاد در حال تدوین استانداردهایی برای واترمارک گذاری روی ویدیوهاست که حدود 80 درصد ترافیک اینترنت را تشکیل می دهند. این واترمارک ها قرار است شامل داده هایی مانند هویت تولیدکننده و زمان تولید باشند تا به تشخیص اصالت و اعتبار محتوا کمک کنند.توماز لواک، بنیان گذار شرکت سوییسی Umanitek، نیز بر لزوم اقدام پیش دستانه بخش خصوصی در مقابله با این تهدیدها تأکید کرد و گفت: هوش مصنوعی هر روز قدرتمندتر، سریع تر و هوشمندتر می شود. باید سطح دانش و مهارت کاربران را ارتقا دهیم تا قربانی این سیستم ها نشوند. همچنین بیلال جاموسی، رییس گروه های مطالعاتی در دفتر استانداردسازی ITU، ضمن تأکید بر ضرورت تدوین استانداردهای جهانی برای شناسایی و کنترل محتوای جعلی گفت: اعتماد عمومی به شبکه های اجتماعی به شدت کاهش یافته است، چون مردم نمی دانند چه چیزی واقعی است و چه چیزی جعلی. مقابله با دیپ فیک ها یکی از بزرگ ترین چالش هاست، زیرا هوش مصنوعی تولیدی می تواند محتوایی کاملاً واقعی نما تولید کند. |