به نقل ازخبرآنلاین ،تینا مزدکی_هرش وارشنی، مهندس شاغل در بخش امنیت هوش مصنوعی کروم در گوگل، تاکید می کند که ابزارهای هوش مصنوعی به سرعت به یک شریک خاموش در زندگی روزمره ما تبدیل شده اند و برای کارهایی چون تحقیق عمیق، کدنویسی و جستجوهای آنلاین بسیار مفید هستند. اما به دلیل ماهیت شغلی اش در تیم امنیت، او نسبت به نگرانی های حریم خصوصی مرتبط با استفاده از هوش مصنوعی کاملاً آگاه است.

او که پیش از این در تیم حفظ حریم خصوصی گوگل کار می کرده، هشدار می دهد که مدل های هوش مصنوعی برای تولید پاسخ های مفید از داده ها استفاده می کنند و کاربران باید از اطلاعات خصوصی خود محافظت کنند تا نهادهای مخرب مانند مجرمان سایبری و کارگزاران داده نتوانند به آن ها دسترسی پیدا کنند. در این راستا، این متخصص امنیت چهار عادت را معرفی می کند که برای محافظت از داده ها در حین استفاده از هوش مصنوعی ضروری هستند:

گاهی اوقات، یک حس نادرست از صمیمیت با هوش مصنوعی باعث می شود افراد اطلاعاتی را به صورت آنلاین به اشتراک بگذارند که هرگز در حالت عادی این کار را نمی کردند. اگرچه شرکت های هوش مصنوعی دارای کارمندانی هستند که برای بهبود جنبه های حریم خصوصی مدل هایشان تلاش می کنند، اما به هیچ وجه توصیه نمی شود جزییاتی مانند اطلاعات کارت اعتباری، شماره های شناسایی، آدرس منزل، سوابق پزشکی شخصی یا سایر اطلاعات هویتی (Personally Identifiable Information - PII) را با چت بات های عمومی به اشتراک بگذارید.

بسته به نسخه ای که استفاده می شود، اطلاعاتی که با چت بات های عمومی به اشتراک گذاشته می شود، می تواند برای آموزش مدل های آتی و تولید پاسخ های مرتبط تر مورد استفاده قرار گیرد. این موضوع می تواند منجر به "نشت آموزشی" (Training Leakage) شود، جایی که مدل، اطلاعات شخصی یک کاربر را حفظ می کند و بعداً آن را در پاسخ به کاربر دیگری بازگو می کند. علاوه بر این، خطر نقض داده ها وجود دارد که می تواند اطلاعات به اشتراک گذاشته شده با چت بات را فاش کند.

به گفته وارشنی، کاربران باید با چت بات های هوش مصنوعی مانند یک کارت پستال عمومی رفتار کنند. اگر فردی حاضر نیست اطلاعاتی را روی یک کارت پستال بنویسد که ممکن است توسط هر کسی دیده شود، نباید آن را با یک ابزار عمومی هوش مصنوعی به اشتراک بگذارد.

تشخیص اینکه از یک ابزار هوش مصنوعی عمومی استفاده می کنید یا یک ابزار در سطح سازمانی (Enterprise-grade)، بسیار مهم است. در حالی که مشخص نیست مکالمات چگونه برای آموزش مدل های عمومی استفاده می شوند، شرکت ها می توانند برای مدل های سازمانی هزینه پرداخت کنند. در این مدل ها، معمولاً مکالمات کاربران برای آموزش استفاده نمی شود و بنابراین برای کارمندان امن تر است که در مورد کارهای خود و پروژه های شرکت صحبت کنند.