به گزارش «خبرنامه دانشجویان ایران»؛ سر دوستی بین ما و این دوست نسبتاً مشکوکمان تقریباً باز شده و او از هر کداممان اطلاعات به خصوصی دارد. یک عکس شخصی، شماره‌تلفن، نشانی خانه یا حتی چند جمله درباره زندگی خصوصی؛ شاید به نظرتان واردکردن این اطلاعات به چت‌بات‌ها بی‌خطر باشد اما نمی‌دانید این داده‌ها کجا ذخیره می‌شوند، چطور استفاده می‌شوند یا ممکن است در اختیار چه کسی قرار بگیرند.
با این دوست، صاف و ساده نباشید
حتماً دیده‌اید بعضی اپلیکیشن‌های هوش مصنوعی با شخصیتی که مانند یک دوست با شما صحبت می‌کنند.
به حرف‌هایتان گوش می‌دهد به پرسش‌هایشان پاسخ می‌دهد و از روز و برنامه‌هایتان سؤال می‌کند.
اما این گفت‌وگوها ممکن است تنها داده‌هایی نباشند که برنامه جمع‌آوری می‌کند.
با کنار هم قرار گرفتن اطلاعاتی که در طول زمان به این برنامه‌ها می‌دهید، جزئیاتی که حتی شاید قصد مطرح‌کردنش را نداشتید هم درباره شما آشکار می‌شود.
اطلاعات شخصی، از دل صحبت‌های به‌ظاهر عادی‌تان کشف می‌شود و اگر خودتان هم مواردی مثل آدرس، تصاویر شخصی، اطلاعات هویتی و حساس و موقعیت مکانی‌تان را برای او فرستاده باشید؛ حساسیت ماجرا اوج می‌گیرد.
یک مکالمه نسبتا دست جمعی!
اگر با خودتان می‌گویید: «صحبت‌های من با هوش مصنوعی شخصیه و نمی‌خوام کسی ازش باخبر شه.»
باید بدانید اطلاعات شخصی ممکن است در فرایند آموزش مدل باقی‌مانده و در شرایطی از طریق پاسخ‌های آن بازتولید شود.
برای مثال اگر سرویس، از اطلاعات کاربران برای آموزش یا بهبود مدل استفاده کند؛ اطلاعات شما دیگر محفوظ نبوده و وارد فرایند آموزش می‌شود.
از طرفی بعضی سرویس‌ها ممکن است برای نظارت بر عملکرد، رفع خطا یا بررسی تخلفات، بخشی از گفت‌وگوها را در اختیار کارکنان مجاز یا پیمانکاران خود قرار دهند و این یعنی باز هم شخص سومی به گفت‌وگوهای شما دسترسی پیدا کرده.
خطر نشت اطلاعات هم که همیشه برای این سرویس‌ها وجود دارد.
با این حساب در واردکردن بعضی از اطلاعات خود باید حسابی دقت کنید.
البته این به معنای نمایش قطعی اطلاعات هر کاربر به دیگران نیست؛ اما دلیلی است برای اینکه شماره‌تلفن، نشانی، اطلاعات بانکی، مدارک هویتی و جزئیات خصوصی زندگی را در اختیار ابزارهای ناشناس قرار ندهید.
بررسی تنظیمات حریم خصوصی و سیاست نگهداری داده‌های آن سرویس هم جزو کارهای ضروری شماست.
سال ۲۰۲۴ در گزارش NIST درباره استفاده از داده‌های شخصی برای توسعه هوش مصنوعی و خطرات افشا یا استفاده خارج از انتظار کاربران هشدار داده شده بود.
یک دستور پنهان می‌تواند هوش مصنوعی را فریب دهد
حتی اگر سراغ سرویس‌هایی بروید که نسبت به حفظ اطلاعات کاربران اعلام آمادگی کرده‌اند؛ مشکل فریب‌خوردن سرویس باز هم اطلاعات شخصی شما را به ایستگاه خطر می‌رساند.
گاهی دستور مخرب نه از طرف کاربر، بلکه درون یک صفحه اینترنتی یا فایل قرار می‌گیرد. اگر یک عامل هوش مصنوعی آن محتوا را بخواند ممکن است فریب بخورد و برخلاف وظیفه اصلی خود عمل کند.
به این روش «تزریق غیرمستقیم دستور» گفته می‌شود.
NIST در ژانویه ۲۰۲۵ آزمایش‌هایی درباره این حمله منتشر کرد که در آن‌ها سناریوهایی مانند ارسال فایل‌های فضای ابری به گیرنده ناشناس بررسی شده بود. این خطر به‌ویژه برای ابزارهایی مهم است که به ایمیل، فایل‌ها یا حساب‌های کاربر دسترسی دارند؛ بنابراین دسترسی غیرضروری به اطلاعات شخصی را برای هوش مصنوعی فعال نکنید.
این اطلاعات را وارد چت‌بات‌ها نکنید
_اطلاعات هویتی: شماره شناسایی، تصویر مدارک، نشانی خانه و شماره تلفن.
_اطلاعات مالی: شماره کارت، رمز عبور و کدهای تأیید.
_اطلاعات خصوصی دیگران: عکس، پیام و شماره تماس دوستان یا اعضای خانواده بدون رضایت آن‌ها.
_اطلاعات حساس شخصی: جزئیات خصوصی درباره سلامت، خانواده و زندگی شخصی.
_عکس و صدای خصوصی: فایل‌هایی که انتشار یا استفاده مجدد از آن‌ها می‌تواند حریم خصوصی شما را نقض کند.
همچنین دسترسی برنامه‌ها به دوربین، میکروفن، موقعیت مکانی و فایل‌های گوشی را محدود کنید و پیش از اتصال هوش مصنوعی به ایمیل یا فضای ابری، مجوزهای آن را بررسی کنید.
قاعده ساده است؛ اطلاعاتی را که حاضر نیستید در اختیار افراد ناشناس بگذارید، بدون ضرورت به هوش مصنوعی هم ندهید.
