افبیآی به مردم در مورد استفاده از دیپ فیک برای آزار و اذیت یا باج گیری اهداف با عکسها یا فیلمهای آنها هشدار داد.
این آژانس روز دوشنبه در بیانیهای اعلام کرد که پیشرفتهای فناورانه به طور مداوم کیفیت، قابلیت سفارشیسازی و دسترسی به محتوای تولید شده توسط هوش مصنوعی (AI) را بهبود بخشیده و قربانیان گزارش دادهاند که عکسها یا ویدئوهای آنها برای تبدیل به محتوای نامناسب تغییر یافته است.
افبیآی گفت که افراد سواستفاده گر معمولا محتوایی را از حساب شبکههای اجتماعی، اینترنت و خود قربانی دریافت میکنند تا محتوایی را ایجاد کنند که واقعی است و به نظر میرسد شبیه آنها باشد. سپس محتوا در شبکههای اجتماعی، انجمنهای برخط یا وب سایتهای غیراخلاقی منتشر میشود.
به گفته افبیآی، کسانی که محتوا را ایجاد میکنند و قربانیان را هدف قرار میدهند، معمولا انگیزه دریافت محتوای اضافی، منافع مالی یا توانایی آزار و اذیت دیگران را دارند.
افبیآی میگوید از آوریل شاهد افزایش تعداد قربانیانی که اخاذی را گزارش میکنند، است. قربانیها میگویند مجبور به ارائه عکسها یا فیلمهای شخصی از خود و تهدید به اشتراکگذاری عمومی آنها از ماه آوریل شده اند. سواستفاده گران عموما در ازای پست نکردن اینگونه محتوا یا ارسال عکسها یا فیلمهای واقعی از خود قربانی، درخواست باج کردهاند.
در این بیانیه آمده که عموم مردم باید محتوایی که به صورت برخط ارسال میکنند یا پیامهای مستقیم در شبکههای اجتماعی، برنامههای دوستیابی یا سایر سایتهای برخط ارسال میکنند، احتیاط کنند. اگرچه این فضاها هنگام پست یا اشتراکگذاری به ظاهر بیضرر هستند، اما این تصاویر و ویدئوها میتوانند محتوای فراوانی را در اختیار افراد سواستفاده گر قرار دهند تا از آنها برای فعالیتهای مجرمانه سواستفاده کنند. افبیآی گفت: پیشرفتها در فناوری تولید محتوا و تصاویر شخصی قابل دسترسی برخط فرصتهای جدیدی را برای عوامل مخرب برای یافتن و هدف قرار دادن قربانیان فراهم میکند. این امر آنها را در برابر خجالت، آزار و اذیت، اخاذی، زیان مالی یا ادامه قربانی شدن مجدد در درازمدت آسیبپذیر میکند.
این آژانس توصیه میکند که عموم مردم بر فعالیتهای برخط فرزندان خود نظارت کنند، مرتبا اطلاعات خود را به صورت برخط جستجو کنند تا بدانند چه چیزی در دسترس عموم است، تنظیمات حریم خصوصی را در حسابهای شبکههای اجتماعی اعمال و از رمزهای عبور پیچیده و احراز هویت چند مرحلهای برای محافظت از حسابهایشان استفاده کنند.
در این بیانیه آمده که افراد همچنین باید در پذیرش درخواستهای دوستی محتاط باشند، پول یا سایر موارد ارزشمند، خطمشیهای رازداری را به افراد ناشناس ارائه ندهند و در تعامل با حسابهای شناختهشده که خارج از الگوی رفتاری شناختهشده عمل میکنند، مراقب باشند.
این هشدار در حالی داده شده که کارشناسان و مدیران صنعت هوش مصنوعی هفته گذشته توجه خود را به خطرات رشد هوش مصنوعی جلب کردند و گفتند که کاهش خطرات آنها باید یک اولویت جهانی باشد.