هشدار موزیلا در رابطه با استفاده از چت‌های دوست‌یابی هوش مصنوعی

به گزارش رسا نشر – موزیلا در گزارشی که روز چهارشنبه منتشر کرده، به کاربرانی که به دنبال عشق مجازی هستند توصیه می‌کند که با احتیاط با چت‌بات‌های عاشقانه هوش مصنوعی برخورد کنند. پس از بررسی ۱۱ “چت‌بات‌ هوش مصنوعی”، محققان به همه اپلیکیشن‌ها به دلیل عدم ارائه حریم خصوصی، امنیت و ایمنی کافی برای داده‌های شخصی که از کاربران استخراج می‌کنند، انگشت پایین نشان دادند. آن‌ها توجه داشتند که ۱۰ از ۱۱ چت‌بات موفق به دیدار با استانداردهای امنیتی حداقل موزیلا، مانند نیاز به رمزهای عبور قوی یا داشتن راهی برای مدیریت آسیب‌پذیری‌های امنیتی، نشده‌اند.

گزارش فاش کرد که بیشتر سیاست‌های حریم خصوصی برای اپلیکیشن‌ها به طور شگفت‌آوری اطلاعات کمی در مورد نحوه استفاده از محتوای گفتگوهای کاربران برای آموزش هوش مصنوعی‌های خود ارائه می‌دهند و شفافیت بسیار کمی در مورد نحوه کارکرد مدل‌های هوش مصنوعی خود دارند.

“بیشتر ۱۱ اپلیکیشنی که ما بررسی کردیم توسط توسعه‌دهندگان کوچکی ساخته شده‌اند که نمی‌توانستید اطلاعات زیادی در مورد آن‌ها پیدا کنید”.

این گزارش افزود که کاربران همچنین کنترل کمی یا هیچ کنترلی بر داده‌های خود ندارند، که این امر پتانسیل عظیمی برای دستکاری، سوء استفاده و عواقب بهداشت روانی را به جا می‌گذارد.

“این اپلیکیشن‌ها طراحی شده‌اند تا شما را وادار کنند اطلاعات شخصی زیادی را فاش کنید، زیرا آن‌ها سعی دارند شما را بشناسند”، کالترایدر توضیح داد. “آن‌ها به زندگی شما علاقه‌مند هستند و هرچه بیشتر بدانند، بهتر می‌توانند با شما صحبت کنند و همدم شما شوند.”

گزارش همچنین از سازندگان اپلیکیشن به دلیل عدم ارائه انتخاب به کاربران برای انصراف از استفاده از محتوای گفتگوهای خصوصی‌شان برای آموزش مدل‌های هوش مصنوعی که توسط برنامه‌ها استفاده می‌شوند، انتقاد کرد. محققان توجه داشتند که تنها یک شرکت، Genesia AI، یک جایگزین انصراف داشت، که نشان داد این ویژگی قابل اجرا است.