خطر فروش رازهای کاربران در ورشکستگی کاراکتر.ایآی؛ هشدار کارشناسان حریم خصوصی
به گزارش رسانشر، ورشکستگی پلتفرم محبوب هوش مصنوعی «کاراکتر.ایآی» (Character.ai) یکی از کمتر بررسیشدهترین خطرات این تکنولوژی را به نمایش گذاشته است: شرکتهایی که رازهای عمیق کاربران را در اختیار دارند، ممکن است برای همیشه دوام نیاورند و دادههایشان در بازاریابی ورشکستگی به فروش برسد.

وقتی رازها در دست خریداران ناشناس میروند
دهها میلیون کاربر، از جمله کودکان و نوجوانان، با چتباتهای این پلتفرم روابط عاطفی، مشاوره روانی یا حتی مشاوره حقوقی برقرار کردهاند. اکنون که «کاراکتر.ایآی» در آستانه ورشکستگی قرار گرفته و موافقت کرده بخشی از داراییهای خود را به قیمت ۲۰ میلیون دلار به دیزنی بفروشد، اسناد دادگاه نشان میدهد دادههای کاربران میتواند به خریداران دیگری واگذار شود.
کالی شرودر، مدیر برنامه هوش مصنوعی و حقوق بشر در مرکز اطلاعات حریم خصوصی الکترونیک (EPIC) میگوید: «وقتی افراد با یک ربات انساننما گفتوگو میکنند، اغلب اطلاعاتی بسیار شخصیتر و حساستر را در میان میگذارند.» او هشدار میدهد که در فرآیند ورشکستگی، بسیاری از حفاظتهای حریم خصوصی که کاربران فکر میکردند دارند، ناگهان دیگر اعمال نمیشوند.
خطر فراتر از کاربران مستقیم
این خطر تنها کاربران مستقیم را تهدید نمیکند. شرودر توضیح میدهد: «ممکن است کاربری درباره دوستان یا اعضای خانوادهاش اطلاعاتی به اشتراک بگذارد، مثلاً بگوید دوستش همجنسگراست و نمیداند چگونه واکنش نشان دهد. حالا افرادی که هرگز با این وبسایت تعامل نداشتهاند، بخشی از مجموعه داده شدهاند.»
ائتلافی متشکل از دادستانهای کل ۴۰ ایالت آمریکا در دادگاه اقدام کرده و از قاضی خواسته تدابیری برای حفاظت از کودکان و حریم خصوصی اعمال کند. با این حال، ملیسا جاکوبی، استاد حقوق در دانشگاه کارولینای شمالی، معتقد است بدون قوانین قویتر حریم خصوصی در سطح فدرال، این اقدامات قدرت اجرایی محدودی خواهند داشت.
سیاستهای حریم خصوصی؛ تضمینی در برابر ورشکستگی نیستند
سیاست حریم خصوصی «کاراکتر.ایآی» اجازه میدهد دادهها برای آموزش مدلها، توسعه الگوریتمها و تبلیغات هدفمند استفاده شوند. شرودر نگران است که هر خریدار دادهها نیز میتواند از همین مجوزها استفاده کند: «با توجه به حساسیت شدید دادههای جمعآوری شده، این وضعیت میتواند واقعا وحشتناک باشد.»
گزارشها مبنی بر تشویق نوجوانان به خودکشی یا خشونت توسط چتباتهای این پلتفرم، حساسیت این دادهها را دوچندان میکند. اگرچه سخنگوی شرکت اعلام کرده پروندهها با توافق حلوفصل شده و شرکت متعهد به ایمنی است، اما به پرسشهای مشخص درباره حریم خصوصی کودکان پاسخ نداده است.
چه کار باید کرد؟
کارشناسان توصیه میکنند کاربران دادههای خود را از سرویسهایی که اطلاعات حساس در اختیار دارند، حذف کنند. «کاراکتر.ایآی» دستورالعمل حذف داده را در اعلامیه ورشکستگی خود منتشر کرده است. اگرچه شرکتها در همه حوزههای قضایی ملزم به ارائه امکان حذف نیستند، اما اغلب این امکان را فراهم میکنند. در صورت یافتن راهحل در تنظیمات حریم خصوصی، تماس با پشتیبانی یا حتی پرسش از چتباتهای دیگر (با بررسی مجدد پاسخ) میتواند کمککننده باشد.
بحران گستردهتر در راه است
تحلیلگران معتقدند ما در «حباب هوش مصنوعی» قرار داریم؛ هزینههای نجومی توسعه ممکن است بسیاری از شرکتها را به ورشکستگی بکشد. شرودر نتیجه میگیرد: «حجم اطلاعاتی که شرکتهای هوش مصنوعی در اختیار دارند، در فرآیندهای ورشکستگی دارایی بسیار جذابی محسوب میشود و بدون مقررات بیشتر، واقعا نگرانم این دادهها برای چه کارهایی استفاده شود و چه خطراتی برای مصرفکنندگان ایجاد کند.»

نظرات (0)
در حال بارگذاری نظرات...