شرکتهای هوش مصنوعی امروزه نه تنها در حال جمعآوری دادهها برای بهبود سیستمهای خود هستند، بلکه در حال ایجاد پروفایلی از هر کاربر نیز هستند.
به گزارش ایرانیان تحلیل، شرکتهای فناوری در حال رقابت برای توسعه هوش مصنوعی هستند که همه چیز را در مورد ما میداند و باعث میشود ما در مورد سرنوشت اطلاعاتی که با این سیستمها به اشتراک میگذاریم و اینکه چقدر از آنچه هنگام شروع مکالمه با آنها امضا میکنیم آگاه هستیم، کنجکاو شویم.
گزارش اخیر Axios تلاش میکند به این سؤالات پاسخ دهد و اشاره میکند که شرکتهای فناوری، به ویژه در غیاب مقررات روشن حاکم بر این حوزه، دادههای کاربران را به روشهای مختلفی مدیریت میکنند. برخی از دادهها برای شخصیسازی پاسخها، برخی دیگر برای آموزش سیستمهای خود یا حتی برای هدف قرار دادن تبلیغات خاص استفاده میکنند.
این گزارش نشان میدهد که سیاستهای شرکتها در این زمینه در سه مدل اصلی قرار میگیرد:
اول: حداکثر محافظت در دستگاه شما
اپل این رویکرد را اتخاذ میکند و درخواستها را تا حد امکان در تلفن یا دستگاه شما پردازش میکند، به این معنی که دادههای شما اساساً دستگاه شما را ترک نمیکنند. اگر این فرآیند به قدرت پردازش بیشتری نیاز داشته باشد، اپل از یک سیستم ابری اختصاصی استفاده میکند که ادعا میکند فقط از دادههای شما برای پاسخ به درخواست فعلی شما استفاده میکند و سپس بلافاصله آن را حذف میکند. اما توجه داشته باشید که اگر تصمیم به استفاده از سرویسهای شخص ثالث مانند ChatGPT در دستگاه اپل خود بگیرید، این محافظت از حریم خصوصی از بین میرود.
دوم: جمعآوری و استفاده گسترده
این رویکرد متا است، شرکتی که به خود اجازه میدهد از مکالمات شما با دستیار هوش مصنوعی متا برای شخصیسازی تبلیغات و محتوایی که در فیسبوک، اینستاگرام و حتی عینکهای هوشمند خود میبینید، استفاده کند. با این حال، این شرکت اصرار دارد که از مکالمات مربوط به موضوعات حساس مانند سلامت، سیاست و مذهب برای این منظور استفاده نمیکند. همچنین اخیراً یک حالت چت خصوصی موقت راهاندازی کرده است که دادهها را بلافاصله حذف میکند و به کاربران گزینه دیگری میدهد.
سوم: سازشها و گزینههای متنوع
این جایی است که اکثر سرویسهای دیگر در آن قرار میگیرند و ترکیبی از گزینهها را ارائه میدهند. برخی اجازه مکالمات موقت را میدهند که ذخیره نمیشوند، برخی قبل از استفاده از دادههای شما به اجازه صریح شما نیاز دارند، در حالی که برخی دیگر شما را به طور پیشفرض راضی میدانند مگر اینکه صریحاً انصراف دهید. کنترلها نیز متفاوت هستند: در برخی از برنامهها، میتوانید به سادگی به ربات بگویید که اطلاعات خاصی را به خاطر نیاورد، در حالی که در برخی دیگر، باید به تنظیمات پیچیدهای دسترسی داشته باشید تا حافظه ربات را برای شما مدیریت کند.
نکته شگفتانگیزی که گزارش برجسته میکند این است که سوال دیگر این نیست که “آیا شرکت از دادههای من برای آموزش استفاده میکند؟ ” بلکه «این ربات چگونه مرا درک میکند و در آینده با این درک چه کاری ممکن است انجام دهد؟»
شرکتها امروزه نه تنها در حال جمعآوری دادهها برای بهبود سیستمهای خود هستند، بلکه در حال ایجاد پروفایلی از هر کاربر نیز هستند. این پروفایل میتواند نه تنها برای بهبود پاسخها، بلکه برای طولانیتر کردن مکالمات، تغییر نظرات شما و حتی ترغیب شما به خرید محصولات خاص نیز استفاده شود.
برای اولین بار، یک مدل هوش مصنوعی به نام «ابر» تصمیم میگیرد یک کارمند انسانی را از فروشگاهی در سانفرانسیسکو اخراج کند.
هوش مصنوعی مصرفکننده در حال حرکت به سمت اتخاذ مدلی مشابه آنچه در موتورهای جستوجو و رسانههای اجتماعی اتفاق افتاد، است، جایی که تبلیغات منبع اصلی درآمد است.
شرکتهای بزرگی مانند گوگل، متا و OpenAI در حال بررسی چگونگی نمایش تبلیغات در چتباتها هستند و آنها را بیشتر به جمعآوری هرچه بیشتر دادههای کاربر تشویق میکنند.
میراندا بوگین، متخصص فناوری در مرکز دموکراسی و فناوری، هشدار میدهد که «هوش مصنوعی به طور فزایندهای به افرادی متکی خواهد شد که داوطلبانه تمام زندگی دیجیتال خود را به این ابزارها تسلیم میکنند.» او میافزاید: «هرچه سیستم بیشتر در مورد شما بداند، درخواست جزئیات بیشتر از شما برای آن آسانتر میشود.»
بوگان پیام خود را با این جمله به پایان میرساند: «ارزش داشتن یک دستیار شخصی هوشمند ممکن است برای بسیاری ارزش فدا کردن مقداری از حریم خصوصی را داشته باشد، اما مصرفکنندگان شایستهاند که جزئیات این معامله را قبل از شروع صحبت، نه بعد از اینکه خیلی دیر شده است، درک کنند.»
مهمترین سوال همچنان باقی است: در این رقابت برای شخصیسازی، آیا کاربران هنوز هم در سرنوشت دادههای خود حرفی برای گفتن دارند یا الگوریتمهای هوش مصنوعی قوانین جدید بازی حریم خصوصی را تعیین خواهند کرد؟
