به گزارش خط رند ۹۱۲ به نقل از مهر؛ ت طی دو دهه گذشته، کاربران در عمل در محیطی فعالیت می کردند که در آن تصمیم گیری در رابطه با محتوای قابل مشاهده، در اختیار الگوریتم هایی قرار داشت که توسط شرکتهای فناوری طراحی و کنترل می شدند. هرچند ابزارهایی نظیر دنبال کردن حساب ها، لایک کردن محتوا یا انتخاب گزینه «علاقه ای ندارم» وجود داشت، اما منطق اصلی توزیع محتوا بازهم در اختیار سیستم های سفارش گر بود.
اکنون نشانه های یک تغییر بنیادین درحال ظهور است. شبکه های اجتماعی بزرگ تلاش می کنند قسمتی از کنترل الگوریتم را به کاربران واگذار کنند و به آنها امکان دهند مستقیماً در شکل گیری به خوراک اطلاعاتی خود مشارکت داشته باشند. این تحول که با استفاده از مدلهای هوش مصنوعی و مدلهای زبانی بزرگ همراه شده، از جانب برخی ناظران به عنوان قدمی در راستای افزایش شفافیت و استقلال کاربران توصیف می شود. در مقابل، گروهی دیگر باور دارند که این تغییر صرفا نسخه پیشرفته تری از همان سازوکارهای قدیمی جذب توجه است و دستاوردهای امنیتی جدیدی را نیز بهمراه خواهد داشت.
بحران الگوریتم های نسل اول
مبنای اصلی انتقادات به شبکه های اجتماعی در دهه گذشته به نحوه عملکرد الگوریتم های سفارش گر بازمی گشت. این الگوریتم ها با هدف افزایش زمان حضور کاربران در پلت فرم طراحی شده بودند و موفقیت آنها برمبنای شاخص هایی مانند نرخ تعامل، مدت مشاهده محتوا و احتمال برگشت کاربر سنجیده می شد.
این منطق اقتصادی دستاوردهای گسترده ای ایجاد کرد. محتوای هیجان برانگیز، خشم آلود، جنجالی و قطبی کننده به طور معمول عملکرد بهتری نسبت به محتوای متعادل داشت و درنتیجه الگوریتم ها به شکل ساختاری بسمت برجسته سازی چنین محتواهایی حرکت کردند. در خیلی از مطالعات حوزه ارتباطات دیجیتال، این وضعیت به ایجاد اتاق های پژواک، افزایش قطبی سازی سیاسی، گسترش اطلاعات ناصحیح و تضعیف گفت و گوی عمومی نسبت داده شده است.
در این الگوی معماری، کاربر در عمل نمی دانست چرا یک محتوا به او نمایش داده می شود. الگوریتم مانند یک جعبه سیاه عمل می کرد و پروسه تصمیم گیری آن برای عموم قابل فهم نبود. همین عدم شفافیت، یکی از اصلی ترین محورهای انتقاد نهادهای تنظیم گر، محققان و کنشگران حقوق دیجیتال در سالیان اخیر بوده است.
ظهور الگوریتم های قابل تنظیم
پاسخ صنعت فناوری به این انتقادات، حرکت بسمت الگوریتم های شخصی سازی شده و قابل کنترل است. در این رویکرد، کاربر صرفا دریافت کننده سفارش های الگوریتم نیست، بلکه به قسمتی از پروسه آموزش و هدایت آن تبدیل می شود.
شبکه اجتماعی تردز در ژوئن ۲۰۲۶ قابلیت «Your Algo» را معرفی نمود. این توانایی توسعه نسخه قبلی موسوم به «Dear Algo» بحساب می آید. در نسخه اولیه، کاربران باید به شکل عمومی پست هایی منتشر می کردند و از الگوریتم می خواستند محتوای خاصی را بیشتر یا کمتر نمایش دهد. نسخه جدید این امکان را به شکل اختصاصی فراهم نموده است. کاربر می تواند مشخص نماید که برای یک، سه یا هفت روز آینده چه مطالبی بیشتر یا کمتر در فید او ظاهر شوند. بطور مثال، فرد می تواند درخواست افزایش محتوای ورزشی یا کاهش اخبار تنش زا را ثبت کند.
اینستاگرام نیز در سال ۲۰۲۶ ابزار «Your Algorithm» را در سرتاسر بخش های فید، اکسپلور و ریلز گسترش داد. این ابزار به کاربران نشان داده است که پلت فرم چه مطالبی را به عنوان علایق اصلی آنها شناسایی کرده است. سپس کاربر می تواند این برداشت را اصلاح نماید و به الگوریتم اعلام کند که چه مطالبی برای او اهمیت بیشتری دارند. بگفته آدام موسری، مدیر اینستاگرام، مدلهای زبانی بزرگ امکان توضیح پذیرتر شدن سیستم های سفارش گر را فراهم نموده اند و می توانند برای کاربران روشن سازند که چرا یک محتوا در معرض دید آنها قرار گرفته است.
تیک تاک نیز از سال ۲۰۲۴ ابزار «Manage Topics» را در اختیار کاربران قرار داده است. این توانایی امکان تنظیم میزان نمایش مطالبی مانند ورزش، سفر، طنز، امور جاری، غذا یا هنر را فراهم می آورد. در سال ۲۰۲۵ این توانایی با فیلترهای هوشمند مبتنی بر هوش مصنوعی توسعه یافت. در این نسخه، حذف یک واژه به معنای حذف مجموعه ای از واژگان مترادف و مرتبط نیز خواهد بود. به عنوان نمونه، محدود کردن واژه «بازسازی» سبب کاهش نمایش محتواهای در رابطه با «نوسازی» و اصطلاحات مشابه می شود.
انتقال قدرت یا بازطراحی کنترل؟
در نگاه نخست، این تحولات نشانه ای از دموکراتیک تر شدن شبکه های اجتماعی به نظر می آید. کاربر می تواند ترجیحات خودرا به شکل صریح بیان کند و نقش فعال تری در مدیریت محیط اطلاعاتی خود داشته باشد. در عین حال، حقیقت پیچیده تر از است.
الگوریتم های جدید بازهم توسط شرکتهای فناوری طراحی می شوند و مرزهای انتخاب کاربران را نیز همان شرکت ها تعیین می کنند. در حقیقت، کنترل از سطح انتخاب محتوا به سطح انتخاب ترجیحات منتقل شده است. کاربر می تواند میان انتخابهای موجود تصمیم بگیرد، اما چارچوب اصلی بازهم در اختیار پلت فرم باقی می ماند.
این وضعیت نوع جدیدی از وابستگی شناختی را بوجود می آورد. در گذشته الگوریتم تلاش می کرد رفتار کاربر را پیش بینی نماید. حالا کاربر نیز در پروسه آموزش الگوریتم مشارکت می کند و ترجیحات خودرا مستقیماً در اختیار آن قرار می دهد. درنتیجه، شبکه های اجتماعی به اطلاعات بسیار عمیق تری در رابطه با علایق، حساسیت ها، نگرانی ها و اولویت های کاربران دسترسی پیدا می کنند.
مخاطرات امنیتی نسل جدید الگوریتم ها
یکی از مهم ترین دستاوردهای این تحول، افزایش دقت پروفایل سازی رفتاری است. هنگامی که کاربر بطور مستقیم اعلام می کند چه مطالبی را دوست دارد یا از چه مطالبی اجتناب می کند، پلت فرم به داده هایی دسترسی پیدا می کند که پیشتر تنها بوسیله تحلیل غیرمستقیم رفتار قابل استخراج بود.
این مساله از منظر امنیت داده و حریم خصوصی اهمیت ویژه ای دارد. داده های ترجیحی می توانند تصویری بسیار دقیق از خصوصیت های روان شناختی افراد ایجاد کنند. چنین داده هایی برای تبلیغات هدفمند، عملیات نفوذ شناختی، کمپین های سیاسی و حتی کارهای اطلاعاتی ارزش بالایی دارند.
خطر دیگر، تشدید پدیده خودگزینی اطلاعاتی است. هنگامی که کاربران بتوانند فعالانه موضوعات نامطلوب را حذف نمایند، احتمال ایجاد محیط های اطلاعاتی بطورکامل همگن با ترجیحات کاربر بیشتر می شود. در چنین شرایطی، افراد بیشتر از گذشته در معرض محتوایی قرار می گیرند که باورهای موجود آنها را تأیید می کند. نتیجه این پروسه می تواند کاهش مواجهه با دیدگاه های متفاوت، تضعیف تفکر انتقادی و افزایش قطبی سازی اجتماعی باشد.
همچنین امکان سوءاستفاده از این توانایی ها برای عملیات دستکاری افکار عمومی وجود دارد. مهاجمان می توانند با شناخت نحوه عملکرد الگوریتم های جدید، محتواهایی طراحی نمایند که از فیلترهای ترجیحی کاربران عبور کرده و با این وجود پیام های خاصی را به شکل هدفمند منتقل نمایند. به باور کارشناسان، هرچه الگوریتم ها شخصی تر شوند، طراحی عملیات نفوذ نیز دقیق تر و مؤثرتر خواهد شد.
آینده شبکه های اجتماعی در عصر الگوریتم های شخصی
جهت گیری جدید صنعت فناوری بیان کننده آنست که شبکه های اجتماعی درحال عبور از الگوی رسانه های جمعی بسمت الگوی خدمات بطورکامل شخصی سازی شده هستند. خوراک اطلاعاتی آینده بیشتر از آن که شبیه یک کانال تلویزیونی مشترک باشد، به محیطی اختصاصی و منحصربه فرد برای هر کاربر شباهت خواهد داشت.
این تحول ظرفیت هایی مهم برای افزایش رضایت کاربران و کاهش قسمتی از نارضایتی های ناشی از الگوریتم های سنتی بوجود می آورد. با این وجود، تمرکز فزاینده بر شخصی سازی، پرسش های تازه ای در رابطه با شفافیت، حریم خصوصی، استقلال شناختی و امنیت اطلاعات مطرح می سازد.
نقطه اصلی مناقشه در سال های آتی احتمالا دیگر بر سر این نخواهد بود که «چه کسی محتوا را انتخاب می کند». پرسش راهبردی تر آنست که «چه کسی ترجیحات انتخاب محتوا را تعریف می کند».
در فضای دیجیتال امروز، قدرت واقعی در اختیار بازیگری قرار دارد که بتواند معماری ترجیحات کاربران را شکل دهد. الگوریتم های قابل تنظیم، هرچند قسمتی از کنترل را به کاربران بازمی گردانند، همزمان امکان بی سابقه ای برای شناخت، طبقه بندی و هدایت رفتار آنها فراهم می کنند. همین ویژگی، نسل جدید شبکه های اجتماعی را به یکی از مهم ترین میدان های رقابت در عرصه امنیت شناختی و حکمرانی داده تبدیل نموده است.
منبع: 93z.ir
