مسابقه بی‌پایان محبوبیت

چیزی که در ادامه قراره بخونید، یکی از مطالب مجله «دانستنیها»ست. مجله محبوب من.
دانستنیها، مدتی بخشی رو داشت به اسم «زوم» با توضیح‌ «نگاهی نزدیک به پیچیدگی‌های دنیای مدرن از نگاه علم» که از نظر من بخش بسیار جالبی بود. توی شماره ۱۹۶ (۲۳ دی ۹۶) مقاله‌ای رو با عنوان مسابقه بی‌پایان محبوبیت ترجمه و منتشر کردند که به‌نظر من، بازنشر کردنش و بازخوانی اون مقاله امروز با توجه به شرایط (نخواید دقیقاً اشاره کنم) خالی از لطف نیست.

نویسنده این مقاله، به سیستم اعتبار سنجیی که قراره در چین راه‌اندازی و اجرا بشه می‌پردازه و از چند زاویه مختلف به این سیستم نگاه می‌کنه و اون رو بررسی می‌کنه، و در آخر هم، دو نفر از اعضای تحریریه دانستنیها، نظر خودشون رو در این باره نوشتند.

خوشحال می‌شم که مقاله رو کامل بخونید، یا کامل گوش کنید. و بعد از اون با دیگران از این سیستم صحبت کنید.

می‌تونید نسخه صوتی این مقاله رو، همراه با خوندن از سوند کلود (همین پایین) بشنوید. یا بدون خوندن بشنوید، یا دانلود کنید و بعداً گوش کنید. 🙂

فهرست

آیا طرح دولت چین برای اعتبار سنجی شهروندانش و امتیاز دادن به آن‌ها، به معنای پایان حریم خصوصی شهروندان است؟

منبع: مجله وایرد
ترجمه: حسین رحمانی

«برادر بزرگ» وارد می‌شود

داستان سیستم اعتبار سنجی اجتماعی از کجا شروع شد؟

روز چهاردهم ژوئن ۲۰۱۴ (۲۴ خرداد ۱۳۹۳)، شورای دولتی چین سندی با عنوان «طرح کلی ایجاد یک نظام اعتبارسنجی اجتماعی» منتشر کرد که در نوع خود شوم و بدیمن به نظر می‌رسید. این سند هم مانند دیگر اسناد مربوط به سیاست‌گذاری‌های دولت چین، متنی طولانی و خسته کننده بود، ولی شامل ایده‌ای افراطی می‌شد، چه می‌شد اگر نوعی نمره‌ی اعتمادپذیری ملی وجود داشت و مشخص می‌کرد چه نوع شهروندی هستید؟

جهانی را تصور کنید که بسیاری از فعالیت‌های روزانه‌ی شما دائماً زیر نظر باشد و سنجیده شود؛ در فروشگاه‌های محلی و آنلاین چه چیزهایی می‌خرید؟ در هر لحظه کجا هستید؟ دوستانتان چه کسانی هستند و با آن‌ها چه تعامل‌هایی دارید؟ روزی چند ساعت به تماشای محتوای ویدئویی و انجام بازی‌های کامپیوتری می‌نشینید و چه حق اشتراک‌ها و مالیات‌هایی می‌پردازید (یا نمی‌پردازید)؟

تصور چنین جهانی دشوار نیست، چون بخشی از این جهان هم اکنون هم به لطف هیولاهای جمع آوری کننده‌ی اطلاعات از جمله گوگل، فیسبوک و اینستاگرام و نیز اپ‌های تندرستی مانند «فیت بیت»(Fitbit) محقق شده است. اما بیایید سیستمی را تصور کنیم که در آن همه‌ی این فعالیت‌ها و رفتارها براساس مجموعه‌ای از قواعد و قوانین دولتی، به شکل مثبت و منفی ارزش گذاری و در نهایت به صورت یک عدد واحد جمع بندی شده‌اند. این فرایندی است که «امتیاز شهروندی» (Citizen Score) شما را مشخص می‌کند و اعتماد پذیر بودن یا نبودنتان را به اطلاع دیگران می‌رساند. افزون بر این، امتیاز شما در یک جدول رده‌بندی عمومی متشکل از امتیازهای کل جمعیت کشور قرار می‌گیرد تا از این طریق شایستگیتان برای دریافت وام، استخدام، فرستادن فرزندانتان به مدرسه‌ای خاص یا حتی دسترسی به اطلاعات مشخص شود.

آیا با تصوری آینده‌نگرانه از «برادر بزرگ» ( Big Brother، در رمان «۱۹۸۴» جورج اورول، نماد حکومتی است که به شیوه‌های گوناگون بر زندگی مردم نظارت دارد) طرفیم که از کنترل خارج شده؟ خیر. قرار است این سیستم در چین اجرا شود؛ دولت چین مشغول توسعه دادن سیستمی به نام «نظام اعتبارسنجی اجتماعی» (Social Credit System یا SCS است تا به کمک آن، اعتماد پذیر بودن جمعیت یک میلیارد نفری‌اش را بسنجد.

دولت چین این سیستم را روشی مطلوب برای «سنجش و تقویت اعتماد» در سراسر کشور می‌داند و آن را ابزاری برای ایجاد فرهنگ «بی‌ریا بودن» معرفی می‌کند. این سیستم به عنوان سیاستی دولتی، فضایی در افکار عمومی پدید می‌آورد که در آن حفظ اعتمادپذیری شکوهمند است. این سیستم بی‌‌ریا بودن و خلوص نیت را در امور دولتی، تجاری، اجتماعی و ایجاد اعتبار قضایی تقویت می‌کند.

دیگران درباره‌ی اهداف گسترده‌تر این سیستم خوش‌بینی کمتری دارند. «جان لاگرکویست» (John Lagerkvist)، کارشناس اینترنت چینی در «مؤسسه‌ی امور بین‌الملل» سوئد، نظام ارزش دهی اجتماعی را این گونه توصیف می‌کند: «این سیستم، چه از نظر عمق و چه از نظر گستردگی، بسیار بلند پروازانه است و زیر نظر گرفتن رفتار افراد و کتاب‌هایی که می‌خوانند را شامل می‌شود. این چیزی شبیه به رهگیری مصرف‌کنندگان آمازون است با اهداف سیاسی اورولی.»

«روگیر کریمرز» (Rogier Creemers)، پژوهشگر مقطع پست دکترا و متخصص قوانین و حکومت چین در «مؤسسه ی ونولنهوون» (Van Vollenhoven Institute) در دانشگاه «لیدن» (Leiden)، این سیستم را با «نوشتن نظری در سایت yelp در حالی که دولت مراقبی از پشت سر زیر نظرتان گرفته» مقایسه می‌کند( yelp.com پایگاهی است برای نقدها و نظرهای مردم عادی درباره‌ی کسب‌وکارهای محلی).

در حال حاضر، از نظر فنی عضو شدن در سیستم امتیازدهی شهروندی چین داوطلبانه است، اما تا سال ۲۰۲۰ (۱۴۰۰) اجباری خواهد شد. رفتار هر شخصیت حقیقی و حقوقی (که شامل تمام شرکت‌ها و نهادها می‌شود) در چین امتیازدهی و رده‌بندی می‌شود. فرقی هم نمی‌کند با این کار موافق باشند یا مخالف.

یک کار گروهی

چه شرکت‌های مطرحی در این راه به دولت چین کمک می‌کنند؟

پیش از عمومی شدن این سیستم در سال ۲۰۲۰ (۱۴۰۰)، رویکرد دولت چین تماشا و یادگیری خواهد بود. دولت چین که نظارت کمونیستی را با توانایی‌های سرمایه داری ترکیب کرده، به هشت شرکت خصوصی مجوز داده است تا سیستم‌ها و الگوریتم‌های لازم برای سنجش اعتبار اجتماعی را تهیه کنند.

همان‌طور که می‌شود حدس زد، غول‌های «داده»، اجرای دو مورد از شناخته شده‌ترین پروژه‌ها را به عهده دارند. پروژه‌ی اول بر عهده‌ی شرکتی است به نام «China Rapid Finance» که شریک هلدینگ «تنسنت» (Tencent غول چینی و ارائه دهنده‌ی خدمات شبکه‌های اجتماعی) و توسعه دهنده‌ی «وی‌چت» (WeChat، پیام‌رسانی با بیش از ۸۵۰ میلیون کاربر) است.

پروژه‌ی دوم «Sesame Credit» نام دارد و اجرای آن به عهده‌ی «Ant Financial Services Group» (یاAFSG که شرکتی است وابسته به شرکت «علی بابا») گذاشته شده است. این شرکت خدمات بیمه ارائه می‌کند و به کسب‌وکارهای کوچک و متوسط وام میدهد. در هر صورت، خدمت اصلی AFSG، «علی پی» (AliPay) است؛ خدمات پرداختی‌ای که کاربران برای خرید آنلاین، پرداخت پول رستوران و تاکسی، پرداخت هزینه‌های تحصیل، خرید بلیت سینما و حتی تبادل پول با یکدیگر از آن استفاده می‌کنند.

پروژه‌ی «سسمی کردیت» از همکاری پلتفرم‌های تولید داده‌ی دیگر از جمله «Didi Chuxing» و «Baihe» هم استفاده می‌کند. «Didi Chuxing» شرکت تاکسی یاب آنلاینی است که تا سال گذشته رقیب اصلی «اوبر» در چین بوده؛ سال گذشته هم این شرکت تمام فعالیت شرکت اوبر در چین را خرید و از آن خود کرد. «Baihe» هم بزرگترین سایت دوست یابی آنلاین چین است. تصورش سخت نیست که این سرویس‌ها چگونه مجموعه‌ی بسیار عظیمی از کلان داده‌ها (Big Data) را در اختیار پروژه‌ی «سسمی کردیت» می‌گذارند تا رفتار مردم ارزیابی و امتیازدهی شود.

جاسوس‌های پراکنده

امتیازدهی به مردم در این سیستم چگونه است؟

اما مردم در این سیستم چگونه امتیازدهی می‌شوند؟ در این پروژه، هر شخص امتیازی بین ۳۵۰ تا ۹۵۰ می‌گیرد. علی بابا «الگوریتم پیچیده‌ای» را که برای محاسبه‌ی این عدد به کار می گیرد، افشا نکرده، اما پنج عامل مؤثر در این امتیاز را اعلام کرده است.

عامل نخست سابقه‌ی اعتبار است. برای نمونه، آیا شهروند قبض برق و تلفنش را به موقع پرداخت می‌کند؟ مؤلفه‌ی بعدی ظرفیت انجام کار است که به این شکل تعریف می‌شود: «توانایی یک کاربر برای به انجام رساندن تعهدهای قرارداد». مؤلفه‌ی سوم مشخصاتی از قبیل شماره‌ی تلفن و نشانی است.

اما مؤلفه‌ی چهارم، یعنی رفتارها و اولویت‌ها، جالب‌تر از همه‌ی این‌هاست. در این سیستم، فعالیت ساده و بی‌ضرری مانند عادت‌های خرید شهروندان، به معیاری برای ارزیابی آن‌ها تبدیل می شود. در حقیقت، علی بابا پذیرفته است که آدم‌ها را از روی نوع محصول‌هایی که می‌خرند، قضاوت می‌کند.

«لی پینگیان» (Li Yingyun)، مدیر تکنولوژی سسمی کردیت، می‌گوید: برای نمونه، کسی که روزانه ۱۰ ساعت بازی ویدئویی انجام می‌دهد، به عنوان فردی تنبل در نظر گرفته می‌شود. کسی که به طور مرتب پوشک بچه می‌خرد، احتمالاً پدر یا مادر است و شاید پس از در نظر گرفتن همه‌ی جوانب، بشود گفت احساس مسئولیت بیشتری دارد.

از این رو این سیستم نه تنها رفتار مردم را زیر نظر می‌گیرد، بلکه به این رفتارها شکل می‌دهد و شهروندان را از خریدها و رفتارهایی که دولت دوست ندارد، رفته رفته دور می‌کند.

دوستان هر فرد هم در این بین اهمیت دارند. پنجمین مؤلفه به روابط بین افراد مربوط می‌شود. دوستان آنلاین فرد و تعامل‌های آن‌ها درباره‌ی آن فرد چه می‌گویند؟ به اشتراک گذاشتن چیزهایی که سسمی کردیت آن‌ها را «انرژی مثبت» می‌نامد -نوشته‌هایی خوب درباره‌ی دولت یا این که عملکرد اقتصادی مملکت چقدر خوب است- باعث بالارفتن امتیاز هر فرد می‌شود.

علی بابا مدعی است که در حال حاضر دیدگاه‌ها و مطالب منفی‌ای که در شبکه‌های اجتماعی گذاشته می‌شوند، تأثیری روی امتیاز فرد ندارند. نمی‌توان تأیید کرد که این ادعا صحت دارد یا نه، چون الگوریتم امتیازدهی محرمانه است. ولی خودتان میتوانید تصور کنید که در سال ۲۰۲۰ (۱۴۰۰) که سیستم امتیازدهی خود دولت آغاز به کار می‌کند، اوضاع چگونه ممکن است پیش برود.

با این که هنوز معلوم نیست که آیا هیچ کدام از هشت شرکت خصوصی دخیل در مرحله‌ی آزمایشی این طرح، در نهایت اجرای سیستم دولت را بر عهده خواهند داشت یا نه، ولی باور این موضوع دشوار است که دولت نخواهد داده‌های لازم برای سیستم امتیازدهی اجتماعی خودش را از طریق این شرکت‌ها تأمین کند. اگر چنین اتفاقی بیفتد، به معنای آن است که این پلتفرم‌های خصوصی عملاً به عنوان نهادهای جاسوسی دولت در بین مردم فعالیت می‌کنند.

منتشر کردن نظرهای سیاسی مخالف یا لینک‌هایی درباره‌ی کشتار میدان «تیان آنمن» (Tiananmen) هیچ وقت کار عاقلانه‌ای در چین نبوده است، ولی اکنون این کار می‌تواند به طور مستقیم در امتیاز فرد تأثیر منفی داشته باشد. اما نکته‌ی غیرمنتظره این جاست: امتیاز شخصی یک فرد می‌تواند تحت تأثیر حرف‌ها و فعالیت‌های دوستان آنلاینش تغییر کند، بدون آن که حتی خود فرد با دوستانش ارتباطی داشته باشد. اگر کسی از دوستان آنلاین فرد اظهار نظری منفی منتشر کند، امتیاز خود آن فرد هم پایین خواهد آمد.

امتیازم را بده

چرا مردم داوطلبانه عضو این سامانه می‌شوند؟

اما چرا تاکنون میلیون‌ها نفر در سامانه‌ا‌ی ثبت‌نام کرده‌اند که نسخه‌ی آزمایشی چیزی است که علناً گفته می‌شود یک سیستم نظارت دولتی خواهد بود؟ ممکن است دلایل نامشخص و بدتری در کار باشد (مانند ترس از انتقام جویی دولت از کسانی که داوطلب نشده‌اند)، ولی نوعی وسوسه برای انجام این کار وجود دارد؛ به این شکل که پاداش‌ها و «امتیازهای ویژه‌ای» برای شهروندانی در نظر گرفته شود که «اعتمادپذیر» بودنشان را به سامانه‌ی سسمی کردیت اثبات کرده باشند.

اگر امتیاز این شهروندان به ۶۰۰ برسد، می‌توانند تا پنج هزار یوان (حدود ۷۵۵ دلار) اعتبار برای خرید از سایت‌های علی بابا دریافت کنند. رسیدن به امتیاز ۶۵۰ به معنای آن است که شخص می‌تواند بدون وثیقه، ماشین اجاره کند. این داوطلبان همچنین می‌توانند از مزایایی مانند پذیرش سریع‌تر در هتل‌ها یا پذیرش VIP در فرودگاه بین المللی پکن بهره‌مند شوند.

کسانی هم که به امتیاز ۶۶۶ و بالاتر می‌رسند، می‌توانند وامی نقدی تا سقف ۵۰ هزار یوان (معادل ۷۵۵۰ دلار) از شرکت AFSG دریافت کنند. با رسیدن به امتیاز بالای ۷۰۰ هم این امکان به وجود می‌آید که شخص بدون نیاز به مدارکی مانند نامه‌ی اشتغال به کار، به سنگاپور سفر کنند. هر کسی هم که به امتیاز ۷۵۰ برسد، می تواند درخواستی ویژه برای دریافت ویزای «شنگن» (Schengen) پر کند.

روگیر کریمرز می‌گوید: «به گمان من، بهترین استعاره برای درک چنین سیستمی این است که بگوییم به نوعی فرزند نامشروع یک طرح وفاداری است.» امتیازهای بالا همین الان هم به نماد افتخار تبدیل شده‌اند؛ طی چند ماهی که از آغاز به کار این سامانه می‌گذرد، تقریبا ۱۰۰ هزار نفر در «Weibo» (معادل چینی توییتر) به امتیاز بالایشان نازیده‌اند.

نمره‌ی یک شهروند حتی ممکن است بر بخت و اقبال او برای یافتن همسر آینده‌اش تأثیر بگذارد. زیرا هرچه امتیاز فرد در سامانه‌ی سسمی بالاتر باشد، پروفایل بهتری در سایت دوست یابی «Baihe» خواهد داشت.

سسمی کردیت توصیه‌هایی هم برای بالا بردن امتیاز دارد؛ توصیه‌هایی که شامل هشدار نسبت به تأثیر منفی دوست بودن با کم امتیازها می‌شود. این فرایند ممکن است به پیدایش کسانی منتهی شود که کارشان نوشتن و منتشر کردن نکته‌هایی برای دریافت امتیاز باشد یا مشاورانی که به طور تخصصی استراتژی‌های مؤثر برای بالا بردن امتیاز یا خارج شدن از فهرست‌های سیاه اعتمادناپذیری را آموزش بدهند.

سسمی کردیت در اصل نسخه‌ای از روش‌های نظارتی حزب کمونیست (پرونده‌ی آزاردهنده) است که به کمک کلان داده به شکل نوعی بازی در آمده است. رژیم کمونیستی چین برای هر کسی که خطا یا تخلفی سیاسی یا شخصی داشت، دوسیه‌ای ترتیب میداد و این پرونده در تمام طول زندگی، از دوران تحصیل تا کار، همراه این افراد بود. آدم‌ها درباره‌ی دوستان و حتی افراد خانواده‌ی خودشان گزارش میدادند که باعث افزایش بدگمانی و کاهش اعتماد اجتماعی در چین شده بود.

با پدید آمدن دوسیه‌های دیجیتال، دوباره همان اتفاق‌ها خواهد افتاد. مردم برای آن که به دوستان، همسر، خانواده و همکارانشان بگویند «آن مطلب را منتشر نکن، چون نمی‌خواهم امتیاز خودم و خودت را خراب کنی»، به اندازه‌ی کافی انگیزه خواهند داشت.

ما همه خوبیم

آیا اعلام رضایت مردم چین از سیستم جدید از روی ترس است؟

سامانه‌ی جدید نشان دهنده‌ی یک تغییر پارادایم حیله‌گرانه است، همان طور که اشاره کردیم، به جای تلاش برای برقراری پایداری و اطاعت اجتماعی به کمک یک چماق بزرگ و مقدار معینی ترس از بالا به پایین، دولت چین می‌کوشد فرمانبرداری را به نوعی بازی تبدیل کند. این فرایند شیوه‌ای برای کنترل اجتماعی است که به لباس یک سامانه‌ی مبتنی بر امتیاز و پاداش در آمده است؛ نوعی فرمانبرداری بازی‌گون شده.

در سال ۲۰۱۵ (۱۳۹۴)، خبرنگار بی بی سی به یکی از خیابان‌های شلوغ پایین شهر پکن رفت تا از مردم درباره‌ی امتیاز سسمی کردیتشان پرسوجو کند. بیشتر مردم نظر مثبتی درباره‌ی آن داشتند. اما چه کسی حاضر است درباره‌ی چنین سامانه‌ای در ملاعام نظر بدهد، آن هم در حالی که ممکن است امتیازش پایین بیاید. به طرز نگران کننده‌ای، به نظر می‌رسد کسانی متوجه شده باشند که امتیاز پایین می‌تواند در آینده به ضررشان باشد.

موضوع نگران کننده‌تر این که تعداد زیادی نمیدانستند که دائماً در حال ارزیابی شدن هستند. در حال حاضر، سسمی کردیت مردم را به خاطر «اعتمادپذیر» نبودن جریمه نمی‌کند؛ این سیستم بیشتر برای هدایت مردم به سمت رفتار خوب مؤثر است. اما «هو تائو» (Hu Tao)، مدیر سسمی کردیت، به مردم هشدار داده است که این سیستم طوری طراحی شده که «آدم‌های اعتمادناپذیر نتوانند ماشین اجاره کنند، پول قرض بگیرند یا حتی شغلی پیدا کنند.»

خانم هو تائو حتی افشا کرده‌است که سسمی کردیت حتی سراغ اداره‌ی آموزش و پرورش چین رفته است تا فهرستی از دانش آموزان متقلب در آزمون‌های سراسری داشته باشد، با این انگیزه که این دانش‌آموزان را وادار کند بهای نداشتن صداقت را در زندگی آینده‌شان بپردازند.

یک تصویر زیبا

این سیستم چه تغییراتی در رفتار انسان‌ها ایجاد خواهد کرد؟

در ۲۵ سپتامبر ۲۰۱۶ (۴ مهر ۱۳۹۵) دفتر شورای عمومی دولت چین سیاست‌هایش را طی اطلاعیه‌ای با عنوان «سازوکارهای هشدار و جریمه برای کسانی که شامل اعتمادشکنی باشند» به روزرسانی کرد. اساس کار ساده است. این سند تصریح می کند: «اگر در یک جا اعتماد شکسته شود. همه‌جا محدودیت اعمال خواهد شد.» برای نمونه، کسانی که امتیاز پایینی داشته باشند سرعت اینترنت پایین‌تری خواهند داشت، دسترسی آن‌ها به رستوران‌ها، باشگاه‌های شبانه یا زمین‌های گلف محدود خواهد بود. و از طریق اهرم‌هایی مانند «کنترل محدود بر مصرف در منطقه‌های تفریحی یا سفرهای تجاری» حقشان برای سفر آزادانه از بین خواهد رفت.

شهروندانی که امتیاز پایینی داشته باشند، نمی‌توانند به خدمت شرکت‌های خاص در بیایند و نمی‌توانند مشاغلی در زمینه‌های خدمات عمومی، روزنامه‌نگاری و حقوق (حوزه‌هایی که مشخصاً باید اعتمادپذیر بود) داشته باشند.

شهروندان کم امتیاز برای ثبت نام خودشان و فرزندانشان در آموزشگاه‌های خصوصی پرهزینه محدود خواهند بود. این، فهرستی ساختگی یا خیالی نیست و واقعیتی است که مردم چین با آن روبرو خواهند شد. طبق سند دولت چین سامانه‌ی اعتبار اجتماعی «امکان میدهد اعتماد‌پذیری در همه جای کشور جاری شود و بی اعتبار‌ها به‌سختی بتوانند حتی یک قدم بردارند».

به گفته‌ی «لوچیانو فلوریدی» (Luciano Floridi) استاد فلسفه و اخلاق اطلاعات در «دانشگاه آکسفورد»، سه «انتقال از مرکز» (de-centering shifts) اساسی نگاهمان نسبت به «خودفهمی» (self-understanding) را تغییر داده است: مدل کوپرنیکی چرخش زمین به دور خورشید، نظریه‌ی انتخاب طبیعی داروین و ادعای فروید درباره‌ی این که کنش‌های روزانه‌ی ما با ذهن ناخوادگاهمان کنترل می‌شود. فلوریدی معتقد است ما اکنون با توجه به اینکه هر کاری که به صورت آنلاین و آفلاین انجام می‌دهیم در قالب نوعی «زیست برخط» (onlife) ادغام می‌شود، مشغول تجربه‌ی چهارمین انتقال هستیم.

فلوریدی ادعا می‌کند با حرکت روزافزون جامعه‌ی ما به سوی یک «اینفوسفر» (infosphre) که ترکیبی است از تجربه‌های فیزیکی و مجازی، انسان‌ها شخصیت‌های زیست برخطی پیدا می‌کنند که با آنچه که در «جهان واقعی» هستیم، تفاوت دارد. این موضوع را می‌توانیم به شکلی گسترده در فیسبوک ببینیم. جایی که آدم‌ها تصویری ویرایش شده و ایدئال از زندگیشان را به نمایش می‌گذارند. به تجربه‌ی استفاده از اوبر و تاکسی‌های آنلاین دیگر فکر کنید. آیا به خاطر آنکه می‌دانستید در پایان سفر راننده به شما امتیاز خواهد داد رفتارتان کمی بهتر نبوده است؟

حساب‌های ناتمام

دلیل اصلی چین برای راه‌اندازی سیستم اعتبار سنجی چیست؟

در فوریه‌ی ۲۰۱۷ (بهمن ۱۳۹۵)، دادگاه عالی چین اعلام کرد ۶۱۵ میلیون نفر از شهروندان این کشور طی چهار سال گذشته و به خاطر بدرفتاری‌های اجتماعی از سفر با هواپیما محروم شده‌اند. گفته می‌شود این محروم سازی به عنوان گامی به سوی ایجاد فهرست‌های سیاه در قالب سیستم اعتبارسنجی اجتماعی است.

«منگ شیانگ» (Nfeng Xiang)، رئیس بخش اجرایی دادگاه عالی، می‌گوید: «ما با بیش از ۴۴ نهاد دولتی یادداشت تفاهم‌هایی امضا کرد‌ه‌ایم تا افراد «بی‌اعتبار» را در سطح‌های مختلف محدود کنیم.» این نوع سیستم‌ها آن‌جایی وارد حوزهای کابوس‌وار می‌شوند که الگوریتم‌های سنجش اعتمدپذیری به کار رفته در آن‌ها به شکل غیرمنصفانه‌ای تقلیل دهنده‌اند.

این الگوریتم‌ها پس‌زمینه‌ی رفتارهای فرد را در نظر نمی‌گیرند. برای نمونه، ممکن است یک نفر به خاطر بستری بودن در بیمارستان موفق نشود قبض آب یا برقش را به موقع بپردازد. البته در این جا چالشی وجود دارد که نه تنها به چینی‌ها، بلکه به همه‌ی ما مربوط می‌شود. اگر قرار است الگوریتم‌های ارزیابی کننده‌ی زندگی به کارشان ادامه بدهند، لازم است دقیقاً مشخص کنیم این الگوریتم‌ها چگونه می‌توانند ریزه کاری‌های ناسازگاری‌ها و ناپایداری‌های موجود در ذات انسان را درک کنند و چگونه می‌توانند منعکس کننده‌ی زندگی واقعی باشند.

می‌توانید آنچه را که چینی‌ها طرح اعتماد می‌نامند، به عنوان نقطه‌ی برخورد «رمان ۱۹۸۴» و نظریه‌ی «سگ پاولف» در نظر بگیرید؛ مانند یک شهروند خوب رفتار کنید تا پاداش بگیرید، و فکر کنید همه چیز خوب است. در هر حال، باید به این نکته هم اشاره کنیم که سامانه‌های امتیازدهی شخصی از چند دهه‌ی پیش در غرب رواج داشته است. بیش از ۷۰ سال پیش، دو نفر به نام‌های «بیل فیر» (Bill Fair) و «هرل ایزاک» (Earl Isaac) امتیاز اعتباری‌ را پدید آوردند.

امروزه شرکت‌هایی از امتیاز «FICO» برای بسیاری از تصمیم‌گیری‌های مالی استفاده می‌کننده؛ تصمیم‌گیری‌هایی شامل مشخص کردن نرخ بهره‌ی رهن یا اینکه اصلاً یک مشتری می‌تواند وام بگیرد یا نه. بیشتر مردم چین، هیچ‌وقت امتیاز اعتباری نداشته‌اند و در نتیجه هیچ‌وقت اعتبار دریافت نکرده‌اند.

«اون گوان» (Wen Quan) وبلاگ‌نویس تاثیرگذاری که درباره‌ی تکنولوژی و اقتصاد می‌نویسد، می گوید:«بسیاری از مردم چین خانه، ماشین یا کارت اعتباری ندارند. لذا چنین داده‌هایی برای بررسی وجود ندارد. بانک مرکزی چین اطلاعات مالی مربوط به ۸۰۰ میلیون نفر را دارد. اما سابقه‌ی اعتباری سنتی تنها برای ۳۲۰ میلیون نفر ثبت شده است.» به گفته‌ی وزارت بازرگانی چین، زیان اقتصادی ناشی از فقدان اطلاعات اعتباری سالانه معادل ۶۰۰ میلیارد یوان (بیش از ۹۰ میلیارد دلار) است.

دلیل اشتیاق دولت چین به امتیازهای شهروندان، نارسایی‌های سامانه‌ی اعتبار ملی این کشور است. در بازاری که قوانین ضعیفی دارد، فروختن جنس تقلبی و زیر استاندارد رواج دارد. به گزارش «سازمان همکاری و توسعه‌ی اقتصادی» (Organization for Economic Co-operation and Development)، ۶۳ درصد از تمام کالاهای تقلبی، از ساعت گرفته تا کیف دستی و غذای بچه، در چین تولید میشود. کریمرز می‌گوید: «تعداد بسیار زیادی شرکت کوچک وجود دارد. اگر این طرح خاص به نظارت و پاسخگویی بیشتر منجر شود، آن وقت احتمالاً استقبال گرمی از آن خواهد شد.»

پروفسور «وانگ شوکین» (Wang Shugin)، عضو دفتر فلسفه و علوم اجتماعی در دانشگاه «کپیتال نرمال» (Capital Normal) چین، به تازگی برنده‌ی مزایده‌ی دولت برای کمک به توسعه‌ی این سامانه شده است.
سامانه‌ای که او از آن با عنوان «نظام وفا‌داری اجتماعی چین» یاد می‌کند. به باور وانگ شوکین، بدون چنین سازوکاری مدیریت کسب‌وکار در چین کار پرخطری است، چون حدود نیمی از قراردادهای امضا شده، نقض می‌شوند.

خانم شوکین می‌گوید: با توجه به سرعت پیشرفت اقتصاد دیجیتال، بسیار مهم است که مردم بتوانند اعتبار یکدیگر را به سرعت ارزیابی کنند. رفتار بیشتر مردم از جهان فکری‌شان ناشی می‌شود. شخصی که به ارزش‌های اصلی سوسیالیستی باور داشته باشد، رفتار بهتری از خود نشان میدهد.» در حقیقت، هدف شورای دولتی ارتقای «ذهنیت صادقانه و سطح اعتبار در سراسر جامعه» به منظور بهبود «رقابت پذیری کلی کشور» است. آیا این امکان وجود دارد که سامانه‌ی اعتبار‌سنجی اجتماعی در واقع رویکردی شفاف‌تر بر نظارت همگانی باشد، آن هم در کشوری که سابقه‌ی طولانی زیر نظر گرفتن شهروندانش را دارد؟

«رسول مجید» (Rasul Majid)، وبلاگ‌نویسی چینی که درباره‌ی طراحی رفتار و روانشناسی بازی می‌نویسد می‌گوید: «به عنوان یک چینی، آیا با دانستن این که همه‌ی فعالیت‌های آنلاینم ردگیری می‌شود، نسبت به جزئیات اطلاعات جمع آوری شده آگاه‌تر می‌شوم و سعی می‌کنم با استفاده از این آگاهی با قوانین کنار بیایم یا این که ترجیح می‌دهم در جهل بمانم و امیدوار باشم یا آرزو کنم که حریم خصوصی همچنان وجود داشته باشد و بدنه‌ی قانون‌گذار ما به اندازه‌ی کافی به ما احترام بگذارد و از این داده‌ها بهره برداری نکند؟»

به بیان ساده‌تر، مجید گمان می‌کند این سامانه تنها باعث می‌شود نظارت و کنترل او براطلاعات شخصی‌اش کمی دقیق‌تر شود. وقتی با غربی‌ها درباره‌ی سامانه‌ی ارزیابی اعتبار اجتماعی در چین حرف می‌زنیم، واکنش آنها پر حرارت و از عمق وجود است. با این حال خود غربی‌ها همین حالا هم به رستوران‌ها، فیلم‌ها، کتاب‌ها و حتی پزشکان امتیاز می‌دهند. در عین حال، فیسبوک می‌تواند شما را در عکس‌ها تشخیص بدهد بدون آن که لازم باشد، چهره‌ی شما را ببیند. دولت‌های کشورهای جهان هم وارد کسب و کار دیده‌بانی و امتیازدهی شده‌اند.

در آمریکا، «سازمان امنیت ملی» یا «NSA» تنها چشم دیجیتال رسمی‌ای نیست که حرکت‌های شهروندان را زیر نظر دارد. در سال ۲۰۱۵ (۱۳۹۴)، «اداره‌ی امنیت حمل و نقل آمریکا» پیشنهاد داد بررسی شبکه‌های اجتماعی، داده‌های جغرافیایی و سابقه‌ی خرید افراد به فرایند بررسی سوابق اضافه شود. این ایده پس از انتقادهای شدید کنار گذاشته شده اما به این معنا نیست که کاملا از بین رفته باشد.

ما اکنون در جهانی از الگوریتم‌های پیش‌بینی کننده زندگی می‌کنیم که مشخص می‌کنند آیا ما خطرناکیم، شهروند خوبی هستیم یا حتی اعتمادپذیر هستیم یا نه. ظاهراً ما هم رفته رفته به سوی سامانه‌ی چینی‌ها می‌رویم، حتی اگر خودمان خبر نداشته باشیم پس آیا به سوی آینده‌ای می‌رویم که در آن نشان‌گذاری آنلاین و داده کاوی میشویم؟

مشخصا حرکتمان به چنین سمتی است. گذشته از چند حرکت مدنی برای پس گرفتن حریم خصوصی، به طور کلی در حال ورود به دورانی هستیم که کنش‌های فرد براساس استاندارد‌هایی خارج از کنترل او داوری می‌شوند و امکان پاک کردن این داوری ها هم وجود ندارد، نه تنها پیامدهای این داوری‌ها ناراحت کننده‌اند، بلکه این پیامدها دائمی هم هستند. به بیان دیگر، حق فراموش شدن یا از بین رفتن نتایج برخی رفتارها را فراموش کنید و تجربه‌های دوران جوانی و رفتارهای احمقانه را کنار بگذارید.

شفاف باشید

نقش مردم برای تصحیح این سیستم چه می‌تواند باشد؟

در حالی که شاید تلاش برای ایستادگی در برابر این دوران جدید، دیر باشد انتخاب‌ها و حقوقی داریم که اکنون می‌توانیم به کار ببریم. یکی از این کارها این است که به امتیاز دهندگان، امتیاز بدهیم.

«کوین کلی» (Kevin Kelly) در کتابی با عنوان «اجتناب ناپذیر» (The Inevitable)، آینده‌ای را توصیف می‌کند که نگاه کننده و نگاه شونده به طور شفاف یکدیگر را زیر نظر دارند. کوین کلی می‌نویسد: «اکنون انتخاب مرکزی ما این است که آیا این نظارت، محرمانه و یک‌طرفه باشد یا این که به شکل نوعی نظارت دوطرفه باشد که نظارت بر نظارت کنندگان را هم شامل شود.».

پیش از هر چیز برای این که به افراد داخل دولت (یا هر کسی که کنترل سیستم را به دست دارد) اعتماد داشته باشیم به سازوکارهای اعتمادپذیری نیاز داریم تا مطمئن شویم امتیازدهی‌ها و داده‌ها همراه با احساس مسئولیت و با اجازه‌ی خود ما استفاده می‌شود. برای اعتماد کردن به سیستم، لازم است از تعداد مجهول‌ها بکاهیم. یعنی باید گام‌هایی برای شفاف‌تر کردن الگوریتم‌ها برداریم.

استدلال علیه افشای اجباری چنین اطلاعاتی این است که اگر مشخص شود سیستم چگونه کار می‌کند. آن وقت امکان فریب دادن با هک کردن سیستم به وجود می‌آید اما اگر قرار باشد انسان‌ها به امتیازهایی تقلیل یابند که بتواند بر زندگیشان تأثیر مستقیم داشته باشد، باید نحوه‌ی کارکرد این امتیازدهی شفاف و روشن باشد.

در چین، برخی شهروندان، مانند اعضای دولت، احتمالاً از این سامانه معاف خواهند بود. واکنش مردم وقتی ببینند رفتارهای ناپسند دولتمردان در امتیاز آن‌ها تأثیری ندارد، چگونه خواهد بود؟ این امکان وجود دارد که شاهد رسوایی‌هایی در حد اسناد پاناما با موضوع تقلب در سوابق باشیم.

اکنون زود است که بدانیم یک فرهنگ مبتنی بر نظارت و امتیازدهی دائمی چگونه از آب در خواهد آمد. اگر سامانه‌های جدول بندی سوابق اجتماعی، اخلاقی و مالی کل یک کشور، با تمام قوا مشغول به کار شونده چه خواهد شد؟ حریم خصوصی و آزادی بیان (که مدت‌هاست در چین محدودشده) تا چه حد محدودتر خواهد شد؟

این‌ها مسائلی هستند که به زودی باید در برابرشان قرار بگیریم. امروز در چین و فردا در جایی نزدیک‌تر، پرسش‌های واقعی درباره‌ی آینده‌ی اعتماد و اعتمادپذیری به فناوری و اقتصاد مربوط نمی‌شود بلکه پرسش‌هایی اخلاقی است.

اگر به اندازه‌ی کافی مراقب نباشیم، اعتماد توزیع شده میتواند به ننگ مشترک تبدیل شود و زندگی می‌تواند به شکل مسابقه‌ی بی‌پایان محبوبیت درآید، و ما به گونه‌ای تب‌زده به دنبال بالاترین امتیازها باشیم، امتیازهایی که تنها آدم‌های محدودی می‌تواند به دست بیاورند.

کافه زوم:

خود دانستنیها درباره کافه زوم نوشته:

«در «کافه زوم» قرار است نظرات کارشناسان ایرانی را درمورد موضوع اصلی این شماره بخوانیم و از زوایای دیگری به موضضوعات نگاه کنیم.»

توی این کافه زوم نظر، پژمان نوروزی و پوریا ناظمی رو می‌‌خونیم که هردو از روزنامه‌نگاران علم با سابقه هستند. (وبسایت هر کدوم رو می‌تونید با کلیک روی اسمشون همین پایین پیدا کنید.)

یک بازی قدیمی

چرا نباید از پروژه ارزش گذاری اجتماعی بترسیم؟

پدر من بیش از ۷۰ سال از خدا عمر گرفته و تاکنون هیچ نوع فست‌فودی را حتی امتحان هم نکرده است. یکی از قصه‌هایی که همواره در خانه‌ی پدری با خنده و شوخی، ولی کاملا با قصد جدی درباره‌اش صحبت می‌شود، منشأش پیتزاست. پدر من معتقد است پیتزا را الکی به ایتالیایی‌ها نسبت داده‌اند و می‌گوید که پیتزا کپی شده و تغییر یافته‌ی خوراکی‌ای است که در ولایت او در دوران کودکی‌اش با پنیر ونان و تخم مرغ و گاهی گوشت و دنبه می‌پخته‌اند.

و دروغ چرا، شباهت این خوراک تالشی و آن غذای ایتالیایی خیلی زیاد است و من هم شاید تحت اثر همین داستان، یک اعتقاد نصف و نیمه‌ی عجیبی دارم که الان با شما در میانش می‌گذارم:
این که انگار آدم‌ها اصلاً نمی‌توانند از آنچه که در دوران تاریخی تجربه کرده‌اند، رها شوند؛ برای نمونه همین قصه‌ی کلان داده‌ها و سیستم ارزش‌گذاری شهروندی‌ای که چینی‌ها دارند راه می‌اندازند. خیلی به نظر ترسناک می‌آید و آدم واقعا به یاد نوشته‌های «جورج اورول» با همان نگاه استثماری بشری می‌افتد. ولی به نظرم این اتفاق و برنامه، کپی شده‌ی چیزی است که همیشه در جوامع بشری وجود داشته، بنابراین در ذاتش چیز ترسناکی است.

به عنوان نمونه ما ایرانی‌ها همواره دارای نظام ارزش‌گذاری اجتماعی بوده و هستیم. در یک روستا، اعتبار آدم‌ها به گفتار و کردارشان بوده. وقتی یک جوان برای خواستگاری می‌رفته یا می‌خواسته از کسی قرضی بگیرد یا درخواست کاری میداده، حتما براساس داده‌هایی که از زندگی‌اش وجود داشته، درباره‌اش تصمیم می‌گرفته‌اند بی‌گمان تحقیقات محلی و پرس و جو از معتمدان محلی و نوعی سیستم ارزش‌گذاری بدوی است که برای همه‌ی ما وجود داشته است.

کمی که خوب فکر کنید می‌بینید در اصل قضیه اصلا تفاوتی ایجاد نشده است. فرق اساسی‌ای که الان شکل گرفته و کمی موضوع را ترسناک کرده است، سطح اطلاعاتی است که درباره‌ی افراد وجود دارد. کلان داده‌ها واقعا از همه‌ی سطوح و وجوه زندگی ما به دست آمده‌اند، بنابراین آن چنان داده‌هایی از ما در دنیا وجود دارد که در بسیاری از موارد حتی نمی‌دانیم که اصلا وجود دارند. ترسناک بودن قضیه، در همین است؛ این که همه‌ی زندگی ما به شکل مستقیم و غیرمستقیم در حال گردآوری و تحلیل شدن است.

بنابراین اطلاعات دقیق یا شاید بهتر بگویم بسیار دقیق از زندگیمان در دست صاحبان پایگاه‌های «کلان داده‌ای» وجود دارد. قبول دارم که ترسناک است اما رویه‌ی اجتماعی قضیه چندان هم بد نیست. این که هنگام تصمیم گیری‌های اجتماعی در مورد افراد، سطح خطا کم می‌شود. چون هر آنچه را که لازم است بدانیم، در یک فرایند پیچیده‌ی غول پیکر از قبل و طی زندگی کسب کرده‌ایم.

بنابراین گول زدن دنیا و جامعه کاری به غایت سخت می‌شود. شاید بتوانیم افراد یک محله را در طول زمان‌هایی محدود گول بزنیم و خودمان را نوع دیگری نمایش دهیم و در خلوت آن کار دیگر را بکنیم، اما در دنیایی که کلان داده‌ها وجود دارند، بعید است بتوان رفتارهای مزورانه داشت و خود دیگری را نمایش داد. برای همین است که می‌گویم این رویداد اجتماعی خیلی خوب است.

اما، قبول کنیم که نگرانی بزرگ دیگری هم وجود دارد؛ ارزش‌گذاری‌ها، اگر نامعلوم باشند (که ظاهرا هستند) یامعلوم، ولی نامفهوم و گنگ باشند، امکان جهت دادن به گروه‌های بزرگ جمعیتی وجود دارد. یعنی دولتمردان و صاحبان بانک کلان داده‌ها این امکان را دارند که براساس نظر خودشان و سیستمی که برای امتیاز دادن استفاده می‌کنند، رفتارهای اجتماعی را در طولانی مدت شکل بدهند و مسیر دلخواهشان را بسازند و این، خطرناک است؛ به نوعی فرایند زیست بشری را از حالت طبیعی می‌تواند خارج کند.

اما یک جنبه‌ی هیجان‌آور دیگر برای من در این میان وجود دارد؛ آن قدر هیجان‌آور که دوست دارم آن را یاد بگیرم و به کار ببندم. من در مقام طراح موزه و همین طور طراح رویداد و تجربه، همیشه دنبال راهی هستم که چگونه میتوانم یک گروه کوچک (یا بزرگ) را به انجام مجموعه‌ای متکثر و متنوع از فعالیت ها وا‌بدارم، بی آن که حس منفی اجبار را برای افراد بسازد و این را که چگونه می‌توان مسیری ساخت و افراد را به شکلی آزادانه در آن مسیر رها کرد به این شرط که کسی از مسیر مورد نظر خارج نشود، ولی خلاقیت‌ها و رفتارهای شخصی را بروز دهد.

این اتفاق تنها از طریق «بازی گونه کردن فعالیت‌ها» یا آن چیزی که به آن «GAMIFICATION» می‌گوییم میسر است، فرایندی هوشمندانه، پیچیده و دارای سیستم دقیق امتیازدهی (پاداش) که همه خود را بازیگران این فضا میدانند و در جهت کسب بیشترین امتیاز رفتار می‌کنند. قوانین مشخص است، سیستم امتیاز و پاداش‌هایش هم معلوم است. کافی است شمارش معکوس را انجام بدهید. و بگویید بازی شروع شد، باقی قضایا را خود بازیگران با اشتیاق انجام میدهند.

خوب‌های تکراری

چرا باید نگران سیستم اعتبار سنجی اجتماعی باشیم؟

اصل ماجرا چندان پیچیده و حتی عجیب نیست؛ یک شرکت تجاری (شرکتی که مجموعه‌ی عظیم علی‌بابا را زیر نظر دارد) یک محیط و فضای در هم تنیده‌ی ارتباطی ساخته است که شما با کمک یک برنامه‌ی سوار شده روی گوشی هوشمند خود و با وارد کردن اطلاعات مختلف می‌توانید کارهای خدماتی مختلفی را انجام دهید. از پرداخت صورت حساب‌ها و خریدهای آنلاین تا پرداخت هزینه‌ی تاکسی تا هر خرید و پرداخت و ثبت خدمات دیگری، داده‌های شما در این ساختار وجود دارد.

یکی از نقدها این است که با در اختیار داشتن تمام اطلاعات شما از شماره‌ی ملی گرفته تا شماره‌ی گواهینامه و حساب بانکی این شرکت و هر نهادی که به این داده‌ها دسترسی داشته باشد، می‌تواند از موقعیت و رفتار شما اگاه شود و اصطلاحاً پروفایل یا پرونده‌ی رفتارهای شما را با ردیابی تعاملات شما بسازد. تا اینجا هم داستان خیلی غریب نیست. همین الان هم کسانی که از کارت‌های اعتباری یا نقل و انتقال‌های آنلاین استفاده می‌کنند، عملاً کارنامه هر تراکنش خود و محل و زمان آن را در اختیار نهادی می‌گذارند که می‌تواند آن را در اختیار دیگران قرار دهد.

مشکل از جایی آغاز شده است که این ساختار مفهومی به نام اعتبار اجتماعی را مطرح کرده است. براساس رفتارها -برای مثال استفاده از سامانه‌ی نقل و انتقال عمومی به جای وسایل شخصی- همچنین سابقه‌ی خوش‌حسابی و صدها پارامتر دیگر این اپلیکیشن به شما عددی میدهد که نشانه‌ی اعتبار اجتماعی شماست. هر چقدر رفتار شما با الگوهایی که در الگوریتم این شرکت لحاظ شده، نزدیک‌تر باشد این عدد افزایش می‌یابد و براساس آن نوعی سامانه‌ی تشویقی مانند امکان خرید یا موارد دیگر به شما تعلق می‌گیرد این هم به خودی خود داستان عجیبی نیست.

بسیاری از سرویس دهنده‌های مختلف از کارت‌های اعتباری گرفته تا فروشگاه‌های زنجیره‌ای نمونه‌ی ساده‌تری از این سیستم را ارائه می کنند. شما براساس میزان استفاده‌ی خود از این ساختارها پاداش می‌گیرید و این پاداش در قالب تخفیف‌ها یا هدایایی از این نهادها‌ست. نکته ای که همه‌ی این موارد به ظاهر ساده را در کنار هم قرار میدهد و یکباره آن را از ساختاری تشویقی و روندی عادی به موضوعی خطرناک و تهدید کننده تبدیل می‌کند، ترکیب این ساختار با تنوع خدمات جمع شده زیر یک چتر و گستردگی استفاده از این ساختار در جایی مانند چین است.

ابر‌شرکت علی‌بابا و ساختار اکوسیستم دیجیتال آن که از بازار دیجیتال تا خدمت‌دهنده‌ی مالی و مکان‌یاب و پیغام‌رسان و… را تشکیل می‌دهد از سوی جمع وسیعی مورد استفاده قرار می‌گیرد، به این ترتیب در غیاب رقیب جدی این شرکت مونوپولی (انحصار یک شرکت) یا لیگاپولی (انحصار چند شرکت محدود) بر داده‌ها و رفتارهای افراد پیش می‌آید.

از سوی دیگر در ساختار سیاسی چین که نظارت و وابستگی دولتی بخشی از ضمانت ادامه‌ی حیات شرکت‌های خصوصی عظیم است. آنچه در ابتدا به شکل یک عدد ساده به نظر می‌آید می‌تواند به سرعت به ابزاری برای مهندسی اجتماعی بدل شود. وقتی اکثریت مردم از این سیستم استفاده می‌کنند و با تغییر برخی از رفتارهای خود می‌توانند عدد اعتبار اجتماعی خود را افزایش داده و از مزایای آن -برای مثال اولویت یافتن با تخفیف ها و امثال آن- برخوردار شوند و در گام بعدی این عدد در مواردی برای بررسی سابقه و رفتار افراد مورد استفاده قرار بگیرید، دیگر داستان، داستان انتخاب شخصی نیست.

داستان تلاش برای قالب زدن بدنه‌ی جامعه براساس سلیقه‌ها و نظرات ساختار دولت شرکت است. این روند در ادامه امکان انتخاب را از مخاطب می‌گیرد، او را مجبور به مشارکت در سیستم کرده و در نهایت باعث می‌شود تا عمده‌ای از مردم رفتار اجتماعی، طرز زندگی و حتی تفکرات خود را بر اساس سیستمی تغییر دهند که به آن‌ها پاداش بیشتری می‌دهد این مهندسی اجتماعی تنوع سبک زندگی، فردیت و خلاقیت را از بین می‌برد و ابزاری برای تحمیل اتوریته‌ی دولتی بر شخص است.

روندی که باید در مقابل آن هوشیار و مراقب بود. همه‌ی آنچه گفته شد اما، نباید به ترسیم چهره‌ای شیطانی از فناوری بدل شود. فناوری ابزاری است که قابلیت بالایی دارد. در دست مصلحان بدل به ابزاری بینظیر برای رشد و فرصتی برای بروز استعدادهای بالقوه‌ی افراد می‌شود و در دست ساختارهای نظارتی راه ما را به سوی دنیای داستان ۱۹۸۴ باز می‌کند مهم‌ترین اشتباه این است که فناوری را مسئول بشماریم و از نیروهایی که از فناوری استفاده می‌کنند، غافل شویم.

حالا، بعد از خوندن ترجمه مقاله، و نظرات دو کارشناس ایرانی، و یکم فکر کردن، خیلی جالب می‌شه که توی بخش دیدگاه‌ها دیدگاه‌تون رو بنویسید و پیرامون این سیستم اعتباردهی اجتماعی صحبت کنیم. (درباره آینده این سیستم، و امکان، بدی‌ها و خوبی‌های اجراش در ایران خودمون)