WEBVTT 00:00.720 --> 00:03.080 ‫[نوارِ پلیس - ورود ممنوع] 00:03.800 --> 00:06.760 ‫می‌دونم که تمام مجلس از حادثه‌ی بسیار جدی 00:06.760 --> 00:11.760 ‫که در ساوت‌پورت رخ داده ‫بسیار نگران خواهد شد. 00:13.280 --> 00:16.280 ‫یک پسر ۱۷ ساله اهل بنکس در لانکاشر، 00:16.280 --> 00:18.480 ‫که اصالتاً اهل کاردیفه، 00:18.480 --> 00:21.080 ‫به اتهام قتل دستگیر شده. 00:21.560 --> 00:24.920 ‫[خبر فوری] ‫[ظاهراً مهاجم یک مهاجرِ مسلمان بوده] 00:24.960 --> 00:25.960 ‫[انتشار] 00:26.000 --> 00:27.080 ‫[مهاجم حمله با چاقو مهاجر بوده] 00:27.120 --> 00:30.840 ‫به محض این که اون توییت‌ها رو دیدم، 00:30.840 --> 00:34.680 ‫که در مورد هویتِ مهاجم ‫اطلاعات غلط پخش می‌کردن، 00:34.680 --> 00:38.400 ‫دقیقاً می‌دونستم قراره چه اتفاقی بیفته. ‫[مارک باروز - عضو تیم ساماندهی توییتر] 00:42.320 --> 00:43.880 ‫به مسجد حمله کنید! 00:47.840 --> 00:51.440 ‫خشونت بعد از پخش شایعاتِ دروغ ‫در مورد مظنون آغاز شد... 00:51.440 --> 00:52.920 ‫[الان بهترین زمان بستنِ مرزهاست!] 00:52.960 --> 00:58.640 ‫شبکه‌های اجتماعی راهی هستن که مردم ‫از طریقش بُهت و خشمشون رو ابراز می‌کنن. 00:58.640 --> 01:03.280 ‫یه مهاجرِ بدون مدارک تصمیم گرفته ‫به کلاس رقص تیلور سوئیفت بره... 01:03.280 --> 01:07.400 ‫وقتی نظراتِ سمّی فراگیر میشن، ‫می‌تونه باعث آسیب‌های واقعی بشه. 01:13.440 --> 01:18.720 ‫ولی ساوت‌پورت جدیدترین مورد ‫در زنجیره‌ای طولانی از رویدادها بود. 01:23.080 --> 01:27.240 ‫ما دیدیم که شبکه‌های اجتماعی ‫تأثیر زیادی دارن. 01:27.240 --> 01:29.280 ‫بارها و بارها. 01:31.680 --> 01:34.760 ‫و این به الگوریتم بستگی داره. 01:34.760 --> 01:36.840 ‫یه جریانِ توقف‌ناپذیر محتوا. 01:38.360 --> 01:42.400 ‫و اون دسته از ما که می‌فهمیم ‫این چطور کار می‌کنه 01:42.400 --> 01:45.320 ‫باید جلوی اتفاق افتادنش رو بگیریم. 01:47.080 --> 01:49.600 ‫جهانِ ما به طور فعال در حال بازسازیه. 01:50.600 --> 01:51.520 ‫[مقر ام‌آی۶، بریتانیا] 01:51.520 --> 01:54.080 ‫دروغ سریع‌تر از حقیقت پخش میشه، 01:54.080 --> 01:57.000 ‫جوامع رو متفرق و واقعیت رو تحریف می‌کنه. 01:58.520 --> 02:02.240 ‫و با از بین رفتن اعتماد، ‫حسِ مشترک ما از حقیقت هم از بین میره. 02:03.520 --> 02:07.560 ‫چالشِ تعیین‌کننده‌ی قرن ۲۱ صرفاً این نیست 02:07.560 --> 02:10.680 ‫که چه کسی قوی‌ترین ‫فناوری‌ها رو در اختیار داره، 02:10.680 --> 02:13.800 ‫بلکه اینه که چه کسی با درایتِ بیشتری ‫اونا رو هدایت می‌کنه. 02:13.800 --> 02:16.080 ‫شما این پلتفرم‌ها رو ساختید، 02:16.080 --> 02:18.480 ‫و حالا ازشون سوءاستفاده میشه. 02:18.480 --> 02:20.240 ‫برای منفعت و پوله. 02:20.240 --> 02:21.960 ‫نفوذ و قدرت. 02:21.960 --> 02:24.840 ‫مردم نمی‌فهمن دارن چه هیولایی رو تغذیه می‌کنن. 02:24.840 --> 02:27.200 ‫وظیفه‌ی ما میشه که حرف بزنیم. 02:28.160 --> 02:33.320 ‫[درون ماشین خشم] 02:38.320 --> 02:40.320 ‫- راستی می‌خوای به دوربین نگاه کنم؟ ‫- آره. 02:40.320 --> 02:41.840 ‫آماده؟ کف بزنم؟ 02:43.360 --> 02:46.120 ‫از وقتی که یادم میاد، ‫عاشق شبکه‌های اجتماعی بودم. 02:47.920 --> 02:49.480 ‫من با فیس‌بوک بزرگ شدم. 02:51.360 --> 02:54.400 ‫بخش مهمی از ارتباط برقرار کردن ‫با دوست‌هام بود. 02:55.640 --> 02:58.160 ‫بدترین اتفاقی که می‌افتاد ‫این بود که می‌فهمیدی 02:58.160 --> 03:02.080 ‫به یه مهمونی یا شب‌نشینی دعوت نشدی. 03:02.080 --> 03:04.120 ‫الان دیگه اون حس رو نداره. 03:04.120 --> 03:05.720 ‫الان حس خیلی متفاوتی داره. 03:05.720 --> 03:07.520 ‫[ماریانا اسپرینگ شرِ مطلقه] 03:07.560 --> 03:10.840 ‫فیدم پر از یه سری محتوای سمّی ‫و سرشار از خشمه، 03:10.840 --> 03:12.920 ‫مردم توی روم جیغ می‌زنن، 03:12.920 --> 03:15.640 ‫و من نمی‌تونم نگاه نکنم ‫چون کارم اینه. 03:16.800 --> 03:20.280 ‫به عنوان خبرنگار تحقیقات ‫شبکه‌های اجتماعی بی‌بی‌سی، 03:20.280 --> 03:24.160 ‫بخشی از کارم اینه که سعی کنم بفهمم ‫چرا این همه از این چیزها 03:24.160 --> 03:26.200 ‫توی این پلتفرم‌ها وجود داره. 03:26.200 --> 03:31.120 ‫ولی گرفتنِ جواب‌های درست ‫از شرکت‌ها فوق‌العاده سخته. 03:31.120 --> 03:36.440 ‫و افراد کمی که پیش قدم میشن ‫خطرِ بزرگی رو به جون می‌خرن. 03:36.840 --> 03:40.600 ‫[سان فرانسیسکو] 03:42.920 --> 03:46.360 ‫اگه به عنوان یه افشاگر ظاهر شی ‫و ازت اسم برده شه، 03:46.360 --> 03:49.520 ‫یه داغ ننگ روی پیشونیت می‌خوره. 03:49.520 --> 03:52.560 ‫پس، هدفم اینه که ازم شکایت نشه. 03:54.560 --> 04:01.080 ‫با افشاگری، می‌دونم که آینده‌ی کاری‌ام ‫توی شرکت‌های بزرگ فناوری ‫[مت موتیل - محقق ارشد فیس‌بوک و متا] 04:01.080 --> 04:04.320 ‫الان احتمالاً در حد صفره. 04:05.320 --> 04:07.120 ‫نشون دادن این بهم چه حسی داره؟ 04:08.440 --> 04:10.200 ‫یه جورایی وحشتناکه. 04:10.200 --> 04:12.000 ‫یه جورایی وحشتناکه. 04:15.040 --> 04:16.960 ‫اوه، وای، کلی از اینا داری. 04:18.320 --> 04:21.200 ‫حتماً خیلی طول کشیده ‫که اینا رو مستند کنی. 04:21.200 --> 04:23.360 ‫آره، آره. 04:23.360 --> 04:24.400 ‫یکم طول کشیده. 04:24.400 --> 04:26.680 ‫من چهار سال توی متا بودم، 04:26.680 --> 04:28.880 ‫پس اون طرفِ پرده رو دیدم 04:28.880 --> 04:32.960 ‫و بعضی از مشکلات رو بیشتر ‫از اونی که دلم می‌خواد می‌دونم. 04:34.720 --> 04:39.200 ‫من یه سری اسناد تحقیقاتی سطح بالاتر دارم ‫که نشون میدن... 04:39.200 --> 04:42.480 ‫همه جور آسیبی به کاربران ‫این پلتفرم‌ها وارد میشه. 04:44.320 --> 04:47.240 ‫اگه این شرکت‌ها قصد ندارن ‫از مردم محافظت کنن، 04:47.240 --> 04:51.000 ‫وظیفه‌ی من و افرادی مثل من میشه... 04:51.000 --> 04:54.560 ‫به عنوان افرادی که واقعاً می‌فهمیم ‫این سیستم‌ها چطور کار می‌کنن... 04:54.560 --> 04:56.320 ‫که حرف بزنیم. 04:59.840 --> 05:03.240 ‫خب، خیلی از اسکرین‌شات‌هایی که اینجا دارم 05:03.240 --> 05:05.600 ‫روشِ ما برای رده‌بندی محتواست. 05:05.600 --> 05:09.760 ‫الگوریتم ساخته شده که ‫چیزهایی رو در اولویت قرار بده 05:09.760 --> 05:13.200 ‫که بیشترین تعامل رو می‌گیرن، ‫و محتوای سیاسی که 05:13.200 --> 05:16.360 ‫بیشترین تعامل رو می‌گیره ‫اغلب اطلاعاتِ غلطه. 05:16.360 --> 05:18.080 ‫اغلب خیلی سمّیه. 05:18.080 --> 05:20.800 ‫یعنی مردمی که داد می‌زنن ‫و باهم بدرفتاری می‌کنن. 05:20.800 --> 05:23.560 ‫چقدر باید نگرانِ الگوریتم باشیم، 05:23.560 --> 05:26.840 ‫از نظر نقشی که در تحمیل ‫چنین محتوایی ایفا می‌کنن؟ 05:26.840 --> 05:29.480 ‫مردم نمی‌خوان این محتوا رو ببینن. 05:29.480 --> 05:34.760 ‫ولی مردم نمی‌دونن که اونا تصمیم می‌گیرن ‫این محتوا رو بهت تحمیل کنن 05:34.760 --> 05:37.040 ‫با این که میگی نمی‌خوایش. 05:37.040 --> 05:40.560 ‫و عواقبش واقعاً خیلی بده. 05:42.960 --> 05:46.440 ‫محصولاتِ متا توسط بیش از ۳ میلیارد نفر ‫استفاده میشن. 05:46.440 --> 05:49.040 ‫و هر چقدر مدت بیشتری بتونن ‫توی برنامه‌هاشون نگهت دارن، 05:49.040 --> 05:52.440 ‫تبلیغات بیشتری می‌فروشن ‫و پول بیشتری در میارن. 05:52.440 --> 05:56.040 ‫ولی خیلی مهمه که این کارها رو ‫درست انجام بدن، 05:56.040 --> 05:59.160 ‫چون وقتی این کارو نمی‌کنن، ‫اتفاقات خیلی بدی می‌افته. 06:00.560 --> 06:05.400 ‫[فوریه‌ی ۲۰۱۸ - سریلانکا] 06:22.880 --> 06:26.760 ‫در سال ۲۰۱۸، فیس‌بوک مثل طوفان ‫سریلانکا رو در بر گرفت. 06:26.760 --> 06:30.400 ‫کل این خیابون پر از فروشگاه‌های گوشی ‫در هر دو طرفشه، 06:30.400 --> 06:33.560 ‫و فروشگاه پشت فروشگاه پشت فروشگاهه. 06:33.560 --> 06:36.880 ‫و مردم از سراسر شهر به اینجا میان، 06:36.880 --> 06:38.360 ‫که به قیمتِ خوب گوشی بخرن. 06:39.920 --> 06:43.240 ‫فیس‌بوک یه برنامه داشت که با هر گوشی ‫که فروخته می‌شد، 06:43.240 --> 06:46.680 ‫فیس‌بوک رو مجانی دریافت می‌کردی، ‫داده‌ات رو مصرف نمی‌کرد. ‫[دکتر سانجانا هاتوتوا - محقق شبکه‌های اجتماعی] 06:46.680 --> 06:49.520 ‫پس یه جورایی تبدیل به پلتفرم پیش‌فرض شد. 06:49.520 --> 06:52.800 ‫یه حسِ واقعی اجتماعی پیدا می‌کردی، 06:52.800 --> 06:55.240 ‫یه حسِ... تعلق. 06:58.000 --> 07:02.560 ‫زیرِ اون ظاهر فریبنده، ‫فیس‌بوک تبدیل به روشِ غالبی شد 07:02.560 --> 07:08.520 ‫که بدترین عناصر جامعه ازش ‫برای شعله‌ور کردن نفرت استفاده می‌کردن. 07:10.920 --> 07:14.720 ‫سریلانکا با اکثریت جمعیت بودایی سینهالی ‫شناخته میشه. 07:15.880 --> 07:19.120 ‫ما قرن‌ها جمعیتِ مسلمان داشتیم. 07:19.120 --> 07:22.840 ‫ولی گروه کوچکی از راهب‌های بودایی هستن... 07:25.400 --> 07:30.520 ‫که از فیسبوک برای هدف قرار دادن مستقیم ‫جامعه‌ی مسلمانان سریلانکا استفاده کردن. 07:32.200 --> 07:35.160 ‫من واقعاً پیگیر این بودم که چطور از فیس‌بوک ‫به عنوان سلاح استفاده میشه. 07:36.680 --> 07:42.000 ‫و یه ویدیو را از یه مرد مسلمان دیدم. 07:43.960 --> 07:47.560 ‫کسایی که فیلم رو ضبط می‌کنن ازش می‌پرسن 07:47.560 --> 07:51.880 ‫آیا توی غذایی که اونا می‌خورن ‫قرص ناباروری می‌ریزه یا نه. 07:59.600 --> 08:00.880 ‫و اون گیج شده. 08:00.880 --> 08:03.120 ‫اون زبانِ سینهالی رو خوب متوجه نمیشه. 08:03.120 --> 08:04.920 ‫توی اون قسمت‌های کشور، 08:04.920 --> 08:06.920 ‫مردم به زبانِ تامیل حرف می‌زنن، نه سینهالی. 08:11.800 --> 08:15.080 ‫ولی صداها اینطور برداشت می‌کنن ‫که این یه مدرک بود، خب؟ 08:15.080 --> 08:18.720 ‫یعنی، مردی اینجا بود که ‫به این حقیقت اعتراف می‌کرد 08:18.720 --> 08:24.000 ‫که جامعه‌ی مسلمان داشت ‫زنان بودایی سینهالی رو نابارور می‌کرد. 08:25.520 --> 08:30.080 ‫بنابراین، ظرف ۴۸ ساعت این ویدیو ‫هزاران بار به اشتراک گذاشته شد. 08:30.080 --> 08:32.120 ‫مثل یه... 08:32.120 --> 08:33.920 ‫نفرتِ جوشان بود. 08:33.920 --> 08:35.720 ‫[مولوی مرشد - امام جماعت] 08:35.960 --> 08:37.960 ‫جمعیت از خیابون اومدن. 08:38.520 --> 08:41.120 ‫از اون طرف اومدن. 08:41.480 --> 08:44.960 ‫خیلی‌هاشون سلاح دستشون بود. 08:49.520 --> 08:52.400 ‫همه توی خونه‌هاشون بودن. 08:52.640 --> 08:54.320 ‫اونا همه چی رو سوزوندن. 08:56.840 --> 08:59.120 ‫اوباش بودایی خانه‌ها ‫و مغازه‌ها را به آتش کشیدند، 08:59.120 --> 09:00.640 ‫و مسلمانان جوان رو کشتن. 09:02.400 --> 09:05.480 ‫به سادگی یکی از بدترین خشونت‌های ضدمسلمان بود 09:05.480 --> 09:07.080 ‫که سریلانکا تا به حال دیده بود. 09:20.640 --> 09:23.200 ‫فیس‌بوک مثل بادی بود که ‫بذر نژادپرستی را گسترش می‌داد. 09:25.120 --> 09:28.320 ‫چیزی که توی پلتفرم بود ‫باعث شد مردم باورش کنن 09:28.320 --> 09:30.560 ‫و در نتیجه اقدام کنن. 09:32.000 --> 09:34.360 ‫و من هیچ راهی برای تماس گرفتن نداشتم. 09:34.360 --> 09:36.120 ‫هیچکس نبود که باهاش تماس بگیرم. 09:37.320 --> 09:39.320 ‫ما کاملاً درمونده بودیم. 09:43.360 --> 09:46.120 ‫وقتی به مطالبی که مت از داخل فیسبوک ‫به اشتراک گذاشته نگاه می‌کنم، 09:46.120 --> 09:48.200 ‫به نظرم دیوونه‌کننده میاد. 09:49.720 --> 09:54.840 ‫فکر کنم این سند یکی از افشاگرانه‌ترین‌هاست، 09:54.840 --> 09:58.600 ‫چون یه تحقیقات داخلی ‫به رهبری یه داده‌شناسه. 10:00.080 --> 10:03.560 ‫اساساً در مورد نحوه‌ی پاداش دادن فیس‌بوک ‫به خشم عمومی صحبت می‌کنه 10:03.560 --> 10:06.560 ‫و این که اگه کامنت‌های منفی بیشتری بگیری، 10:06.560 --> 10:08.640 ‫کلیک‌های بیشتری می‌گیری. 10:08.640 --> 10:11.480 ‫و این قسمتی هست که ‫در مورد انگیزه‌هایی صحبت می‌کنن 10:11.480 --> 10:14.240 ‫که شرکت‌ها ایجاد می‌کنن، ‫در اصل میگن: 10:14.240 --> 10:16.040 ‫«خشم جلب توجه می‌کند.» 10:16.040 --> 10:19.080 ‫و بعدش توضیح میدن و میگن: ‫«مجموعه فعلی مشوق‌های مالی 10:19.080 --> 10:23.800 ‫که الگوریتم‌های ما خلق می‌کنند ‫به نظر نمی‌رسد با رسالت ما همسو باشند.» 10:23.800 --> 10:26.680 ‫مثلاً، رسالتِ اونا انجام کارهای خوب در دنیاست، 10:26.680 --> 10:29.720 ‫و با این حال اون سیستم‌های پیشنهاد، ‫اون الگوریتم‌ها، 10:29.720 --> 10:34.080 ‫در حال انتشار محتوایی هستن که ‫از واکنش‌های منفی تغذیه می‌کنه. 10:34.080 --> 10:37.160 ‫و بنابراین می‌تونید ببینید ‫چطور روی کاربرها تأثیر میذاره. 10:37.160 --> 10:39.480 ‫و اونا اساساً خیلی واضح توضیحش میدن. 10:39.480 --> 10:40.680 ‫اینطور نیست که... 10:40.680 --> 10:43.240 ‫اینطور نیست که از کسی پنهان باشه. ‫یه جورایی همه‌مون این رو می‌دونیم. 10:43.240 --> 10:45.040 ‫ولی مسئله اینه که اونا هم می‌دونن. 10:47.120 --> 10:49.920 ‫و سریلانکا یه اتفاق یکباره نبود. 10:49.920 --> 10:53.920 ‫تقریباً تا جایی که چشم کار می‌کنه، ‫موجی از انسان‌ها در راهه. 10:53.920 --> 10:56.640 ‫اونا با خودشون چیزهایی رو ‫حمل می‌کنن که تونستن 10:56.640 --> 10:58.600 ‫از روستاها و خونه‌هاشون ‫نجات بدن که میگن 10:58.600 --> 11:00.720 ‫توسط ارتش میانمار به آتیش کشیده شدن. 11:00.720 --> 11:02.840 ‫اون بچه کوچولو رو توی سبد ببینید. 11:05.440 --> 11:08.680 ‫مثلاً اتفاقی که توی میانمار افتاد رو ‫در نظر بگیرید. 11:08.680 --> 11:11.240 ‫فیس‌بوک به طور فعال ‫نفرت‌پراکنی می‌کرد. 11:11.240 --> 11:13.240 ‫و فقط این جاها نبودن. 11:15.280 --> 11:18.960 ‫این بخشی از الگویی بود که ‫در سراسر جهان در حال وقوع بود. 11:18.960 --> 11:22.600 ‫مردم بر اساس چیزهایی که ‫توی فیس‌بوک می‌دیدن، عمل می‌کردن. 11:22.600 --> 11:25.280 ‫هیچ اطلاعات دیگه‌ای وجود نداشت ‫که اونا بهش پاسخ بدن. 11:25.280 --> 11:28.000 ‫و فکر کنم به همین دلیل فیس‌بوک ‫تقریباً مجبور شد 11:28.000 --> 11:30.560 ‫بیاد و معذرت خواهی کنه. ‫چون هیچ‌جوره نمی‌شد گفت: 11:30.560 --> 11:32.600 ‫«خب، صبر کنید، این به ما ربطی نداشت.» 11:32.600 --> 11:34.640 ‫کاملاً به فیس‌بوک مرتبط بود. 11:34.640 --> 11:35.840 ‫باید حرکت کنیم، دوستان. 11:35.840 --> 11:36.680 ‫[آوریل ۲۰۱۸] 11:36.720 --> 11:38.120 ‫مراقب باشید. 11:38.120 --> 11:39.000 ‫[آوریل ۲۰۱۸] 11:39.000 --> 11:42.640 ‫[مجلس سنای آمریکا] 11:45.400 --> 11:46.680 ‫[آقای مارک زاکربرگ] 11:46.720 --> 11:50.720 ‫اخیراً، محققان سازمان ملل متحد، ‫فیس‌بوک را به ایفای نقش 11:50.720 --> 11:54.120 ‫در تحریک نسل‌کشی احتمالی ‫در میانمار متهم کردند. 11:54.120 --> 11:57.200 ‫اتفاقی که توی میانمار می‌افته ‫یه فاجعه‌ی وحشتناکه، 11:57.200 --> 11:59.800 ‫- و ما باید بیشتر... ‫- همه با این موافقیم. 12:01.640 --> 12:05.840 ‫من به این دلیل تو متا استخدام شدم که ‫شرکت روابط عمومی خیلی بدی داشت. 12:05.840 --> 12:08.080 ‫یعنی، رسواییِ کمبریج آنالیتیکا بود. 12:08.080 --> 12:12.200 ‫دخالتِ روسیه تو انتخابات ۲۰۱۶ بود. 12:12.200 --> 12:16.200 ‫و از جاهایی مثل میانمار یا سریلانکا، 12:16.200 --> 12:18.160 ‫اونا به اندازه‌ی کافی سرمایه‌گذاری نمی‌کردن، 12:18.160 --> 12:21.360 ‫و خیلی از نفرت‌پراکنی‌ها از قلم می‌افتادن. 12:21.360 --> 12:23.080 ‫مورد توجه قرار نمی‌گرفتن. 12:23.080 --> 12:26.360 ‫ما به اندازه کافی دیدگاه گسترده‌ای ‫نسبت به مسئولیت خود نداشتیم، 12:26.360 --> 12:28.600 ‫و این اشتباه بزرگی بود 12:28.600 --> 12:30.760 ‫و این اشتباه من بود، ‫و معذرت می‌خوام. 12:33.480 --> 12:37.080 ‫بنابراین مارک میلیاردها خرج کرد 12:37.080 --> 12:40.240 ‫تا یه سری متخصص استخدام کنه 12:40.240 --> 12:44.200 ‫و تیم‌های تخصصی صحت‌سنجی ایجاد کنه. 12:44.200 --> 12:49.440 ‫شرح وظایف ما کاهش آسیب به کاربران، ‫در مقیاس جهانی بود. 12:49.440 --> 12:52.520 ‫گفتم: «اوه، این رویای منه. 12:52.520 --> 12:54.240 ‫این حاصل زحماتِ عمرمه.» 12:56.760 --> 13:00.800 ‫من فرصتش رو داشتم که ‫به فیس‌بوک ملحق شم، 13:00.800 --> 13:05.320 ‫که شخصاً اونجا رو ببینم، ‫[لینا غزال - مدیر سیاسی فیس‌بوک و متا] 13:05.320 --> 13:07.320 ‫از داخل. 13:07.320 --> 13:11.760 ‫و بنابراین فکر می‌کنم واقعاً فرصتی بود ‫که یکبار توی عمرت پیش میاد. 13:11.760 --> 13:18.560 ‫افراد متعهد زیادی بودن که می‌خواستن ‫کار درست رو انجام بدن. 13:20.640 --> 13:22.320 ‫می‌دونید، من عمیقاً به شفافیت اعتقاد دارم. 13:22.320 --> 13:25.600 ‫و فکر می‌کنم یکی از راه‌حل‌ها ‫به اشتراک گذاشتن داده‌های بیشتری ‫[برندون سیلورمن - مدیر عامل کراودتنگل] 13:25.600 --> 13:27.560 ‫با دنیای بیرونه. 13:27.560 --> 13:29.720 ‫و بنابراین کراودتنگل رو ساختم. 13:31.400 --> 13:33.600 ‫یه داشبورد آنلاین که می‌تونستی واردش شی. 13:33.600 --> 13:37.760 ‫کاری که ما کردیم باعث شد ‫خیلی راحت بشه دید چه داستان‌ها 13:37.760 --> 13:42.520 ‫و چه محتوایی اون روز توی فیس‌بوک ‫راست یا دروغ بود. 13:42.520 --> 13:44.560 ‫اگه به خاطر اون داشبورد کراوتنگل نبود، 13:44.560 --> 13:46.360 ‫نمی‌شد اونا رو از هم تشخیص داد. 13:48.080 --> 13:50.760 ‫مارک خیلی بهش علاقه داشت ‫و توش شریک شد 13:50.760 --> 13:54.000 ‫برای اطمینان از این که فیس‌بوک ‫نقشِ مثبتی توی دنیا داشته باشه. 13:55.720 --> 13:58.200 ‫رسالتِ جدید فیس‌بوک چیه؟ 13:58.200 --> 14:02.480 ‫خب، رسالتِ جدید ما اینه که ‫مردم دنیا رو به هم نزدیک‌تر کنیم. 14:02.480 --> 14:07.520 ‫وقتی مارک یه تغییر اساسی الگوریتم به نام ‫تعاملاتِ اجتماعی معنادار رو اعلام کرد، 14:08.080 --> 14:13.360 ‫در واقع، حس من این بود که یه علاقه‌ی ‫واقعی و خالصانه برای تلاش برای ساختن 14:13.360 --> 14:15.920 ‫یه الگوریتم بهتر در اون سال‌ها وجود داشت. 14:15.920 --> 14:18.520 ‫یه بازنگری اساسی در روشِ اساسی 14:18.520 --> 14:21.280 ‫برای رده‌بندی محتوا توی فید صورت گرفت. 14:21.280 --> 14:26.640 ‫که دوستان و خانواده رو نسبت به محتوای مدنی ‫و سیاسی و اخبار در اولویت قرار می‌داد. 14:26.640 --> 14:29.600 ‫اونا گفتن: «آره، از قرار معلوم مردم ‫روی محتوای سیاسی کلیک می‌کنن، 14:29.600 --> 14:32.360 ‫ولی در واقع بعد از یه مدت ‫حالشون بدتر میشه، 14:32.360 --> 14:34.760 ‫و بنابراین میزانِ سیاست موجود ‫توی فید رو کاهش می‌دیم.» 14:36.640 --> 14:40.600 ‫شغلم مستلزم اجرای آزمایش‌هایی در مقیاس بزرگ 14:40.600 --> 14:43.520 ‫گاهی روی صدها میلیون نفر بود، 14:43.520 --> 14:47.320 ‫که توشون نحوه‌ی رده‌بندیِ محتوا ‫توی فید رو تغییر می‌دادیم. 14:47.320 --> 14:50.680 ‫و این آدم‌ها اغلب خبر نداشتن ‫که توی آزمایش‌ها هستن. 14:50.680 --> 14:54.360 ‫شاید فقط یه روز حسِ متفاوتی ‫نسبت به فیدت داشته باشی. 14:54.360 --> 14:57.720 ‫پس، وارد میشی و بیشتر محتوای مدنی توی فیدت 14:57.720 --> 15:01.240 ‫شاید نباشن یا سیستم‌های محافظتی ‫در برابر محتوای مضر 15:01.240 --> 15:02.840 ‫شاید خاموش شده باشن. 15:04.720 --> 15:08.440 ‫و چیزی که فهمیدم این بود ‫که وقتی منابع خبری موثق 15:08.440 --> 15:10.240 ‫و قابل اطمینان رو حذف می‌کنی، 15:10.240 --> 15:12.040 ‫آخرش عموی من براتون می‌مونه 15:12.040 --> 15:14.440 ‫که دوست داره تئوری‌های توطئه منتشر کنه. 15:16.360 --> 15:20.560 ‫این تغییر که قرار بود آدم‌ها رو ‫به هم نزدیک‌تر کنه 15:20.560 --> 15:24.560 ‫و بهشون کمک کنه ارتباط برقرار کنن ‫در واقع تأثیر برعکس داشت، 15:24.560 --> 15:27.960 ‫که در واقع محتوایی رو تبلیغ می‌کرد ‫که باعث دودستگی بین مردم می‌شد 15:27.960 --> 15:29.720 ‫و بیشتر تفرقه‌افکنی می‌کرد 15:29.720 --> 15:31.680 ‫و اختلافاتِ بیشتری بین مردم ایجاد می‌کرد. 15:31.680 --> 15:34.840 ‫پس با این که عالی به نظر می‌اومد، ‫ما با کاهش محتوای مدنی 15:34.840 --> 15:38.680 ‫بازدیدهای اطلاعات غلط رو ‫بیش از دو برابر کردیم. 15:38.680 --> 15:41.280 ‫هدف اینه؟ نه، هدف این نیست. 15:41.280 --> 15:42.800 ‫این برعکسِ هدفه. 15:45.160 --> 15:48.600 ‫خب، ما در این مورد هشدار دادیم 15:48.600 --> 15:53.920 ‫توی سندی که به تیم تحویل دادیم، 15:53.920 --> 15:57.800 ‫و برای زاکربرگ خونده شده بودن ‫قبل از اجرای 15:57.800 --> 16:00.760 ‫این آزمایش‌های گسترده و... 16:02.000 --> 16:03.800 ‫همش نادیده گرفته شد. 16:05.440 --> 16:09.880 ‫ما خیلی جدی هشدار دادیم که ‫این قرار نیست خوب پیش بره. 16:09.880 --> 16:11.800 ‫و بعدش خوب پیش نرفت. 16:17.440 --> 16:21.200 ‫شهرهای بزرگ در سراسر کشور ‫بیشتر شبیه شهر ارواح شده‌اند. 16:21.200 --> 16:26.120 ‫مغازه‌ها تعطیل شدن، خیابان‌هایی که معمولاً ‫شلوغ بودن، حالا به طرز عجیبی ساکت شدن 16:26.120 --> 16:29.320 ‫اولش به نظر شبیه ‫هر رویداد دیگه بود. 16:30.720 --> 16:36.200 ‫و بعدش ناگهان یه جهشِ عظیم ‫از نظر حجم داشتیم. 16:36.200 --> 16:39.600 ‫مردم زمان زیادی رو ‫توی پلتفرم‌های آنلاین می‌گذروندن، 16:39.600 --> 16:42.080 ‫جایی که تمام اطلاعات تازه بودن، 16:42.080 --> 16:46.960 ‫و ما نمی‌تونستیم به طور واضح تشخیص بدیم ‫حقیقت دقیقاً چیه. 16:46.960 --> 16:50.160 ‫موارد جدید ابتلا و مرگ و میر ‫مرتبط با ویروس کرونا 16:50.160 --> 16:53.000 ‫همچنان در سراسر جهان رو به افزایش است. 16:53.000 --> 16:55.720 ‫چیزی که پاندمی ایجاد کرد ‫یه طوفانِ عالی بود، 16:55.720 --> 16:59.880 ‫چون مردم توی خونه گیر افتاده بودن ‫و زمانِ بیشتری آنلاین می‌گذروندن. 16:59.880 --> 17:02.720 ‫و الگوریتم‌ها، سیستم‌های پیشنهاد، 17:02.720 --> 17:04.920 ‫داشتن تأثیرگذارتر از همیشه می‌شدن. 17:06.240 --> 17:08.800 ‫اونا با واکسن‌هاشون میلیون‌ها نفر رو می‌کشن. 17:08.800 --> 17:16.400 ‫فعلاً هیچ واکسنی که روی هر ویروس آر‌ان‌ای ‫مؤثر باشه در برنامه نیست. 17:16.400 --> 17:18.960 ‫برام خیلی کلافه‌کننده بود. 17:18.960 --> 17:22.360 ‫بیشتر وقتم توی متا صرف این می‌شد ‫که چطوری به سرعت 17:22.360 --> 17:25.640 ‫تئوری‌های توطئه ‫و اطلاعات ضد و نقیض رو شناسایی کنم. 17:25.640 --> 17:28.240 ‫الان، دارن به شما دروغ میگن! 17:28.240 --> 17:33.680 ‫همیشه تشخیص اینکه کدوم یک از اونا به شورش ‫یا خشونت منجر میشه، دشوار بود. 17:33.720 --> 17:36.280 ‫هیچ‌کدوم از شما از روز اول ‫حقیقت رو گزارش نکردید. 17:36.280 --> 17:39.520 ‫شما توی جرائم علیه بشریت دست دارید. 17:39.520 --> 17:42.880 ‫فقط دونستن این که امکانش هست که اتفاق بدی 17:42.880 --> 17:46.560 ‫ممکن بوده بیفته و شاید یه فرصتی ‫برای جلوگیری ازش بوده... 17:47.880 --> 17:50.480 ‫این برام واقعاً تکان‌دهنده‌ست. 17:52.240 --> 17:55.200 ‫کابوسی که پشتِ مغزم جا خوش کرده. 17:57.920 --> 18:00.680 ‫قطعاً فضاییه که برام پراسترسه. 18:01.200 --> 18:03.040 ‫اطلاعات غلط بیداد می‌کنه... 18:03.040 --> 18:04.720 ‫به شما دروغ میگن! 18:06.000 --> 18:07.200 ‫اونا میلیون‌ها نفر رو می‌کشن... 18:21.800 --> 18:24.720 ‫اون شب که توی شورش‌ها بودی ‫چه حسی داشت؟ 18:33.320 --> 18:36.360 ‫زمان قرنطینه، هیچ نوری توی شهر نبود. 18:36.360 --> 18:38.640 ‫همه‌جا تعطیل شده بود. 18:38.640 --> 18:41.760 ‫و به عنوان یه دی‌جی، ‫این شرایط برام ویرانگر بود. 18:42.960 --> 18:44.560 ‫خیلی احساس تنهایی می‌کردم. 18:44.560 --> 18:46.760 ‫گاهی حتی می‌خواستم گریه کنم. 18:46.760 --> 18:49.640 ‫یکم کلافه‌تر از قبل شده بودم. 18:51.720 --> 18:54.480 ‫ما می‌خواستیم آزادی‌مون رو پس بگیریم ‫و به حالت عادی برگردیم. 18:56.440 --> 18:58.960 ‫پس، وقتی یه پست توی گروه فیس‌بوک دیدم 18:58.960 --> 19:01.880 ‫که ضد دولت هلند بود، 19:01.880 --> 19:04.000 ‫من رو کنجکاو کرد. 19:04.000 --> 19:06.120 ‫اونا هم برای آرمانِ من کار می‌کردن. 19:08.760 --> 19:12.600 ‫اولین حضورم توی گروه بود. 19:12.600 --> 19:16.080 ‫احساس می‌کردم یه خانواده‌ی جدید پیدا کردم. 19:16.080 --> 19:19.560 ‫ما هر روز در تماس بودیم، ‫گاهی حتی شب‌ها هم ارتباط داشتیم. 19:19.560 --> 19:21.480 ‫[مردمِ سالم باید آزاد زندگی کنند.] 19:21.520 --> 19:26.280 ‫کل پاندمی مردم رو به گروه‌های مختلفی ‫تقسیم کرده بود. 19:29.160 --> 19:32.160 ‫ولی بعدش، همیشه افراد کمی هستن 19:32.160 --> 19:34.200 ‫که تأثیر زیادی روی بقیه‌ی مردم دارن. 19:34.200 --> 19:37.040 ‫اونا قدرت دارن، قدرتِ ذهنی. 19:37.040 --> 19:39.240 ‫[وقتِ شورش‌های روزانه‌ی بزرگ در سراسر هلنده] 19:39.280 --> 19:41.400 ‫براشون تقریباً یه روتینِ روزانه بود 19:41.400 --> 19:43.440 ‫که نفرت‌پراکنی کنن و منفی‌باف باشن. 19:45.080 --> 19:47.240 ‫و تنش رو به افزایش بود. 19:47.240 --> 19:49.760 ‫احساس می‌کردم که یه اتفاقی داره می‌افته. 19:52.040 --> 19:55.480 ‫گفتگوها خشن‌تر و از کنترل خارج‌تر شدن. 19:55.480 --> 19:58.040 ‫و مردم واقعاً می‌خواستن یه کاری ‫در موردش انجام بدن. 19:58.040 --> 20:00.240 ‫بنابراین برای من جنگیدن برای آزادی 20:00.240 --> 20:02.920 ‫حتی از جونِ خودم هم مهم‌تر بود. 20:06.480 --> 20:09.960 ‫قبل از شروع اعتراض، ‫فکر می‌کنم همه‌شون هیجان‌زده بودن، 20:09.960 --> 20:11.880 ‫بدنشون پر از آدرنالین بودن، 20:11.880 --> 20:15.000 ‫و مردم از قبل شروع به تحریک هم کرده بودن. 20:16.160 --> 20:18.840 ‫توی یه لحظه‌ی خاص، ‫واقعاً ترسیده بودم، 20:18.840 --> 20:23.240 ‫چون جوری که بعضی‌ها نگاه می‌کردن، ‫با نفرت و پرخاشگاری، 20:23.240 --> 20:26.760 ‫انگار آماده بودن که حتی یکی دیگه رو بکشن. 20:26.760 --> 20:28.320 ‫یا خدا! 20:28.320 --> 20:31.720 ‫من پسرهای خیلی جَوون، ‫شاید ۱۳ یا ۱۴ ساله می‌دیدم 20:31.720 --> 20:33.960 ‫که به ماشین‌های پلیس سنگ می‌زدن. 20:35.000 --> 20:36.480 ‫کل شهر عوض شده بود، 20:36.480 --> 20:39.040 ‫و انگار مردم تبدیل به حیوون شده بودن. 20:44.000 --> 20:46.800 ‫در عرض ۲۰ دقیقه ‫تبدیل به یه منطقه‌ی جنگی شده بود. 20:48.920 --> 20:51.680 ‫اونا با استفاده از شبکه‌های اجتماعی ‫همدیگه رو دیوونه می‌کنن. 20:51.680 --> 20:53.000 ‫از این مطمئنم. 20:54.840 --> 20:57.320 ‫اون روز بدترین روزِ عمرم بود. 21:00.080 --> 21:03.520 ‫اینجا جاییه که من رستوران داشتم. 21:05.000 --> 21:07.600 ‫و اونا با وسایل آتیش‌بازی سوزوندنش. 21:10.080 --> 21:11.960 ‫تیراندازی هم شد. 21:13.400 --> 21:14.920 ‫حتماً خیلی ترسناک بوده. 21:14.920 --> 21:17.800 ‫- یعنی، حتی وقتی رفتید، حتماً ترسناک بوده. ‫- بله، البته! 21:17.800 --> 21:21.480 ‫گریه می‌کردم و فکر می‌کردم ‫فردا چیزی برای کار کردن نمونده. 21:25.800 --> 21:30.120 ‫پاندمی نشونه‌ی خیلی آشکاری بود که فیس‌بوک 21:30.120 --> 21:33.360 ‫خیلی بزرگ‌تر از مارک زاکربرگ شده. 21:33.360 --> 21:35.640 ‫اون یه جورایی کنترل رو از دست داده بود. 21:37.200 --> 21:39.520 ‫فضای مجازی در واقع ‫بین مردم تفرقه می‌انداخت، 21:39.520 --> 21:41.880 ‫مخصوصاً توی گروه‌های فیس‌بوک. 21:41.880 --> 21:48.120 ‫مردم ناگهان از اعدام دکترها و پرستارها ‫و حمله به مردم حرف می‌زدن. 21:48.120 --> 21:49.680 ‫اونا خیلی پرشورن... 21:51.040 --> 21:54.920 ‫خب، الان با یه قوطی زدن پشتِ سرم. 21:54.920 --> 21:57.000 ‫خیلی درد داشت. 21:57.000 --> 22:01.720 ‫مردم در شهرهای سراسر اروپا ‫خواستارِ مجازات و عدالت بودن.. 22:05.280 --> 22:08.640 ‫خشونتِ مرتبط با اتفاقاتی که ‫در شبکه‌های اجتماعی می‌افتاد، 22:08.640 --> 22:11.200 ‫که توی جاهایی مثل سریلانکا شروع شده بود، 22:11.200 --> 22:14.240 ‫داشت به خونه نزدیک و نزدیک‌تر می‌شد. 22:19.520 --> 22:22.880 ‫آیا حاضرید بپذیرید که فیس‌بوک ‫در مشکلات جامعه، 22:22.880 --> 22:26.680 ‫دوقطبی شدن جامعه و موارد دیگه نقش داره؟ 22:26.680 --> 22:29.600 ‫داره روی آتشِ شعله‌ور جلومون بنزین می‌ریزه؟ 22:29.600 --> 22:31.800 ‫خب، ببینید، به وضوح برای پلتفرمی که 22:31.800 --> 22:33.480 ‫یک سوم جمعیت جهان توش فعالیت دارن، 22:33.480 --> 22:37.120 ‫البته که خوب، بد و زشتی بشریت رو می‌بینید 22:37.120 --> 22:38.840 ‫که توی پلتفرمِ ما هم ظاهر میشه. 22:38.840 --> 22:43.520 ‫وظیفه ما اینه که بدی‌ها رو کم کنیم، ‫شدتش رو کاهش بدیم و خوبی‌ها را تقویت کنیم. 22:48.040 --> 22:51.280 ‫این اسناد تحلیل کاربران از داخل فیس‌بوک 22:51.280 --> 22:55.920 ‫مربوط به دوره‌ای هستن که این شرکت ‫از این استدلال جدید استفاده می‌کرد. 22:55.920 --> 22:58.000 ‫ما مسئول همه چی نیستیم. 22:58.000 --> 23:01.400 ‫ما «آینه‌ای» هستیم که ‫جامعه رو انعکاس می‌دیم. 23:01.400 --> 23:05.280 ‫این اسناد اساساً در مورد چگونگی فعال شدن 23:05.280 --> 23:10.720 ‫فرآیندهای روانشناختی کاربران توسط ‫انواع خاصی از محتوا صحبت می‌کنن. 23:12.800 --> 23:17.120 ‫به خصوص، میگن این اتفاق زمانی می‌افته ‫که کاربران محتوای حساس رو می‌بینن 23:17.120 --> 23:20.600 ‫که شامل محتواییه که خطر بالایی ‫برای آسیب رسوندن 23:20.600 --> 23:23.200 ‫به افراد و تحریک خشونت داره. 23:23.200 --> 23:27.240 ‫بنابراین، شما اساساً اذعان می‌کنید ‫که نحوه‌ی ساخت پلتفرم‌ها 23:27.240 --> 23:30.720 ‫و نحوه‌ی استفاده از الگوریتم‌ها ‫و سیستم‌های پیشنهاددهنده، 23:30.720 --> 23:34.040 ‫در نهایت منجر به این آسیب‌ها میشه. 23:34.040 --> 23:36.520 ‫و این می‌تونه پیامدی توی دنیای واقعی ‫برامون داشته باشه. 23:37.160 --> 23:39.480 ‫عموماً احساس می‌شد که رهبری ‫مطمئن نبود جواب چیه؟ 23:39.480 --> 23:43.680 ‫ولی کم‌کم به نوعی حالت تدافعی تبدیل شد. 23:43.680 --> 23:47.800 ‫«ما مسئول تمام دوقطبی‌سازی‌های جامعه نیستیم.» 23:47.800 --> 23:50.880 ‫هیچکس نمیگه شما مسئول ‫تمام دوقطبی‌سازی‌ها هستید. 23:50.880 --> 23:53.360 ‫فقط می‌گیم بهش کمک می‌کنید، 23:53.360 --> 23:56.400 ‫و احتمالاً به روش‌هایی که لزومی نداره. 23:56.400 --> 23:58.240 ‫و اگه فقط چندتا تغییر ایجاد کنید، 23:58.240 --> 24:00.520 ‫شاید دیگه به اون اندازه بهش کمک نکنید. 24:00.520 --> 24:03.720 ‫و آره، فکر کنم این دلسردکننده بود، 24:03.720 --> 24:05.880 ‫چون به نظر میاد یه فرصتی بود که 24:05.880 --> 24:07.080 ‫واقعاً درون‌نگرانه بود. 24:07.080 --> 24:11.000 ‫اگه اسمِ اپلیکیشن تیک‌تاک رو نشنیدید، ‫به زودی خواهید شنید. 24:11.000 --> 24:13.200 ‫یکی از سریع‌ترین برنامه‌های شبکه‌های اجتماعیه 24:13.200 --> 24:17.320 ‫که تونسته از صفر به بیش از ۲۰۰ میلیون ‫کاربر ثبت‌نام‌شده برسه. 24:17.320 --> 24:20.880 ‫۶۰ میلیون کاربر فعال روزانه در سراسر جهان، ‫در مدت سه سال. 24:20.880 --> 24:22.520 ‫بنابراین رشدش فوق‌العاده بود. 24:25.560 --> 24:27.360 ‫خیلی خوش‌شانس بودم ‫که به تیک‌تاک ملحق شدم. 24:28.640 --> 24:31.800 ‫شغلم بهبود دادن الگوریتم بود، ‫[روفان دینگ - مهندس یادگیری ماشین] 24:31.800 --> 24:35.440 ‫تا بتونی ۵۰ ویدیو رو پشت سر هم ببینی، 24:35.440 --> 24:37.520 ‫شاید ظرف پنج یا ده دقیقه. 24:37.520 --> 24:42.120 ‫الگوریتم تیک‌تاک می‌تونه اطلاعاتِ ‫خیلی بیشتری ازت جمع کنه. 24:42.120 --> 24:44.840 ‫کسِ دیگه‌ای یه ذره حس بدی پیدا نکرده 24:44.840 --> 24:48.640 ‫که الگوریتمِ تیک‌تاک واسه صفحه‌ی «برای شما» ‫چقدر دقیق میشه؟ 24:50.920 --> 24:54.080 ‫از وقتی که فیس‌بوک در اواسط اکتبر ‫به متا تغییر نام داد 24:54.080 --> 24:58.960 ‫واقعاً برای پیدا کردن جایگاهش یا جلب توجه ‫در اینجا به مشکل خورده. 24:58.960 --> 25:01.200 ‫رشد کاربران متوقف شده یا رو به کاهشه. 25:01.200 --> 25:05.480 ‫متا رو به افول بود، چون تیک‌تاک ‫رسماً داشت بازارش رو می‌گرفت. 25:05.480 --> 25:07.440 ‫یعنی، هیچی شکی توی ذهنم نیست، 25:07.440 --> 25:08.640 ‫مارک زاکربرگ، 25:08.640 --> 25:10.240 ‫برای اولین بار توی عمرش، 25:10.240 --> 25:11.920 ‫دیشب آسیب‌پذیر به نظر می‌اومد. 25:13.520 --> 25:17.360 ‫راستش یادمه ترسِ زیادی از تیک‌تاک بود. 25:18.560 --> 25:24.080 ‫به نظر می‌اومد مارک واقعاً نگران بود ‫که اونا از متا سبقت بگیرن. 25:24.080 --> 25:26.920 ‫منشِ کلی در اصل حرکتِ سریع ‫و شکستن مرزهاست. 25:26.920 --> 25:32.760 ‫و یه راه برای تلاش برای رقابت با تیک‌تاک ‫این بود که صرفاً سریع حرکت کنیم. 25:34.800 --> 25:36.240 ‫اون موقع به نظر من می‌اومد 25:36.240 --> 25:38.960 ‫که تقریباً یه جور مسابقه‌ی تسلیحاتی ‫بر سرِ تعامل بود. 25:41.240 --> 25:44.120 ‫مارک خیلی به رقابت بدبینه. 25:44.120 --> 25:47.240 ‫و بنابراین وقتی حس می‌کنه ‫نیروهای رقیب بالقوه وجود دارن، 25:47.240 --> 25:49.440 ‫هیچ مقدار پولی براش زیاد نیست. 25:49.440 --> 25:51.080 ‫[معرفیِ ریلز اینستاگرام] 25:51.120 --> 25:53.840 ‫یه راه برای تلاش برای رقابت ‫با یه شرکت دیگه که 25:53.840 --> 25:57.640 ‫یه محصول منحصربفرد ارائه می‌کنه ‫تلاش برای تقلید ازشه. 25:59.040 --> 26:01.040 ‫و یه لحظه رو یادم میاد که... 26:01.040 --> 26:03.200 ‫پروسه‌ی روند توزیع نیروها بود، 26:03.200 --> 26:05.360 ‫و یه سری تیم صحت‌سنجی ‫و تیم امنیتی بودن 26:05.360 --> 26:08.760 ‫که دو نفر نیرو می‌خواستن که ‫روی محتوای کودکان کار کنن 26:08.760 --> 26:10.360 ‫و ده نفر می‌خواستن روی انتخابات کار کنن، 26:10.360 --> 26:11.840 ‫یه تیم دیگه بود که گفت: 26:11.840 --> 26:14.680 ‫«اوه، ما ۷۰۰ نفر برای ریلز اینستاگرام می‌خوایم.» 26:15.880 --> 26:17.600 ‫منم گفتم: «باشه.» 26:23.600 --> 26:27.240 ‫هر وقت که نوع جدیدی از محصول، ‫مثلاً ریلز رو معرفی می‌کنی، 26:27.240 --> 26:29.120 ‫ریسکِ بالایی وجود داره، 26:29.120 --> 26:32.280 ‫چون زیرساختی که قبلاً وجود داشته، 26:32.280 --> 26:35.920 ‫یا اصلاً وجود نداره یا خیلی نابالغه. 26:35.920 --> 26:40.640 ‫بنابراین، آماده‌سازی کافی ‫قبل از معرفی دشواره. 26:42.080 --> 26:46.720 ‫من کلافه شده بودم، ‫چون یه موازنه‌ی معمول 26:46.720 --> 26:51.560 ‫بین محافظت از مردم در برابر محتوای مضر ‫و تعامل وجود داره. 26:56.040 --> 26:58.720 ‫یه سری اسناد دیگه وجود دارن ‫که به طور خاص در مورد 26:58.720 --> 27:00.920 ‫تفاوت بین تیک‌تاک و ریلز صحبت می‌کنند. 27:00.920 --> 27:03.280 ‫طرز کار ریلز به تیک‌تاک شباهت داره. 27:03.280 --> 27:06.040 ‫پس، محتوایی بهت تحمیل میشه ‫که بهش علاقه نشون میدی، 27:06.040 --> 27:08.200 ‫نه لزوماً از کسایی که می‌شناسی. 27:10.520 --> 27:13.640 ‫و این مطالعه‌ی خود متا با آماره، 27:13.640 --> 27:15.440 ‫که به طور داخلی به اشتراک گذاشته شده، 27:15.480 --> 27:18.160 ‫جایی که به طور فعال اذعان می‌کنن 27:18.160 --> 27:22.560 ‫که برای جلوگیری از آسیب‌ها ‫در ریلز با مشکل روبرو هستن. 27:22.560 --> 27:24.640 ‫در واقع چیزهایی مثل خشونت و تحریک. 27:25.800 --> 27:28.760 ‫پس، اینجا می‌بینید که اعتراف می‌کنن: ‫«نظرات در پُست‌های ریلز 27:28.760 --> 27:31.600 ‫درصد گفتار خصمانه‌ی ناقض قوانین بالاتری دارند.» 27:31.600 --> 27:34.320 ‫خب، «۷۵ درصد بالاتر ‫برای زورگویی و آزار و اذیت.» 27:34.320 --> 27:36.400 ‫«۱۹ درصد بالاتر برای نفرت‌پراکنی.» 27:36.400 --> 27:38.960 ‫و «۷ درصد بالاتر برای خشونت و تحریک.» 27:38.960 --> 27:43.160 ‫و بنابراین در اصل چیزی که ‫این سند بهم نشون میده. 27:43.160 --> 27:46.360 ‫اینه که اونا رابط‌های کاربری جدیدی می‌سازن، 27:46.360 --> 27:49.320 ‫اونا محصولاتِ جدیدی به سایتشون اضافه می‌کنن 27:49.320 --> 27:51.440 ‫تا با رقباشون مثل تیک‌تاک رقابت کنن، 27:51.440 --> 27:56.680 ‫ولی با این حال، به نظر نمیاد که به موقع ‫اقدامات حفاظتی مناسب انجام بدن. 27:56.680 --> 28:00.800 ‫پس عجله‌شون برای تکامل، ‫رشد و درگیر نگه داشتن کاربر 28:00.800 --> 28:04.520 ‫در نهایت کاربرها رو به خطر میندازه، ‫که خودشون بهش اعتراف می‌کنن. 28:04.520 --> 28:06.040 ‫چرا این اتفاق می‌افته؟ 28:07.320 --> 28:09.680 ‫وقتی توی این تیم‌های صحت‌سنجی کار می‌کنی، 28:09.680 --> 28:13.720 ‫اونا در موضع ضعف قرار دارن، ‫چون برای راه‌اندازی چیزی 28:13.720 --> 28:19.280 ‫که قراره از مردم در برابر یه جور آسیب ‫توی ریلز یا فید محافظت کنه، 28:19.280 --> 28:24.360 ‫باید تیمی رو که مسئول فید ‫یا مسئول ریلزه رو قانع کنی، 28:24.360 --> 28:27.960 ‫که تغییر محصولی رو که می‌خوای تأیید کنه. 28:27.960 --> 28:31.360 ‫ولی یه عدم تعادلِ قدرت وجود داره. 28:31.360 --> 28:35.040 ‫اونا مشوق‌هایی دارن که نذارن ‫اون محصولات راه‌اندازی بشن، 28:35.040 --> 28:39.360 ‫چون چیزهای سمّی تعاملِ بیشتری می‌گیرن ‫تا چیزهای غیرسمّی. 28:41.200 --> 28:44.560 ‫تیک‌تاک واقعاً سعی داشت ‫بازار رو تصاحب کنه، 28:44.560 --> 28:49.440 ‫و شاید هر هفته یه نسخه‌ی جدید بده بیرون ‫و الگوریتم رو بهبود بده. 28:50.840 --> 28:56.560 ‫ولی من کم‌کم متوجه مشکلات بیشتر و بیشتری ‫در استفاده‌ی مردم از تیک‌تاک شدم، 28:56.560 --> 29:00.000 ‫مخصوصاً محتوای مرزی بیشتر بود. 29:00.000 --> 29:03.520 ‫برای مثال یه چیز نامحسوس، ‫مثل تئوری توطئه، 29:03.520 --> 29:06.520 ‫یا محتوای مشکل‌سازی که ‫فقط وقتی دیده می‌شدن 29:06.520 --> 29:10.200 ‫که بیشتر از یه مدت خاص ‫از برنامه استفاده می‌کردی. 29:10.200 --> 29:17.240 ‫فکر می‌کنم با پیشرفته‌تر شدن مدل، ‫مشکل محتوای مرزی برجسته‌تر شد. 29:19.960 --> 29:23.000 ‫یادمه توی سال ۲۰۲۲ چطور ‫فیدهای شبکه‌های اجتماعی 29:23.000 --> 29:27.320 ‫پر از محتوای مرزی ‫و مطالب مبهم بودن. 29:27.320 --> 29:31.200 ‫بعضی‌هاشون به وضوح غیر قابل قبول بودن. 29:31.200 --> 29:36.080 ‫شاید اطلاعات غلط یا نفرتِ نژادپرستانه، ‫یا آزار و اذیت یهودستیزانه بود. 29:37.680 --> 29:39.600 ‫و راستش یه ذره گیج شده بودم، 29:39.600 --> 29:41.720 ‫چون به نظر می‌اومد زمان پاندمی، 29:41.720 --> 29:44.000 ‫تلاش‌هایی از طرف شرکت‌ها، 29:44.000 --> 29:47.480 ‫شرکت‌های شبکه‌های اجتماعی، ‫برای رسیدگی به این چیزهای مرزی بود... 29:47.480 --> 29:51.560 ‫و دوباره برگشته بود ‫و در واقع برای انتقام برگشته بود. 29:51.560 --> 29:53.600 ‫چرا این اتفاق می‌افتاد؟ 29:53.600 --> 29:55.720 ‫خیلی خوشحالم که خواستی با من حرف بزنی 29:55.720 --> 29:57.240 ‫و این مصاحبه رو انجام بدی. 30:07.240 --> 30:09.880 ‫خب، بهم بگو به عنوان مهندس چیکار می‌کردی. 30:11.880 --> 30:15.320 ‫من توی متا کار می‌کردم ‫و الگوریتم‌ها یا برنامه‌هایی می‌ساختم 30:15.320 --> 30:17.960 ‫تا میزانِ محتوای مرزی رو کاهش بدن. 30:17.960 --> 30:21.840 ‫و به مرور زمان دستورِ کار تیم ما 30:21.840 --> 30:25.920 ‫به نحوی تغییر کرد که اجازه می‌داد ‫محتوای مرزی بیشتری تولید شه. 30:25.920 --> 30:32.200 ‫فکر می‌کنی این تصمیم به مسابقه‌ی تعامل ‫با تیک‌تاک ربط داشت؟ 30:32.200 --> 30:34.600 ‫بله، قطعاً به اون ربط داشت. 30:34.600 --> 30:36.120 ‫داری به تیک‌تاک می‌بازی، 30:36.120 --> 30:38.240 ‫و در نتیجه قیمتِ سهامت افت می‌کنه. 30:38.240 --> 30:41.520 ‫و خب در چنین مواقعی آدم‌ها یه جورایی 30:41.520 --> 30:44.560 ‫خیلی بدبین و یه جورایی منفعل میشن. 30:44.560 --> 30:48.800 ‫و اونا می‌گفتن: «بیاید هر کاری که می‌تونیم ‫برای رسیدن انجام بدیم. 30:48.800 --> 30:53.040 ‫از کجا می‌تونیم دو سه درصد درآمد ‫واسه سه‌ماهه‌ی بعد داشته باشیم؟ 30:53.040 --> 30:56.680 ‫شاید اگه این چیزها واقعاً بد باشن، ‫کاربرها دیگه از برنامه استفاده نمی‌کنن. 30:56.680 --> 30:58.960 ‫اگه به استفاده از برنامه ادامه میدن، 30:58.960 --> 31:00.920 ‫پس طبعاً بد نیست.» 31:00.920 --> 31:03.000 ‫پس اگه کسی محتوای مضر دوست داشته باشه، 31:03.000 --> 31:04.880 ‫محتوای مضر بیشتری می‌بینه؟ 31:04.880 --> 31:07.480 ‫آره. اهمیتِ زیادی بهش نمیدی، 31:07.480 --> 31:10.920 ‫چون در بلند مدت به استفاده ازش ادامه میدن. 31:10.920 --> 31:13.760 ‫در نهایت کی این تصمیمات رو می‌گرفت؟ 31:13.760 --> 31:15.440 ‫معاون ارشد. 31:15.440 --> 31:18.040 ‫و فکر کنم اون مستقیم ‫به مدیر عامل گزارش می‌داد. 31:19.160 --> 31:23.000 ‫پس، یه جورایی بهمون می‌گفتن که ‫این به خاطر کاهش قیمت سهامه، 31:23.000 --> 31:25.480 ‫پس شاید بعداً برگردیم سراغش. 31:25.480 --> 31:27.880 ‫نمی‌تونست حرفِ دلگرم‌کننده‌ای باشه، 31:27.880 --> 31:30.880 ‫«اوه، شاید در آینده برگردیم سراغش.» 31:30.880 --> 31:33.360 ‫آره، چون ریسکِ حقوقی نداره، می‌دونی؟ 31:34.360 --> 31:37.800 ‫هیچکس واقعاً نمی‌دونه ‫فیس‌بوک داره چیکار می‌کنه. 31:37.800 --> 31:41.080 ‫بنابراین در واقع هیچ انگیزه‌ای ‫برای هیچ کدوم از این شرکت‌ها وجود نداره. 31:45.640 --> 31:48.560 ‫برای من با مهاجرت شروع شد. 31:48.560 --> 31:50.960 ‫من یه جورایی نامزد عالی بودم. ‫[کالوم جکسون] 31:52.600 --> 31:56.040 ‫وقتی ۱۳ و ۱۴ ساله بودم، با کلی تردید 31:56.040 --> 32:00.160 ‫در مورد توانایی‌ام برای داشتن دوست ‫و روابط دست و پنجه نرم می‌کردم. 32:03.000 --> 32:06.960 ‫برام خیلی آسون بود که باور کنم ‫دنیا بر علیه منه. 32:06.960 --> 32:09.840 ‫باعث شده بود به این ایده‌ی زوال ‫اعتقاد پیدا کنم. 32:11.160 --> 32:18.000 ‫من اولش با مقاله‌های ویدیوییِ سطح مبتدی ‫و مبتنی بر واقعیت شروع کردم. 32:18.000 --> 32:20.240 ‫وقتشه مرزهامون رو ببندیم. 32:20.240 --> 32:22.920 ‫یعنی: «فقط باید مهاجرت رو کاهش بدیم.» 32:22.920 --> 32:26.040 ‫بعدش آهسته و پیوسته شروع می‌کنه ‫به پیشنهاد کردن 32:26.040 --> 32:28.160 ‫کانال‌های بیشتر و بیشتری در موردش. 32:28.160 --> 32:32.040 ‫و بعدش یه جورایی ‫وارد همه‌ی اکوسیستم به طور کلی میشی. 32:33.640 --> 32:36.760 ‫و بعدش می‌رسه به این که: ‫«فرهنگِ ما داره تغییر می‌کنه.» 32:36.760 --> 32:41.680 ‫قربانی شدن بچه‌هامون ‫در قربانگاه مهاجرتِ دسته جمعی. 32:43.080 --> 32:46.120 ‫«غربی که همه‌مون می‌شناختیم ‫در حال جایگزین شدنه.» 32:46.120 --> 32:49.680 ‫و بعدش محتوایی از زمینه‌های دیگه ‫در اون فضا بهت پیشنهاد میشه، 32:49.680 --> 32:53.200 ‫که بعدش در مورد فمنیسم حرف می‌زنن. 32:53.200 --> 32:56.200 ‫و بعدش در مورد حقوق خاص حرف می‌زنن. 32:56.200 --> 32:59.320 ‫و بعدش ناگهان از دیدگاهی می‌شنوی 32:59.320 --> 33:01.320 ‫که اولش منطقی به نظر میاد 33:01.320 --> 33:03.680 ‫و بعدش چند ماه دیگه، 33:03.680 --> 33:06.640 ‫رسماً هر چیزی در اون فضا رو باور می‌کنی. 33:08.520 --> 33:10.720 ‫ثروتمندترین مرد دنیا رو تشویق کنید. 33:10.720 --> 33:12.760 ‫[اکتبر ۲۰۲۲] 33:12.800 --> 33:18.160 ‫خبر فوری: توییتر همین الان ‫پیشنهاد ایلان ماسک رو قبول کرد. 33:18.160 --> 33:22.360 ‫این پلتفرم شبکه‌ی اجتماعی ‫حالا در دست ثروتمندترین مرد دنیاست. 33:24.280 --> 33:27.440 ‫من توی توییتر فهمیدم که ایلان ماسک ‫داره توییتر رو می‌خره. 33:27.440 --> 33:28.960 ‫حرکتِ عجیبی به نظر می‌اومد. 33:28.960 --> 33:32.080 ‫همه سعی داشتن بفهمن چرا این کارو می‌کنه. ‫[یائو یو - مهندس نرم افزار ارشد توییتر] 33:32.080 --> 33:34.680 ‫ماسک در توییتی نوشت: ‫«در حال ورود به دفتر مرکزی توییتر، 33:34.680 --> 33:37.000 ‫سعی کنید باهاش کنار بیاید.» ‫(بذارید سینک رو بیارم داخل) 33:37.000 --> 33:39.520 ‫من نگرانی‌هایی داشتم... 33:39.520 --> 33:43.520 ‫به خاطر میزان منابعی که توییتر ‫اون موقع صرف می‌کرد ‫[لیزا جنینگ یانگ - رئیس طراحی و امنیت توییتر] 33:43.520 --> 33:45.760 ‫که پلتفرم امن‌تری باشه. 33:45.760 --> 33:49.480 ‫توییتر هیچوقت بی‌نقص نبود، ‫ولی این اولویتِ اول شرکت بود. 33:49.480 --> 33:53.680 ‫می‌دونید، یه جور مدل کسب و کار مبتنی بر خشمه. 33:53.680 --> 33:55.280 ‫اگه الگوریتم بدون نظارت بمونه 33:55.280 --> 34:01.000 ‫الگوریتم می‌تونه بدترین و فتنه‌انگیزترین ‫نظرات رو در اولویت قرار بده. ‫[مارک باروز - عضو تیم ساماندهی توییتر] 34:01.000 --> 34:03.200 ‫وظیفه‌ی ما این بود که مطمئن شیم 34:03.200 --> 34:08.160 ‫وقتی چیزی رو سرچ می‌کردی، ‫چیزی که می‌دیدی قابل اطمینان و درست باشه. 34:08.160 --> 34:10.640 ‫ما خیلی به کاری که می‌کردیم ایمان داشتیم. 34:10.640 --> 34:12.440 ‫[پرنده آزاد شد] 34:12.440 --> 34:13.880 ‫[توییت] 34:14.000 --> 34:17.520 ‫با ایلان ماسک هرگز حوصله‌تون سر نمیره، ‫منتظرِ کلی ایده، 34:17.520 --> 34:20.760 ‫کلی تغییر و کلی ابهام باشید. 34:20.760 --> 34:22.520 ‫هر وقت با ما حرف می‌زد، 34:22.520 --> 34:24.760 ‫می‌خواست توییتر بیشتر مثل تیک‌تاک باشه. 34:24.760 --> 34:27.080 ‫تیک‌تاک مثل طوفان آمریکا رو در نوردیده. 34:27.080 --> 34:30.840 ‫اون موقع میزان تعامل توی تیک‌تاک ‫به طرز فوق‌العاده‌ای رو به رشد بود. 34:30.840 --> 34:35.400 ‫اون روی سرسخت کردن توییتر متمرکز بود. 34:35.760 --> 34:39.240 ‫[اون اخراجه] 34:39.280 --> 34:44.640 ‫من ۱۵ نوامبر فهمیدم که دسترسی‌ام ‫به لپ‌تاپ کاری‌ام 34:44.640 --> 34:47.960 ‫و حساب ایمیلم نصفِ شب قطع شدن. 34:47.960 --> 34:49.280 ‫چه احساسی داشت؟ 34:49.280 --> 34:54.880 ‫بازم میگم شوکه شده بودم ‫چون فکر می‌کردم اقلاً 34:54.880 --> 34:56.520 ‫شرکت یکم نجابت داشته باشه 34:56.520 --> 34:59.360 ‫که رسماً بهم اطلاع‌رسانی کنه. 34:59.360 --> 35:02.680 ‫نه چیزی که انقدر یهویی به نظر می‌اومد. 35:02.680 --> 35:04.960 ‫چند درصد از کارمندهات ‫توی توییتر رو اخراج کردی؟ 35:04.960 --> 35:08.280 ‫فکر کنم الان با ۲۰ درصد ‫نیروهای اصلی کار می‌کنیم. 35:08.280 --> 35:09.760 ‫پس ۸۰ درصد رفتن؟ 35:09.760 --> 35:11.240 ‫عه، آره. 35:11.240 --> 35:15.080 ‫ما ۲۵۰ تا طراح داشتیم، ‫توی بخش طراحی داشتیم، 35:15.080 --> 35:17.960 ‫و در نهایت احتمالاً ۸ نفر از ما مونده بود. 35:17.960 --> 35:20.600 ‫کل بخش اعتماد و ایمنی، 35:20.600 --> 35:24.080 ‫تقریباً همه اون موقع رفته بودن، ‫اون اولویت نبود. 35:24.080 --> 35:27.440 ‫از قرار معلوم اون همه آدم ‫برای اداره‌ی توییتر لازم نیست. 35:27.440 --> 35:29.520 ‫ولی ۸۰ درصد؟ این خیلی زیاده. 35:29.520 --> 35:30.840 ‫عه، آره. 35:30.840 --> 35:35.800 ‫اگه سعی نداشته باشی یه جور سازمان ‫فعال اجتماعی مجلل اداره کنی... 35:37.320 --> 35:39.560 ‫و اهمیتِ زیادی به سانسور کردن ندی، 35:39.560 --> 35:42.560 ‫اون وقت واقعاً می‌تونی ‫عذر خیلی‌ها رو بخوای. 35:46.360 --> 35:47.800 ‫فکر نکنم هیچکدوم انتظار داشتیم 35:47.800 --> 35:50.840 ‫به اون سرعت به اون بدی بشه. 35:50.840 --> 35:53.360 ‫یالا، برید عقب، برید عقب. ‫خوشحالم که به توییتر برگشتم. 35:53.360 --> 35:55.920 ‫چیزی رو که می‌خونید باور نکنید. ‫رسانه‌های اصلی رو باور نکنید. 35:55.920 --> 36:00.960 ‫ایلان بعد از خریدن توییتر ‫حساب توییترم رو برگردوند. 36:00.960 --> 36:03.480 ‫بعضی از افرادی که بَن شده بودن، 36:03.480 --> 36:05.720 ‫تمام این افرادی که اختلافات زیادی ‫ایجاد کرده بودن، 36:05.720 --> 36:07.320 ‫اجازه‌ی برگشتن پیدا کرده بودن. 36:07.320 --> 36:09.480 ‫[یهودی‌ها با همون نفرتی از سفیدها حرف می‌زنن ‫که می‌خوان مردم علیه خودشون به کار نبرن.] 36:09.480 --> 36:11.920 ‫[تو واقعیت رو گفتی] 36:13.040 --> 36:14.040 ‫[درسته، باید اعتراف کنم ترول‌ها...] 36:14.080 --> 36:16.480 ‫چون کنترلِ انحصاری اون پلتفرم دستشه، 36:16.480 --> 36:19.880 ‫می‌تونه الگوریتم رو تغییر بده و اصلاح کنه 36:19.880 --> 36:25.920 ‫برای تقویت برخی از نظرات ‫و تضعیف یه سری دیگه. 36:25.920 --> 36:30.960 ‫این یه بازیِ تمام عیار با آزادی بیانه. 36:35.440 --> 36:38.160 ‫[پلیس ضد تروریسم، لندن] 36:38.200 --> 36:40.280 ‫در واحد ارجاع اینترنتی، 36:40.280 --> 36:43.720 ‫ما سالانه هزاران هزار محتوا می‌بینیم ‫که به ما ارجاع داده میشن. 36:46.120 --> 36:49.400 ‫اینا نمونه‌هایی از مواردی هستن ‫که روزانه شاهدشون هستیم 36:49.400 --> 36:55.400 ‫که عادی‌سازی محتوای زننده ‫در شبکه‌های اجتماعی رو نشون میدن. 36:55.400 --> 36:58.440 ‫پس مردم چیزهایی رو می‌بینن ‫و بعدش برای شما می‌فرستن؟ 36:58.440 --> 37:01.360 ‫آره. خب پُست‌هایی توی ایکس ‫به اشتراک گذاشته شده بودن... 37:03.040 --> 37:05.640 ‫که یهودی‌ها رو جونده توصیف می‌کردن. ‫[یهودی‌ها شرورن] - [یهودی‌ها موذین] 37:07.200 --> 37:08.320 ‫و واقعاً فقط همین نیست. 37:08.320 --> 37:09.760 ‫یعنی، زبونشون به شدت افراطیه. 37:09.760 --> 37:11.720 ‫نه، دقیقاً، یهودستیزی افراطیه. 37:11.720 --> 37:14.360 ‫یه جورایی حملاتِ بیشتر ‫به یهودها رو تشویق می‌کنه، 37:14.360 --> 37:17.480 ‫که توسط هزاران هزار نفر از مردم دیده میشه. 37:17.480 --> 37:19.280 ‫[اگه از برتری یهودیان خسته شدید ‫دست بلند کنید.] 37:19.320 --> 37:23.360 ‫بله، ما قطعاً شاهد لفاظی‌های ‫راستِ افراطی هستیم. 37:23.360 --> 37:27.560 ‫و تصاویر به شدت زننده ‫و نژادپرستانه هستن. 37:29.600 --> 37:35.760 ‫و یه جورایی به سطح عجیبی ‫از این خشونتِ بی‌مورد رسیده. 37:35.760 --> 37:38.600 ‫اگه کاربری بیشتر و بیشتر ‫از این نوع محتوا ببینه، 37:38.600 --> 37:43.440 ‫میشه تصور کرد که چطور شروع به پیدا کردن ‫نسخه‌های افراطی‌تری از اون تصاویر می‌کنه. 37:43.440 --> 37:48.360 ‫به نظرم این شبیه به روال افراطی‌سازیه. 37:48.360 --> 37:52.600 ‫مردم نسبت به خشونت در دنیای واقعی ‫حساسیت‌زدایی شدن، 37:52.600 --> 37:56.600 ‫و از به اشتراک گذاشتن ‫دیدگاه‌هاشون نمی‌ترسن. 37:56.600 --> 38:01.720 ‫چهار بار قبل از ما مسلمانان تلاش کردن ‫اروپا رو با حمله نابود کنن. 38:01.720 --> 38:02.960 ‫و متوقف شدن... 38:03.000 --> 38:06.120 ‫فقط باعث می‌شد دائم حس کنم... 38:06.120 --> 38:09.560 ‫اونا بهم انرژی می‌دادن، ‫ولی نه به طرز خوبی. 38:09.560 --> 38:12.160 ‫اونا فقط من رو خیلی عصبانی می‌کردن 38:12.760 --> 38:17.600 ‫کاملاً منعکس‌کننده‌ی ‫احساس درونی‌ام بود، 38:17.600 --> 38:19.720 ‫این‌که از دست اطرافیانم عصبانی بودم. 38:19.720 --> 38:23.680 ‫باورش برام خیلی آسون بود ‫که دنیا بر علیه منه، 38:23.680 --> 38:30.120 ‫که به نظرم کاملاً محورِ بیشتر محتوای ‫راست افراطی تو یوتیوب و تیک‌تاکه. 38:31.120 --> 38:33.560 ‫[مارسِ ۲۰۲۳] 38:33.600 --> 38:36.600 ‫سناتور مارکو روبیو از تصویب قانونی دو حزبی 38:36.600 --> 38:39.800 ‫برای ممنوعیت فعالیت تیک‌تاک ‫در ایالات متحده خبر داد. 38:42.480 --> 38:44.640 ‫پلتفرمِ شما باید ممنوع بشه. 38:44.640 --> 38:46.880 ‫تیک‌تاک همه‌ی ما رو زیر نظر داره، 38:46.880 --> 38:48.480 ‫و حزب کمونیست چین 38:48.480 --> 38:53.480 ‫می‌تونه از این به عنوان ابزاری ‫برای دستکاری کل آمریکا استفاده کنه. 38:53.480 --> 38:56.240 ‫تهدیدهایی علیه تیک‌تاک مطرح می‌شد 38:56.240 --> 38:58.720 ‫چون تحتِ مالیک یه شرکت چینی ‫به نام بایت‌دنسه. 38:58.720 --> 38:59.840 ‫دولتِ آمریکا ادعا می‌کرد 38:59.840 --> 39:02.280 ‫که چین قراره از داده‌های حساس ‫سوءاستفاده کنه. 39:02.280 --> 39:05.760 ‫بایت‌دنس همیشه این موضوع رو ‫به شدت تکذیب کرده. 39:05.760 --> 39:08.680 ‫ولی در واقع اطلاعاتی که ‫تیک‌تاک در مورد ما داره 39:08.680 --> 39:10.400 ‫که قدرتمندترینه 39:10.400 --> 39:13.440 ‫نحوه‌ی مکثِ ما روی یه ویدیو ‫و نحوه‌ی اسکرول کردن ماست. 39:15.640 --> 39:16.720 ‫به عنوان یه مهندس، 39:16.720 --> 39:20.800 ‫چطور میشه سیستم‌های پیشنهادی ساخت ‫که ذاتاً ایمن باشن؟ 39:22.040 --> 39:23.640 ‫این... 39:23.640 --> 39:29.040 ‫من واقعاً جواب این سؤال رو نمی‌دونم، ‫در مورد این که چطوری 39:29.040 --> 39:32.040 ‫اون رو کاملاً ایمن بسازیم 39:32.040 --> 39:36.960 ‫وقتی کنترلی روی الگوریتم یادگیری عمیق نداریم. 39:36.960 --> 39:42.120 ‫برای ما ساز و کارِ داخلیش ‫هنوزم یه جعبه‌ی سیاهه. 39:43.920 --> 39:46.520 ‫که همین به خودی خود کمی ترسناکه، 39:46.520 --> 39:48.560 ‫چون به وضوح تو بهتر از هرکسی 39:48.560 --> 39:51.600 ‫که باهاش حرف زدیم ‫از الگوریتم‌ها سر در میاری. 39:51.600 --> 39:53.080 ‫راستش رو بخوای ما... 39:53.080 --> 39:57.520 ‫ما توجه زیادی به محتواهای به خصوص نمی‌کنیم. 39:57.520 --> 40:00.320 ‫برای ما همه‌ی محتواها ‫اعداد مختلفی هستن، خب؟ 40:00.320 --> 40:02.920 ‫ما مسئول پیشنهاد محتوا هستیم، 40:02.920 --> 40:08.960 ‫و تیم ایمنی محتوا مسئول حذف محتواهای بده. 40:08.960 --> 40:10.880 ‫مثل کارخونه‌ی ماشین، خب؟ 40:10.880 --> 40:16.160 ‫یه تیم هست که مسئول شتاب ماشینه، ‫و موتور رو می‌سازه، خب؟ 40:16.160 --> 40:21.160 ‫پس انتظار داریم تیمی که ‫روی سیستم ترمز کار می‌کنه. 40:28.800 --> 40:30.520 ‫من دارم به پیام‌هام 40:30.520 --> 40:33.640 ‫با کسی نگاه می‌کنم که الان ‫توی تیک‌تاک کار می‌کنه. 40:33.640 --> 40:35.960 ‫و در واقع اون اوایل امسال باهام تماس گرفت. 40:35.960 --> 40:39.600 ‫برام یه پیام فرستاد ‫و ما از اون موقع باهم حرف می‌زنیم، 40:39.600 --> 40:42.560 ‫سعی داریم یه وقتی قرار بذاریم ‫که بتونیم همدیگه رو ببینیم. 40:42.560 --> 40:44.440 ‫اون فقط می‌خواد از نزدیک من رو ببینه. 40:44.440 --> 40:45.840 ‫[می‌خواستم بدونم میشه این هفته باهم گپ بزنیم؟] 40:45.880 --> 40:48.560 ‫ما از طریق کانال‌های رمزنگاری شده ‫به هم پیام می‌دادیم. 40:50.160 --> 40:52.640 ‫اون توی بخش اعتماد و ایمنی کار می‌کنه، 40:52.640 --> 40:54.960 ‫و یه چیزهایی هست که نگرانشونه. 40:54.960 --> 40:57.880 ‫می‌خواد مردم بدونن پشت پرده چه خبره. 40:59.440 --> 41:02.800 ‫خیلی سخته که کسی رو وادار کنی ‫بخواد یه چیزهایی نشونت بده. 41:02.800 --> 41:05.360 ‫وقتی هنوز اونجا کار می‌کنی، ‫انجام این کار ریسک بالایی داره. 41:10.200 --> 41:11.480 ‫- سلام. ‫- سلام. 41:13.120 --> 41:15.040 ‫- خب، این لپ‌تاپته؟ ‫- آره. 41:15.040 --> 41:16.320 ‫خیلی خب. 41:16.320 --> 41:19.160 ‫چرا تصمیم گرفتی که می‌خوای حرف بزنی، 41:19.160 --> 41:22.480 ‫که می‌خوای یه سری از این اسناد ‫و گفتگوها رو نشونم بدی؟ 41:22.480 --> 41:25.680 ‫اگه هر روز احساس گناه کنی به خاطر 41:25.680 --> 41:29.320 ‫کاری که بهت دستور میدن انجام بدی، ‫یه زمانی پیش خودت میگی: 41:29.320 --> 41:30.560 ‫«باید یه چیزی بگم؟» 41:30.560 --> 41:31.760 ‫چه مسائلی ریسک بالایی دارن؟ 41:31.760 --> 41:34.440 ‫چه چیزهایی بیشتر نگرانت می‌کنن؟ 41:34.440 --> 41:35.760 ‫نشونت میدم. 41:37.040 --> 41:39.600 ‫توی داشبورد، اولین چیزی که می‌بینی حجمه. 41:40.920 --> 41:43.200 ‫خب، اینا موارد خیلی زیادین. 41:43.200 --> 41:44.320 ‫آره. 41:44.320 --> 41:47.440 ‫بچه‌ها از پلتفرم استفاده می‌کنن. 41:47.440 --> 41:49.200 ‫پس وظیفه‌ی اون پلتفرمه 41:49.200 --> 41:52.000 ‫که سطح بالایی از پاسخگویی داشته باشه. 41:54.000 --> 41:57.240 ‫و محتوایی اون بیرونه ‫مرتبط به تروریسم... 41:58.400 --> 42:01.680 ‫خشونت غیراخلاقی، خشونت فیزیکی، سوءاستفاده، 42:01.680 --> 42:03.080 ‫قاچاق. 42:03.080 --> 42:04.520 ‫به نظر میاد در حال افزایشه. 42:05.760 --> 42:06.880 ‫و خیلی آسیب‌زاست 42:06.880 --> 42:09.480 ‫چون بچه‌ها خیلی راحت‌تر ‫تحت تأثیر قرار می‌گیرن. 42:09.480 --> 42:14.840 ‫پس گمونم ریسکِ فعال شدن ‫به طرز منفی رو دارن... 42:14.840 --> 42:19.000 ‫آره. مخصوصاً توی نسلی که رسماً ‫به این اپلیکیشن وابسته شده.. 42:21.760 --> 42:23.000 ‫مثلاً به این نگاه کن. 42:24.160 --> 42:27.720 ‫آره. خب این پی۲، پی۳، پی۱، 42:27.720 --> 42:30.400 ‫اونا در اصل سطح اولویت رو نشون میدن. 42:30.400 --> 42:33.840 ‫دقیقاً. اگه به کشوری که این گزارش ‫ازش اومده نگاه کنی، 42:33.840 --> 42:36.200 ‫ریسکش خیلی بالاست چون یه بچه‌ست 42:36.200 --> 42:38.120 ‫- و شامل اخاذی غیراخلاقی میشه. ‫- آره. 42:40.080 --> 42:41.920 ‫و بعدش می‌تونی اینجا اولویتش رو ببینی 42:41.920 --> 42:44.600 ‫- فوریتش چندان بالا نیست. ‫- اولویت ۲. 42:46.000 --> 42:48.320 ‫می‌بینی که همه‌ی اینا گزارش میشن. 42:48.320 --> 42:49.880 ‫اوه، آره. آره، آره، آره. 42:49.880 --> 42:52.400 ‫پس ریسکش خیلی بالاست. آره. 42:52.400 --> 42:54.640 ‫تشویق مردم به ارتکاب جرم، 42:54.640 --> 42:58.560 ‫ترویسیم یا پیوستن به سازمان‌های تروریستی. 42:58.560 --> 43:00.960 ‫- و این... ‫- چی، پی۲؟ 43:02.520 --> 43:06.120 ‫و بعدش یه مورد دیگه هست که ‫به عنوان پی۱ طبقه‌بندی شده، 43:06.120 --> 43:07.960 ‫یه مورد با اولویتِ بالا. 43:09.040 --> 43:12.920 ‫در اصل یه مورده که ‫به یه سیاستمدار مربوط میشه. 43:12.920 --> 43:14.920 ‫فقط برای حفظ یه رابطه‌ی قوی، 43:14.920 --> 43:17.280 ‫نه به خاطر این که ریسکِ بالایی ‫برای کاربر وجود داره. 43:22.160 --> 43:25.720 ‫وقتی به تمام این اسنادی که ‫افشاگرِ تیک‌تاک بهم داد نگاه می‌کنم، 43:25.720 --> 43:28.760 ‫فقط مات و مبهوت شدم از این‌که ‫چندتاشون به یه چیز اشاره دارن، 43:28.760 --> 43:33.080 ‫که اینه که ظاهراً سیاست مهم‌تر از محافظت ‫از بچه‌ها و نوجوون‌هاست 43:34.200 --> 43:37.360 ‫و موردی که در موردش حرف زدیم ‫شامل دختر ۱۶ ساله‌ای 43:37.360 --> 43:39.320 ‫که گزارش کرده یه اکانتِ تیک‌تاک 43:39.320 --> 43:43.520 ‫عکسش رو در کنار تصاویر ناشایست منتشر کرده. 43:43.520 --> 43:45.080 ‫و این اولویت شماره دوئه. 43:45.080 --> 43:48.160 ‫ولی این در مورد یه بچه‌ی ‫زیر ۱۸ ساله که در اصل 43:48.160 --> 43:51.360 ‫نگرانِ تصاویر ناشایسته. 43:51.360 --> 43:55.000 ‫و بعدش یه بچه‌ی ۱۷ ساله هست که گزارش میده 43:55.000 --> 43:57.680 ‫توسط دو حساب کاربری ‫قربانی زورگویی مجازی شده. 43:58.720 --> 44:01.440 ‫این اولویتِ شماره دوئه. 44:01.440 --> 44:03.760 ‫خب مثلاً اولویت شماره ۱ رو در نظر بگیرید. 44:03.760 --> 44:05.680 ‫«در عکس تصویری از یک مرغ هست...» 44:05.680 --> 44:09.320 ‫و شخص داخلش نامزد انتخابات ‫مجلس عراق در سال ۲۰۲۵ـه. 44:09.320 --> 44:11.560 ‫پس این توی همون کشوره. 44:11.560 --> 44:13.200 ‫یه نوجوون دارید و بعدش 44:13.200 --> 44:15.880 ‫سیاستمداری رو دارید که عکسِ یه مرغ ‫تحت تأثیر قرارش میده، 44:15.880 --> 44:17.880 ‫و سیاستمداره اولویتِ اوله. 44:17.880 --> 44:20.760 ‫افشاگره میگه چنین مواردی ‫همیشه اتفاق می‌افتن، 44:20.760 --> 44:22.600 ‫و اونا واقعاً از این موضوع معذب هستن. 44:22.600 --> 44:25.200 ‫که وقتی بچه‌ها در خطرن، ‫وقتی زیر ۱۸ ساله‌ها در خطرن، 44:25.200 --> 44:28.360 ‫اولین چیزی نیست که وظیفه دارن ‫بهش رسیدگی کنن. 44:28.360 --> 44:30.240 ‫در عوض وظیفه دارن ‫به چیزهایی رسیدگی کنن 44:30.240 --> 44:32.520 ‫که به سیاستمدارها یا شخصیت‌های سیاسی ‫مربوط میشن، 44:32.520 --> 44:35.360 ‫یا در جاهایی که رسیدگی بهش ‫در اولویت قرار داره. 44:35.360 --> 44:36.560 ‫ولی برای مثال این مورد 44:36.560 --> 44:38.280 ‫موج بعدی چیزهاییه که باید بیان سراغشون، 44:38.280 --> 44:39.680 ‫و اونا قبلاً 44:39.680 --> 44:43.320 ‫یه عالمه مثال از موارد و آسیب‌هایی دارن ‫که باهاشون روبرو هستن. 44:45.840 --> 44:51.200 ‫به یه پدر یا مادر که بچه‌اش از تیک‌تاک ‫استفاده می‌کنه چی میگی؟ 44:51.200 --> 44:52.920 ‫پاکش کنید. 44:52.920 --> 44:56.280 ‫اونا رو تا جایی که می‌تونید ‫از برنامه دور کنید، 44:56.280 --> 44:57.680 ‫تا هر وقت که می‌تونید. 45:00.840 --> 45:04.320 ‫[بیانیه‌ی تیک‌تاک] ‫[تیک تاک این ایده را که محتوای سیاسی ‫بر امنیت جوانان اولویت دارد، رد می‌کند.] 45:04.360 --> 45:07.840 ‫[و این اساساً نحوه عملکرد سیستم‌های مدیریت ‫محتوای آنان را نادرست نشان می‌دهد.] 45:07.880 --> 45:11.360 ‫[گردش‌های کاری تخصصی برای برخی مسائل منجر به ‫از اولویت خارج شدن موارد ایمنی کودک نمی‌شود] 45:11.400 --> 45:15.200 ‫[بلکه به این موارد توسط تیم‌های اختصاصی ‫در ساختارهای بررسی موازی رسیدگی می‌شود.] 45:16.440 --> 45:17.960 ‫[مدرسه‌ی هرست - بریتانیا] 45:18.000 --> 45:19.400 ‫- سلام. ‫- سلام! 45:20.720 --> 45:23.760 ‫وقتی شروع به استفاده از شبکه‌های اجتماعی کردید ‫چند سالتون بود؟ 45:23.760 --> 45:26.320 ‫زمانِ قرنطینه، یعنی وقتی تقریباً ۹ سالم بود. 45:26.320 --> 45:27.680 ‫چون ما همش خونه بودیم 45:27.680 --> 45:29.960 ‫و فقط از اون طریق می‌تونستم ‫با دوست‌هام ارتباط برقرار کنم، 45:29.960 --> 45:31.280 ‫واسه همین خیلی بیشتر ازش استفاده می‌کردم. 45:31.280 --> 45:33.520 ‫کی فکر می‌کنه زمانِ بیشتری توش می‌گذروند؟ 45:33.520 --> 45:35.880 ‫تقریباً روزی حدود ۵ ساعت. 45:35.880 --> 45:37.800 ‫من صبح‌ها قبل از مدرسه چکش می‌کنم، 45:37.800 --> 45:39.760 ‫و بعدش به محض این که از مدرسه ‫به خونه برمی‌گردم. 45:39.760 --> 45:41.800 ‫بهم حس خیلی خوبی نمیده ‫چون احتمالاً باید... 45:41.800 --> 45:44.840 ‫یکم بیشتر معاشرت می‌کردم ‫و بیشتر سرم رو از تو گوشی‌ام در می‌آوردم، 45:44.840 --> 45:46.480 ‫ولی بهش معتاد میشم. 45:46.480 --> 45:49.440 ‫پس، یعنی، دستِ خودم نیست ‫و نمی‌تونم دست بردارم. 45:49.440 --> 45:53.800 ‫و محتوایی که تماشا می‌کنی بیشتر ‫به سبک ویدیوهای کوتاه هستن؟ 45:53.800 --> 45:55.680 ‫منظورم تیک‌تاک و ریلز و از اینجور چیزهاست. 45:55.680 --> 45:58.000 ‫آره، فقط ساعت‌ها اسکرول می‌کنم. 45:58.000 --> 46:00.720 ‫منم این کارو می‌کنم. 46:00.720 --> 46:03.800 ‫چیزهایی توی فیدت ظاهر میشن ‫که با خودت فکر کنی، 46:03.800 --> 46:05.760 ‫«واقعاً دیگه نمی‌خوام بازم از اینا ببینم؟» 46:05.760 --> 46:07.640 ‫احتمالاً ویدیوهای خشن. 46:07.640 --> 46:09.760 ‫مثل زورگویی و دعوا، راستش، 46:09.760 --> 46:11.480 ‫چون دوست ندارم اونا رو ببینم. 46:11.480 --> 46:14.000 ‫یعنی، فقط باعث میشه ‫آدم‌ها فکر کنن درسته. 46:14.000 --> 46:17.480 ‫و بعد گزارشش می‌کنی ‫و یکی دو روز اونا رو نشونت نمیده 46:17.480 --> 46:19.280 ‫و بعدش دوباره پیداشون میشه. 46:19.280 --> 46:21.560 ‫و بعدش مدام این کارو می‌کنم ‫و بازم برمی‌گرده. 46:21.560 --> 46:24.160 ‫یه جورایی باعث میشه حس کنم: ‫«اوه، اونا به حرفم گوش نمیدن.» 46:24.160 --> 46:26.920 ‫بهشون میگم نمی‌خوام ‫اینجور چیزها رو ببینم. 46:26.920 --> 46:29.080 ‫وقتی همچین محتوایی می‌بینی ‫چه احساسی پیدا می‌کنی؟ 46:29.080 --> 46:30.560 ‫واقعاً کلافه میشم. ‫یعنی، بهشون گفتم 46:30.560 --> 46:31.600 ‫نمی‌خوام این رو ببینم، 46:31.600 --> 46:33.080 ‫نمی‌خوام بارها و بارها این رو ببینم، 46:33.080 --> 46:35.040 ‫و اونا بازم اونجا نگهش می‌دارن. 46:35.040 --> 46:37.680 ‫چون لزوماً چیزی نیست که مردم ‫باهاش موافق باشن، 46:37.680 --> 46:39.840 ‫ولی انقدر بازدید و لایک می‌گیره 46:39.840 --> 46:42.440 ‫که دوباره و دوباره ویدیوها رو نمایش میدن 46:42.440 --> 46:44.600 ‫چون مردم بهشون واکنش نشون میدن. 46:44.600 --> 46:45.880 ‫اگه زیاد ویدیو ببینم 46:45.880 --> 46:48.720 ‫بعدش یه چیزی برام میاد، 46:48.720 --> 46:52.000 ‫یکی توی اینترنت که دنبال محبوبیته. 46:52.000 --> 46:53.760 ‫نباید زیاد بابتش اذیت بشم، 46:53.760 --> 46:55.680 ‫ولی چون توی اون وضعیتم 46:55.680 --> 46:57.400 ‫نظرِ خیلی محکمی در موردش دارم، 46:57.400 --> 47:00.800 ‫برای همین می‌تونه باعث شه ‫خیلی آزرده و عصبانی بشم. 47:03.160 --> 47:05.720 ‫چیزی که اون موقع فهمیدم ‫این بود که چقدر زیاد 47:05.720 --> 47:08.120 ‫بارها و بارها محتوای یکسانی رو می‌دیدیم 47:08.120 --> 47:10.000 ‫که نمی‌خواستیم ببینیم، 47:10.000 --> 47:12.360 ‫از کسایی که نمی‌شناسیم، 47:12.360 --> 47:16.400 ‫خیلی فراتر از محدوده‌ی چیزی که ‫در حالت عادی جستجو می‌کردی. 47:16.400 --> 47:19.080 ‫و فکر کنم وقتی به نوجوانان و کودکان می‌رسه 47:19.080 --> 47:21.080 ‫این یه مشکل جدی میشه ‫چون هنوز سعی داری 47:21.080 --> 47:24.320 ‫سر در بیاری که چه کاری درسته ‫و چه کاری خوب نیست. 47:24.320 --> 47:29.440 ‫و فیدت شروع به تعیین دیدگاهت به جهان می‌کنه. 47:33.080 --> 47:37.200 ‫من الان بیشتر از یک ساله که می‌خوام ‫علناً در این مورد حرف بزنم، 47:37.200 --> 47:38.920 ‫و حالا بالأخره شجاعتش رو پیدا کردم 47:38.920 --> 47:42.920 ‫که در مورد چیزهایی حرف بزنم ‫که پیش خودم نگه داشتم. 47:44.880 --> 47:48.240 ‫من شروع به کنار گذاشتن دیدگاه‌های نژادپرستانه ‫و زن‌ستیزانه قدیمی‌ام کردم، 47:48.240 --> 47:50.920 ‫چون اونا دیگه توی ذهنم ‫منطقی به نظر نمی‌اومدن. 47:51.960 --> 47:57.120 ‫فکر کنم مردم باید آگاه بشن ‫که میزان خشم موجود 47:57.120 --> 48:02.440 ‫در خیلی از محافل راست افراطی خیلی شدید بود. 48:02.440 --> 48:04.560 ‫اگه تنها چیزی که می‌شنوی 48:04.560 --> 48:08.320 ‫در مورد ارتکابِ جرائم خیلی بد ‫توسط پناهنده‌ها باشه، 48:08.320 --> 48:11.760 ‫اگه مدام این رو توی فیدت ببینی، 48:11.760 --> 48:13.680 ‫قطعاً قراره افراطی‌ات کنه. 48:13.680 --> 48:16.040 ‫یعنی، ۱۰۰ درصد اینطوره. 48:18.080 --> 48:22.320 ‫[ژوئیه ۲۰۲۴ - ساوت‌پورت بریتانیا] 48:22.360 --> 48:25.480 ‫می‌دونم که تمام مجلس از حادثه‌ی بسیار جدی 48:25.480 --> 48:30.560 ‫که در ساوت‌پورت رخ داده ‫بسیار نگران خواهد شد. 48:31.600 --> 48:33.960 ‫دو کودک در حادثه‌ای کشته شدند که پلیس آن را 48:33.960 --> 48:37.200 ‫حمله وحشیانه با چاقو در یک کلاس رقص ‫در ساوت‌پورت نامید. 48:37.840 --> 48:40.640 ‫و مادری که داشتم بهش دلداری می‌دادم. 48:40.640 --> 48:41.720 ‫فقط طرز نگاهش 48:41.720 --> 48:43.400 ‫چون می‌دونست یه اتفاقی برای بچه‌اش افتاده. 48:43.400 --> 48:46.160 ‫با خودت میگی خدای من ‫چطور می‌تونی درک کنی؟ 48:46.160 --> 48:47.680 ‫هیچ کاری نمی‌تونی بکنی. 48:55.720 --> 49:01.800 ‫توی توییتر، وقتی یه حادثه‌ی خبری ‫خیلی جدی مثل این اتفاق می‌افتاد، 49:01.800 --> 49:05.000 ‫وظیفه‌ی ما این بود که مطمئن شیم هرکسی که 49:05.000 --> 49:09.800 ‫اطلاعات کاملاً غیرموثق منتشر می‌کنه ‫توی الگوریتم پایین بره. 49:13.440 --> 49:15.440 ‫حفاظ‌های ایمنی برداشته شده بودن. 49:15.440 --> 49:18.320 ‫[خبر فوری: ظاهراً ضارب مهاجرِ مسلمان است] 49:18.360 --> 49:20.240 ‫چون این اولین کاری بود ‫که ماسک انجام داد. 49:22.120 --> 49:28.240 ‫نظرات بی‌اساسی در مورد هویت مهاجم ‫در ساوت‌پورت وجود داشت، 49:28.240 --> 49:30.440 ‫و مردم بهشون گوش می‌دادن. 49:30.440 --> 49:32.760 ‫[او پناهنده‌ای بوده که سال گذشته ‫با قایق به بریتانیا آمده.] 49:34.440 --> 49:37.480 ‫و این تار عنکبوتی از اطلاعات غلطه 49:37.480 --> 49:40.200 ‫که رشد می‌کنه و رشد می‌کنه و رشد می‌کنه. 49:40.200 --> 49:45.400 ‫یه مهاجرِ بدون مدارک تصمیم گرفته ‫به کلاس رقص تیلور سوئیفت بره... 49:45.400 --> 49:47.320 ‫و به شش تا دختر کوچولو چاقو بزنه. 49:47.320 --> 49:50.560 ‫می‌دونستیم افرادی که دستور کار مشخصی دارن ‫می‌تونن الگوریتم رو بازی بدن، 49:50.560 --> 49:53.400 ‫می‌تونن از این قدرتِ عظیم بهره‌برداری کنن. 49:54.440 --> 49:57.720 ‫دقیقاً می‌دونستم چه اتفاقی قراره بیفته. 49:58.320 --> 50:02.120 ‫[ساوت‌پورت اگه این حقیقت داشته باشه ‫پس قراره جهنم به پا شه.] 50:02.120 --> 50:04.120 ‫[کنار هم می‌ایستیم ‫از فرزندانمان محافظت می‌کنیم] 50:07.840 --> 50:10.560 ‫یادمه اون رو توی ویدیوم دیدم. 50:10.560 --> 50:12.720 ‫یعنی، ظرف چند ساعت، 50:12.720 --> 50:16.680 ‫سیل عظیمی از جمعیت وارد شهر شد. 50:16.680 --> 50:20.040 ‫یک پسر ۱۷ ساله اهل بنکس در لانکاشر، 50:20.040 --> 50:21.960 ‫که اصالتاً اهل کاردیفه، 50:21.960 --> 50:24.400 ‫به اتهام قتل دستگیر شده. 50:24.400 --> 50:28.800 ‫شبکه‌های خبری مداخله کردن و گفتن: ‫«ما می‌دونیم کی این کارو کرده،» 50:28.800 --> 50:30.320 ‫ولی تا اون موقع دیگه خیلی دیر شده بود. 50:38.440 --> 50:41.640 ‫و بعدش مسجد اولین جایی بود ‫که هتک حرمت شد. 50:49.800 --> 50:53.160 ‫برید عقب! همین الان برید عقب! ‫برید عقب! 50:53.160 --> 50:57.080 ‫و همه‌ی اینا خودتقویت‌کننده‌ست، ‫یه چرخه‌ی باطله. 50:57.080 --> 50:58.960 ‫چون وقتی این اتفاقات می‌افتادن، 50:58.960 --> 51:03.040 ‫بعدش توی شبکه‌های اجتماعی گزارش می‌شدن، 51:03.040 --> 51:05.960 ‫و سریع‌تر و سریع‌تر می‌چرخه 51:05.960 --> 51:08.520 ‫و مردم عصبانی‌تر و عصبانی‌تر میشن. 51:13.440 --> 51:14.960 ‫لعنتی. 51:34.920 --> 51:37.960 ‫و من یادمه که اون موقع می‌خواستم 51:37.960 --> 51:41.320 ‫ته و توش رو در بیارم که کی پشتِ ‫این شایعات دروغ بوده، 51:41.320 --> 51:45.160 ‫ادعاهایی مبنی بر این‌که ‫مهاجم یه پناهجو بوده، 51:45.160 --> 51:48.000 ‫که با قایق به بریتانیا اومده و مسلمانه. 51:48.000 --> 51:49.400 ‫و فکر کنم اگه الان نگاه کنم... 51:51.600 --> 51:55.760 ‫یکی از اولین جاهایی که برخی از ‫گمانه‌زنی‌ها رو منتشر کرده بود 51:55.760 --> 51:57.640 ‫اسمش «کانال ۳ اکنون» بود. 51:57.760 --> 52:00.760 ‫یه جورایی فله‌ای گزارش منتشر می‌کرد. 52:00.760 --> 52:02.120 ‫و رد یکی رو زدم، 52:02.120 --> 52:04.200 ‫یه مرد به اسم فرهان توی پاکستان، 52:04.200 --> 52:06.160 ‫و بالأخره یه ایمیل بهم داد. 52:07.560 --> 52:09.960 ‫ما فقط سعی داریم اخبار رو منتشر کنیم. 52:09.960 --> 52:12.080 ‫در اصل، ما یه جورایی سعی داریم کلیک بگیریم 52:12.080 --> 52:13.600 ‫و قصد بدی نداشتیم. 52:15.040 --> 52:17.000 ‫این به وضوح محصول الگوریتم‌هاست، 52:17.000 --> 52:18.280 ‫سیستم‌های شبکه‌های اجتماعی، 52:18.280 --> 52:20.400 ‫چون «کانال ۳ اکنون» نمی‌خواست 52:20.400 --> 52:23.160 ‫این محتوا رو منتشر کنه اگه نمی‌دونست 52:23.160 --> 52:25.840 ‫که قراره بازدید و کلیک و لایک بگیره 52:25.840 --> 52:28.280 ‫اگه هرچه سریع‌تر منتشرش کنه، 52:28.280 --> 52:29.720 ‫حتی اگه غلط باشه. و در واقع، 52:29.720 --> 52:33.040 ‫غلط بودنش به این معنا بود که لایک، ‫بازدید و کلیک‌های بیشتری می‌گرفت 52:33.040 --> 52:34.360 ‫چون تعامل می‌گرفت. 52:34.400 --> 52:36.520 ‫باعث واکنش می‌شد، احساسی بود. 52:44.920 --> 52:47.160 ‫ساوت‌پورت واقعاً حس یه تغییر رو داشت. 52:47.160 --> 52:50.840 ‫یعنی خشونت مربوط به اتفاقی که ‫توی شبکه‌های اجتماعی می‌افتاد، 52:50.840 --> 52:52.200 ‫دیگه زیاد دور نیست. 52:58.000 --> 53:00.600 ‫ما حکمِ قناری توی معدن زغال سنگ رو داریم. 53:00.600 --> 53:03.120 ‫خیلی از مشکلاتی که در شبکه‌های اجتماعی ‫وجود داره، 53:03.120 --> 53:06.840 ‫توی کشورهایی مثل سریلانکا تست شده بودن، ‫چون هیچکس به ما اهمیتی نمیده. 53:09.720 --> 53:13.360 ‫تمام بازارهامون آزمایش‌های فعال هستن، 53:13.360 --> 53:18.160 ‫و بنابراین چیزی که الان ‫توی بریتانیا آشکارتره، 53:18.160 --> 53:20.160 ‫و در جاهای دیگه‌ی دنیا، 53:20.160 --> 53:24.800 ‫سال‌ها قبل توی کشورهایی مثل سریلانکا ‫خیلی آشکار بود. 53:26.720 --> 53:30.280 ‫پس چیزی که من در موردش هشدار دادم، ‫چیزی که براش فریاد زدم، 53:30.280 --> 53:32.800 ‫نشون میده که این مشکل سریلانکا نیست. 53:32.800 --> 53:34.760 ‫این مشکل شبکه‌های اجتماعیه. 53:34.760 --> 53:36.920 ‫مشکل سیلیکون‌وَلیه. 53:36.920 --> 53:40.120 ‫مشکل حکومته. مشکل دموکراسیه. 53:40.120 --> 53:41.920 ‫مشکلی برای همه‌ی ماست. 53:45.720 --> 53:49.960 ‫الگوریتم‌ها حالا زندگیِ همه‌مون رو ‫تحت تأثیر قرار میدن. 53:53.880 --> 53:56.400 ‫مراکز مهاجرتی در سراسر کشور هدف قرار گرفتن. 53:57.440 --> 53:58.960 ‫پلیس تحت فشار قرار گرفته. 53:58.960 --> 54:01.400 ‫تا الان صدها نفر دستگیر شدن. 54:03.360 --> 54:07.960 ‫قانون کیفری هم به صورت آنلاین ‫و هم به صورت آفلاین اعمال میشه. 54:09.560 --> 54:12.800 ‫تقریباً همون زمان توی متا ‫یه تغییری ایجاد شد. 54:12.800 --> 54:16.960 ‫وقتشه که به ریشه‌هامون در مورد آزادی بیان ‫توی فیس‌بوک و اینستاگرام برگردیم. 54:16.960 --> 54:19.440 ‫اونا اعلام کردن که برنامه‌ی ‫راستی‌آزمایی رو تعطیل می‌کنن، 54:19.440 --> 54:22.960 ‫و به شدت نظارت بر محتوا رو کاهش میدن. 54:22.960 --> 54:25.080 ‫ما سیاست‌های محتوایی‌مون رو ‫ساده‌سازی می‌کنیم 54:25.080 --> 54:28.960 ‫و از شر یه سری محدودیت‌ها در مورد موضوعاتی ‫مثل مهاجرت و جنسیت خلاص می‌شیم 54:28.960 --> 54:31.640 ‫که هیچ ارتباطی با گفتمان رایج ندارن. 54:32.880 --> 54:36.040 ‫به نظر می‌اومد اونا تعهدشون رو از دست دادن 54:36.040 --> 54:38.840 ‫برای مبارزه با خیلی از این آسیب‌ها 54:38.840 --> 54:41.480 ‫و انگار واقعاً هیچ اهمیتی به این نمی‌دادن 54:41.520 --> 54:43.520 ‫که واقعاً به داده‌ها گوش بدن 54:43.520 --> 54:46.120 ‫و واقعاً سعی کنن مسائل رو حل کنن. 54:46.120 --> 54:50.200 ‫بزرگ‌ترین نگرانی‌ام ‫سیاسی شدن این پلتفرم‌هاست. 54:50.200 --> 54:53.240 ‫مارک در کل سعی داشت بی‌طرف باشه، 54:53.240 --> 54:54.960 ‫ولی حالا ایلان، فکر کنم 54:54.960 --> 54:59.320 ‫مخصوصاً از ایکس به عنوان یه وسیله‌ی سیاسی ‫برای بیان دیدگاه‌هاش استفاده می‌کنه. 54:59.320 --> 55:01.920 ‫و فکر نمی‌کنم هر شرکتی ‫باید اجازه داشته باشه 55:01.920 --> 55:06.840 ‫این میزان نفوذ و قدرت روی بیش ‫از ۴ میلیارد نفر داشته باشه. 55:06.840 --> 55:09.920 ‫- می‌تونم یه عکس باهات بگیرم، چارلی؟ ‫- چارلی! چارلی. 55:09.920 --> 55:12.400 ‫من می‌خوام ترامپ رئیس‌جمهور شه. ترامپ. 55:13.480 --> 55:15.280 ‫الان به نظر میاد ما توی دنیایی هستیم 55:15.280 --> 55:18.640 ‫که به طور فزاینده‌ای توسط ‫نوع جدیدی از افراد اشغال میشه. 55:19.760 --> 55:21.600 ‫می‌خوای باهم گفتگو کنیم؟ 55:21.600 --> 55:23.160 ‫حتماً. کاملاً. آره، آره. 55:23.160 --> 55:25.440 ‫خیلی خب. من ازت خوشم نمیاد. 55:25.440 --> 55:27.480 ‫به نظرم تو نفرت‌پراکنی ‫و تعصب‌پراکنی می‌کنی. 55:27.480 --> 55:29.120 ‫به نظرم خیلی‌ها رو عصبانی می‌کنی؟ 55:29.120 --> 55:30.280 ‫دوربین‌ها واسه چین؟ 55:30.320 --> 55:31.960 ‫ما همه رو ضبط می‌کنیم تا بتونیم 55:31.960 --> 55:34.800 ‫بذاریمشون توی اینترنت تا مردم بتونن ‫تقابل این ایده‌ها رو ببینن. 55:34.800 --> 55:37.280 ‫وقتی مردم حرف نمی‌زنن، ‫خشونت به وجود میاد. 55:39.960 --> 55:41.920 ‫اینفلوئنسرهایی که ظرفیتشون 55:41.920 --> 55:46.880 ‫برای ایجاد تعامل در اینترنت ‫بخش بزرگی از شهرتشونه. 55:55.840 --> 55:56.800 ‫خدای من. 55:56.800 --> 55:57.800 ‫خدای من، اون تیر خورد. 55:57.800 --> 55:59.720 ‫اون تیر خورد! 55:59.720 --> 56:01.800 ‫چارلی کرک به ضرب گلوله کشته شد 56:01.800 --> 56:04.520 ‫وقتی در محوطه‌ی دانشگاهی در یوتا ‫برای دانشجوها سخنرانی می‌کرد. 56:04.520 --> 56:06.360 ‫فیلم‌های ترورش 56:06.360 --> 56:08.560 ‫در سراسر جهان میلیون‌ها بازدید گرفتن. 56:08.560 --> 56:12.200 ‫دلایل قاتل در ابتدا مشخص نبودن. 56:12.200 --> 56:13.800 ‫در حال حاضر بازرسان فدرال میگن 56:13.800 --> 56:16.400 ‫که در حال صحبت با این مرد، تایلر رابینسون، 56:16.400 --> 56:19.560 ‫در مورد دلیل احتمالی قتل چارلی کرک هستن. 56:19.560 --> 56:24.040 ‫توطئه‌هایی در مورد این‌که کیه ‫و چه اعتقاداتی داشته در حال شکل‌گیریه. 56:24.040 --> 56:27.240 ‫ولی اون سرنخ‌هایی سرِ صحنه به جا گذاشته بود. 56:27.240 --> 56:30.280 ‫نوشته‌های حک شده روی پوکه‌های فشنگی 56:30.280 --> 56:33.640 ‫که گمون می‌رفت متعلق ‫به تیرانداز ادعایی باشن. 56:33.640 --> 56:38.440 ‫فقط اگه زمان زیادی رو توی شبکه‌های اجتماعی ‫گذرونده باشید، معنیِ اونا رو می‌فهمید. 56:38.440 --> 56:42.360 ‫اونا حاوی تعدادی عبارت ‫به ظاهر طعنه‌آمیز و بی‌ادبانه هستن ‫[بلا چائو. هی فاشیست! بگیرش!] 56:42.360 --> 56:45.400 ‫که در جوامع گیمینگ و آنلاین رایج هستن. 56:46.760 --> 56:52.840 ‫یه دانشجوی به ظاهر معمولی که در فرهنگ ‫تاریک و پوچ‌گرایانه‌ی میم گرفتار شده. 56:52.840 --> 56:58.120 ‫آیا قاتل نیم‌نگاهی به واکنش‌های آنلاین ‫ناشی از خشونتش داشته؟ 56:58.120 --> 57:02.600 ‫ما شاهد یه ایدئولوژی جدید تعامل هستیم؟ 57:04.920 --> 57:08.280 ‫سیستم‌های الگوریتمی که ‫به سیاست شکل میدن، 57:08.280 --> 57:09.920 ‫به جامعه شکل میدن، 57:09.920 --> 57:12.480 ‫به چگونگی وقوع رویدادها شکل میدن. 57:17.000 --> 57:19.400 ‫اگه الان بچه داشتم، 57:19.400 --> 57:24.680 ‫تشویقش می‌کردم که تا حد امکان ‫زمانِ کمی رو توی اینترنت بگذرونه. 57:24.680 --> 57:27.360 ‫خیلی از ماها جونشون رو ‫به خاطر این از دست دادن. 57:27.360 --> 57:29.800 ‫ما می‌دونیم آخرش به کجا ختم میشه. 57:29.800 --> 57:31.840 ‫پلتفرم‌های شبکه‌ی اجتماعی 57:31.840 --> 57:35.360 ‫مسئولیتی اساسی در قبال حقیقت دارن. 57:35.360 --> 57:37.960 ‫اگه ما این نوع پاسخگویی ‫و شفافیت رو می‌خواهیم، 57:37.960 --> 57:39.960 ‫باید را از نظر قانونی الزامی‌اش کنیم. 57:39.960 --> 57:41.720 ‫مشکلات قراره بدتر بشن. 57:41.720 --> 57:47.880 ‫من بدون تلاش برای مبارزه ‫نمی‌تونم به زندگی ادامه بدم. 57:50.160 --> 57:53.960 ‫[تیک‌تاک به ما گفت این ادعاهای ساختگی اساساً واقعیت این را ‫نادیده می‌گیرند که تیک‌تاک چگونه میلیون‌ها نفر را قادر می‌سازد] 57:53.960 --> 57:57.760 ‫[تا علایق جدید خود را کشف کنند، جامعه‌ای را پیدا کنند ‫و از یک اقتصاد پررونق در بریتانیا حمایت می‌کند.] 57:57.800 --> 58:01.480 ‫[اطمینان از ایمنی تیک‌تاک مهم‌ترین کار ماست و پارسال ‫تقریباً ۹۰ میلیون حساب زیر سن قانونی را حذف کردیم] 58:01.600 --> 58:05.400 ‫[و حساب‌های کاربری نوجوانان بیش از ۵۰ ویژگی و تنظیمات ایمنی ‫از پیش تعیین‌شده دارند که به طور خودکار فعال می‌شوند.] 58:05.440 --> 58:09.240 ‫[ما در فناوری‌هایی سرمایه‌گذاری می‌کنیم که ‫به جلوگیری از مشاهده محتوای مضر کمک می‌کند] 58:09.280 --> 58:13.160 ‫[سیاست‌های سختگیرانه برای پیشنهادات داریم و ویژگی‌هایی برای افراد] ‫[فراهم می‌کنیم تا تجربیاتِ خود را تنظیم کنند.] 58:13.320 --> 58:16.320 ‫[متا به ما گفت هر ادعایی مبنی بر اینکه ما عمداً محتوای ‫مضر را برای سود مالی تقویت می‌کنیم، اشتباه است.] 58:16.360 --> 58:19.360 ‫[حقیقت این است که ما سیاست‌های سختگیرانه‌ای ‫برای محافظت از کاربران در پلتفرم‌های خود داریم] 58:19.360 --> 58:22.360 ‫[و در دهه گذشته سرمایه‌گذاری‌های قابل توجهی ‫در زمینه ایمنی و امنیت انجام داده‌ایم.] 58:22.400 --> 58:25.400 ‫[ما به والدین و متخصصان گوش داده‌ایم، ‫در مورد مسائل مهم تحقیق کرده‌ایم] 58:25.440 --> 58:28.440 ‫و تغییرات واقعی برای محافظت] ‫[از نوجوانان آنلاین ایجاد کرده‌ایم 58:28.440 --> 58:31.440 ‫[مانند معرفی حساب‌های کاربری نوجوانان که دارای محافظت‌ها و ابزارهای ‫داخلی برای والدین هستند تا تجربیات نوجوانان خود را مدیریت کنند.] 58:31.480 --> 58:35.480 ‫[ایکس به ما گفت که ایکس اخیراً الگوریتم خود را ‫متن‌باز کرده و در دستورالعمل‌های خود می‌گوید که] 58:35.480 --> 58:37.480 ‫[«ترویج گفتگوهای سالم یکی ‫از اصول اصلی ایکس است».] 58:37.520 --> 58:40.520 ‫[این پلتفرم می‌گوید که «به مردم قدرت می‌دهد ‫تا جنبه‌های مختلف یک موضوع را درک کنند»] 58:40.560 --> 58:44.200 ‫[اما «همچنین برای جلوگیری از تقویت محتوای ‫مضر در ایکس سخت تلاش می‌کند».] 58:45.080 --> 58:47.440 ‫برای کسب اطلاعات بیشتر از من و متخصصان 58:47.440 --> 58:51.800 ‫در دانشگاه آزاد در مورد چگونگی ‫هشیار ماندن در برابر الگوریتم‌ها، 58:51.800 --> 58:54.040 ‫کیوآر کد روی صفحه را اسکن کنید، 58:54.040 --> 58:59.840 یا به وبسایت زیر مراجعه کنید connect.open.ac.uk/ragemachine. 58:59.840 --> 59:05.800 www.Doostihaa.com