‘The Social Dilemma’

Kesalahpahaman ‘The Social Dilemma’ tentang jejaring sosial

Dunia ini lebih rumit dari angan-angan para pembuat film

Sebuah dilema

Pada hari Minggu malam, setelah “dipaksa” oleh teman-teman dan keluarga, saya memutar film dokumenter baru tentang kehidupan digital kita. Disutradarai oleh Jeff Orlowski, The Social Dilemma mengeksplorasi pengaruh smartphone dan jejaring sosial terhadap perilaku manusia. Memadukan wawancara dengan beberapa orang terkenal yang pernah hengkang dari Silicon Valley dan kisah fiksi, dramatisasi khusus selepas jam sekolah tentang apa yang terjadi ketika Johnny dan Janey menelusuri feeds sepanjang hari, film ini tampil sebagai peringatan mendesak tentang situasi modern kita.

Saya sudah lebih dari bersimpati terhadap masalah ini. Saya mulai menulis buletin ini pada tahun 2017 setelah terlambat menyadari bahwa jejaring sosial benar-benar berdampak besar pada kehidupan modern, dan pantas untuk dianggap serius. Pemikiran saya banyak dipengaruhi dari perbincangan selama bertahun-tahun dengan beberapa subjek wawancara dalam film, termasuk Tristan Harris, Renee DiResta, Tim Kendall, Jeff Seibert, dan Justin Rosenstein. Secara khusus, penelitian Harris tentang jumlah waktu yang dihabiskan di depan layar memicu perubahan besar dalam industri, dan eksplorasi DiResta tentang misinformasi sangat penting untuk membantu jejaring sosial memahami diri mereka sendiri.

Namun terlepas dari semua itu, apakah film itu konyol? Segmen yang didramatisasi di antaranya trio fiksi sosiopat yang bekerja di dalam jejaring sosial yang tidak disebutkan namanya untuk merancang notifikasi sesuai pesanan untuk mengalihkan perhatian penggunanya. Mereka menunjukkan keluarga yang berjuang membuat anak-anaknya menyingkirkan ponsel mereka saat makan malam. Dan backsound piano yang tidak menyenangkan yang menyelimuti setiap adegan, alih-alih meningkatkan ketegangan, malah menimbulkan perasaan membingungkan. Jika seseorang meminta saya untuk menata ulang buletin ini sebagai pertunjukan drag show, saya akan memulai dari bagian akhir The Social Dilemma.

Dan seperti yang ditunjukkan Adi Robertson di The Verge , gagasan bahwa mesin rekomendasi algoritmik menjadi jantung masalah kita menjadikan internet dipermasalahkan sebagaimana jejaring sosial besar, dan mungkin lebih dalam beberapa kasus. Dia menulis :

Propaganda, intimidasi, dan misinformasi sebenarnya jauh lebih besar dan lebih rumit. Film tersebut secara singkat menyebutkan, misalnya, bahwa WhatsApp milik Facebook telah menyebarkan informasi yang salah yang mengilhami pembunuhan massal di India . Film tersebut tidak menyebutkan, bagaimanapun, bahwa WhatsApp bekerja hampir tidak seperti Facebook. Ini adalah layanan perpesanan yang sangat pribadi dan terenkripsi tanpa gangguan algoritmik, dan masih tetap berpotensi menyebarkan narasi palsu. Seperti yang dicatat Alexis Madrigal , mengutuk semua platform berarti bahwa “nyaris mengakui bahwa komunikasi seluler menimbulkan tantangan mendasar bagi masyarakat di seluruh dunia.” Ada kasus yang serupa, menurutnya – tetapi kasus dengan implikasi yang jauh lebih mengkhawatirkan.

Radikalisasi tidak hanya terjadi di Facebook dan YouTube. Banyak dari pembunuh sayap kanan paling mematikan yang tampaknya diinkubasi di forum-forum kecil: Pembunuh masjid di Christchurch, Brenton Tarrant di 8chan; Penembak massal Oregon Chris Harper-Mercer di 4chan; Pohon Kehidupan Pembunuh Sinagoga Robert Bowers di Gab; dan teroris Norwegia Anders Breivik di situs supremasi kulit putih termasuk Stormfront, situs kebencian berusia 23 tahun yang dihubungkan dengan sejumlah pembunuhan yang menginspirasi .

Situs-situs ini pada dasarnya tidak didorong oleh algoritme atau motif keuntungan. Sebaliknya, mereka memutarbalikkan dan memanfaatkan kemampuan positif internet terbuka untuk menghubungkan orang-orang yang berpikiran sama. Ketika konten berbahaya muncul pada mereka, hal itu menimbulkan pertanyaan moderasi yang kompleks untuk host domain dan penyedia infrastruktur web – sekumpulan perusahaan hebat yang memiliki model bisnis yang sangat berbeda dari Facebook.

Ini bukan berarti jejaring sosial bebas dari masalah. Juga bukan upaya untuk membuat masalah terasa begitu rumit sehingga semua orang angkat tangan dan menjauh darinya. Tapi saya terkejut betapa menariknya begitu banyak orang yang menemukan gagasan bahwa jejaring sosial secara unik bertanggung jawab atas semua penyakit masyarakat. ( The Social Dilemma  telah menjadi salah satu dari 10 program yang paling banyak ditonton di Netflix sepanjang minggu.)

Pandangan penjahat kartun super tentang dunia ini menurut saya adalah semacam bayangan cermin dari teori konspirasi sayap kanan yang menyatakan bahwa komplotan rahasia elit memanipulasi setiap peristiwa dunia secara rahasia. Ironis bahwa film yang terus menerus memperingatkan tentang platform yang menggunakan informasi yang salah untuk memicu ketakutan dan kemarahan tampaknya hanya ada untuk memicu ketakutan dan kemarahan – sambil menunjukkan pandangan yang menyimpang tentang bagaimana platform tersebut bekerja.

Beberapa orang yang mengerjakan film tersebut mengatakan kepada saya bahwa pendekatan semacam ini diperlukan untuk ” berkomunikasi dengan cara yang menarik bagi khalayak luas “. Tapi menurut saya itu tidak bertanggung jawab. Jika Anda berpendapat bahwa platform sosial bertanggung jawab atas keretakan masyarakat, Anda harus menunjukkan pekerjaan Anda.

  1. Sebuah memo

Di sisi lain, temui Sophie Zhang. Dia adalah seorang ilmuwan data yang dipecat pada bulan Agustus dan pergi bulan ini dengan cara yang semakin populer di kalangan karyawan Facebook yang hengkang – yang bisa dikatakan, cukup dramatis.

Craig Silverman, Ryan Mac, dan Pranav Dixit memberinya memo perpisahan 6.600 kata di BuzzFeed . Zhang menulis:

“Dalam tiga tahun saya di Facebook, saya telah menemukan banyak upaya terang-terangan oleh pemerintah nasional asing untuk menyalahgunakan platform kami dalam skala besar untuk menyesatkan warga negara mereka sendiri, dan menyebabkan berita internasional pada beberapa kesempatan,” tulis Zhang, yang menolak untuk berbicara dengan BuzzFeed News. Profil LinkedIn-nya mengatakan bahwa dia “bekerja sebagai ilmuwan data untuk tim keterlibatan palsu Integritas Situs Facebook” dan menangani “bot yang memengaruhi pemilihan dan sejenisnya.”

“Saya secara pribadi telah membuat keputusan yang memengaruhi presiden tanpa pengawasan, dan mengambil tindakan untuk menegakkan hukum terhadap begitu banyak politisi terkemuka di seluruh dunia sehingga saya tidak dapat menghitungnya,” tulisnya.

Dia menambahkan: “Saya tahu bahwa tangan saya telah berlumuran darah.”

Berbeda dengan pembuat film The Social Dilemma, Zhang menunjukkan karyanya – pertama kepada atasannya, dan kemudian, secara tidak sengaja, kepada dunia. Dia menggambarkan pemerintah di Azerbaijan dan Honduras menggunakan Facebook untuk melawan warganya sendiri, menggunakan sejumlah besar akun palsu untuk mempromosikan kepentingan mereka sendiri dan menyerang kritikus. Dan dia menemukan apa yang dia gambarkan sebagai kampanye pengaruh terkoordinasi di negara-negara termasuk India, Ukraina dan Bolivia.

Pekerjaan resmi Zhang adalah mengawasi Facebook karena “perikatan palsu” – orang yang membeli “suka”, “komentar”, dan “bagi” yang tidak autentik. Dari tempat bertengger ini dia terus-menerus mengembara ke dunia yang berdekatan yang disebut Facebook sebagai “integritas sipil,” hingga rasa frustrasi yang nyata dari para bosnya. Ini adalah resiko tinggi yang akan dihadapi platform sosial ketika bekerja menangani beberapa masalah paling mendesak, termasuk operasi pengaruh asing dan integritas pemilu. Selain itu juga sulit – para akademisi memberi tahu saya bahwa menggali operasi ini dan menghubungkannya dengan benar membutuhkan keahlian domain yang signifikan. Banyak orang yang melakukan ini di Facebook dan jaringan lain sebelumnya bekerja untuk badan intelijen AS.

Zhang, sebaliknya, adalah karyawan yang relatif junior yang hanya bekerja sambilan pada masalah integritas sipil. Itu mungkin salah satu alasan mengapa dia berjuang untuk mendapatkan perhatian rekan-rekannya, begitu katanya. Setiap orang yang saya ajak bicara di Facebook pada hari-hari terakhir mengatakan Zhang cerdas dan berdedikasi pada pekerjaannya. Tetapi menavigasi organisasi besar bisa menjadi tantangan bahkan bagi karyawan paling senior, dan sepertinya ukuran Facebook yang besar sering menghalangi temuan Zhang untuk cepat mendapatkan perhatian.

Setelah cerita BuzzFeed berjalan, beberapa orang yang bekerja di tim integritas perusahaan – dan ada lebih dari 200 di antaranya – merasa frustrasi dengan implikasi bahwa mereka duduk berpangku tangan sepanjang hari, atau buruk dalam pekerjaan mereka. (Saya tidak berpikir Zhang bermaksud menyiratkan ini, tapi itu pasti yang menjadi pokok diskusi tentang cerita BuzzFeed di Twitter.) Banyak dari mereka telah bekerja sama dengan Zhang dalam upaya penghapusan yang dia gambarkan, dan merasa dirusak oleh memonya, begitu katanya. Terkadang pemimpin tim menetapkan prioritas secara berbeda dari yang dilakukan karyawan mereka sendiri, dan upaya Facebook – yang berfokus pada jaringan terbesar dan paling aktif, terutama selama pemilu – terkadang mengesampingkan ancaman sah lainnya, seperti yang ditemukan Zhang.

Pada akhirnya, itulah aspek dari memo Zhang yang diingat. Facebook sebagian besar tidak menyangkal bahwa temuannya akurat, signifikan, dan terkadang mendapat tanggapan tertunda. Perusahaan hanya mengatakan bahwa masalah yang dia temukan, betapapun signifikannya, tidak terlalu mendesak dibandingkan dengan banyak masalah lain yang saat itu sedang ditangani oleh tim integritas sipil, di negara lain di seluruh dunia.

Menguasai geopolitik setiap negara dan membasmi setiap operasi pengaruh yang muncul sembari mengawasi ujaran kebencian dan informasi yang salah sambil mempromosikan kebebasan berbicara dan koneksi antarpribadi adalah tugas yang sangat berat. Tapi itu juga tugas yang telah bersedia diemban Facebook, berdasarkan investasinya yang besar dalam pertumbuhan dan melawan pesaing selama bertahun-tahun.

Saya tidak bisa menganggap serius film seperti The Social Dilemma, yang sepertinya ingin meminta pertanggungjawaban satu perusahaan atas setiap perubahan yang dialami masyarakat sejak didirikan. Tetapi ketika seseorang meminta majikannya untuk mengerjakan hal-hal yang dia temukan pada layanannya – dan dia pergi dengan tangan berlumuran darah – itu adalah sesuatu yang berbeda.

Tidak setiap masalah yang dikemukakan seorang karyawan akan segera mendapat perhatian. Namun memo Zhang menimbulkan pertanyaan tentang ukuran, kekuatan, dan akuntabilitas Facebook kepada penggunanya – terutama pengguna negara non-Barat – yang telah dibicarakan oleh orang luar selama bertahun-tahun. Terus meningkat, seperti yang telah kita pelajari dari musim panas yang penuh dengan kebocoran Facebook, panggilan tersebut sekarang datang dari dalam rumah. Dan mereka berhak mendapatkan jawaban yang lebih baik daripada Sophie Zhang sampai saat ini.

RASIO

Hari ini dalam berita yang dapat mempengaruhi persepsi publik tentang platform teknologi besar.

Trending up : Lebih dari 400.000 orang telah mendaftar untuk memberikan suara di Snapchat . Aplikasi tersebut telah meluncurkan serangkaian alat pemungutan suara, termasuk fitur yang memungkinkan pengguna mendaftar untuk memilih di aplikasi. (Makena Kelly / The Verge )

Trending up : Facebook menginvestasikan $ 5 juta dalam organisasi berita lokal yang melayani komunitas yang secara historis terpinggirkan . Ini secara khusus bermitra dengan redaksi yang dipimpin oleh orang-orang kulit berwarna. (Facebook)

Trending sideways : Facebook berjanji untuk mencapai emisi karbon “nol bersih”, mengimbangi konsumsi daya globalnya dengan berinvestasi dalam proyek energi terbarukan yang menangkap dan menyimpan karbon dioksida . Itu menempatkan Facebook di posisi tengah-tengah dalam hal komitmen terkait iklim dari Big Tech. (Justine Calma / The Verge )

MENGATUR

⭐ TikTok diatur untuk menjadi perusahaan mandiri sebagai bagian dari kesepakatan Oracle . ByteDance akan menjadi pemegang saham mayoritas di entitas yang baru, jika kesepakatan berhasil. James Fontanella-Khan dan Miles Kruppa di Financial Times memberikan rinciannya:

Pembuatan entitas baru menunjukkan bagaimana ByteDance berusaha untuk membuat jarak antara kepemilikan perusahaan di China dan operasi TikTok, bahkan saat berusaha menghindari penjualan penuh aplikasi yang diinginkan Trump. […]

Entitas TikTok baru akan memiliki pengawasan independen dan akan dikelola secara luas dari ByteDance, kata orang-orang yang diberi pengarahan tentang diskusi tersebut. Perusahaan China akan terus berkolaborasi dengan TikTok secara global dan akan mempertahankan kendali atas algoritme yang kuat yang membuat pengguna tetap terlibat dengan memprediksi jenis video apa yang akan mereka nikmati.

Bagaimana posisi Oracle untuk menjadi mitra teknologi tepercaya TikTok ? Negosiasi memiliki sedikit kemiripan dengan pembicaraan kesepakatan biasa, kata bagian ini. Mereka didorong oleh ketegangan AS-China, persaingan komersial, dan intervensi pribadi Presiden Trump. (Georgia Wells, Aaron Tilley dan John D. McKinnon / The Wall Street Journal )

CEO ByteDance Yiming Zhang memutuskan untuk tidak menjual TikTok ke Microsoft karena kekhawatiran dari investor besar tentang pukulan finansial dari menjual aplikasi dengan harga yang kurang dari nilainya . Zhang memilih untuk menjual hanya satu saham ke Oracle, daripada divestasi langsung. (Echo Wang, Keith Zhai dan Joshua Franklin / Reuters)

Larangan TikTok tidak akan menghalangi gaji karyawan, kata administrasi Trump . Berita itu muncul sebagai tanggapan atas gugatan dari seorang pekerja TikTok atas perintah eksekutif Trump yang melarang aplikasi tersebut. (Steven Musil / CNET)

Kampanye Trump merilis iklan “mendukung pasukan kami” pada tanggal 11 September yang menggunakan foto saham jet tempur buatan Rusia dan model Rusia berpakaian seperti tentara . Ayolah! (Daniel Lippman dan Bryan Bender / Politico )

Pejabat Kesehatan dan Layanan Kemanusiaan yang membuat tuduhan palsu tentang Pusat Pengendalian Penyakit yang menyimpan “unit perlawanan” untuk melemahkan Presiden Trump mengindikasikan dia mungkin akan mundur dari jabatannya . Dia meminta maaf kepada stafnya atas komentar yang dia buat di Facebook . (Adam Cancryn, Dan Diamond dan Sarah Owermohle / Politico )

INDUSTRI

⭐ Kim Kardashian West untuk sementara meninggalkan Facebook dan Instagram untuk mendukung kampanye “Stop Hate for Profit” . Kardashian West adalah akun ke-7 yang paling banyak diikuti di Instagram dengan 188 juta pengikut, dan dia libur pada hari Rabu! Oke, Kim. Axios melaporkan apa yang dia katakan:

“Saya senang dapat terhubung langsung dengan Anda melalui Instagram dan Facebook, tetapi saya tidak bisa duduk diam sementara platform ini terus memungkinkan penyebaran kebencian, propaganda, dan informasi yang salah – yang dibuat oleh kelompok-kelompok untuk menyebarkan perpecahan dan memisahkan Amerika – hanya untuk mengambil langkah setelah orang terbunuh, ”tulis Kardashian West.

“Informasi yang salah yang dibagikan di media sosial berdampak serius pada pemilu kami dan merusak demokrasi kami. Bergabunglah dengan saya besok ketika saya akan “membekukan” akun Instagram dan FB saya untuk memberi tahu Facebook untuk #StopHateForProfit . ”

Facebook meluncurkan teks tertutup otomatis untuk Facebook Live dan Workplace Live dalam enam bahasa, untuk membantu orang-orang tunarungu atau tuli . Perusahaan mengatakan langkah itu sangat penting selama karantina, ketika orang mengandalkan platform untuk mendengarkan siaran dan arahan pemerintah. (Facebook)

Douyin , TikTok versi pasar Cina , memiliki lebih dari 600 juta pengguna aktif harian . Itu memiliki 400 juta pada awal tahun. (Zheping Huang / Bloomberg)

Pencipta TikTok yang paling populer, Charli D’Amelio, bergabung dengan aplikasi saingannya Triller dalam kesepakatan non-eksklusif . Dia dan keluarganya mencoba aplikasi tersebut, tetapi akan terus memposting konten di TikTok. (Julia Alexander / The Verge )

“M to the B” adalah lagu musim panas berkat kebangkitan TikTok . Juga, inilah peringkat kekuatan meme TikTok. (Rebecca Jennings / Vox )

Gen Z menggunakan Discord untuk berkolaborasi dalam proyek yang mereka harap akan membentuk masa depan Silicon Valley . Mereka menggunakan server Discord Gen Z Mafia untuk mengubah sistem yang menurut mereka eksklusif dan elitis. (Taylor Lorenz / The New York Times )

Amazon meluncurkan Toko Mewah di aplikasi selulernya, dengan Oscar de la Renta sebagai mitra merek pertamanya . Lebih banyak merek kelas atas diharapkan bergabung dengan platform baru dalam beberapa minggu mendatang. (Nicole Phelps / Vogue )

Zoom sedang menggarap peningkatan besar pada kemampuan pengiriman pesannya, dalam sebuah langkah yang akan menantang Slack . Alat konferensi video saat ini memiliki opsi obrolan teks yang belum sempurna. (Kevin McLaughlin / Informasi )

Twitch bereksperimen dengan menjalankan iklan secara otomatis di tengah streaming . Iklan akan berjalan di afiliasi dan saluran mitra dan pembuat akan dibayar untuk setiap iklan yang berjalan. (Bijan Stephen / The Verge )

Game smartphone bergaya kasino telah menghabiskan jutaan dolar . Berbeda dengan industri perjudian, pasar ini hampir seluruhnya tidak diatur. (Cyrus Farivar / NBC)

DAN AKHIRNYA…

Saya harap email ini Anda temukan
Tinggal di gubuk senapan
Saya harap email ini Anda temukan
Di belahan dunia lain
Saya harap email ini Anda temukan
Di balik kemudi mobil besar
Saya harap email ini Anda temukan di rumah yang indah
Dengan istri yang cantik

– Frank Cvetkovic (@GoFrankGo) 13 September 2020

Seseorang memasang musik Bladerunner 2049 ke rekaman drone San Francisco dan pada awalnya saya tidak tahu apakah harus kagum atau ngeri. Ini sangat mengerikan. pic.twitter.com/XQTv4qrE93

– Omar Jimenez (@OmarJimenez) 10 September 2020

“Jika Anda tidak menyukai negara ini, pergi!” Kawan, aku menggedor-gedor setiap lemari berharap Narnia akan memberiku suaka

– The Library Owl ‍♀️ (@SketchesbyBoze) 8 September 2020

Kami mendapat seluruh pelayan Waffle House yang sedang membuat bir di Atlantik pic.twitter.com/HGiWI53dpI

– Peter Revello (@peter_revello) 14 September 2020

 BICARALAH DENGAN KAMI

Kirimkan tip, komentar, pertanyaan, dan ulasan The Social Dilemma kepada kami : casey@theverge.com dan zoe@theverge.com .

** Diterjemahkan oleh Tita