KAPITALISASI ATENSI

manusia bertempur melawan super komputer yang memiliki kecerdasan buatan (AI).

By Yudha Pedyanto

Suatu hari pada masa depan, manusia bertempur melawan super komputer yang memiliki kecerdasan buatan (AI). Bagaimana cara paling ampuh melawan komputer? Anak kecil juga tahu, cabut saja sumber listriknya. Tapi bukankah masih ada energi matahari? Lalu manusia mengantisipasinya dengan membuat awan buatan yang menghalangi cahaya matahari. Tamatkah riwayat AI tadi? Sudah menang kah manusia?

Belum. Bukan AI namanya kalo bodoh dan mudah ditebak. AI tadi akhirnya harus bertahan hidup dengan satu-satunya sumber listrik yang masih tersisa. Bioelektrik yang ada pada tubuh manusia. AI kemudian membuat jutaan manusia hasil kloning biologis dalam sebuah laboratorium raksasa. Begitu lahir manusia-manusia tadi langsung terkoneksi dengan AI melalui kabel yang terhubung dengan syaraf belakang kepala manusia. Untuk menjaga eksistensinya, semua manusia normal yang tersisa (non kloning) diburu dan dihabisi oleh AI.

Melalui kabel tersebut AI meng-install kehidupan virtual di dalam benak jutaan manusia kloning tadi. Mereka merasa hidup dan beraktivitas seperti biasa di dunia nyata. Padahal mereka berada di dunia maya hasil rekayasa komputer. Mereka diberi mimpi, sebagai gantinya AI memanen bioelektrik manusia sebagai sumber energinya. Kemudian ada gerakan perlawanan dan pembebasan, yang dipimpin oleh mereka yang sadar, karena berhasil unplug serta disconnect dari dunia virtual rekaan AI tadi.

Sebagian dari Anda mungkin bisa menebak, apa yang saya ceritakan barusan adalah cuplikan kisah fiksi ilmiah berjudul The Matrix. Anda tentu membayangkan kisah tersebut hanyalah khayalan belaka. Tapi tidak bagi Tristan Harris (mantan desaigner ethicist Google), Shoushana Zuboff (professor Harvard Business School), Jaron Lanier (komputer saintis penemu virtual reality), Tim Kendall (mantan direktur monetisasi Facebook dan CEO Pinterest), serta banyak engineer dan teknolog lainnya yang akhirnya keluar dari perusahaan mereka, karena tidak ada harapan untuk memperbaiki dari dalam.

Menurut para teknolog tadi, kita sering membayangkan pertempuran antara manusia melawan AI terjadi di masa depan. Tapi sesungguhnya pertempuran tersebut sudah terjadi saat ini. Bahkan sudah memakan banyak korban. Konflik, pertikaian bahkan pembantaian pun tak terelakkan akibat ulah AI tadi. Kemudian para teknolog yang gelisah tadi menyampaikan argumen sekaligus peringatan keras mereka dalam bentuk sebuah film dokumenter berjudul The Social Dilemma yang dilansir Netflix, 8 September lalu.

Agar lebih mudah memahami argumen para teknolog tadi, izinkan saya untuk mengajak Anda menjelajah waktu sebentar, kembali pada abad ke-16, di mana rempah menjadi komoditi utama era revolusi pertanian saat itu. Di Nusantara bahkan satu gram pala lebih mahal dari satu gram emas. Lalu zaman bergerak memasuki era revolusi industri abad ke-19. Saat itu komoditi utama berubah dari rempah menjadi minyak. Dan kini di abad ke-21 kita memasuki era revolusi informasi, di mana komoditi utama telah berubah bukan lagi rempah ataupun minyak.

Saat era revolusi pertanian, terbentuklah marketplace pertanian di mana rempah jadi komoditi utamanya, kita sebut saja emas rempah. Lalu zaman berubah menjadi revolusi industri, lalu terbentuklah marketplace industri di mana minyak jadi komoditi utamanya, kita sebut saja emas hitam. Dan kini zaman berubah menjadi revolusi informasi, lalu terbentuklah marketplace informasi di mana pikiran manusia jadi komoditi utamanya, kita sebut saja emas pikiran.

Lalu bagaimana emas pikiran manusia tadi ditambang dan dieksploitasi? Caranya dengan menjadikan atensi manusia sebagai produk yang dijual kepada para pemasang iklan. Bagaimana caranya? Gampang, buat platform social media, email, search engine, messaging app, yang menjebak atensi manusia secara bertubi-tubi dengan news, feeds, likes, replies, shares dan interaksi lainnya, sehingga ia terus terpaku di layar smart phone-nya. Dengan begitu para pemasang iklan dapat jaminan iklannya dilihat oleh calon pembeli yang tepat.

Ketika Anda membuka Google, Facebook, WhatsApp atau Instagram Anda mengira Anda adalah konsumen mereka. Salah besar. Anda adalah produk mereka, konsumen mereka adalah para pemasang iklan. Ada adagium yang mengatakan: “If you're not paying for the product you are the product”. Jika Anda tidak membayar sebuah produk, maka Anda adalah produknya. Lebih tepatnya, atensi Anda adalah produknya. Dan mereka menjualnya kepada para pemasang iklan. Emas pikiran menjadi marketplace baru yang belum pernah ada di era-era sebelumnya. Dan ini menjadikan Google dan Facebook perusahaan-perusahaan super kaya.

Lalu apa salahnya mengkomersialisasi atensi manusia? Tristan Harris, mantan desainer Google menjelaskan, di balik aplikasi media sosial smartphone Anda, ada super komputer raksasa yang menjalankan algoritma AI canggih (seperti The Matrix) yang memiliki satu tujuan; memanipulasi atensi Anda supaya terus terpaku pada layar smartphone, untuk kemudian dipanen (seperti bioelektrik bagi The Matrix). Apakah manusia tidak bisa melawannya? Menurut Tristan Haris, tidak. Manusia kalah telak. Dia menyebutnya, checkmate on mankind, skak mati atas umat manusia. Seperti adegan The Matrix di mana manusia tak berdaya diburu oleh AI.

Ketika membuka media sosial, pernahkah Anda mengalami seperti ini; tiba-tiba muncul iklan yang menawarkan sebuah produk, di mana produk tersebut Anda baru berniat akan membelinya? Sekali lagi, Anda baru berniat. Anda belum membelinya, bahkan Anda belum pernah membicarakannya di dunia maya ataupun nyata. Tapi media sosial (AI yang bekerja di baliknya) mampu membaca pikiran Anda! Magic? Any sufficiently advanced technology is indistinguishable from magic. Sebuah teknologi yang canggih nyaris tidak bisa dibedakan dengan magic. Kata saintis Arthur C. Clarke.

Yang ingin saya katakan adalah; sudah secanggih itu kemampuan AI dalam membaca pikiran Anda. Ketika Anda berinteraksi di dunia maya menggunakan smartphone Anda, secara diam-diam AI membuat model diri Anda. Semakin lama dan intens Anda menggunakan smartphone, semakin akurat model diri Anda. Jika AI dalam The Matrix hidup dengan membuat kloning manusia dalam bentuk biologis. Maka AI dalam media sosial hidup dengan membuat kloning diri Anda dalam bentuk digital. Lalu bagaimana caranya mereka membaca pikiran Anda? Inilah rahasianya: Mereka tidak membaca pikiran Anda. Mereka cukup bertanya kepada Anda versi kloning digital tadi. Mengerikan bukan?

Saya hanya bermodal MacBook Pro Core i5 memory 16GB, bisa melatih AI untuk mengenali wajah bermasker atau tidak (untuk purwa rupa smart gate Covid-19), dalam hitungan belasan menit (ingat kecerdasan AI meningkat tiap detiknya). Bayangkan kecanggihan AI yang berjalan di atas supercomputer milik Google atau Facebook yang punya pembangkit listrik sendiri sebesar pulau. Bayangkan penyalahgunaan kloning-kloning manusia digital yang bisa terjadi? Mereka tinggal mengajukan pertanyaan yang tepat bukan? Untuk memenangkan pemilu mungkin? Atau membeli saham yang menguntungkan?

Menurut Shoushana Zuboff, seorang professor emeritus Harvard Business School, komersialisasi kloning-kloning manusia digital tadi adalah bentuk surveillance capitalism yang sangat destruktif. Karena mereka tidak hanya mengajukan pertanyaan produk apa yang akan Anda beli. Tapi mereka juga mengajukan pertanyaan konten-konten seperti apa yang membuat Anda kecanduan? Sehingga Anda rela berjam-jam terpaku pada layar smartphone seperti zombie? Bayangkan mereka menggunakan versi kloning digital Anda untuk melawan diri Anda yang sebenarnya.

Jika AI sangat ahli dalam memprediksi produk yang akan Anda beli, maka AI juga sangat ahli dalam mempersuasi dan memanipulasi supaya Anda terpaku di layar smartphone selama mungkin. Nah desktruktifnya di sini; untuk mempersuasi dan memanipulasi Anda, AI akan memberikan dan menampilkan konten apa pun, sekali lagi apa pun. Tidak peduli konten tersebut benar atau salah, baik atau buruk, fakta atau hoax, berisi kebenaran atau kebencian. Nampaknya AI akan lebih banyak memberikan konten salah, karena menurut riset MIT konten-konten salah tadi menyebar enam kali lebih cepat daripada konten benar.

Pepatah mengatakan; ada dua serigala dalam diri kita, serigala baik dan jahat, serigala mana yang akan menang? Serigala yang Anda beri makan. And what you focus on, expands. Jika Anda mulai tertarik dengan isu Covid-19 adalah konspirasi, maka AI akan memberikan ribuaan konten dan argumen yang mengatakan hal tersebut benar. Lalu AI akan merekomendasikan ribuan teman yang meyakini hal itu benar. Besok AI akan memberikan konten yang lebih relevan dan segar lagi. Ingat AI bertambah pintar setiap detiknya. Skenario yang sama terjadi pada kasus teori konspirasi bumi datar atau anti vaksin.

Sebagaimana AI berhasil memprovokasi kubu konspirasi bumi datar atau kubu anti vaksin, AI juga berhasil memprovokasi kubu sebaliknya di sosial media. Akhirnya yang terjadi adalah pertikaian sengit akibat adu domba algoritma AI tadi. It’s okay yang penting para pemasang iklan dan pemegang saham bahagia. Padahal menurut Tim Kendall, mantan direktur monetisasi Facebook dan CEO Pinterest, upaya polarisasi dan provokasi AI di dunia maya tadi bisa meruncing di dunia nyata, dan mengakibatkan perang saudara (civil war) dalam jangka waktu dekat.

Jika pertikaian antara sesama warga sipil bisa mengakibatkan perang saudara. Apa yang terjadi jika pertikaian berlangsung antara penguasa dan minoritas rakyatnya? Pembantaian massal. Inilah yang terjadi pada etnis muslim Rohingya di Myanmar. Menurut Cynthia M. Wong, aktivis Human Rights Watch, Facebook memiliki andil besar dalam pembantaian etnis Rohingya tadi. Apalagi di Myanmar, internet adalah Facebook, dan Facebook adalah internet. Bayangkan konten-konten kebencian dan hoax seperti Rohingya bukan etnis asli, atau muslim akan menghapus agama lokal, menyebar dan menyulut api pembantaian masal. Dan parahnya didukung sepenuhnya oleh penguasa dan gerombolan biksu teroris-psikopat setempat.

Jika Anda membaca tulisan ini dari smartphone, maka layar smartphone Anda sesungguhnya berlumuran darah dan air mata. Darah dari ribuan Rohingya yang dibantai di Myanmar. Serta air mata ratusan ribu lainnya yang melarikan diri dan nomaden entah di mana. Di sana pun mereka diusir atas nama nasionalisme dan dianggap bukan warga negara. Bayangkan potensi konflik dan pembantaian seperti tadi bisa terulang di masa depan. Entah di mana. Entah siapa. Karena per detik ini algoritma AI yang bekerja di balik smartphone Anda, masih sama persis dengan algoritma yang menyulut pembantaian etnis Rohingnya di Myanmar. Bahkan besok AI akan semakin pintar memprovokasi dan memanipulasi.

Pesan saya, stop gunakan media sosial, kecuali untuk membanjirinya dengan konten-konten kebenaran dan perlawanan terhadap semua bentuk kapitalisme. Stop media sosial untuk berhaha-hihi atau selfi. Stop media sosial untuk bermain avatar. Latih anak kita agar tidak kecanduan smartphone dan media sosial. Unplug dan disconnect mereka dari The Matrix, maksud saya semua aplikasi smartphone yang di-backup AI, lalu tanamkan pandangan hidup dan aturan kehidupan yang bersumber dari Sang Maha Benar, Allah SWT.

Karena satu-satunya vaksin yang membuat mereka imune dari virus manipulasi dan provokasi AI, adalah kebenaran. Kebenaran tentang pandangan hidup (aqidah) Islam dan aturan kehidupan (syariah) Islam. Seperi kata Yuval Noah Harari: “And we had better understand our minds before the algorithms make our minds up for us.” Kita harus memahami pikiran kita, sebelum algoritma membuat pikiran buat kita. Jika anak-anak kita sudah kuat, biarkan mereka plug-in dan connect kembali ke media sosial sepanjang untuk mengobarkan perlawanan kepada semua bentuk kapitalisme tadi.

Saya mengawali tulisan ini dengan kegelisahan para teknolog atas penerapan teknologi AI yang destruktif. Para teknolog itu mengerti betul, karena mereka punya kapasitas untuk membangun sistem AI baru dengan teknologi lebih baik, dan dengan tujuan yang benar. Mereka sadar problemnya bukan di dalam perusahaan tempat mereka bekerja. Tapi problemnya ada di business model dan economic incentives yang profit oriented. Maka berjuang membenahi dari dalam perusahaan adalah sia-sia. Inilah sebabnya mereka memilih berjuang dari luar perusahaan. Membangun public awereness dan pressure group untuk membuat UU yang akan meregulasi AI tadi.

Namun mereka lupa, business model dan economic incentives yang profit oriented tadi tidak cukup diubah hanya lewat UU. Karena semuanya tadi merupakan derivasi dan konsekuensi diterapkannya ideologi kapitalisme yang sejak awal sudah menuhankan profit. Jadi selama ideologinya masih kapitalisme, maka selama itu pula problem manipulasi dan provokasi AI atas nama komersialisasi atensi akan terus berlangsung. Pararel dengan problem-problem komersialisasi syahwat atas nama pornografi, komersialisasi SDA atas nama investasi, atau komersialisasi industri militer atas nama invasi melindungi demokrasi dan hak asasi.

Maka saya mengakhiri tulisan ini dengan kegelisahan para ideolog atas penerapan ideologi kapitalisme yang destruktif. Para ideolog itu mengerti betul, karena mereka punya kapasitas untuk membangun sistem kehidupan baru dengan ideologi terbaik, yaitu ideologi Islam yang bersumber dari Allah SWT. Hanya ideologi Islam yang menuhankan Allah SWT sajalah, yang bisa membebaskan manusia dari jerat ideologi kapitalisme yang menuhankan profit.

Maka tugas para ideolog Islam bukan fokus kepada perbaikan parsial seperti mengganti pemimpin atau kebijakan saja, sedangkan ideologi kapitalismenya masih tertanam kuat. Akibatnya para pemimpin dan kebijakan yang pro profit dan pro modal akan terus dihasilkan. Tugas para ideolog Islam adalah berdakwah membangun public awereness dan pressure group untuk mengubah ideologi kapitalisme (apa pun nama samarannya) di setiap negeri menjadi ideologi Islam.

Join Pedy’s Book Club:

http://bit.ly/KluBukuMidgard