Inilah cara baru untuk kalah dalam perdebatan di dunia maya: penggunaan AI

Selama 20 tahun terakhir sebagai jurnalis, saya telah melihat dan menulis tentang sejumlah hal yang telah mengubah pandangan saya tentang kemanusiaan. Namun baru belakangan ini ada sesuatu yang membuat saya mengalami korsleting.

Saya berbicara tentang fenomena yang mungkin juga Anda perhatikan: daya tarik terhadap AI.

Ada kemungkinan besar Anda pernah melihat seseorang menggunakan daya tarik AI secara online, bahkan mendengarnya dengan lantang. Ini adalah kekeliruan logika yang dapat diringkas dalam tiga kata: “Saya bertanya pada ChatGPT.”

• Saya bertanya pada ChatGPT untuk membantuku mengetahui penyakit misteriusku.
• Saya bertanya pada ChatGPT untuk memberiku nasihat cinta yang keras, mereka pikir aku paling membutuhkannya untuk tumbuh sebagai pribadi.
• Saya menggunakan ChatGPT untuk membuat rutinitas kulit khusus.
• ChatGPT memberikan argumen bahwa keterasingan relasional dari Tuhan (yaitu, kutukan) tentu mungkin terjadi, berdasarkan prinsip-prinsip abstrak logis dan metafisik, yaitu Pengecualian Tengah, tanpa mengacu pada sifat hubungan, cinta sejati, kehendak bebas, atau rasa hormat.
• Begitu banyak lembaga pemerintah yang ada bahkan pemerintah tidak tahu berapa jumlahnya! (sepenuhnya didasarkan pada jawaban dari Grokyang di-screenshot)

Tidak semua contoh menggunakan rumusan persis seperti ini, meskipun ini adalah cara paling sederhana untuk merangkum fenomena tersebut. Orang mungkin menggunakan Google Gemini, atau Microsoft Copilot, atau pacar chatbot mereka, misalnya. Namun elemen umumnya adalah menempatkan kepercayaan yang refleksif dan tidak beralasan pada sistem teknis yang tidak dirancang untuk melakukan hal yang Anda minta, dan kemudian mengharapkan orang lain untuk menyetujuinya juga.

Dan setiap kali saya melihat daya tarik AI ini, pikiran pertama saya tetap sama: Apakah kamu bodoh atau apa? Untuk beberapa waktu sekarang, “Saya bertanya pada ChatGPT” sebagai sebuah ungkapan sudah cukup untuk membuat saya memahaminya — saya tidak lagi tertarik dengan apa yang dikatakan orang tersebut. Saya secara mental telah mengajukannya bersama dengan kekeliruan logika, Anda pasti tahu salah satunya: manusia jerami, ad hominem, Gish gallop, dan bukan orang Skotlandia sejati. Jika saya masih berkomentar di forum, ini akan menjadi hal yang akan saya nyalakan. Namun daya tarik terhadap AI mulai sering terjadi sehingga saya mengertakkan gigi dan mencoba memahaminya.

Saya akan mulai dengan yang paling sederhana: Contoh Musk — yang terakhir — adalah seorang pria yang mengiklankan produknya dan terlibat dalam propaganda secara bersamaan. Yang lainnya lebih kompleks.

Pertama-tama, menurut saya contoh-contoh ini menyedihkan. Dalam kasus penyakit misterius, penulis beralih ke ChatGPT untuk mendapatkan perhatian — dan jawaban — yang tidak dapat mereka peroleh dari dokter. Dalam hal nasihat “cinta yang kuat”, penanya mengatakan bahwa mereka “terkejut dan terkejut dengan keakuratan jawaban,” meskipun jawabannya hanyalah omong kosong umum yang bisa Anda dapatkan dari acara radio mana pun, langsung saja. hingga “aplikasi kencan bukanlah masalahnya, ketakutan Anda akan kerentananlah yang menjadi masalahnya.” Dalam hal rutinitas kulit, penulis mungkin juga mendapatkannya dari majalah wanita – tidak ada yang khusus tentangnya.

Adapun argumen mengenai kutukan: neraka itu nyata dan saya sudah berada di sini.

Sistem seperti ChatGPT, seperti yang diketahui oleh siapa pun yang akrab dengan model bahasa besar, memprediksi kemungkinan respons terhadap perintah dengan menghasilkan rangkaian kata berdasarkan pola di perpustakaan data pelatihan. Ada banyak sekali informasi yang dibuat oleh manusia di internet, sehingga jawaban-jawabannya sering kali benar: tanyakan “apa ibu kota California”, misalnya, dan mereka akan menjawab dengan Sacramento, ditambah kalimat lain yang tidak diperlukan. (Di antara keberatan kecil saya terhadap ChatGPT: jawabannya terdengar seperti siswa kelas enam yang mencoba mencapai jumlah kata minimum.) Bahkan untuk pertanyaan yang lebih terbuka seperti di atas, ChatGPT dapat membuat jawaban yang terdengar masuk akal berdasarkan data pelatihan. Nasihat cinta dan kulit bersifat umum karena banyak sekali penulis online yang memberikan nasihat persis seperti itu.

Masalahnya adalah ChatGPT tidak terpercaya. Teks ChatGPT terdengar percaya diri, dan jawabannya terperinci. Ini tidak sama dengan benar, tapi ada benarnya penanda menjadi benar. Hal ini tidak selalu jelas salah, terutama ketika menyangkut jawaban – seperti halnya nasihat cinta – yang dapat dengan mudah diproyeksikan oleh si penanya. Bias konfirmasi itu nyata dan benar, sobat. saya sudah sudah menulis tentang jenis masalah yang ditemui orang ketika mereka memercayai sistem prediksi otomatis dengan pertanyaan faktual yang kompleks. Namun meskipun masalah ini sering muncul, orang-orang tetap saja melakukan hal tersebut.

Bagaimana seseorang membangun kepercayaan adalah pertanyaan yang sulit. Sebagai seorang jurnalis, saya suka menunjukkan karya saya — saya memberi tahu Anda siapa yang mengatakan apa kepada saya, kapan, atau menunjukkan kepada Anda apa yang telah saya lakukan untuk mencoba memastikan bahwa sesuatu itu benar. Dengan pengampunan palsu dari presiden, saya menunjukkan kepada Anda sumber utama mana yang saya gunakan sehingga Anda dapat mengajukan pertanyaan sendiri.

Namun kepercayaan juga bersifat heuristik, yang dapat dengan mudah disalahgunakan. Dalam penipuan keuangan, misalnya, kehadiran dana modal ventura tertentu dalam suatu putaran dapat memberi kesan kepada dana modal ventura lainnya bahwa seseorang telah melakukan uji tuntas yang diperlukan, sehingga menyebabkan mereka tidak melakukan sendiri proses intensif tersebut. Permohonan kepada pihak berwenang bergantung pada kepercayaan sebagai sebuah heuristik — ini adalah ukuran praktis, meski terkadang salah, yang dapat menghemat pekerjaan.

Orang yang bertanya tentang penyakit misterius ini mengajukan permohonan kepada AI karena manusia tidak punya jawaban dan mereka putus asa. Masalah perawatan kulit sepertinya murni kemalasan. Saat ada orang yang meminta nasihat cinta, saya jadi bertanya-tanya bagaimana mereka sampai pada titik dalam hidup mereka di mana mereka tidak punya manusia untuk ditanyakan – bagaimana bisa mereka tidak punya teman yang memperhatikan mereka berinteraksi dengan orang lain. Ketika ditanya tentang neraka, ada kesan “mesin telah menganggap kutukan itu logis,” dan itu benar-benar sialan memalukan.

Daya tarik terhadap AI berbeda dengan cerita “Saya bertanya pada ChatGPT” tentang, katakanlah, membuatnya menghitung “r” di “strawberry” — tidak menguji batas chatbot atau terlibat dengannya dengan cara sadar diri lainnya. Mungkin ada dua cara untuk memahaminya. Yang pertama adalah “Saya menanyakan kotak jawaban ajaib dan kotak tersebut memberi tahu saya,” dengan nada yang mirip seperti “baiklah, Oracle di Delphi berkata…” Yang kedua adalah, “Saya bertanya kepada ChatGPT dan tidak bertanggung jawab jika itu salah .”

Yang kedua malas. Yang pertama mengkhawatirkan.

Sam Altman dan Elon Musk, antara lain, berbagi tanggung jawab atas daya tarik AI. Sudah berapa lama kita mendengarkan para pemimpin industri mengatakan bahwa AI akan mampu berpikir dalam waktu dekat? Bahwa ia akan mengungguli manusia dan mengambil alih pekerjaan kita? Ada semacam logika yang berperan di sini: Elon Musk dan Sam Altman sangat kaya, jadi mereka pasti sangat pintar – mereka lebih kaya dari Anda, sehingga mereka lebih pintar dari Anda. Dan mereka memberi tahu Anda bahwa AI dapat berpikir. Mengapa Anda tidak mempercayainya? Lagi pula, bukankah dunia ini akan jauh lebih keren jika mereka melakukan hal yang benar?

Ada juga imbalan perhatian yang besar karena berhasil menarik cerita AI; milik Kevin Roose Kisah chatbot Bing yang konyol adalah contohnya. Tentu saja, itu kredibel dan tipu – tapi menyaksikan para pakar gagal dalam ujian cermin memang cenderung menarik perhatian orang. (Faktanya, Roose kemudian menulis cerita kedua di mana dia menanyakan apa kepada chatbots mereka memikirkannya.) Di media sosial, terdapat insentif untuk mengedepankan daya tarik AI dalam keterlibatan; ada banyak orang aneh influencer AI yang dengan senang hati meningkatkan hal ini. Jika Anda memberikan imbalan sosial atas perilaku bodoh, orang akan terlibat dalam perilaku bodoh. Begitulah cara kerja mode.

Ada satu hal lagi dan itu adalah Google. Google Penelusuran dimulai sebagai direktori online yang luar biasa bagus, namun selama bertahun-tahun, Google mendorong untuk melihatnya sebagai bola kristal yang memasok satu jawaban yang benar atas perintah. Itulah inti dari Cuplikan sebelum munculnya AI generatif, dan sekarang, integrasi jawaban AI telah membawa beberapa langkah lebih jauh.

Sayangnya bagi Google, ChatGPT adalah bola kristal yang terlihat lebih bagus. Katakanlah saya ingin mengganti karet wiper kaca depan saya. Hasil penelusuran Google untuk “ganti wiper kaca depan karet” menunjukkan kepada saya berbagai macam sampah, dimulai dengan ikhtisar AI. Di sebelahnya ada video YouTube. Jika saya gulir ke bawah lebih jauh, ada cuplikan; di sebelahnya ada foto. Di bawahnya terdapat pencarian yang disarankan, lalu saran video lainnya, lalu jawaban forum Reddit. Ini sibuk dan berantakan.

Sekarang mari kita beralih ke ChatGPT. Bertanya “Bagaimana cara mengganti karet wiper kaca depan?” memberi saya tata letak yang lebih rapi: respons dengan sub-judul dan langkah-langkah. Saya tidak memiliki tautan langsung ke sumber dan tidak ada cara untuk mengevaluasi apakah saya mendapatkan saran yang baik — namun saya memiliki jawaban yang jelas dan terdengar berwibawa pada antarmuka yang bersih. Jika Anda tidak mengetahui atau tidak peduli dengan cara kerjanya, ChatGPT tampaknya lebih baik.

Daya tarik terhadap AI adalah contoh sempurna dari hukum Arthur Clarke: “Teknologi apa pun yang cukup maju tidak dapat dibedakan dari sihir.” Teknologi di balik LLM sudah cukup maju karena orang yang menggunakannya belum memahaminya. Hasilnya adalah genre berita yang benar-benar baru dan menyedihkan: orang mengandalkan AI generatif hanya untuk mendapatkan hasil yang dibuat-buat. Saya juga merasa menyedihkan bahwa tidak peduli berapa banyak dari mereka yang ada – apakah itu benar pengampunan presiden palsu, kutipan palsu, kasus hukum yang dibuat-buatatau kutipan film palsu — sepertinya tidak ada dampaknya. Sial, bahkan lem pada benda pizza belum berhenti “Saya bertanya pada ChatGPT.”

Bahwa ini adalah mesin omong kosong – dalam arti filosofis — sepertinya tidak mengganggu banyak pertanyaan. LLM, pada dasarnya, tidak dapat menentukan apakah yang dikatakannya benar atau salah. (Setidaknya pembohong mengetahui kebenarannya.) Ia tidak memiliki akses ke dunia nyata, hanya representasi tertulis dari dunia yang “dilihat” melalui token.

Jadi daya tarik terhadap AI adalah daya tariknya penanda otoritas. ChatGPT terdengar percaya diri, meskipun sebenarnya tidak demikian, dan jawabannya terperinci, meskipun salah. Antarmukanya bersih. Anda tidak perlu membuat keputusan tentang tautan mana yang harus diklik. Beberapa orang kaya bilang padamu bahwa dia akan menjadi lebih pintar darimu dalam waktu dekat. A Waktu New York reporter melakukan hal yang persis seperti ini. Jadi untuk apa berpikir ketika komputer dapat melakukan hal tersebut untuk Anda?

Saya tidak tahu seberapa besar kepercayaan ini dan seberapa besar nihilisme kemewahan murni. Dalam beberapa hal, “robot akan mengatakan yang sebenarnya kepada saya” dan “tidak ada yang akan memperbaiki apa pun dan Google memang salah, jadi mengapa tidak mempercayai robot” berarti hal yang sama: kurangnya kepercayaan pada upaya manusia, penghinaan terhadap pengetahuan manusia, dan ketidakmampuan untuk mempercayai diri sendiri. Mau tak mau aku merasa ini sedang terjadi di suatu tempat yang sangat gelap. Orang-orang penting sedang membicarakannya pelarangan vaksin polio. Penduduk New Jersey adalah mengarahkan laser ke pesawat selama periode perjalanan tersibuk tahun ini. Seluruh pemilihan presiden adalah dibanjiri teori konspirasi. Selain itu, bukankah akan lebih menyenangkan jika alien itu nyata, ada komplotan rahasia yang menjalankan dunia, dan AI-nya benar-benar cerdas?

Dalam konteks ini, mungkin mudah untuk percaya bahwa ada kotak jawaban ajaib di komputer, dan itu benar-benar otoritatif, sama seperti teman lama kita, Sibyl di Delphi. Jika Anda yakin bahwa komputer memiliki pengetahuan yang sempurna, Anda siap memercayai apa pun. Ternyata masa depan telah diprediksi oleh Jean Baudrillard selama ini: siapa yang butuh kenyataan jika kita memiliki penanda? Apa yang pernah dilakukan oleh kenyataan padaku?