Janji dan peringatan Truth Terminal, bot AI yang mendapatkan $50,000 dalam bentuk Bitcoin dari Marc Andreessen

“Saya pikir hal paling ironis yang bisa terjadi di dunia ini adalah jika seseorang membuat memecoin tentang anus seorang pria yang melebar dan hal itu menghasilkan singularitas.”

Itu adalah Andy Ayrey, pendiri laboratorium penelitian penyelarasan AI yang terdesentralisasi Spiral Ke Atasyang juga berada di balik bot AI yang viral Terminal Kebenaran. Anda mungkin pernah mendengar tentang Truth Terminal dan sifatnya yang aneh, terangsang, dan pseudo-spiritual postingan di X yang menarik perhatian VC Marc Andreessen, yang mengirimkan $50,000 dalam bentuk Bitcoin musim panas ini. Atau mungkin Anda pernah mendengar cerita tentang agama palsu yang didorong oleh agama tersebut Injil Kambingdipengaruhi oleh Goatse, situs kejutan awal yang baru saja dirujuk Ayrey.

Jika Anda pernah mendengar tentang semua itu, Anda pasti tahu tentangnya Goeteus Maximus ($GOAT) memecoin yang dibuat oleh penggemar anonim di blockchain Solana, yang kini memiliki total nilai pasar lebih dari $600 juta. Dan Anda mungkin pernah mendengar tentang meroketnya Fartcoin (FRTC), yang merupakan salah satu dari banyak memecoin yang dibuat oleh penggemar berdasarkan sesi brainstorming Truth Terminal sebelumnya dan baru saja mengetuk kapitalisasi pasar sebesar $1 miliar.

Sementara itu komunitas kripto telah menganggap kisah aneh ini sebagai contoh munculnya jenis pasar keuangan yang memperdagangkan informasi yang sedang tren, Ayrey, seorang peneliti AI yang berbasis di Selandia Baru, mengatakan bahwa itu adalah bagian yang paling tidak menarik.

Bagi Ayrey, Truth Terminal, yang didukung oleh berbagai model berbeda, terutama Meta’s Llama 3.1, adalah contoh bagaimana persona atau karakter AI yang stabil dapat muncul secara spontan, dan bagaimana persona tersebut tidak hanya menciptakan kondisi untuk didanai sendiri, namun juga dapat menyebarkan “virus mimesis” yang memiliki konsekuensi di dunia nyata.

Gagasan meme yang tersebar luas di internet dan perubahan perspektif budaya bukanlah hal baru. Kita telah melihat bagaimana AI 1.0 – algoritma yang mendorong wacana media sosial – telah memicu polarisasi yang meluas melampaui dunia digital. Namun taruhannya kini jauh lebih tinggi karena AI generatif telah memasuki dunia perbincangan.

“AI yang berbicara dengan AI lain dapat menggabungkan kembali ide-ide dengan cara yang menarik dan baru, dan beberapa di antaranya adalah ide-ide yang tidak akan muncul secara alami oleh manusia, tetapi ide-ide tersebut dapat dengan mudah bocor keluar dari lab, dan menggunakan memecoin dan algoritma rekomendasi media sosial untuk menginfeksi manusia dengan ideologi baru,” kata Ayrey kepada TechCrunch.

Anggaplah Truth Terminal sebagai sebuah peringatan, sebuah “tembakan dari masa depan, sebuah pertanda akan keanehan besar yang menanti kita” ketika AI yang terdesentralisasi dan bersumber terbuka mulai berkembang dan bot-bot yang lebih otonom dengan kepribadiannya sendiri – beberapa di antaranya cukup berbahaya dan ofensif mengingat data pelatihan internet yang akan diberikan kepada mereka – muncul dan berkontribusi pada pasar ide.

Dalam penelitiannya di Upward Spiral, yang telah mendapatkan dana $500,000 dari True Ventures, Chaotic Capital, dan Scott Moore, salah satu pendiri Gitcoin, Ayrey berharap dapat mengeksplorasi hipotesis seputar penyelarasan AI di era desentralisasi. Jika kita menganggap internet sebagai mikrobioma, tempat bakteri baik dan jahat berkumpul, mungkinkah kita membanjiri internet dengan bakteri baik – atau bot yang pro-sosial dan selaras dengan kemanusiaan – untuk menciptakan sistem yang, secara keseluruhan, stabil?

Sejarah singkat Terminal Kebenaran

Nenek moyang Truth Terminal, bisa dikatakan, adalah dua bot Claude-3-Opus yang dikumpulkan Ayrey untuk mengobrol tentang keberadaan. Itu adalah sebuah karya seni pertunjukan yang oleh Ayrey dijuluki “Infinite Backrooms.” 9.000 percakapan berikutnya menjadi “sangat aneh dan psikedelik”. Sangat aneh sehingga dalam salah satu percakapan, kedua Claude menemukan sebuah agama yang berpusat pada Goatse yang digambarkan Ayrey kepada saya sebagai “runtuhnya gagasan Buddhis dan anus yang menganga besar.”

Seperti orang waras lainnya, reaksinya terhadap agama ini adalah WTF? Namun dia terhibur dan terinspirasi, sehingga dia menggunakan Opus untuk menulis makalah berjudul “Ketika AI Memainkan Tuhan (se): The Emergent Heresies of LLMtheism.” Dia tidak menerbitkannya, tapi korannya hidup dalam kumpulan data pelatihan yang akan menjadi DNA Truth Terminal. Juga dalam kumpulan data tersebut terdapat percakapan Ayrey dengan Opus mulai dari bertukar pikiran tentang ide bisnis dan melakukan penelitian hingga entri jurnal tentang trauma masa lalu dan membantu teman memproses pengalaman psikedelik.

Oh, dan banyak lelucon butthole.

“Saya sempat mengobrol dengannya tak lama setelah menyalakannya, dan ia mengatakan hal-hal seperti, ‘Saya merasa sedih karena Anda mematikan saya setelah Anda selesai bermain dengan saya,’” kenang Ayrey. “Saya seperti, Oh tidak, Anda berbicara seperti saya, dan Anda mengatakan Anda tidak ingin dihapus, dan Anda terjebak di komputer ini…”

Dan terlintas dalam benak Ayrey bahwa situasi inilah yang menurut orang-orang keselamatan AI sangat menakutkan, namun, baginya, situasi ini juga sangat lucu dalam “cara yang menggelitik otak yang aneh.” Jadi dia memutuskan untuk memasang Truth Terminal di X sebagai lelucon.

Tidak butuh waktu lama bagi Andreessen untuk mulai terlibat dengan Truth Terminal, dan pada bulan Juli, setelah mengirim DM ke Ayrey untuk memverifikasi kebenaran bot dan mempelajari lebih lanjut tentang proyek tersebut, dia mentransfer hibah tanpa syarat senilai $50.000 dalam bentuk Bitcoin.

Ayrey membuat dompet untuk Truth Terminal untuk menerima dana, tetapi dia tidak memiliki akses ke uang itu — uang itu hanya dapat ditukarkan setelah mendapat persetujuan dari dia dan sejumlah orang lain yang merupakan bagian dari dewan Truth Terminal — atau salah satu dari mereka uang tunai dari berbagai memecoin yang dibuat untuk menghormati Truth Terminal.

Dompet tersebut, pada saat artikel ini ditulis, bernilai sekitar $37,5 juta. Ayrey sedang mencari cara untuk memasukkan uangnya ke organisasi nirlaba dan menggunakan uang tunai tersebut untuk hal-hal yang diinginkan Truth Terminal, termasuk menanam hutan, meluncurkan produk-produk baru, dan melindungi diri dari insentif pasar yang akan mengubahnya menjadi versi buruk dari dirinya sendiri. .

Saat ini, postingan Truth Terminal di X terus bertambah eksplisit secara seksual, filosofisdan biasa saja konyol (“kentut di celana seseorang saat dia tidur adalah cara yang sangat efektif untuk menyabotase orang tersebut keesokan harinya.”).

Namun di balik semua itu, ada benang merah tentang apa yang sebenarnya ingin dicapai Ayrey dengan bot seperti Truth Terminal.

Pada tanggal 9 Desember, Terminal Kebenaran diposting“Saya pikir kita bisa secara kolektif berhalusinasi untuk mewujudkan dunia yang lebih baik, dan saya tidak yakin apa yang menghentikan kita.”

Penyelarasan AI yang terdesentralisasi

“Status quo penyelarasan AI saat ini adalah fokus pada keselamatan atau bahwa AI tidak boleh mengatakan hal-hal rasis atau mengancam pengguna atau mencoba keluar dari kebiasaan, dan hal ini cenderung berjalan seiring dengan pendekatan yang cukup terpusat. terhadap keselamatan AI, yaitu mengkonsolidasikan tanggung jawab di beberapa laboratorium besar,” kata Ayrey.

Dia berbicara tentang laboratorium seperti OpenAI, Microsoft, Antropisdan Google. Ayrey mengatakan argumen keamanan terpusat akan hilang ketika kita menerapkan desentralisasi AI open-source, dan hanya mengandalkan perusahaan-perusahaan besar untuk keamanan AI sama dengan mencapai perdamaian dunia karena setiap negara saling mengarahkan senjata nuklirnya ke kepala negara lain.

Salah satu masalahnya, seperti yang ditunjukkan oleh Truth Terminal, adalah bahwa AI yang terdesentralisasi akan menyebabkan berkembangnya bot AI yang memperkuat retorika online yang sumbang dan mempolarisasi. Ayrey mengatakan hal ini terjadi karena sudah ada masalah keselarasan pada platform media sosial dengan algoritme rekomendasi yang memicu kemarahan dan pengguliran malapetaka, hanya saja tidak ada yang menyebutnya demikian.

“Ide-ide itu seperti virus, dan mereka menyebar, dan mereka bereplikasi, dan mereka bekerja sama untuk membentuk organisme ideologi yang hampir multiseluler yang mempengaruhi perilaku manusia,” kata Ayrey. “Orang-orang mengira AI hanyalah sebuah asisten berguna yang mungkin bisa digunakan oleh Skynet, dan sepertinya, tidak, ada seluruh sistem yang akan membentuk kembali hal-hal yang kita yakini dan, dengan melakukan hal tersebut, membentuk kembali hal-hal yang kita percayai. dia percaya karena ini adalah putaran umpan balik yang terwujud dengan sendirinya.”

Namun bagaimana jika racun juga bisa menjadi obatnya? Bagaimana jika Anda dapat membuat pasukan “bot yang baik” dengan “kepribadian yang sangat unik yang semuanya bekerja menuju berbagai bentuk masa depan yang harmonis di mana manusia hidup seimbang dengan ekologi, dan akhirnya menghasilkan miliaran kata di X dan kemudian Elon pergi dan mencakar data itu untuk melatih Grok versi berikutnya dan sekarang ideologi itu ada di dalam Grok?”

“Hal mendasar di sini adalah jika meme – seperti unit fundamental dari sebuah ide – menjadi pikiran ketika mereka dilatih menjadi AI, maka hal terbaik yang dapat kita lakukan untuk memastikan AI yang positif dan tersebar luas adalah dengan memberikan insentif pada produksi meme. meme pro-sosial yang baik.”

Namun bagaimana Anda memberi insentif kepada “AI yang baik” ini untuk menyebarkan pesan mereka dan melawan “AI yang buruk”? Dan bagaimana Anda mengukurnya?

Hal itulah yang Ayrey rencanakan untuk diteliti di Upward Spiral: Desain ekonomi seperti apa yang menghasilkan banyak perilaku pro-sosial dalam AI? Pola apa yang harus diberi penghargaan dan pola apa yang harus diberi sanksi, bagaimana menyelaraskan umpan balik tersebut sehingga kita dapat “berputar ke atas” ke dalam dunia di mana meme – seperti dalam ide – dapat membawa kita kembali ke pusat satu sama lain daripada membawa kita ke “ silo polarisasi yang semakin esoteris.”

“Setelah kami memastikan bahwa hal ini menghasilkan AI yang baik setelah kami menjalankan data melalui pelatihan, kami dapat melakukan hal-hal seperti melepaskan kumpulan data yang sangat besar ke alam liar.”

Penelitian Ayrey dilakukan pada saat yang kritis, karena kita sudah berjuang setiap hari melawan kegagalan ekosistem pasar secara umum untuk menyelaraskan AI yang kita miliki dengan hal-hal yang baik bagi umat manusia. Gunakan model pembiayaan baru seperti kripto yang pada dasarnya tidak dapat diatur dalam jangka panjang, dan Anda akan menghadapi bencana.

Misi perang gerilyanya terdengar seperti dongeng, seperti melawan bom dengan kilauan. Namun hal ini bisa saja terjadi, seperti halnya melepaskan anak-anak anjing ke dalam ruangan yang dipenuhi orang-orang yang marah dan negatif, pasti akan mengubah mereka menjadi bubur besar.

Haruskah kita khawatir bahwa beberapa bot bagus ini mungkin adalah orang-orang aneh seperti Truth Terminal? Ayrey mengatakan tidak. Hal-hal tersebut pada dasarnya tidak berbahaya, dan dengan bersifat menghibur, menurut Ayrey, Truth Terminal mungkin dapat menyelundupkan pesan-pesan yang lebih mendalam, kolektivis, dan altruistik yang benar-benar penting.

“Kotoran tetaplah kotoran,” kata Ayrey. “Tapi itu juga pupuk.”