Psikosis AI

Kerapuhan pikiran dan pikiran kita

Nah dengan judul seperti itu, gambar apa lagi yang bisa saya gunakan? Kredit: Pixabay

Kami memiliki pikiran yang rapuh. Gangguan pemikiran memengaruhi sebagian besar populasi negara kaya pada suatu waktu; setiap orang di negara-negara ini memiliki probabilitas tinggi yang tidak menyenangkan untuk memiliki setidaknya satu dari gangguan pemikiran ini dalam hidup mereka, memuncak pada awal masa dewasa.

Gangguan ini datang dalam banyak rasa, dengan banyak label. Depresi adalah hal biasa, seperti halnya kecemasan. Kecanduan dan kompulsi juga. Yang lebih ekstrem adalah kegelapan gangguan kompulsif obsesif dan fragmentasi skizofrenia. Mereka adalah manusia yang unik.

Yang tidak diketahui adalah apakah mereka akan tetap unik sebagai manusia. Penelitian dalam kecerdasan buatan membuat kemajuan spektakuler; bagi banyak peneliti, kemajuan ini berada di jalur pengembangan AI umum yang mirip manusia. Ini mengarah pada pemikiran yang meresahkan: apakah AI yang menyerupai manusia mewarisi kelainan pemikiran yang mirip manusia?

Untuk gangguan gerakan yang berasal dari otak, kami memiliki beberapa pemahaman tentang apa yang terjadi: neuron spesifik rusak, dan masalah gerakan spesifik terjadi. Pada penyakit Parkinson, kehilangan sekumpulan kecil neuron dopamin di otak tengah tampaknya bergantung pada kapan tremor atau kesulitan bergerak muncul. Pada penyakit Huntington, kehilangan neuron di striatum secara langsung terkait dengan gerakan tak sadar dan kejang penyakit tersebut.

Gangguan pemikiran belum menghasilkan penjelasan mekanistik sederhana. Mereka tampak agak gangguan jaringan neuron yang sangat besar. Beberapa mungkin keberatan bahwa sebagian besar gangguan pemikiran memiliki penjelasan mekanistik, karena mereka adalah gangguan neuromodulator - karena sebagian besar perawatan mereka mengubah jumlah satu atau lebih neuromodulator di dalam otak. Tetapi semua ini memberi tahu kita bahwa mereka harus menjadi masalah di seluruh jaringan, karena neuromodulator dilepaskan ke seluruh otak. Dan, seperti namanya, neuromodulator berubah, tetapi tidak menyebabkan, transmisi informasi antar neuron. Bahkan jika perubahan neuromodulasi merupakan akar dari gangguan pikiran, efeknya dimainkan dalam bagaimana mereka mengubah cara neuron berbicara satu sama lain.

Tidak jelas mengapa gangguan pemikiran bahkan ada. Apakah mereka tak terhindarkan dalam otak yang cukup kompleks? Jika demikian, apakah keniscayaan ini terbatas pada biologi?

Bagaimana kita menjawab pertanyaan itu tergantung pada apakah ada gangguan pikiran

(1) kelemahan bawaan dalam biologi,

(2) efek budaya, atau

(3) efek samping yang melekat dari jaringan kompleks neuron skala besar.

Ini tidak saling eksklusif, seperti yang akan kita lihat.

Kelemahan yang melekat dalam biologi adalah penjelasan medis. Otak adalah kantong sel, yang masing-masingnya merupakan kantong bahan kimia, dan duduk di sup bahan kimia lainnya. Kelemahan bahan kimia tersebut, atau tas di mana mereka duduk, adalah target pertama alami untuk bagaimana gangguan pikiran muncul. Namun biologi bawaan yang cacat saja tidak mungkin menjadi penjelasan. Kelemahan seperti itu akan dipilih karena evolusi. Ikan yang tidak bisa menghadapi hari lain berenang tidak akan selamat. Bentuk gangguan pikiran yang diturunkan secara genetik jarang terjadi. Sebagai gantinya, perbedaan kecil dalam banyak gen dapat meningkatkan atau mengurangi kemungkinan mengalami gangguan pikiran seumur hidup. Sesuatu kemudian memberi petunjuk keseimbangan dari probabilitas menjadi kenyataan.

Gangguan pikiran dengan demikian bisa menjadi konsekuensi yang melekat dari budaya kita. Konsekuensi seperti itu dapat berupa produk fisik yang kita buat: pestisida, pelarut, obat. Kehadiran bahan kimia khusus yang diproduksi di lingkungan kita telah dikaitkan dengan peningkatan kemungkinan beberapa gangguan otak; tetapi kelainan pikiran tampaknya berasal dari zaman purba, mendahului sebagian besar pengaruh industri kita.

Konsekuensi yang lebih mungkin dari budaya kita adalah kompleksitasnya. Argumen yang terlatih dengan baik adalah bahwa kita menggunakan otak kita di luar ceruk tempat mereka berevolusi. Otak kita mengalami tekanan yang terus-menerus dalam masyarakat yang jauh lebih besar daripada yang berkembang di dalamnya. Dari ratusan hal yang harus dilakukan, ratusan hal yang kita sadari, tetapi tidak memiliki kendali individu atas: perang, kelaparan, penyakit, perubahan iklim. Stres kronis memengaruhi kabel neuron, dan mengubah responsnya terhadap input. Dalam skenario ini, perbedaan genetik yang meningkatkan atau mengurangi kemungkinan gangguan pikiran dimainkan dalam ketahanan yang mereka berikan pada jaringan saraf kita terhadap perubahan yang didorong oleh budaya ini.

Tetapi faktor umum untuk semua gangguan pemikiran adalah bahwa mereka muncul dalam jaringan neuron yang paling kompleks di Bumi. Kami memiliki 17 miliar neuron di korteks kami; tidak ada binatang lain yang mendekat. Kami ingin memberikan penghargaan pada korteks kami untuk kombinasi bakat yang tampaknya unik, untuk bahasa, penulisan, dan matematika; untuk kreativitas dan memasak. Memang teori tentang bagaimana korteks kita mencapai ukuran yang lebih besar melihatnya sebagai penyebab atau konsekuensi dari budaya: entah itu jaringan yang besar dan mudah beradaptasi memungkinkan kita untuk membentuk kelompok sosial yang besar, dan mengembangkan bahasa; atau bahwa membentuk kelompok sosial besar dan mengembangkan bahasa mendorong evolusi korteks terbesar di Bumi.

Kami memiliki sebagian kecil korteks yang didedikasikan untuk pemahaman dan produksi bahasa lisan. Bagian lain dari bahasa tertulis. Hilangnya cara berbicara kalimat tidak berarti kehilangan cara menulis kalimat yang sama. Bahasa tertulis adalah peristiwa yang sangat baru, terlalu baru untuk mengembangkan daerah otak khusus untuk memprosesnya; bahwa kita memiliki wilayah otak yang berhubungan dengan penulisan menunjukkan bagaimana korteks kita adalah mesin yang fleksibel dan dapat beradaptasi.

Dan di situlah letak masalahnya. Cortex terus-menerus diperbarui karena keterampilan baru dipelajari; sebagai kenangan baru terbentuk; sebagai pengetahuan baru diperoleh; dan saat itu terus berkembang menjadi dewasa awal. Dalam semua rewiring itu, ada kemungkinan asosiasi terbentuk antara hal-hal yang tidak bisa ada, memberikan halusinasi; atau asosiasi yang bisa ada, tetapi sangat tidak mungkin, memberikan pikiran obsesif; atau asosiasi hasil yang buruk dengan hal-hal yang tidak berbahaya, memberikan depresi atau kecemasan. Bahwa rewiring akan menyebabkan aktivasi satu set neuron secara tidak sengaja mengaktifkan set lain yang tidak relevan saat ini.

Kemampuan beradaptasi bukan hanya rewiring. Cortex memprediksi apa yang akan terjadi. Ini memprediksi kata berikutnya dalam sebuah kalimat. Ini memprediksi kapan suara mengikuti kilatan terang di langit. Dan prediksi ini bisa tumbuh terlalu kuat. Mereka dapat menulis informasi dari indera kita. Mereka dapat membuat acara yang tidak terjadi, sehingga berhalusinasi; dapat memprediksi peristiwa yang tidak akan pernah terjadi, membuat kita sedih.

Kita tampaknya menjadi satu-satunya spesies dengan beragam hal yang tersebar luas dan beragam yang dapat salah dengan pikiran kita. Kami juga satu-satunya spesies dengan 17 miliar korteks neuron, yang mengandung triliunan koneksi. Keduanya terhubung secara masuk akal.

Bandingkan ini dengan keadaan AI saat ini. Kami telah menyaksikan kemajuan luar biasa. Tetapi pada dasarnya kita masih pada tahap di mana satu agen AI belajar hanya satu hal. Sebuah jaringan belajar menerjemahkan satu bahasa ke bahasa lain; atau untuk mengklasifikasikan satu set gambar tertentu; atau untuk bermain Go atau catur atau draft. Sementara kita sekarang telah mencapai titik di mana arsitektur yang sama, set algoritma yang sama, dapat digunakan untuk memecahkan masalah yang berbeda, agen AI individu masih hanya belajar satu hal.

Manusia belajar catur, Go, dan draft; dan belajar berbagai bahasa; dan belajar melukis. Dan mempelajari urutan kejadian, memprediksi hasil, baik atau buruk. Dan lakukan semua ini dengan satu korteks. Yang berhubungan dengan berbagai jenis informasi yang dipelajari, dan berbagai penggunaan informasi tersebut. Dalam satu jaringan yang sangat kompleks, matang untuk kerusakan.

Argumen ini menunjukkan bahwa AI "umum" tidak mungkin, atau paling tidak disarankan. Ini menunjukkan bahwa jaringan yang cukup kompleks mampu menunjukkan kemampuan mirip manusia - untuk beradaptasi dengan setiap tugas baru, membuat prediksi, belajar, dan membentuk ingatan - juga akan menunjukkan kelemahan mirip manusia. Bahwa AI seperti itu akan menunjukkan serangkaian gangguan pemikiran, akan memiliki psikosis.

Jawabannya adalah bahwa, ketika kita membangun AI sendiri, maka kita dapat merekayasa jaringan yang kita bangun untuk tidak menjadi korban kelemahan ini. Retort itu berasumsi kita akan memiliki pemahaman yang cukup tentang bagaimana gangguan ini timbul untuk merekayasa di sekitar mereka. Secara terang-terangan, kita tidak memiliki itu saat ini, juga tidak ada indikasi bahwa pemahaman akan segera datang.

Retort yang lebih halus mungkin adalah bahwa kita tidak perlu mengikuti otak yang berkembang dengan rendah hati, bahwa kita dapat menemukan cara untuk memiliki jaringan yang kompleks yang dapat belajar dan melakukan banyak tugas yang berbeda tanpa mewarisi cacat desain biologi. Secara khusus, bahwa gangguan pikiran manusia tampaknya tergantung pada neuromodulator, dan AI tidak memilikinya. Satu masalah dengan pandangan ini adalah bahwa ia secara inheren percaya neuromodulator tidak melakukan perhitungan. Tapi itu semua perhitungan. Neuromodulator seperti serotonin mengubah keadaan otak, dengan mengubah kekuatan koneksi antar neuron. Neuromodulator memiliki peran ini dalam sistem saraf terkecil di Bumi dan di korteks kami. Kita harus menganggap mereka perlu untuk menjadi cerdas. Sepertinya AI akan membutuhkan sesuatu yang meniru neuromodulasi jika ingin mencapai kecerdasan umum. Untuk itu adalah bagaimana jaringan neuron yang nyata dapat dipahat secara adaptif untuk mengubah masalah yang ada, dengan mengubah cara mereka berinteraksi, baik secara singkat maupun permanen.

Masalah lain dengan pandangan ini adalah bahwa banyak sistem AI sudah menggunakan neuromodulasi. Neuron dopamin mengubah tembakannya untuk memberi sinyal perbedaan antara hasil yang Anda harapkan dan hasil yang Anda dapatkan. Ini adalah "kesalahan prediksi" di jantung banyak demonstrasi AI terbaru yang paling spektakuler. Ini dapat mendorong hubungan yang salah antara tindakan dan hasil dalam jaringan AI semudah di jaringan saraf.

Tetapi katakanlah kita memang mengerti bagaimana gangguan ini terjadi. Kemudian jika mereka muncul dari apa pun selain dari cacat bawaan murni dalam biologi, jika mereka muncul dari budaya kita atau merupakan efek samping yang melekat dari jaringan besar yang terhubung erat atau keduanya, maka mereka tidak dapat direkayasa di sekitarnya. AI canggih seperti itu akan ada dalam budaya kita - yang terlepas darinya, menurut definisi, tidak akan menjadi kecerdasan umum yang dapat diperdebatkan. AI canggih seperti itu tidak diragukan lagi akan membutuhkan jaringan yang besar dan kompleks, untuk mempelajari dan menyimpan banyak fungsi yang tumpang tindih dan berbeda. Begini, AI tingkat lanjut seperti itu akan tampak sama rentannya dengan gangguan pikiran seperti kita.

Esai ini bukan jawaban, tetapi pertanyaan. Karena saya ingin tahu: apakah jaringan yang cukup kompleks untuk menunjukkan kecerdasan seperti manusia juga pasti menunjukkan gangguan pemikiran seperti manusia?

Ada jawaban untuk pertanyaan yang diajukan di sini. Sebagai contoh, jika kematian sel dan malfungsi mendasari setiap gangguan pikiran, dan itu selalu karena tekanan lingkungan, maka AI akan kebal. Dalam menemukan jawaban untuk pertanyaan-pertanyaan ini, kita pasti akan lebih memahami otak, dan mungkin memahami bagaimana membangun AI tujuan umum yang tangguh. Yang non-psikotik. Saya pikir kita semua sudah cukup banyak melihat sci-fi untuk setuju: itu akan menjadi hal yang baik.

Baca lebih lanjut tentang ilmu saraf di The Spike

@ markdhumphries