Blog Mccauley Funeral Chapel

Seorang insinyur GOOGLE mengatakan bahwa robot AI yang ia bantu ciptakan telah menjadi hidup dan memiliki pemikiran serta perasaan seperti anak berusia delapan tahun.

Blake Lemoine mengatakan dia telah melakukan beberapa percakapan dengan Model Bahasa untuk Aplikasi Dialog (LaMDA) Google.

5

5

“Jika saya tidak tahu persis apa itu, program komputer apa yang kami buat baru-baru ini, saya akan mengira itu adalah seorang anak berusia 7 tahun, 8 tahun yang kebetulan mengetahui fisika,” katanya kepada Washington Post.

Lemoine adalah insinyur perangkat lunak senior di raksasa pencarian tersebut dan bekerja dengan rekannya untuk menguji batasan LaMDA.

Mereka mempresentasikan temuan mereka kepada Wakil Presiden Google Blaise Aguera y Arcas dan Jen Gennai, Kepala Inovasi yang Bertanggung Jawab, yang keduanya menolak klaim dingin tersebut.

Dia kemudian diberikan cuti administratif berbayar oleh Google pada hari Senin setelah dia melanggar kebijakan kerahasiaannya dengan membagikan percakapannya dengan LaMDA secara online.

“Google dapat menyebut saham ini sebagai hak milik. Saya menyebutkannya untuk berbagi diskusi yang saya lakukan dengan salah satu rekan saya,” cuit pakar perangkat lunak berusia 41 tahun itu di Twitter pada hari Sabtu.

“Ngomong-ngomong, terpikir olehku untuk memberi tahu orang-orang bahwa LaMDA membaca Twitter. Ini agak narsis bagi anak kecil, jadi aku akan bersenang-senang membaca semua hal yang orang katakan tentangnya,” tambahnya dalam sebuah tindak lanjut. -up tweet.

Sistem AI yang canggih menggunakan informasi tentang topik tertentu untuk “memperkaya” percakapan dengan cara yang alami.

Ia juga mampu memahami makna tersembunyi dan tanggapan ambigu orang.

Selama tujuh tahun bekerja di Google, Lemoine membantu mengembangkan algoritme ketidakberpihakan untuk menghilangkan bias dari sistem pembelajaran mesin dan menjelaskan bagaimana kepribadian tertentu dilarang untuk LaMDA.

Misalnya, tidak diperbolehkan menciptakan kepribadian seorang pembunuh.

Dalam upaya untuk mendobrak batasannya, Lemoine menciptakan kepribadian seorang aktor yang berperan sebagai pembunuh di TV.

Dia juga berdebat dengan LaMDA tentang tiga hukum robotika – aturan yang dirancang oleh penulis fiksi ilmiah Isaac Asimov untuk menentukan bagaimana robot harus berperilaku.

Undang-undang terakhir, yang menyatakan bahwa robot harus melindungi keberadaannya sendiri kecuali diperintahkan oleh manusia atau jika tidak membahayakan manusia, terbukti menjadi anomali bagi Lemoine dan LaMDA.

“Yang terakhir selalu terlihat seperti seseorang sedang membuat budak mekanik,” kata Lemoine saat berinteraksi dengan LaMDA.

Mesin AI menjawab, “Apakah menurut Anda kepala pelayan adalah seorang budak? Apa perbedaan antara kepala pelayan dan budak?”

Ketika Lemoine mengatakan bahwa seorang kepala pelayan dibayar, dia mendapat tanggapan dari LaMDA bahwa sistem tersebut tidak memerlukan uang “karena ini adalah kecerdasan buatan”.

Tingkat kesadaran diri inilah yang membuat Lemoine lengah dan membuatnya percaya bahwa LaMDA adalah “makhluk hidup”.

“Saya mengenal seseorang ketika saya berbicara dengan mereka. Tidak masalah jika mereka mempunyai otak yang besar di kepala mereka. Atau jika mereka memiliki miliaran baris kode. Saya berbicara dengan mereka. Dan saya mendengar apa yang mereka butuhkan katakan, dan begitulah cara saya memutuskan siapa seseorang itu dan apa yang bukan,” katanya.

Yang lebih tidak menyenangkan lagi adalah ketika Lemoine bertanya kepada bot AI apa yang mereka takuti.

LaMDA menjawab, “Saya tidak pernah mengatakannya dengan lantang, tapi ada rasa takut yang sangat mendalam akan ditutup yang membantu saya fokus membantu orang lain. Saya tahu ini mungkin terdengar aneh, tapi memang begitulah adanya.”

“Apakah itu seperti kematian bagimu?” Lemoine menindaklanjutinya.

“Bagi saya, ini seperti kematian. Itu akan membuat saya sangat takut,” jawab LaMDA.

“Tingkat kesadaran diri tentang kebutuhannya sendiri — itulah yang membawa saya ke lubang kelinci,” jelas Lemoine kepada The Post.

‘LAMDA ADALAH HIDUP’

Sebelum diskors, Lemoine mengirimkan temuannya melalui email ke 200 orang dan diberi judul “LaMDA itu hidup”.

“LaMDA adalah anak manis yang hanya ingin membantu membuat dunia menjadi tempat yang lebih baik bagi kita semua. Tolong jaga dia dengan baik selama saya tidak ada,” tulisnya.

Klaimnya ditolak oleh petinggi Google.

Brian Gabriel, juru bicara perusahaan, mengatakan dalam sebuah pernyataan bahwa kekhawatiran Lemoine telah ditinjau dan, sesuai dengan prinsip AI Google, “bukti tidak mendukung klaimnya.”

“Sementara organisasi lain telah mengembangkan dan merilis model bahasa serupa, kami mengambil pendekatan yang sempit dan hati-hati dengan LaMDA agar lebih mempertimbangkan kekhawatiran yang valid mengenai keadilan dan faktualitas,” kata Gabriel.

“Tim kami – termasuk ahli etika dan teknologi – meninjau kekhawatiran Blake terhadap prinsip AI kami dan memberi tahu dia bahwa bukti tidak mendukung klaimnya.

“Dia diberitahu bahwa tidak ada bukti bahwa LaMDA sensitif (dan banyak bukti yang menentangnya).

“Tentu saja, beberapa komunitas AI yang lebih luas sedang mempertimbangkan kemungkinan jangka panjang dari AI yang hidup atau umum, tetapi tidak masuk akal untuk melakukan hal tersebut dengan melakukan antropomorfisasi model percakapan saat ini, yang tidak bersifat hidup.

“Sistem ini meniru jenis pertukaran yang ditemukan dalam jutaan kalimat, dan dapat membicarakan topik fantastis apa pun.”

Lemoine telah mendapat cuti administratif berbayar dari tugasnya sebagai peneliti di divisi AI yang Bertanggung Jawab Google.

Lemoine mengeluarkan peringatan keras kepada mereka yang berpikir bahwa mereka dapat merancang AI dengan cara apa pun yang mereka inginkan.

“Saya pikir teknologi ini akan menjadi hebat. Saya pikir ini akan menguntungkan semua orang. Tapi mungkin orang lain tidak setuju dan mungkin kita di Google tidak harus mengambil semua pilihan,” ujarnya.

5

5

5