Amsterdam 1 Juni 2024– Tidak akan lama lagi dan kita tidak akan tahu lagi apakah kita sedang berbicara dengan manusia atau komputer. Mesin mengawasi dan mendengarkan kita, serta memprediksi apa yang ingin kita dengar. Sementara itu, kita mengira kita sedang berhadapan dengan teman baru, penjual yang dapat diandalkan, atau pegawai layanan yang simpatik. Fiksi ilmiah telah menjadi kenyataan. Tentu saja, tidak diragukan lagi, orang-orang memang terikat dengan chatbot mereka. ( Levy, Sex and Robots ) Bahkan mungkin memendam perasaan romantis.
Itu mungkin dan merupakan kenyataan. Namun tidak semua chatbot selalu mengutamakan kepentingan terbaik Anda. Bukan berarti mereka semua ingin menipu Anda atau menginginkan sesuatu dari Anda, tetapi ada juga penjual yang ingin menjual sesuatu kepada Anda. Influencer buatan pertama sudah ada di pasar.Bagaimana Anda tahu bahwa Anda dapat
memercayai chatbot Anda? Jika ada manusia di depan kita, setidaknya kita terbantu oleh beberapa pengetahuan manusia. Kita secara evolusi siap untuk mengenali niat, dan menafsirkan ekspresi wajah, nada suara, atau bahkan aroma yang dikeluarkan seseorang.Faktor-faktor ini juga bisa menyesatkan, tapi setidaknya kita punya acuan untuk menilai apakah kita mau berbisnis dengan seseorang atau tidak: intuisi kita, berdasarkan pengalaman kita sendiri dengan orang lain sejenis dan pengalaman nenek moyang yang terkunci. dalam genetika kita. materi. Kita menavigasi sebagian berdasarkan naluri kita, yang bergantung pada pengalaman dengan naluri orang lain.
Namun komputer tidak memiliki bagian bawahnya. Jadi, tidak ada hal ‘pribadi’ yang dapat dikenali ketika kita melakukan kontak dengan, misalnya, chatbot komersial. Dia dengan cekatan mereproduksi sinyal, yang kita tanggapi. Dia tidak akan tertangkap.Ibarat pemain tenis meja yang mengembalikan bola secara mekanis. Dia menjadi semakin maju dalam hal ini, karena dia akan segera mengetahui segalanya tentang kita dan akan dipupuk oleh pengalaman belajar dengan pola komunikasi sesama chatbot. Dia tidak dibimbing oleh emosi atau niat yang bisa menjadi petunjuk bawah sadar mengenai niat sebenarnya. Dia mencerminkan reaksi kita secara efektif. Pengetahuan evolusioner kita tentang sifat manusia tidak berguna bagi kita untuk menilai apakah kita sebaiknya merespons kemajuannya.Kita harus memperoleh pengetahuan komputer jenis baru. Sekarang kita terutama berbicara tentang kemampuan kita untuk mengajukan pertanyaan yang tepat (prompting) kepada bot sehingga kita bisa mendapatkan hasil maksimal darinya. Tapi kita juga harus belajar memahami chatbots kita.
Artinya: mempertajam intuisi jenis baru. Jadi dia tidak bisa mendapatkan semuanya dari kita.
Roland van der Vorst adalah kepala inovasi Rabobank dan CEO Rabo Carbon Bank.
