Il kasus Tengai, yang juga kami diskusikan secara luas di FIRSTonline, mendorong kami untuk membuat beberapa pertimbangan umum tentang hubungan kami dengan alat yang dilengkapi dengan kecerdasan buatan. Tengai memang bisa menjadi kasus paradigma penggunaan kecerdasan buatan secara sosial.
Itu tidak menghilangkan pekerjaan apa pun, itu tidak memiskinkan keluarga mana pun, itu bukan alat kontrol sosial, itu tidak bekerja untuk pemerintah Cina. Singkatnya, tidak ada komponen yang menimbulkan begitu banyak perhatian dalam opini publik yang semakin luas, sehubungan dengan penderitaan tentang masa depan.
Tengai tidak diragukan lagi adalah layanan kecerdasan buatan yang diterapkan pada konteks sosial-relasional. Ini membantu untuk melakukan aktivitas dengan lebih baik yang dapat dikondisikan oleh tindakan sewenang-wenang dan menderita sikap diskriminatif. Itu pemilihan personel. Dalam menilai personel, Tengai cenderung objektif, menganggap prestasi, kompetensi, motivasi dan kemampuan kandidat untuk melakukan tugas yang dipertaruhkan sebagai satu-satunya parameter pekerjaannya.
Tidak sepenuhnya salah untuk mengatakan bahwa teknologi dapat lahir netral dari karya para ilmuwan, penemu, dan tim peneliti, tetapi ketika bertemu dengan semangat hewani pasar, kenetralan ini cenderung terpisah seperti sungai besar di delta rawa. Dalam kasus Tengai, evolusi yang khas dari jenis ekosistem tersebut, untuk saat ini tampaknya masih jauh dari kenyataan. Kami masih dalam keadaan baik.
Dari fiksi ilmiah hingga kenyataan
Hingga baru-baru ini, robot yang melakukan wawancara kerja adalah subjek yang dikhususkan untuk fiksi ilmiah. Hari ini, dengan Tengai, itu menjadi kenyataan. Kami telah membahas secara luas tentang robot Furhat, namun saatnya telah tiba untuk bertanya pada diri sendiri secara konkret apa yang disebut Tengai dan apa perannya dalam proses seleksi.
(Semua kutipan yang mengikuti, kecuali dinyatakan lain, diambil dari situs www.tengai-unbiased.com)
TNG mempromosikan solusi rekrutmennya sebagai berikut:
Tengai Select menawarkan pemilihan kandidat berkualitas kepada klien melalui wawancara buta robot, analisis wawancara berbasis data [tanggal-didorong] dan transkrip wawancara. Tengai Pilih juga akan membantu meningkatkan pengalaman kandidat, [mewakili] merek yang lebih kredibel bagi pemberi kerja dan hemat waktu dan biaya. Robot wawancara terintegrasi sebagai bagian dari fase wawancara awal dan melakukan wawancara buta, yang berarti semua kandidat mendapatkan pertanyaan dan perlakuan berbasis keterampilan yang sama. Ini juga akan memungkinkan lebih banyak kandidat untuk diwawancarai dan semua wawancara akan ditranskrip.
Interaksi
Tujuan pertama Tengai adalah membangun empati dengan kandidat.
Otomat Furhat karenanya akan digunakan pada tahap awal wawancara, yaitu penyaringan berdasarkan keterampilan. Kandidat kemungkinan besar telah lulus seleksi awal, terutama jika jumlah yang dipertaruhkan penting. Oleh karena itu, wawancara yang melibatkan Tengai bertujuan untuk mengidentifikasi keterampilan para kandidat untuk posisi pekerjaan tertentu. Sebuah tugas dalam beberapa hal rutin, tetapi tidak sepele.
Gabriel Skantze, profesor di KTH Stockholm dan Kepala Ilmuwan proyek Tengai di Furhat Robotika menjelaskan:
Tengai akan membantu perekrut dan melakukan wawancara dengan kandidat untuk menilai keterampilan dan kompetensi mereka, berdasarkan persyaratan dan profil pekerjaan.
Dia melanjutkan dengan menggarisbawahi bagaimana pekerjaan robot pada akhirnya tidak akan jauh berbeda dari manusia: "Robot akan melakukan wawancara dengan cara yang sangat mirip dengan perekrut manusia, menggunakan pertanyaan berdasarkan kompetensi".
Dan disinilah letak kekhasan Tengai, yaitu pada kemampuan robot untuk membangkitkan, membangkitkan dan mungkin menjalin hubungan empatik dengan orang di depannya: «Robot akan membalas umpan balik (mengangguk, tersenyum dan berkata "mhm") , secara berurutan untuk mendorong kandidat memberikan jawaban yang rumit, ”lanjut Skantze. Tengai akan berdialog dengan kandidat dan, jika perlu, juga akan menghasilkan diskusi yang lebih mendalam: «Jika jawabannya terlalu kabur, robot dapat meminta kandidat, misalnya, untuk memberikan contoh yang lebih konkret».
Akhirnya, Kepala Ilmuwan Furhat menyimpulkan:
Setelah wawancara, robot akan menyajikan ringkasan wawancara dan beberapa rekomendasi objektif (tujuan) sehingga manusia memutuskan kandidat.
Ketidakpastian dan ketidakpastian
Tengai sangat berbeda dengan asisten suara seperti Siri di mana Tengai mencoba memproses bahkan situasi yang tidak terduga.
Tepatnya sifat sehari-hari dari tugas yang dipercayakan kepada Tengai dan interaksi yang ditandai yang membuatnya harus menghadapi situasi dan peristiwa yang tidak dapat diprediksi. Hal ini akan terjadi jauh lebih besar dibandingkan dengan perangkat lain yang saat ini kita gunakan untuk berkomunikasi (pikirkan, misalnya, asisten pribadi dari berbagai perangkat digital atau bahkan navigator GPS), di mana sebagian besar percakapan tetap terbatas dalam batasan yang baik. perimeter.
Gabriel Skantze menjelaskan perbedaannya:
Dalam kasus Siri, pengguna manusia mengajukan pertanyaan dan Siri mencari informasi yang relevan dan menyajikannya dengan cara yang menyenangkan dan sosial. Ke Namun, saat ini, Siri tampaknya lebih mudah diprogram daripada Tengai. Tugas kita jauh lebih kompleks. Dalam kasus kami, kami perlu mentransfer perilaku manusia yang diperoleh ke robot yang sama sekali tidak memiliki pengalaman interaksi sosial manusia sebelumnya.
Yang terakhir berkomentar bagaimana melakukan wawancara kerja jauh lebih menuntut dan pasti menimbulkan skenario apriori yang tidak dapat ditentukan. Untuk mengatasi dan mengelola ketidakpastian ini, sifat prediktif dari kecerdasan buatan generasi terbaru digunakan dan kami benar-benar mengandalkan pembelajaran mesin:
Untuk tujuan ini, Tengai akan dikembangkan menggunakan pembelajaran mesin, yang berarti bahwa kami akan mengumpulkan data dari wawancara yang dilakukan manusia, di mana potensi bias serendah mungkin, dan kemudian melatih sistem untuk mereplikasi perilaku percakapan perekrut manusia.
Ambiguitas
Bahasa bisa sangat ambigu bagi kecerdasan non-biologis.
Tengai harus menghadapi ketidakpastian setiap hari, serta terus berjuang dengan ambiguitas. Memang, salah satu tantangan yang paling menuntut untuk diatasi robot justru didasari oleh ambiguitas. Yang menyangkut bahasa dan segi-seginya yang tak terhitung jumlahnya dan yang melekat dalam pemahaman berbagai kode yang kita gunakan untuk berkomunikasi.
Sinisa Strbac, manajer proyek dan pelatih robot dari proyek Tengai mengetahuinya dengan baik:
Kami telah berupaya keras untuk menganalisis pertanyaan yang harus diajukan robot. Ternyata sangat penting bahwa pertanyaannya sejelas dan sekonkret mungkin. Tengai bergumul dengan ambiguitas, jadi semakin tidak jelas tanggapan kandidat, semakin baik Tengai dalam menilai dan memvalidasi campuran kompetensi.
Robot, seperti perekrut manusia, akan mengikuti pola pertanyaan terkonsolidasi, dalam kerangka kerja kompetensi yang diverifikasi (diverifikasi kompetensi kerangka), untuk disampaikan kepada calon. Meskipun demikian, AI harus dapat sepenuhnya memahami jawaban yang terakhir, untuk memutuskan arah untuk melanjutkan wawancara.
Itu masih mendeteksi Strbac
Tanggapan seorang kandidat dapat menggambarkan situasi apa pun yang dapat dibayangkan, dirujuk dalam berbagai cara yang berbeda dan dalam pilihan kata-kata individu. Robot harus memahami dan menganalisis informasi ini, lalu menentukan pertanyaan tambahan mana yang lebih relevan.
Agar dapat melakukan wawancara dengan otonomi penuh, Tengai telah dilengkapi dengan akuisisi terbaru dalam hal AI, kecanggihan di bidang pengenalan ucapan, pemahaman bahasa alami, dan makna yang mendasari bahasa. Berkat ini, robot dapat mengumpulkan banyak informasi dan memprosesnya secara menguntungkan, berbicara dengan lawan bicaranya:
Dalam perekrutan, perhatian khusus diberikan untuk menyediakan dan mengumpulkan informasi. Dan ini juga berlaku untuk Tengai. Itu berbagi informasi dalam bentuk dialog tentang [pekerjaan] wawancara, bagaimana itu akan dilakukan dan akhirnya mengumpulkan jawaban. Saat menangkap informasi, ia memahami apa yang dikatakan kandidat, terlepas dari jumlah kata dan frasa yang digunakan. Jadi ya, itu bisa menangani pertanyaan terbuka dan jawaban yang tidak pasti.
Meskipun demikian, dalam hal bahasa dan interaksi manusia, hal-hal yang tidak diketahui ternyata tidak terhitung banyaknya. Kesalahan atau kesalahpahaman apa pun bahkan dapat memengaruhi objektivitas mesin yang banyak dicari. Gabriel Skantze menyadari hal ini:
Mungkin ada risiko bahwa pengenalan ucapan (yang menerjemahkan ucapan menjadi kata-kata) mungkin tidak berfungsi untuk pembicara dengan aksen asing atau untuk jenis kelamin tertentu. Hal ini berpotensi mempengaruhi hasil wawancara.
data dan pelatihan
Tengai dirancang untuk memperoleh data dengan metode yang disebut "The Wizard of Oz". Metode ini menempatkan kendali proses di tangan satu orang.
Untuk membuat Tengai efisien, sebelum dan bahkan lebih dari pelatihan, data yang digunakan dalam proses pelatihan mesin sangat penting.
Gabriel Skantze menjelaskan bagaimana data pertama kali diperoleh. Ini adalah metodologi yang menggunakan nama "penyihir dari Oz”, yang menyerahkan kendali robot kepada manusia, meskipun mereka yang berinteraksi dengan mesin tidak menyadarinya.
Tengai awalnya dipantau oleh perekrut manusia yang duduk di ruangan lain, yang memicu perilaku robot, yang memungkinkan kami merekam data wawancara manusia-robot. Data ini sekarang akan digunakan untuk mengembangkan dua model yang berbeda: satu yang dapat mereplikasi perilaku Pesulap selama wawancara dan satu lagi yang dapat melakukan evaluasi wawancara sesudahnya.
Keberagaman, Skantze menggarisbawahi, juga melibatkan mereka yang untuk sementara menguasai Tengai, untuk menghindari prasangka apa pun, bahkan jika mereka tidak sadar: «[Tengai] belajar dari perekrut yang berbeda agar tidak memperoleh perilaku spesifik untuk suatu perekrut individu'.
Keragaman, kali ini robot dibandingkan dengan rekan manusia, juga dinyatakan dalam kaitannya dengan kontrol cermat yang dapat dilakukan atas perilaku otomat: «Tidak seperti perekrut manusia, kami dapat mengontrol perilaku robot secara detail, turun ke gerakan mikro di sudut mulut,” catat Skantze.
Fase akuisisi data dan pelatihan mesin memakan waktu berbulan-bulan dan terus bertambah duecent wawancara dengan sukarelawan yang ditawarkan sebagai kelinci percobaan.
Semua mimik, suara, dan ekspresi wajah dirancang dengan mempelajari dan memfilmkan beberapa ratus wawancara perekrut yang berbeda, sehingga menciptakan interaksi di mana pencari kerja merasa aman, nyaman, untuk pengalaman kandidat yang lebih lancar, lugas, dan terdepan.
Padahal, jangan lupa bahwa kekhasan Tengai terletak pada kemampuan otomat untuk berinteraksi penuh dengan lawan bicaranya.
Keramahan
Seperti Minority Report sedikit mengantisipasi sesuatu yang dari fiksi ilmiah akan menjadi kenyataan, jadi Buku/Dia, Film Spike Jonze, yang dibintangi oleh Joaquin Phoenix, mengantisipasi kedatangan lain yang tidak jauh. Tengai mungkin sudah ada yang mengumumkan Buku.
Duduk di depan robot dan bercakap-cakap dengannya (masih) merupakan pengalaman yang luar biasa. Apalagi jika taruhannya penting, seperti mencari pekerjaan. Suatu kondisi yang, bahkan sebelum dan terlepas dari keberadaan mobil, merupakan sumber stres dan ketegangan.
Mendeteksi STRBAC:
Kami meminta kandidat kami untuk menempatkan diri mereka dalam situasi yang sangat tidak biasa: duduk di ruangan hanya dengan robot dan bercakap-cakap. Diajukan pertanyaan, menjawabnya dengan kemampuan terbaik Anda, dan kemudian melanjutkan.
Reaksinya jelas paling beragam dan bervariasi dari individu ke individu. Amati pelatih robot Tengai.
Beberapa orang pada awalnya skeptis, tetapi terkejut dengan betapa alaminya itu Tengai menangani percakapan. Lainnya mempertahankan skeptisisme mereka bahkan setelah wawancara karena mereka memiliki harapan yang tinggi mengenai kemampuan robot untuk meniru sikap manusia dan berbicara secara alami, yang mana Tengai dia belum bisa melakukannya dengan sempurna, bahkan jika dia sedang dalam perjalanan. Dia sosial, tetapi tidak dengan cara yang sama sebagai manusia.
Lalu ada orang lain yang mendukung konsep tersebut, tetapi gugup sebelum wawancara. Lagi pula, mereka diminta untuk 'melakukan' di depan mesin yang melacak gerakan mereka dan merekam respons mereka.
Strbac melanjutkan
Tidak ada yang aneh tentang itu, sungguh; manusia melakukan hal yang sama. Tapi perasaan [para kandidat] mereka adalah bahwa robot itu lebih dari sekadar manusia. Ini secara harfiah "mencatat tanggapan saya!" Itu adalah komentar yang mereka buat."
Penerimaan
Seperti dalam Mechanical Turk yang legendaris, wawancara adalah semacam permainan catur dengan mesin tersebut.
Memang, ada beberapa perbedaan. Itu terletak, mungkin, baik dalam psikologi manusia maupun dalam kemampuan analisis yang mendalam dan beragam yang sekarang telah dicapai oleh AI. Otomat dianggap, benar atau salah, sebagai subjek yang jauh lebih sulit untuk ditipu atau, jika diinginkan, dapat dibujuk dan "diatur", dibandingkan dengan manusia. Saat berhadapan dengan mesin, banyak kepastian yang hilang.
Last but not least adalah kepercayaan bahwa beberapa individu menempatkan kemampuan mereka sendiri untuk benar tentang lawan bicara yang mereka hadapi, atau setidaknya dalam kemungkinan untuk dapat menjeratnya. Mesin itu tanpa emosi dan komponen emosional adalah pengungkit yang kuat untuk digunakan dalam hubungan antarpribadi. Dengan robot, permainan dimainkan pada level yang sama sekali berbeda.
Selain itu, kecerdasan buatan sekarang memiliki kualitas analitis yang jauh melebihi kemampuan manusia. Selain itu, ini berlaku untuk begitu banyak aspek dan dengan detail sedemikian rupa sehingga satu individu hampir tidak dapat merangkul dan mengevaluasinya di lapangan secara keseluruhan.
Belum lagi, kemudian, efisiensi mesin yang diakui, di mana semuanya dengan cermat dan tak terelakkan, sebenarnya, direkam ... Hak prerogatif ini menakutkan: «beberapa orang mau tidak mau merasa sedikit seolah-olah mereka berada di bawah pengawasan dan oleh karena itu merasa diri mereka sangat tidak nyaman".
Meskipun umpan balik yang TNG negara diterima selama pengembangan Tengai tampaknya secara keseluruhan lebih dari positif, harus dikatakan bahwa adalah satu hal untuk menjadi kelinci percobaan dalam percobaan, bahkan mungkin satu-satunya, itu adalah hal lain untuk mempertaruhkan masa depan seseorang. Memainkan peran kandidat dan memikul beban bisa berubah menjadi sesuatu yang sama sekali berbeda: "Pada akhirnya, mereka duduk di sana melakukan percakapan yang rumit dengan komputer yang pada akhirnya akan memiliki implikasi kehidupan nyata."
Strbac optimis dan memercayai kualitas Tengai:
Di sisi lain, kebanyakan orang terkejut dengan kewajaran diskusi tersebut; semakin lama wawancara berlangsung, semakin sedikit mereka memikirkan fakta bahwa mereka sedang berbicara dengan robot. Itu hanya menjadi komponen lain dari wawancara.
Luar biasa lembah
Menurut ilmuwan Jepang Masahiro Mori, kepercayaan pada robot tumbuh saat mereka mengambil lebih banyak fitur manusia.
Pada akhirnya, robot harus diterima oleh lawan bicaranya. Dan tidak hanya oleh sebagian orang, tetapi oleh semua orang, apa pun psikologi, kepekaan, dan gagasan subjek yang bersangkutan. Joe Mendelson, Kepala interaksi di Furhat, langsung ke intinya: «Orang akan menerima robot dalam jenis peran baru ini dalam masyarakat (pewawancara dalam wawancara kerja), yang melampaui hiburan atau bahkan informasi , dalam wilayah yang agak serius dari berburu pekerjaan?"
Lalu dia melanjutkan:
Ini akan menjadi lompatan besar bagi sebagian orang — jadi saya berharap untuk belajar memahami bagaimana perasaan berbagai jenis orang tentang jenis interaksi ini.
Reaksi terhadap robot Furhat belum bulat. Beberapa waktu lalu Joel Cheesman, podcaster Amerika, mendefinisikannya "menyeramkan” (menyeramkan, menyeramkan). Yang terakhir, pada kenyataannya, memiliki kemudian incontrato Tengai di Tatech Europe 2019 dan persepsi sebagian telah berubah, bergerak sedikit ke arah "keren" (keren). Menurut apa yang dideklarasikan pada kesempatan itu, setelah beberapa ratus wawancara dalam tahap uji coba, 3/4 dari kandidat mengatakan mereka mendukung untuk bertemu kembali dengan Tengai. Persentase yang sangat tinggi!
Saat Anda berinteraksi dengan robot, dan khususnya dengan robot (antropomorfik) yang meniru sikap dan perilaku manusia, pertanyaannya menjadi jauh lebih kompleks. Saat ini, para ilmuwan belum menemukan formula ajaib yang memungkinkan robot tidak dianggap sebagai benda asing oleh rekan darah dan daging mereka. Ini adalah fenomena, masih sebagian kontroversial, yang membuat mesin menimbulkan perasaan jengkel dan tidak nyaman pada manusia, yang kemudian dapat menyebabkan penolakan tegas.
Dalam kasus seperti itu kita bicarakan lembah yang luar biasa. Ini adalah hipotesis yang dirumuskan oleh ilmuwan Jepang Masahiro Mori pada tahun 1970, masih belum diakui secara universal. Menurut Mori, penerimaan dan rasa nyaman yang dirasakan terhadap perangkat antropomorfik dan robot tumbuh semakin mirip dengan manusia. Sampai batas tertentu sekalipun. Di luar ambang ini, realisme yang berlebihan menghasilkan sensasi yang tidak menyenangkan, menyebabkan ketidaknyamanan dan dapat menimbulkan penolakan.
Kesalahan dari Tengai
Sebagai penerimaan, Tengai cenderung berada dalam level IBM Project Debater, sistem AI yang mampu mengadakan debat tentang sejumlah topik yang mengesankan
Ini mungkin yang terjadi di Edinburgh dengan robot Fabio, yang disewa oleh jaringan supermarket (sangat Italia). Makanan & Anggur Margiotta. Fabio mewakili eksperimen yang dipromosikan, bekerja sama dengan Universitas Heriot-Watt dari Edinburgh, dari seri Enam Robot BBC & AS.
"Sayangnya, Fabio tidak bekerja seperti yang kami harapkan," jelas Luisa Margiotta. «Kinerjanya tidak seperti yang diharapkan, orang menghindarinya, itu membuat pelanggan takut». Oleh karena itu, robot itu ditembakkan.
Sensasi serupa sepertinya juga muncul di debutnya Jangkar AI Inggris, hologram hasil kolaborasi antara Xinhua, kantor berita negara China e Sogou. Sebagian besar sepertinya "robot", tetapi ada juga yang menyebutnya "sedikit mengerikan", sementara seseorang dianggap "sangat menakutkan".
Dan mungkin ketidaknyamanan yang dialami juga ditelusuri kembali ke fenomena yang sama Diet Bohn menujuPendebat Proyek IBM, pada kesempatan presentasi keajaiban IBM terbaru, yang diadakan di San Francisco pada musim panas 2018:
Terus terang itu membuat saya merasa sedikit tidak nyaman, tetapi bukan karena kekhawatiran biasa seperti "robot akan menjadi sadar diri dan mengambil alih" atau "AI datang [untuk mencuri] pekerjaan kita". Itu adalah sesuatu yang lebih halus dan sulit untuk dipahami. Mungkin untuk pertama kalinya, saya merasa seperti AI yang mencoba menyamar. Saya belum pernah melihatnya berbohong, saya juga tidak berpikir dia berusaha menipu kita, tetapi dia terlibat dalam taktik debat bahwa, jika Anda melihatnya dicoba oleh manusia, Anda akan mengurangi kepercayaan pada manusia itu. Itu adalah momen yang agak disonan dari sudut pandang kognitif. Seperti yang disebutkan, menyeramkan.
Penerimaan hanya akan menjadi salah satu dari banyak ujian yang harus diatasi oleh robot Furhat. Fakta bahwa itu mewakili eksperimen inovatif di bidang kecerdasan buatan, serta panggilan khusus robot untuk interaksi, memang menimbulkan banyak tantangan yang harus diukur sendiri oleh Tengai dan anggota proyek.
Beberapa perbandingan paling signifikan disebut bias algoritmik; kotak hitam dan AI yang bisa dijelaskan; akuntabilitas dan audit serta, yang tak kalah pentingnya, bahwa keadilan yang banyak dipuji dan dicari benar-benar terbukti adil dan menguntungkan semua orang, bukan hanya segelintir orang. Ini akan menjadi topik yang akan kami bahas dalam waktu dekat.
