Il caso di Tengai, che abbiamo ampiamente discusso anche su FIRSTonline, ci spinge ad alcune considerazioni generali sul nostro rapporto con gli strumenti dotati di intelligenza artificiale. Tengai può essere davvero un caso paradigmatico di un utilizzo sociale dell’intelligenza artificiale.
Non toglie alcun posto di lavoro, non immiserisce alcuna famiglia, non è uno strumento di controllo sociale, non lavora per il governo cinese. Insomma non ha nessuna di quelle componenti che destano tanta preoccupazione in un’opinione pubblica sempre più allargata, quanto all’angoscia rispetto al futuro.
Tengai è senz’altro un servizio di intelligenza artificiale applicata al contesto socio-relazionale. Aiuta a compiere meglio un’attività che può essere condizionata da azioni arbitrarie e risentire di atteggiamenti discriminatori. Quella appunto della selezione del personale. Tengai nella valutazione del personale tende a essere oggettivo assumendo come parametri unici del suo operare il merito, la competenza, la motivazione e la capacità del candidato a ricoprire il compito per il quale è in ballo.
Non è del tutto sbagliato dire che la tecnologia può nascere neutra dal lavoro degli scienziati, degli inventori e dei team di ricerca, ma nel momento in cui incontra lo spirito animale del mercato questa neutralità tende a separarsi come succede a un grande fiume che si fraziona in un delta paludoso. Nel caso di Tengai questa evoluzione, propria di quel tipo di ecosistema, per il momento sembra lontana dall’accadere. Siamo ancora nel buono.
Dalla fantascienza alla realtà
Un automa che conduce un colloquio di lavoro sino ad ieri era argomento riservato alla fantascienza. Oggi, con Tengai, è divenuto realtà. Del robot di Furhat abbiamo già abbondantemente discusso, nondimeno è giunto il momento di chiedersi in concreto cosa è chiamato a fare Tengai e quale sarà il suo ruolo all’interno del processo di selezione.
(Tutte le citazioni che seguono, salvo diversamente indicato, sono tratte dal sito www.tengai-unbiased.com)
TNG così promuove la propria soluzione per il reclutamento:
Tengai Select offre ai clienti una selezione dei candidati di qualità attraverso i colloqui alla cieca del robot, l’analisi dei colloqui basata sui dati [data-driven] e le trascrizioni dei colloqui. Tengai Select contribuirà anche ad accrescere l’esperienza dei candidati, [rappresentando] un marchio più credibile per i datori di lavoro ed è efficiente in termini di tempo e di costi. Il robot per il colloquio è integrato quale parte della fase iniziale dei colloqui e conduce colloqui alla cieca, il che significa che tutti i candidati ottengono le stesse domande basate sulle competenze e lo stesso trattamento. Esso consentirà inoltre di condurre colloqui a più candidati e tutti i colloqui verranno trascritti.
L’interazione
Il primo obiettivo di Tengai è stabilire una certa empatia con il candidato.
L’automa di Furhat verrà dunque impiegato nella fase iniziale dei colloqui, quella di screening basata sulle skill. I candidati avranno verosimilmente già superato una preselezione, soprattutto se i numeri in gioco sono importanti. I colloqui nei quali sarà coinvolto Tengai, di conseguenza, mirano a individuare le competenze degli aspiranti a una determinata posizione lavorativa. Un compito per certi versi routinario, ma non banale.
Gabriel Skantze, professore presso il KTH di Stoccolma e Chief Scientist del progetto Tengai presso Furhat Robotics precisa:
Tengai assisterà i reclutatori e condurrà colloqui con i candidati per valutare le loro abilità e competenze, in base ai requisiti e il profilo del lavoro.
Questi prosegue sottolineando come l’operato dell’automa non si discosterà molto, in definitiva, da quello di un essere umano: «Il robot condurrà il colloquio in un modo molto simile a un reclutatore umano, utilizzando domande basate sulla competenza».
Ed è qui che risiede la peculiarità di Tengai, ovvero nella capacità del robot di evocare, suscitare ed eventualmente stabilire un rapporto empatico con la persona che gli sta di fronte: «Il robot restituirà un feedback (annuendo, sorridendo e dicendo “mhm”), alfine di incoraggiare il candidato a fornire risposte elaborate», continua Skantze. Tengai dialogherà col candidato e, alla bisogna, si produrrà anche in una interlocuzione più approfondita: «Qualora la risposta fosse troppo vaga, il robot potrebbe chiedere al candidato, ad esempio, di fornire esempi più concreti».
In ultimo, conclude il Chief Scientist di Furhat:
Dopo il colloquio, il robot presenterà un riepilogo del colloquio e alcune raccomandazioni obiettive (objective) cosicché un essere umano decida in merito al candidato.
Imprevedibilità e indeterminatezza
Tengai è molto differente dagli assistenti vocali come Siri, in quanto Tengai cerca di elaborare anche situazioni impreviste.
Proprio la natura colloquiale del compito affidato a Tengai e la marcata interazione cui è chiamato, lo espongono a doversi confrontare con situazioni ed eventi non preventivabili. Ciò avverrà in maniera molto maggiore rispetto ad altri dispositivi con cui correntemente dialoghiamo (pensiamo ad es. ai personal assistant dei vari dispositivi digitali o anche al navigatore GPS), laddove la conversazione rimane perlopiù confinata all’interno di un perimetro ben circoscritto.
Gabriel Skantze spiega la differenza:
Nel caso di Siri, l’utente umano fa una domanda e Siri cerca le informazioni attinenti e le presenta in modo divertente e social. Al momento, comunque, Siri appare più facile da programmare rispetto a Tengai. Il nostro compito è considerevolmente più complesso. Nel nostro caso, dobbiamo trasferire un comportamento umano acquisito a un robot che ha esattamente zero precedenti esperienze di interazione sociale umana.
Questi rimarca come condurre un colloquio di lavoro risulti ben più impegnativo e dia luogo inevitabilmente a scenari indefinibili a priori. Per affrontare e gestire questa incertezza si fa ricorso alla natura predittiva dell’intelligenza artificiale di ultima generazione e ci si affida invero all’apprendimento automatico (machine learning):
A tale scopo, Tengai sarà sviluppato utilizzando l’apprendimento automatico, il che significa che raccoglieremo i dati delle interviste condotte dagli esseri umani, dove il potenziale pregiudizio sia il più possibile ridotto, e quindi addestreremo il sistema a replicare il comportamento colloquiale del reclutatore umano.
L’ambiguità
Il linguaggio può essere molto ambiguo per un’intelligenza non biologica.
Tengai dovrà scontrarsi quotidianamente con l’indeterminatezza, nonché lottare costantemente con l’ambiguità. Una delle sfide più impegnative da superare per l’automa, invero, è costituita proprio dall’ambiguità. Quella concernente il linguaggio e le sue innumerevoli sfaccettature e quella insita nella comprensione dei molteplici codici che utilizziamo per comunicare.
Lo sa bene Sinisa Strbac, project manager e robot trainer del progetto Tengai:
Abbiamo profuso grande impegno nell’analisi delle domande che il robot dovrebbe porre. È risultato essere molto importante che le domande siano quanto più chiare e concrete possibile. Tengai combatte con l’ambiguità, pertanto meno vaga sarà la risposta di un candidato, migliore risulterà Tengai nel valutare e corroborare l’insieme delle competenze.
Il robot, come del resto i reclutatori umani, seguirà uno schema consolidato di domande, all’interno di un quadro di competenze verificato (verified competency framework), da sottoporre ai candidati. Nondimeno l’IA dovrà essere in grado di comprendere appieno le risposte di questi ultimi, alfine di decidere la direzione verso la quale proseguire il colloquio.
Rileva ancora Strbac
La risposta di un candidato può descrivere una qualsiasi situazione immaginabile, essere riferita in una miriade di modi diversi e secondo una scelta individuale di parole. Il robot deve comprendere e analizzare queste informazioni e quindi determinare quale sia la domanda supplementare più pertinente.
Alfine di poter condurre il colloquio in piena autonomia Tengai è stato dotato delle ultimissime acquisizioni in fatto di IA, lo stato dell’arte nel campo del riconoscimento vocale, della comprensione del linguaggio naturale e del significato sotteso al linguaggio. Grazie a ciò, il robot è in grado di raccogliere una notevole mole di informazioni e processarla con profitto, dialogando col proprio interlocutore:
Nel reclutamento si pone particolare attenzione a fornire e raccogliere informazioni. E questo vale anche per Tengai. Esso condivide le informazioni sotto forma di dialogo in merito al colloquio [di lavoro], il modo in cui sarà condotto e infine raccoglie le risposte. Mentre acquisisce informazioni, esso comprende cosa sta dicendo il candidato, indipendentemente dal numero di parole e frasi utilizzate. Quindi sì, può gestire domande aperte e risposte indeterminate.
Nondimeno, quando si ha a che fare con il linguaggio e l’interazione umana le incognite risultano essere innumerevoli. Eventuali errori o fraintendimenti potrebbero persino inficiare la tanto ricercata obiettività della macchina. Gabriel Skantze ne è consapevole:
Potrebbe esserci il rischio che il riconoscimento vocale (che traduce il discorso in parole) possa funzionare male per coloro i quali parlano con accento straniero o per un particolare genere. Ciò potrebbe potenzialmente influenzare l’esito del colloquio.
I dati e l’addestramento
Tengai è stato progettato per acquisire i dati con un metodo denominato “Il Mago di Oz”. Questo metodo mette nelle mani di una persona il controllo del processo.
Alfine di rendere Tengai efficiente, prima e ancor più dell’addestramento, risultano fondamentali i dati impiegati nel processo di training della macchina.
Gabriel Skantze illustra le modalità mediante le quali dapprincipio sono stati acquisiti i dati. Si tratta di una metodologia che va sotto il nome di “Mago di OZ”, che lascia il controllo del robot a un umano, sebbene chi interagisce con la macchina ne sia all’oscuro.
Tengai è stato inizialmente controllato da un reclutatore umano seduto in un’altra stanza, il quale attivava il comportamento del robot, il che ci ha permesso di registrare i dati delle interviste uomo-robot. Questi dati verranno ora utilizzati per sviluppare due modelli diversi: uno che può replicare il comportamento del Mago durante il colloquio e uno che può eseguire la valutazione delle interviste in seguito.
La diversità, sottolinea Skantze, ha riguardato anche coloro i quali hanno preso temporaneamente il controllo di Tengai, alfine di non incorrere in preconcetti di alcun tipo, sia pure inconsci: «[Tengai] Sta imparando da diversi reclutatori in modo da non acquisire il comportamento specifico di un singolo reclutatore».
La diversità, stavolta del robot rispetto alla controparte umana, si esprime anche in relazione al minuzioso controllo che può essere esercitato sulla condotta dell’automa: «A differenza di un reclutatore umano, possiamo controllare il comportamento del robot in dettaglio, fino ai micro movimenti dell’angolo della bocca», rileva Skantze.
La fase di acquisizione dati e training della macchina ha richiesto mesi e ha annoverato oltre duecento colloqui con volontari offertisi come cavie.
Tutte le mimiche, i suoni e le espressioni facciali sono progettate studiando e filmando diverse centinaia di colloqui di differenti reclutatori, creando così un’interazione in cui coloro i quali cercano lavoro si sentano sicuri, a proprio agio, per un’esperienza del candidato più schietta e all’avanguardia.
Non dimentichiamo, infatti, che la peculiarità di Tengai risiede nella capacità dell’automa di interagire compiutamente con il proprio interlocutore.
Accoglienza
Come Minority Report anticipava di poco qualcosa che da fantascientifico sarebbe diventato realtà, così Her/Lei, il film di Spike Jonze, con protagonista Joaquin Phoenix, ne anticipa un’altra, non di lontano avvento. Tengai potrebbe già essere qualcosa che annuncia Her.
Sedere di fronte a un robot e dialogarvi è (ancora) un’esperienza di per sé fuori dall’ordinario. Lo è ancor di più se la posta in gioco è importante, qual è appunto la ricerca di un impiego. Una condizione che, prima ancora e indipendentemente dalla presenza della macchina, è fonte di stress e tensione.
Rileva Strbac:
Stiamo chiedendo ai nostri candidati di porsi in una situazione particolarmente insolita: sedere in una stanza in compagnia solo di un robot e intrattenere una conversazione. Vedersi rivolta una domanda, rispondere al meglio delle proprie capacità e poi andare avanti.
Le reazioni ovviamente sono le più disparate e variano da individuo a individuo. Osserva il robot trainer di Tengai.
Alcune persone sono scettiche all’inizio, ma rimangono sorprese dal modo naturale in cui Tengai gestisce la conversazione. Altre mantengono il loro scetticismo anche dopo il colloquio poiché hanno grandi aspettative riguardo la capacità del robot di imitare gli atteggiamenti umani e parlare con naturalezza, cosa che Tengai non è ancora in grado di fare in maniera perfetta, anche se è sulla buona strada. È social, ma non allo stesso modo di un essere umano.
Poi vi sono altri che sono favorevoli al concetto, ma che si innervosiscono prima del colloquio. Dopotutto, viene chiesto loro di “esibirsi” davanti a una macchina che segue i loro movimenti e registra le loro risposte».
Prosegue Strbac
Non c’è niente di strano in ciò, in realtà; gli umani fanno la stessa cosa. Ma la loro [dei candidati] sensazione è che il robot sia molto più di un umano. Esso “registra letteralmente le mie risposte!” È il commento che fanno».
Accettazione
Come nel mitico Mechanical Turk, il colloquio è una sorta di partita a scacchi con la macchina.
Invero, una qualche differenza esiste. Essa risiede, forse, tanto nella psicologia umana, quanto nella profonda e multiforme capacità di analisi che l’IA ha ormai conseguito. L’automa viene avvertito, a torto o a ragione, come un soggetto molto più difficile da ingannare o, se si vuole, da poter persuadere e “governare”, rispetto a un essere umano. Di fronte alla macchina vengono meno molte sicurezze.
Non ultima la fiducia che alcuni individui ripongono nella propria capacità di aver comunque ragione dell’interlocutore che si trovano di fronte, o quantomeno nella possibilità di poterlo irretire. La macchina è priva di emozioni e la componente emotiva è una leva potente da utilizzare nei rapporti interpersonali. Con il robot la partita si gioca su un piano affatto differente.
Inoltre, l’intelligenza artificiale possiede ormai delle qualità analitiche che, prese singolarmente, superano di gran lunga le capacità di un essere umano. Queste, inoltre, si applicano a tantissimi aspetti e con una minuzia tale, che difficilmente un singolo individuo sarebbe in grado abbracciare e vagliare sul campo nel loro complesso.
Senza parlare, poi, della riconosciuta efficienza delle macchine, laddove tutto viene meticolosamente e inesorabilmente, appunto, registrato … Tali prerogative spaventano: «alcune persone non possono fare a meno di sentirsi un po’ come se fossero sotto sorveglianza e quindi vengono a trovarsi eccessivamente a disagio».
Sebbene il feedback che TNG afferma di aver ricevuto nel corso della messa a punto di Tengai appaia nel complesso più che positivo, c’è da dire che un conto è fare da cavia in un esperimento, magari anche singolare, altra cosa è mettere in gioco il proprio futuro. Vestire i panni del candidato e portarne il peso, potrebbe rivelarsi ben altra cosa: «Alla fine della giornata, sono seduti lì a intrattenere una conversazione complessa con un computer che in ultimo avrà delle implicazioni nella vita reale».
Strbac si dice ottimista e confida nelle qualità di Tengai:
D’altra parte, la maggior parte delle persone è sorpresa dalla naturalezza della discussione; più a lungo dura il colloquio, meno pensano al fatto che stanno parlando con un robot. Diventa solo un’altra componente del colloquio.
Uncanny valley
Secondo lo scienziato giapponese Masahiro Mori la fiducia nei robot cresce man mano che assumono sempre più sembianze umane.
L’automa, in definitiva, deve essere accettato dal proprio interlocutore. E non solo da alcuni, ma da tutti, quale che sia la psicologia, la sensibilità e le idee del soggetto in questione. Joe Mendelson, Head of interaction presso Furhat, va dritto al problema: «La gente accetterà i robot in queste nuove tipologie di ruoli nella società (intervistatore in un colloquio di lavoro), che vanno al di là dell’intrattenimento o persino dell’informazione, all’interno del territorio alquanto serio della ricerca di un impiego?».
Poi prosegue:
Questo sarà un bel salto per alcune persone — quindi spero di imparare a comprendere come si sentono diverse tipologie di persone in relazione a questo tipo di interazione.
Le reazioni verso il robot di Furhat non sono state unanimi. Tempo addietro Joel Cheesman, podcaster statunitense, lo definì “creepy” (inquietante, raccapricciante). Quest’ultimo, di fatto, ha poi incontrato Tengai al Tatech Europe 2019 e la percezione è in parte mutata, spostandosi lievemente verso il “cool” (figo). Stando a quanto dichiarato in quell’occasione, dopo alcune centinaia di colloqui nella fase di test, i 3/4 dei candidati si dice favorevole a incontrare nuovamente Tengai. Una percentuale decisamente elevata!
Quando si interagisce con un robot, e in particolare con un robot (antropomorfo) che imita atteggiamenti e comportamenti umani, la questione si fa notevolmente complessa. Gli scienziati, al momento, non hanno ancora trovato la formula magica che consenta agli automi di non essere avvertiti come corpi estranei dalla controparte in carne e ossa. Si tratta di un fenomeno, in parte ancora controverso, che porta la macchina a ingenerare nell’uomo una sensazione di fastidio e disagio, che può condurre poi a un fermo rifiuto.
Si parla in tali casi di uncanny valley. Si tratta di un’ipotesi formulata dallo scienziato giapponese Masahiro Mori nel 1970, tuttora non universalmente riconosciuta. Secondo Mori l’accettazione e la sensazione di confort provata verso i dispositivi e gli automi antropomorfi, cresce tanto più quanto questi risultano simili all’uomo. Sino a una certa soglia però. Superata tale soglia, l’eccessivo realismo produce sensazioni spiacevoli, provoca malessere e può dar luogo al rigetto.
Lo sbaglio di Tengai
Come accettazione, Tengai tende a rientrare nel livello di IBM Project Debater, il sistema di AI in grado di sostenere un dibattito su un numero impressionante di argomenti
È quanto è probabilmente accaduto a Edimburgo con il robot Fabio, ingaggiato dalla (italianissima) catena di supermercati Margiotta Food & Wine. Fabio rappresentava un esperimento promosso, in collaborazione con la Heriot-Watt University di Edimburgo, dalla serie BBC’s Six Robots & US.
«Purtroppo Fabio non ha lavorato come speravamo», ha chiarito Luisa Margiotta. «Le prestazioni non erano quelle attese, le persone lo evitavano, ha spaventato i clienti». L’automa pertanto è stato licenziato.
Analoghe sensazioni sembra aver sollevato al suo debutto anche English AI Anchor, l’ologramma frutto della collaborazione tra Xinhua, l’agenzia di stampa statale cinese e Sogou. Ai più è parso “robotico”, ma c’è anche chi lo ha definito «un tantino orribile», mentre qualcun lo ha ritenuto «veramente spaventoso».
Ed è forse da ricondurre all’interno della stesso fenomeno anche il disagio provato da Dieter Bohn nei confronti dell’IBM Project Debater, in occasione della presentazione dell’ultima mirabilia IBM, tenutasi a San Francisco nell’estate del 2018:
Francamente mi ha fatto sentire un po’ inquieto, ma non a causa delle solite preoccupazioni quali “i robot diverranno consapevoli di sé e prenderanno il sopravvento” o “l’IA sta arrivando [a rubare] i nostri lavori”. Era qualcosa di più sottile e difficile da afferrare. Forse per la prima volta, avvertivo come se una IA stesse tentando di dissimulare. Non l’ho vista mentire, né penso che abbia tentato di ingannarci, ma si è impegnata in una tattica di dibattito che, se l’aveste vista tentare da un umano, avreste riposto un po’ meno fiducia in quell’essere umano. È stato un momento alquanto dissonante da un punto di vista cognitivo. Come detto, inquietante.
Quella dell’accettazione sarà solo una delle tante prove che il robot di Furhat sarà chiamato a superare. Il fatto di rappresentare un esperimento innovativo nel campo dell’intelligenza artificiale, così come la particolare vocazione dell’automa all’interazione, pongono invero molteplici sfide con le quali Tengai e i membri del progetto dovranno misurarsi.
Alcuni dei confronti più significativi prendono il nome di algorithmic bias; black box ed explainable AI; accountability e audit nonché, in ultimo, ma non ultimo, che l’equità tanto decantata e ricercata si riveli davvero tale e vada a beneficio di tutti, piuttosto che di pochi. Saranno questi gli argomenti che affronteremo prossimamente.
