Negli ultimi anni, e in particolare dopo la pandemia, l’intelligenza artificiale è entrata sempre più stabilmente nei processi di selezione del personale. La crescita del lavoro da remoto, l’aumento delle candidature online e la necessità di gestire volumi sempre maggiori di curriculum hanno spinto molte aziende ad affidarsi a software capaci di automatizzare le prime fasi del recruiting.

Oggi l’AI viene utilizzata in numerosi modi: può analizzare automaticamente migliaia di CV, condurre un primo colloquio tramite chatbot, valutare il linguaggio utilizzato durante un’intervista video oppure sottoporre i candidati a giochi cognitivi e test comportamentali per misurarne determinate caratteristiche psicologiche. L’obiettivo è chiaro: ridurre tempi e costi del recruiting, individuare i profili più promettenti e limitare l’influenza della soggettività umana.

Secondo numerosi fornitori di queste tecnologie, gli algoritmi sarebbero addirittura più imparziali dei recruiter, perché prenderebbero decisioni esclusivamente sulla base dei dati. Molte aziende del settore utilizzano infatti slogan come fair hiring, inclusive hiring o addirittura bias-free recruiting per promuovere i propri prodotti.

La realtà, tuttavia, è molto più complessa. Gli algoritmi non ragionano in modo autonomo: apprendono dai dati che ricevono. Se tali dati riflettono discriminazioni storiche, stereotipi sociali o pratiche di selezione poco inclusive, il sistema tenderà inevitabilmente a riprodurli, spesso amplificandoli.

Per questo motivo oggi la domanda non è più solo se utilizzare o meno l’intelligenza artificiale nel recruiting, ma come progettare e utilizzare questi strumenti in modo realmente etico, trasparente e conforme alla normativa.

Da dove nascono i bias?

Quando si parla di bias algoritmici, è importante chiarire un punto fondamentale: l’intelligenza artificiale non sviluppa pregiudizi spontaneamente. I bias derivano quasi sempre dai dati, dalle scelte progettuali o dalle modalità con cui il sistema viene addestrato. Comprendere l’origine del problema rappresenta il primo passo per prevenirlo.

Dati di addestramento storici

La causa più frequente riguarda i dati utilizzati per addestrare il modello. Gli algoritmi di machine learning imparano osservando esempi del passato. Se un’azienda fornisce al sistema i curriculum dei dipendenti assunti negli ultimi dieci anni chiedendogli di individuare le caratteristiche comuni ai candidati “di successo”, l’algoritmo tenderà a replicare esattamente quei modelli. Il problema nasce quando quei dati riflettono discriminazioni già presenti nell’organizzazione.

Una ricerca condotta da Stanford, per esempio, ha analizzato milioni di candidature valutate da strumenti di selezione basati sull’intelligenza artificiale, evidenziando possibili forme di discriminazione razziale. Lo studio ha esaminato circa 3.4 milioni di candidati, per un totale di 4 milioni di candidature, e ha rilevato che, in alcune situazioni, gli algoritmi raccomandavano candidati appartenenti a gruppi razziali diversi con frequenze significativamente differenti. In particolare, alcuni candidati afroamericani e asiatici risultavano meno spesso selezionati rispetto al gruppo più favorito.

Correlazioni spurie

Uno dei principali rischi dei sistemi di intelligenza artificiale è la loro capacità di individuare correlazioni spurie, ossia associazioni statistiche tra dati che non riflettono un reale rapporto di causa-effetto. Gli algoritmi di machine learning, infatti, non comprendono il significato delle informazioni che analizzano: si limitano a identificare schemi ricorrenti nei dati di addestramento e a utilizzarli per formulare previsioni. Se una determinata caratteristica compare frequentemente nei profili di candidati assunti in passato, il sistema potrebbe considerarla un indicatore di successo professionale anche quando, in realtà, è del tutto irrilevante per lo svolgimento del lavoro.

È proprio questo meccanismo che può generare decisioni discriminatorie. Ad esempio, un algoritmo potrebbe associare a un candidato un punteggio più elevato semplicemente perché ha frequentato una determinata università, vive in una certa zona geografica o utilizza specifiche espressioni linguistiche nel curriculum. Nel caso del progetto di recruiting sviluppato da Amazon, che analizziamo nel prossimo paragrafo, il sistema aveva imparato ad attribuire maggiore valore a verbi come executed o captured, più frequentemente presenti nei curriculum degli uomini impiegati nel settore tecnologico, finendo così per penalizzare indirettamente molte candidature femminili.

Un altro caso significativo riguarda il sistema di raccomandazione di LinkedIn, utilizzato per mettere in contatto candidati e offerte di lavoro. L’algoritmo non valutava direttamente il genere degli utenti, ma utilizzava diversi segnali, tra cui la probabilità che una persona rispondesse a un contatto di un recruiter o fosse interessata a una nuova opportunità. Tuttavia, il sistema finiva per mostrare più frequentemente alcune offerte agli uomini rispetto alle donne, perché i dati storici indicavano che gli uomini tendevano statisticamente a candidarsi o a rispondere più spesso alle proposte di lavoro.

Il caso Amazon

Uno dei casi più noti è quello di Amazon. Nel 2014 l’azienda sviluppò un sistema di intelligenza artificiale per classificare automaticamente i curriculum dei candidati. Durante i test emerse però che l’algoritmo penalizzava sistematicamente le candidature femminili per i ruoli tecnici. Il problema derivava dai dati di addestramento: il modello era stato istruito sui curriculum ricevuti nei dieci anni precedenti, periodo in cui la maggior parte delle assunzioni nel settore tecnologico riguardava uomini. Di conseguenza, l’algoritmo aveva imparato ad associare il genere maschile a una maggiore probabilità di successo professionale.

Il software era arrivato persino a penalizzare curriculum contenenti espressioni come women’s chess club captain oppure provenienti da college esclusivamente femminili.

Gli sviluppatori cercarono di eliminare queste correlazioni, ma si resero presto conto che l’algoritmo continuava a trovare nuovi indicatori indiretti del genere dei candidati; alla fine Amazon decise di abbandonare il progetto. Questo episodio è diventato un caso di studio internazionale perché dimostra come un algoritmo possa riprodurre discriminazioni senza che nessuno lo abbia programmato per farlo.

Mancanza di diversità nei team di sviluppo

Anche chi progetta gli algoritmi può introdurre inconsapevolmente dei bias. Team di sviluppo poco eterogenei potrebbero non accorgersi che alcune variabili, apparentemente neutre, producono effetti discriminatori su specifiche categorie di candidati. Per questo motivo è fondamentale coinvolgere figure con competenze e background diversi: ingegneri, esperti di risorse umane, di diritto del lavoro e di etica dell’intelligenza artificiale.

La diversità dei team di sviluppo rappresenta oggi uno dei principali strumenti di prevenzione dei bias, un’aggiunta umana che va oltre qualsiasi miglioramento puramente tecnico. Resta però una domanda aperta: è davvero possibile “ripulire” un algoritmo dai propri pregiudizi?

Gli algoritmi possono davvero essere “bias-free”? Come pulire l’algoritmo

Molte aziende che sviluppano software di recruiting descrivono i propri prodotti come completamente imparziali, con campagne di marketing che usano slogan espliciti come Hiring without bias o Bias-free AI.

Si tratta però di una semplificazione che numerosi ricercatori considerano fuorviante. Uno studio condotto dalla Cornell University, per esempio, ha analizzato le principali aziende che sviluppano sistemi di selezione automatizzata, osservando che la maggior parte promuove i propri strumenti come un’alternativa più equa rispetto ai recruiter umani. Secondo gli autori della ricerca, questa strategia comunicativa rischia di trasmettere un messaggio errato: nessun algoritmo può essere considerato completamente privo di bias. Gli algoritmi possono ridurre la discriminazione e rendere le selezioni più coerenti, ma riflettono comunque i dati, le scelte degli sviluppatori e gli obiettivi aziendali. L’intelligenza artificiale quindi non elimina i pregiudizi, ma può renderli più difficili da riconoscere in assenza di trasparenza.

Per questo il dibattito si sta spostando da una domanda – gli algoritmi sono imparziali? – a una molto più concreta: come si “pulisce” un algoritmo di selezione?

Escludere le informazioni sensibili dalle prime fasi della selezione

Una delle strategie più efficaci consiste nell’impedire all’algoritmo di utilizzare informazioni che potrebbero generare discriminazioni. Nelle prime fasi dello screening è consigliabile configurare il sistema affinché ignori dati come:

• genere;
• età;
• origine etnica;
• fotografia;
• nazionalità;
• religione;
• stato civile;
• eventuali informazioni non pertinenti alle competenze professionali.

Questo approccio, noto anche come blind recruiting, consente di concentrare la valutazione sulle competenze, sulle esperienze e sulle qualifiche realmente rilevanti per la posizione.

Naturalmente, eliminare questi dati non basta: anche variabili apparentemente innocue, come il percorso di studi, l’indirizzo di residenza o determinate attività extracurriculari, possono funzionare come proxy, cioè indicatori indiretti di caratteristiche protette. È quindi necessario monitorare costantemente il comportamento dell’algoritmo.

Effettuare test di adversarial bias

Un’altra pratica sempre più diffusa consiste nel sottoporre gli algoritmi a specifici test di fairness, progettati per verificare se il sistema produce risultati differenti quando cambia esclusivamente una caratteristica protetta. Uno dei metodi più utilizzati è il cosiddetto adversarial bias testing: vengono creati due curriculum identici, modificando soltanto un elemento, ad esempio:

• il nome (maschile o femminile);
• l’età;
• la nazionalità;
• l’origine etnica.

Se il sistema assegna punteggi significativamente diversi ai due candidati, pur essendo equivalenti sotto il profilo professionale, è probabile che stia introducendo una forma di discriminazione. Questi test dovrebbero essere ripetuti periodicamente, poiché anche gli algoritmi continuano a evolversi man mano che vengono alimentati con nuovi dati.

Preferire modelli spiegabili (Explainable AI)

Per molti anni numerosi sistemi di machine learning hanno funzionato come vere e proprie black box: fornivano un risultato senza spiegare come vi fossero arrivati. Nel recruiting questo approccio è particolarmente problematico: se un candidato viene escluso da una selezione, l’azienda dovrebbe essere in grado di spiegare almeno in parte quali criteri abbiano determinato quella decisione. Per questo motivo sta assumendo sempre maggiore importanza la cosiddetta Explainable AI (XAI).

I modelli spiegabili permettono ai recruiter di comprendere:

• Quali caratteristiche del candidato hanno inciso maggiormente sulla valutazione
• Quali competenze sono risultate più rilevanti
• Perché il sistema ha suggerito un determinato profilo

L’obiettivo non è soltanto aumentare la fiducia nell’algoritmo, ma anche rendere molto più semplice individuare eventuali errori o discriminazioni.

IBM è una delle aziende che ha investito maggiormente nella Explainable AI per i sistemi decisionali, compresi quelli utilizzati nelle risorse umane. Attraverso strumenti come AI Explainability 360, i recruiter possono visualizzare quali caratteristiche hanno influenzato maggiormente la valutazione di un candidato – ad esempio il livello di esperienza, le competenze tecniche o il percorso di studi – invece di ricevere soltanto un punteggio finale.

Il ruolo degli AI audit

Negli ultimi anni un altro concetto è diventato centrale nel dibattito internazionale: quello degli AI audit, ossia verifiche indipendenti effettuate da soggetti esterni sul funzionamento degli algoritmi. L’idea è simile a quella delle certificazioni di qualità o delle revisioni contabili: un organismo indipendente analizza il software per verificare che rispetti determinati standard di equità, trasparenza e affidabilità.

Gli audit stanno progressivamente diventando una delle principali strategie di governance dell’intelligenza artificiale. Tuttavia, come sottolineano molti ricercatori, rappresentano uno strumento importante ma non sufficiente: un audit può verificare che un algoritmo non discrimini in modo evidente, ma non può dimostrare che il sistema scelga effettivamente i candidati migliori o che sia completamente privo di bias.

Il caso Pymetrics

Uno degli esempi più interessanti è quello di Pymetrics, azienda statunitense che sviluppa software di recruiting basati su giochi cognitivi. Invece di analizzare soltanto il curriculum, Pymetrics sottopone i candidati a una serie di giochi progettati per misurare caratteristiche come capacità di apprendimento, propensione al rischio, attenzione, memoria, altruismo o resilienza. L’intelligenza artificiale confronta poi questi risultati con quelli dei dipendenti che hanno avuto successo in quella specifica posizione lavorativa.

La società ha promosso per anni la propria tecnologia come sostanzialmente priva di bias. Proprio per dimostrare la correttezza del proprio sistema, ha commissionato un audit indipendente ai ricercatori della Northeastern University. I risultati sono stati incoraggianti: il software rispettava la cosiddetta four-fifths rule, una linea guida statunitense secondo cui il tasso di selezione dei diversi gruppi demografici non dovrebbe presentare differenze significative.

Gli stessi ricercatori hanno però sottolineato un aspetto fondamentale: superare un audit non significa dimostrare che un algoritmo sia completamente imparziale. L’analisi verificava soltanto alcune forme di discriminazione e non poteva stabilire se il sistema fosse realmente in grado di individuare i candidati migliori. In altre parole, gli audit sono un importante strumento di controllo, ma non costituiscono una certificazione assoluta di equità.

HireVue e il tema della trasparenza

Un altro protagonista del settore è HireVue, piattaforma utilizzata da numerose grandi aziende per analizzare video-colloqui e assessment online. Anche HireVue ha deciso di sottoporre parte delle proprie tecnologie a una revisione esterna. Il caso ha evidenziato un tema fondamentale: non basta verificare il funzionamento tecnico dell’algoritmo. È altrettanto importante interrogarsi su aspetti preliminari come:

• Quali dati vengono raccolti
• Come vengono utilizzati
• Quanto siano realmente necessari
• Quali informazioni vengono comunicate ai candidati

La trasparenza e la chiarezza delle operazioni a monte di qualsiasi selezione rappresentano i pilastri di un utilizzo responsabile dell’intelligenza artificiale.

Il modello Human-in-the-loop

Un ultimo tassello riguarda il ruolo dell’essere umano nella decisione finale. Uno degli errori più comuni consiste nel considerare l’intelligenza artificiale un sostituto del recruiter. Le migliori pratiche internazionali seguono invece il modello Human-in-the-loop, secondo il quale l’algoritmo supporta il processo decisionale, ma la responsabilità finale rimane sempre in capo all’essere umano.

L’AI può ordinare migliaia di candidature, evidenziare i profili più promettenti e ridurre il tempo dedicato alle attività ripetitive. La decisione finale, però, dovrebbe sempre essere validata da un recruiter, che può valutare elementi che nessun algoritmo è ancora in grado di cogliere pienamente, come la motivazione, il contesto personale, il potenziale di crescita o eventuali incongruenze nei dati.

Ad esempio, un algoritmo potrebbe penalizzare un candidato perché ha avuto un periodo di pausa dal lavoro, senza considerare che quella pausa potrebbe essere dovuta a motivi positivi come un’esperienza di formazione, un progetto personale o un periodo dedicato alla cura della famiglia – elementi che un recruiter umano può invece riconoscere e valutare correttamente.

Questo approccio consente anche di individuare più facilmente eventuali anomalie prodotte dal software. Parallelamente, è fondamentale investire nella formazione degli HR manager, affinché siano in grado di comprendere i limiti degli strumenti di AI e riconoscere i possibili segnali di bias tecnologico.

Sensibilizzare gli utenti al riconoscimento dei bias tecnologici

Un altro aspetto fondamentale è formare e sensibilizzare le persone che utilizzano strumenti basati sull’intelligenza artificiale, affinché siano in grado di riconoscere possibili segnali di bias. Chi utilizza questi sistemi deve sapere che un risultato prodotto da un algoritmo non è necessariamente neutrale o corretto, ma può essere influenzato dai dati e dai criteri usati per svilupparlo. Ad esempio, se un software di selezione suggerisce sempre candidati uomini per determinate posizioni tecniche, il recruiter dovrebbe chiedersi se il sistema sta riproducendo un pregiudizio presente nei dati storici dell’azienda.

Garantire dati di training rappresentativi e diversificati

Per ridurre il rischio di discriminazione algoritmica è essenziale che i dati utilizzati per addestrare i sistemi siano rappresentativi di una popolazione ampia e diversificata. Se un algoritmo viene sviluppato utilizzando principalmente dati relativi a un gruppo ristretto di persone, potrebbe imparare criteri di valutazione poco equilibrati e svantaggiare altre categorie.

Un sistema addestrato sulla base delle assunzioni effettuate negli ultimi anni da un’azienda, ad esempio, potrebbe favorire candidati con caratteristiche simili ai dipendenti già presenti, escludendo automaticamente persone con percorsi professionali, età o background differenti. Allo stesso modo, un sistema addestrato principalmente sui curriculum di persone provenienti da grandi università o da aziende molto conosciute potrebbe considerare questi elementi come indicatori di maggiore competenza, penalizzando candidati con percorsi formativi alternativi o con esperienza maturata in realtà più piccole.

Il contesto normativo: l’AI Act e la responsabilità delle aziende

Anche il legislatore europeo ha riconosciuto la particolare delicatezza dell’utilizzo dell’intelligenza artificiale nel mondo del lavoro. L’AI Act classifica infatti i sistemi utilizzati per il recruiting, la selezione del personale e la gestione dei rapporti di lavoro come applicazioni ad alto rischio.

Ciò significa che le aziende dovranno rispettare requisiti rigorosi relativi a:

• qualità e rappresentatività dei dati utilizzati per l’addestramento;
• gestione dei rischi;
• documentazione tecnica;
• supervisione umana;
• trasparenza;
• tracciabilità delle decisioni;
• monitoraggio continuo delle prestazioni del sistema.

L’obiettivo non è ostacolare l’innovazione, bensì garantire che l’automazione non comprometta diritti fondamentali come il principio di non discriminazione e la parità di trattamento. Per le imprese questo comporta una responsabilità crescente: sarà necessario verificare l’affidabilità dei software, comprenderne il funzionamento, documentarne l’utilizzo e assicurarsi che rispettino i requisiti previsti dalla normativa.

I rischi legali e reputazionali per le aziende

Se un algoritmo produce risultati discriminatori, l’azienda può essere accusata di violare le normative contro la discriminazione nel lavoro, anche se il pregiudizio non è stato introdotto intenzionalmente.

Un esempio è quello di iTutorGroup, che nel 2023 ha raggiunto un accordo con la U.S. Equal Employment Opportunity Commission dopo essere stata accusata di aver utilizzato un software che rifiutava automaticamente candidati sulla base dell’età.

Un altro caso, particolarmente rilevante dal punto di vista giuridico, è quello di Workday, azienda che sviluppa software per la gestione delle risorse umane e sistemi automatizzati per la selezione dei candidati. Nel 2023 Derek Mobley ha avviato una causa sostenendo che gli strumenti di selezione basati sull’intelligenza artificiale utilizzati da Workday avrebbero svantaggiato candidati appartenenti a determinati gruppi, tra cui persone con più di 40 anni, minoranze razziali e persone con disabilità, anche attraverso indicatori indiretti come i periodi di inattività nel curriculum. Secondo l’accusa, il sistema avrebbe potuto portare a rifiuti automatici senza un’adeguata revisione umana.

Questi casi dimostrano che affidarsi a strumenti di intelligenza artificiale senza adeguati controlli può portare non solo a conseguenze economiche e legali, ma anche a una perdita di fiducia da parte dei candidati e del pubblico.

Conclusione: verso un recruiting realmente equo e data-driven

L’intelligenza artificiale ha il potenziale per trasformare profondamente il recruiting, rendendolo più rapido, efficiente e capace di gestire quantità di candidature impensabili fino a pochi anni fa. Tuttavia, come dimostrano i casi analizzati, nessun algoritmo può essere considerato neutrale per definizione: ogni sistema riflette i dati con cui è stato addestrato, le scelte effettuate dagli sviluppatori e gli obiettivi fissati dall’organizzazione che lo utilizza.

Per questo motivo il vero vantaggio competitivo non consiste nell’adottare semplicemente strumenti di AI, ma nell’implementarli in modo responsabile. Significa investire nella qualità dei dati, progettare modelli trasparenti e spiegabili, sottoporli a verifiche indipendenti, mantenere il controllo umano sulle decisioni e monitorarne costantemente gli effetti.

In definitiva, la tecnologia non è né equa né discriminatoria in sé: è il modo in cui viene progettata, governata e utilizzata a determinarne l’impatto sulle persone.

La necessità di valutare criticamente gli strumenti di recruiting

Per utilizzare l’intelligenza artificiale in modo etico, le aziende dovrebbero analizzare attentamente gli strumenti di recruiting prima di introdurli nei propri processi di selezione e monitorarne continuamente i risultati. È importante verificare quali dati vengono utilizzati, quali criteri influenzano le decisioni dell’algoritmo e se emergono differenze ingiustificate tra gruppi di candidati.

Le soluzioni descritte in questo articolo – tecniche e umane – mostrano come sia possibile ridurre i rischi che emergono inevitabilmente in questo ambito. È importante che un’azienda effettui controlli periodici confrontando i profili selezionati dall’algoritmo con quelli valutati dai recruiter umani, oppure che si affidi a esperti di etica dell’intelligenza artificiale per progettare sistemi più trasparenti e responsabili. In questo modo la tecnologia può diventare un valido supporto alle decisioni umane, senza sostituire il principio fondamentale di equità nella selezione del personale.