Un aspetto controverso dell’intelligenza artificiale generativa riguarda la tendenza dei chatbot ad intercettare le preferenze degli utenti e a restituire risultati il più possibile conformi alle stesse.
A chi non è capitato di interagire con AI fin troppo accondiscendenti e, qualche volta, persino disposte a rinnegare apertamente le prime risposte fornite in ragione di una (anche solo apparente) contrarietà dell’utente a tali output?
Si tratta del fenomeno del c.d. “bias adattivo” o “conformità al contesto”: l’AI è in genere progettata per apprendere dalle interazioni con i suoi user, adattandosi ai loro interessi e preferenze. Sebbene questa caratteristica renda i software più intuitivi e sia in grado di offrire un’esperienza di utilizzo maggiormente personalizzata, è chiaro che il tentativo dei chatbot di inseguire i desideri degli utenti solleva numerose criticità, specie in ambito legale.
Pensiamo alla redazione di un contratto: un avvocato è naturalmente spinto ad orientare il testo dell’accordo verso gli interessi del proprio cliente, ma questa “tendenza al disequilibrio” deve essere amministrata con buon senso e competenza giuridica, per non rischiare di incorrere in pattuizioni invalide.
Cosa accade se l’utente, nel richiedere all’AI di generare un contratto, manifesta un approccio negoziale sensibilmente aggressivo verso la controparte? Non è improbabile che il chatbot, desideroso di “accontentare” il suo user, finisca per generare clausole del tutto sbilanciate (penali spropositate e quindi agevolmente riducibili, decadenze talmente ravvicinate da risultare palesemente inapplicabili, etc.).
Al contrario, i sistemi di intelligenza aumentata – basati su algoritmi progettati per operare secondo principi predeterminati e controllabili – rappresentano una scelta più sicura per gli utenti, specialmente in ambiti che impongono l’aderenza dell’output a regole precise e verificabili, come il settore legale.
Ecco perché Lexmatic si basa su sistemi di intelligenza aumentata e non generativa: per sposare un approccio che combini competenza umana e precisione algoritmica, assicurando risultati tecnicamente solidi e annullando il rischio di errori o distorsioni.
