L’oracolo dice sempre qualcosa. La biblioteca dice ciò che è vero.
Perché un’intelligenza artificiale che risponde a memoria è un oracolo che non potete verificare, e perché ancorarla a una banca dati professionale curata è ciò che trasforma una risposta plausibile in una risposta esatta, esaustiva e firmabile.
Un modello linguistico non sa nulla nel senso in cui lo sappiamo noi. Predice la parola più probabile, una dopo l’altra, e quando non sa risponde ugualmente, con la stessa sicurezza con cui risponderebbe se sapesse. È per questo che, davanti a una domanda fiscale puntuale, può consegnare una circolare che non esiste, una soglia sbagliata, un termine inventato, e farlo con un tono impeccabile.
La differenza tra una risposta che potete firmare e una che vi espone non sta nel modello, ma in ciò su cui il modello si appoggia per rispondere. Le pagine che seguono spiegano, in modo verificabile, perché un’intelligenza artificiale ancorata a una banca dati professionale curata sbaglia di meno, dimentica di meno e lascia dietro di sé una traccia che si può controllare; e perché questa scelta, lungi dall’essere un dettaglio tecnico, è la condizione che rende l’output difendibile davanti a un cliente, a un giudice e alla vostra stessa firma.
1. L’oracolo di Delfi e la risposta che rovinò un re
Quando Creso, re di Lidia, volle sapere se attaccare l’impero persiano, mandò ricchi doni all’oracolo di Delfi e pose la sua domanda. La risposta è rimasta celebre per la sua eleganza: se avesse passato il fiume Halys, avrebbe distrutto un grande impero. Creso lesse in quelle parole la promessa della vittoria, mosse guerra e fu sconfitto. L’impero che distrusse era il suo. L’oracolo, a ben vedere, non aveva mentito: aveva detto qualcosa di plausibile, di solenne, di formalmente vero, e di completamente inservibile per chi doveva decidere.
Vale la pena fermarsi su quella scena, perché descrive con precisione il problema più sottile dell’intelligenza artificiale generativa. Un modello linguistico, interrogato, risponde sempre. Non tace mai per prudenza, non confessa di non sapere, non distingue tra ciò di cui è certo e ciò che sta semplicemente costruendo perché suona bene. La sua risposta arriva con la stessa autorevolezza tanto quando è esatta quanto quando è inventata, e tocca a chi la riceve capire in quale dei due casi si trova. Creso si fidava di un responso che non poteva verificare. Il professionista che incolla una domanda in un chatbot e ne ricopia l’esito sta facendo, su scala minuscola, esattamente lo stesso gesto.
La differenza tra l’antichità e oggi non sta nella natura dell’oracolo, che resta confidente e ambiguo, ma nel fatto che noi, a differenza di Creso, possiamo scegliere a chi rivolgere la domanda. Possiamo interrogare la memoria fallibile di una macchina, oppure possiamo costringerla a consultare una biblioteca prima di parlare. Le pagine che seguono riguardano per intero questa scelta, e mostrano perché non sia affatto un dettaglio: è la linea che separa una risposta che potete firmare da una che vi consegna, inconsapevoli, allo stesso errore del re di Lidia.
Il punto che molti trascurano
Il tono sicuro di un modello non è un indizio di esattezza, è una proprietà costante. Una risposta inventata e una risposta corretta escono dalla macchina con la stessa fluidità, la stessa grammatica impeccabile, la stessa aria di competenza. È precisamente questo che rende l’allucinazione pericolosa nello studio professionale: non somiglia a un errore, somiglia a una consulenza.
3. La RAG, spiegata alla casalinga di Voghera
Immaginate di avere alle vostre dipendenze un collaboratore dalla cultura sterminata e dalla memoria brillante ma infida. Sa quasi tutto, parla benissimo, e quando non ricorda non lo ammette: inventa con la stessa scioltezza con cui cita. È il vostro modello linguistico. Ora avete due modi di farlo lavorare. Potete chiedergli una cosa e accettare ciò che vi dice a memoria, sperando che questa volta ricordi davvero. Oppure potete imporgli una regola semplice: prima di rispondermi, alzati, vai allo scaffale, prendi i volumi giusti, leggi i passi che servono, e soltanto allora parla, dicendomi anche da quale pagina hai preso ogni cosa.
Quella seconda procedura ha un nome tecnico, RAG, che sta per generazione aumentata dal recupero. Tradotto: prima si recupera il materiale pertinente da una fonte di testi, poi si genera la risposta a partire da quel materiale, non dalla memoria sciolta nei parametri. È una differenza di metodo che cambia la natura stessa della risposta. Senza recupero, la domanda al modello è in sostanza « cosa ti viene in mente che suoni giusto? ». Con il recupero, la domanda diventa « ecco i documenti pertinenti, dimmi cosa dicono ». Nel primo caso il modello attinge a sé stesso e può inventare; nel secondo è ancorato a un testo che esiste, e il suo margine di fantasia si restringe a vista d’occhio.
La forza di questo meccanismo, però, riposa interamente su un punto che le presentazioni patinate tendono a tacere: tutto dipende da quale scaffale fate consultare al vostro collaboratore. Se lo mandate a frugare in un mercato dell’usato, dove i libri sono ammucchiati alla rinfusa, alcuni falsi, molti scaduti, nessuno catalogato, tornerà con citazioni di qualità imprevedibile. Se lo mandate in una biblioteca specializzata, ordinata, tenuta aggiornata da chi rimuove le edizioni superate e verifica le fonti, tornerà con la pagina giusta. La RAG, da sola, non garantisce la verità. Garantisce soltanto che la risposta venga da dove l’avete mandata a prenderla. Per questo la domanda decisiva non è « usate la RAG? », che ormai dicono tutti, ma « su quale corpus la fate lavorare? ».
Conviene insistere su un’asimmetria che spesso sfugge. La RAG non rende il modello più intelligente, lo rende più onesto, perché lo costringe a parlare a partire da qualcosa che esiste invece che da ciò che ricorda. È una disciplina imposta dall’esterno, non una virtù acquisita dalla macchina, e proprio per questo funziona: non si chiede al collaboratore infido di diventare affidabile, gli si toglie la possibilità di rispondere senza aver prima aperto il libro. Ma una disciplina vale solo quanto il materiale su cui si esercita. Imporre a qualcuno di citare le proprie fonti non serve a nulla se le fonti che ha sottomano sono inaffidabili: avrete soltanto un’invenzione con la nota a piè di pagina. È la ragione per cui il vero protagonista di questa storia non è la tecnica del recupero, ormai diffusa e quasi banale, ma la biblioteca da cui si recupera.
4. Le tre biblioteche dove l’AI può andare a cercare
Esistono, in concreto, tre luoghi diversi da cui un sistema di intelligenza artificiale può trarre la risposta che vi consegna, e l’affidabilità dell’esito dipende quasi per intero da quale dei tre ha consultato. Vale la pena guardarli uno per uno, perché hanno l’aria di assomigliarsi e invece appartengono a mondi distinti.
Il primo luogo è la memoria del modello, ed è l’oracolo di cui si è detto. Risponde a braccio, senza alzarsi dalla sedia, attingendo a ciò che ha assorbito durante l’addestramento. È rapidissimo e talvolta brillante, ma non vi può dire da dove ha preso ciò che afferma, non sa di essere fermo a una data passata, e quando il terreno si fa specialistico riempie i vuoti inventando. Per una chiacchierata di cultura generale va benissimo. Per stabilire un’aliquota da applicare al bilancio di un cliente è un azzardo.
Il secondo luogo è il web aperto, ed è il mercato dell’usato. Qui il sistema recupera davvero dei testi prima di rispondere, e già questo è un progresso. Il problema è che il web non è una biblioteca, è un deposito sterminato dove convivono la fonte ufficiale e il forum, la circolare vigente e l’articolo di tre anni fa che la commentava prima di una modifica, la spiegazione corretta e quella sbagliata ottimizzata per finire in cima ai risultati. Il recupero pesca in questo rumore, e nessuno garantisce che la pagina recuperata sia autorevole, attuale o completa. Spesso non si sa nemmeno cosa sia stato mancato, perché lo spazio di ricerca è sconfinato e indefinito.
Il terzo luogo è una banca dati professionale curata, ed è la biblioteca specializzata. Qui il recupero avviene dentro un corpus chiuso e vagliato: norme consolidate e tenute aggiornate, prassi, giurisprudenza, dottrina, commenti redatti e mantenuti da chi quella materia la presidia per mestiere. Ogni risposta poggia su una fonte che si può citare e aprire, le edizioni superate vengono segnalate, e lo spazio di ricerca è definito, il che consente di puntare alla completezza invece che alla fortuna. È la differenza tra chiedere a qualcuno cosa ricorda, mandarlo a cercare in un mercato, oppure metterlo davanti allo scaffale giusto con il catalogo in mano.
5. Sotto il cofano, senza spaventarsi: come la macchina trova lo scaffale
Conviene aprire il cofano quel tanto che basta a capire perché la qualità del corpus pesi così tanto, senza per questo doversi fare ingegneri. Quando un documento entra in una banca dati pensata per la RAG, non vi resta come un blocco unico. Viene spezzato in porzioni leggibili, dette frammenti, ciascuna abbastanza piccola da contenere un concetto compiuto e abbastanza grande da non perderne il senso. A ogni frammento il sistema associa una sorta di coordinata numerica, un vettore, che ne cattura il significato: testi che parlano della stessa cosa finiscono vicini in questo spazio, anche quando usano parole diverse. È il motivo per cui una buona ricerca semantica trova il passo giusto anche se la vostra domanda non contiene le stesse identiche parole del documento.
Quando ponete la domanda, anche questa viene tradotta in una coordinata, e il sistema va a prendere i frammenti più vicini, cioè i più pertinenti. Un secondo passaggio, la riordinatura, mette davanti i pochi davvero centrali e scarta quelli solo superficialmente simili. Soltanto a quel punto i frammenti selezionati vengono consegnati al modello, con l’istruzione di rispondere a partire da quelli e di indicarne la provenienza. È tutto qui, e proprio perché è tutto qui si capisce dove sta il punto debole o forte dell’intera catena: se nel corpus quei frammenti sono autorevoli, aggiornati e ben tenuti, la risposta nasce su terreno solido; se sono spazzatura, la macchina vi restituirà spazzatura con grammatica perfetta. In informatica questo principio ha un nome vecchio quanto la disciplina, e vale qui più che mai: ciò che immettete decide ciò che ottenete.
Vale la pena cogliere perché questo approccio batta la vecchia ricerca per parole chiave, quella in cui si digita un termine e si ottengono i documenti che contengono esattamente quel termine. La ricerca per parole chiave è cieca al significato: cerca « cessione d’azienda » e ignora il documento che parla della stessa identica cosa chiamandola « trasferimento del complesso aziendale ». La ricerca semantica, lavorando sulle coordinate del significato e non sulle lettere, recupera entrambi, perché li riconosce come vicini. È il motivo per cui un buon recupero trova ciò che serve anche quando la domanda è formulata con parole diverse da quelle del testo, ed è anche il motivo per cui la riordinatura finale conta tanto: tra i molti frammenti semanticamente vicini, occorre un secondo giudizio che porti davanti i pochi davvero centrali e releghi in fondo quelli solo apparentemente pertinenti. La qualità di un sistema RAG si gioca tutta in questa selezione, e una selezione fatta su un corpus pulito è incomparabilmente più affidabile della stessa selezione fatta nel rumore.
6. Perché un corpus curato sbaglia di meno
Ancorare il modello a un corpus curato agisce sulla causa stessa dell’allucinazione, non sui suoi sintomi. Si è visto che il modello inventa quando deve riempire un vuoto: gli si chiede qualcosa, e dove la memoria non basta produce comunque la continuazione più plausibile. Mettergli davanti i passi pertinenti significa togliergli il vuoto da riempire. Il compito cambia natura, da « indovina ciò che suona giusto » a « riferisci ciò che qui c’è scritto », e il margine entro cui può sbagliare si stringe drasticamente. Non si azzera, e è onesto dirlo: un modello può ancora fraintendere una fonte o estenderne il senso oltre il dovuto. Ma c’è una differenza enorme tra un errore che parte da un testo vero, e quindi controllabile, e un’invenzione che non parte da nulla.
Il secondo guadagno è la tracciabilità. Una risposta ancorata porta con sé la propria fonte, e questo trasforma il vostro rapporto con l’output: non dovete più credere sulla parola, potete aprire il documento citato e verificare. L’allucinazione residua, in questo regime, diventa molto più facile da smascherare, perché basta seguire il rimando per accorgersi se il modello ha forzato la mano. Un oracolo non vi lascia nulla da controllare; una biblioteca vi lascia la segnatura del volume.
Il terzo guadagno è l’attualità. Un corpus professionale degno di questo nome è mantenuto: le norme vengono consolidate quando cambiano, le pronunce nuove entrano, i testi superati vengono segnalati come tali. Così l’aggiornamento non dipende più dalla data, ormai fissa e lontana, in cui il modello è stato addestrato, ma dalla manutenzione viva del corpus. È la differenza tra un collaboratore che ripete ciò che imparò anni fa e uno che, prima di parlare, consulta l’edizione di quest’anno. In una materia che muta di continuo, non è un vantaggio accessorio, è la condizione perché la risposta valga ancora qualcosa oggi.
Si pensi a una soglia rivista da una manovra di fine anno, o a un orientamento di legittimità consolidatosi da poco. Un modello addestrato prima di quel cambiamento continuerà a rispondere con il valore o l’orientamento superato, e lo farà con la consueta sicurezza, ignaro che nel frattempo la materia sia mutata sotto i suoi piedi. Chi si fidasse di quella risposta applicherebbe a un caso di oggi una regola di ieri, ed è esattamente il genere di errore che in questa professione non si può permettere. Un sistema ancorato a un corpus mantenuto, al contrario, attinge alla versione vigente perché è il corpus stesso a essere stato aggiornato, e a quel punto la data di addestramento del modello smette di pesare. L’intelligenza che ragiona può anche essere ferma nel tempo; la conoscenza su cui ragiona, no.
7. Meno dispersiva, più esaustiva: la differenza tra frugare e scorrere
Due parole tornano spesso quando si elogia il recupero da un corpus curato, dispersione ed esaustività, e meritano di essere prese sul serio perché nominano un vantaggio reale e misurabile. La dispersione è il rumore: quante delle cose recuperate sono davvero pertinenti, e quante invece simili solo in superficie, contraddittorie, fuori contesto. L’esaustività è la copertura: di tutto ciò che era rilevante, quanto è stato effettivamente trovato, e quanto è sfuggito. Sono i due lati di ogni ricerca, e il web aperto e un corpus curato si comportano in modo opposto su entrambi.
Frugare nel web aperto significa cercare in uno spazio sconfinato e disordinato. Si trova molto, ma molto di ciò che si trova è rumore, e soprattutto non si sa mai cosa è rimasto fuori, perché lo spazio non ha confini e nessuno ne possiede la mappa. Si può tornare con tre fonti brillanti e ignorare la quarta, che era quella decisiva, senza nemmeno sospettarne l’esistenza. È dispersivo per costruzione, e la sua copertura è una questione di fortuna.
Scorrere un corpus curato è un’operazione di natura diversa, perché lo spazio è definito e, per il suo dominio, tendenzialmente completo. Le fonti rilevanti per quella materia, per costruzione, stanno dentro quel perimetro, non disperse in un altrove ignoto. Un recupero ben fatto su un corpus simile può quindi puntare a portare in superficie tutte le disposizioni pertinenti, comprese quelle che un professionista di fretta avrebbe potuto tralasciare, senza affogare in materiale estraneo. Va detto con precisione, per non promettere troppo: l’esaustività è una proprietà di dominio, vale entro la materia che il corpus copre, non oltre i suoi confini. Ma proprio questo è ciò che serve a uno studio: non sapere tutto dell’universo, ma non lasciarsi sfuggire nulla di ciò che conta nella materia in cui si è chiamati a rispondere.
C’è una tensione nota a chiunque progetti sistemi di ricerca, e spiega perché la cura del corpus sia decisiva. Si può alzare il richiamo, cioè portare a galla più materiale per non perdere nulla, ma così sale anche il rumore; oppure si può stringere sulla precisione, recuperando solo il più pertinente, e si rischia di lasciare fuori qualcosa che serviva. Nel web aperto questo dilemma è quasi insolubile, perché lo spazio è sterminato e ogni allargamento delle maglie fa entrare valanghe di materiale di valore ignoto. In un corpus curato il dilemma si attenua alla radice, perché lo spazio è già stato ripulito a monte: quasi tutto ciò che vi sta dentro è rilevante e attendibile, sicché si può allargare il richiamo senza affogare e stringere la precisione senza perdere. La curatela non è un servizio accessorio, è ciò che rende ottenibili insieme i due risultati che nel rumore si escludono a vicenda.
8. I due perimetri: il dato e il sapere
A questo punto conviene sciogliere un possibile equivoco, perché chi si occupa di protezione dei dati avrà già colto una tensione. Affidare i documenti sensibili di un cliente a un motore di terze parti che li porta fuori dallo studio è, da tempo, riconosciuto come un rischio serio: nell’istante in cui il dato esce dal perimetro che si controlla, se ne perde il governo, e si aprono insieme i fronti del trattamento illecito, del trasferimento, del segreto professionale. Su questo non si torna indietro, e nulla di ciò che segue lo mette in discussione. Il punto è che qui si parla di una cosa diversa, e tenerle distinte è ciò che rende il ragionamento solido invece che contraddittorio.
Esistono infatti due perimetri, non uno. Il primo è il perimetro del dato: le fatture, i contratti, i flussi di cassa, i dati sanitari, gli atti del contenzioso, tutto ciò che appartiene al cliente e che lo studio custodisce. Questo materiale deve restare dentro l’infrastruttura controllata, e non è di esso che la banca dati si occupa. Il secondo è il perimetro del sapere: la conoscenza generale e impersonale, le norme, la prassi, la giurisprudenza, la dottrina, su cui l’intelligenza artificiale deve ragionare per produrre una risposta corretta. Questa conoscenza non sono i segreti di nessuno, è il patrimonio comune della professione, e la domanda rilevante a suo riguardo non è dove custodirla ma quanto sia autorevole, aggiornata e completa la fonte da cui viene attinta.
La banca dati professionale presidia il secondo perimetro, non sostituisce il primo. Anzi, i due si tengono per mano sotto un solo principio: governare ciò che non ci si può permettere né di perdere né di sbagliare. Il dato sensibile non lo si può perdere, e per questo resta locale. Il sapere su cui si fonda una consulenza non lo si può sbagliare, e per questo va ancorato a una fonte vagliata invece che alla memoria fallibile di una macchina o al rumore del web. Sono due risposte allo stesso istinto di controllo, applicato a due materie diverse. Confonderle genera contraddizioni; tenerle distinte le rende, insieme, l’ossatura di uno studio che usa l’AI senza esserne usato.
Va aggiunta una precisazione che evita un facile equivoco. Quando si dice che un corpus curato è anche più sicuro, non si intende che esso sostituisca le tutele previste per i dati del cliente, perché si è visto che quei dati appartengono all’altro perimetro e seguono altre regole. Si intende una sicurezza di natura diversa, che vale la pena chiamare con il suo nome: una sicurezza epistemica. Un ragionamento condotto dentro uno spazio chiuso e vagliato non si disperde, non finisce a interrogare fonti di provenienza ignota, non lascia che la riflessione professionale si frammenti in mille rivoli incontrollati del web. La query resta dentro un perimetro definito, e ciò che torna indietro è sapere riconoscibile, non un pulviscolo di pagine raccolte chissà dove. È una sicurezza che riguarda la qualità e la riconducibilità del ragionamento, non la custodia dei segreti, e proprio per questo non confligge con l’architettura che quei segreti li tiene al riparo, ma la completa.
8. I due perimetri: il dato e il sapere
A questo punto conviene sciogliere un possibile equivoco, perché chi si occupa di protezione dei dati avrà già colto una tensione. Affidare i documenti sensibili di un cliente a un motore di terze parti che li porta fuori dallo studio è, da tempo, riconosciuto come un rischio serio: nell’istante in cui il dato esce dal perimetro che si controlla, se ne perde il governo, e si aprono insieme i fronti del trattamento illecito, del trasferimento, del segreto professionale. Su questo non si torna indietro, e nulla di ciò che segue lo mette in discussione. Il punto è che qui si parla di una cosa diversa, e tenerle distinte è ciò che rende il ragionamento solido invece che contraddittorio.
Esistono infatti due perimetri, non uno. Il primo è il perimetro del dato: le fatture, i contratti, i flussi di cassa, i dati sanitari, gli atti del contenzioso, tutto ciò che appartiene al cliente e che lo studio custodisce. Questo materiale deve restare dentro l’infrastruttura controllata, e non è di esso che la banca dati si occupa. Il secondo è il perimetro del sapere: la conoscenza generale e impersonale, le norme, la prassi, la giurisprudenza, la dottrina, su cui l’intelligenza artificiale deve ragionare per produrre una risposta corretta. Questa conoscenza non sono i segreti di nessuno, è il patrimonio comune della professione, e la domanda rilevante a suo riguardo non è dove custodirla ma quanto sia autorevole, aggiornata e completa la fonte da cui viene attinta.
La banca dati professionale presidia il secondo perimetro, non sostituisce il primo. Anzi, i due si tengono per mano sotto un solo principio: governare ciò che non ci si può permettere né di perdere né di sbagliare. Il dato sensibile non lo si può perdere, e per questo resta locale. Il sapere su cui si fonda una consulenza non lo si può sbagliare, e per questo va ancorato a una fonte vagliata invece che alla memoria fallibile di una macchina o al rumore del web. Sono due risposte allo stesso istinto di controllo, applicato a due materie diverse. Confonderle genera contraddizioni; tenerle distinte le rende, insieme, l’ossatura di uno studio che usa l’AI senza esserne usato.
Va aggiunta una precisazione che evita un facile equivoco. Quando si dice che un corpus curato è anche più sicuro, non si intende che esso sostituisca le tutele previste per i dati del cliente, perché si è visto che quei dati appartengono all’altro perimetro e seguono altre regole. Si intende una sicurezza di natura diversa, che vale la pena chiamare con il suo nome: una sicurezza epistemica. Un ragionamento condotto dentro uno spazio chiuso e vagliato non si disperde, non finisce a interrogare fonti di provenienza ignota, non lascia che la riflessione professionale si frammenti in mille rivoli incontrollati del web. La query resta dentro un perimetro definito, e ciò che torna indietro è sapere riconoscibile, non un pulviscolo di pagine raccolte chissà dove. È una sicurezza che riguarda la qualità e la riconducibilità del ragionamento, non la custodia dei segreti, e proprio per questo non confligge con l’architettura che quei segreti li tiene al riparo, ma la completa.
9. La responsabilità che potete davvero esercitare
C’è una ragione che precede ogni considerazione tecnica e la sovrasta: l’output di un’intelligenza artificiale, nello studio, non resta un esercizio privato, diventa un parere, una bozza, un calcolo che qualcuno firma e trasmette. E chi firma risponde. Davanti a una contestazione non esiste la difesa « l’ha generato il modello », così come non è mai esistita quella « l’ha scritto il praticante ». La responsabilità di ciò che porta la vostra firma resta vostra, intera, e questo trasforma una questione di comodità tecnologica in una questione deontologica.
Il quadro normativo recente spinge nella stessa direzione, e merita di essere richiamato. Le regole europee sull’intelligenza artificiale, dove l’impiego ricade nelle ipotesi più delicate, chiedono al professionista che adopera questi sistemi di garantire una supervisione umana effettiva, una documentazione adeguata, un controllo sull’accuratezza e sulla robustezza dell’output. Ora, una supervisione umana è effettiva solo se c’è qualcosa da supervisionare: se la risposta arriva da una scatola nera, priva di fonte e di tracciabilità, non c’è nulla che la supervisione possa davvero verificare, e quella supervisione diventa una formula vuota. Una risposta ancorata a un corpus curato, invece, porta con sé il proprio appiglio: ogni affermazione rimanda a una fonte che si può aprire, leggere, contestare. È esattamente ciò che rende la supervisione esercitabile e la spiegabilità possibile.
Visto da qui, l’ancoraggio a una banca dati non è un di più estetico, è ciò che rende l’output difendibile. La provenienza citabile è la condizione perché la responsabilità che la legge vi attribuisce sia una responsabilità che potete davvero assumervi, perché fondata su qualcosa che potete controllare, e non su un atto di fede in una macchina che non vi dice da dove abbia preso ciò che afferma. Si firma con tranquillità ciò che si è potuto verificare; si firma con un brivido ciò che si è dovuto credere.
Resta un corollario che chiude il cerchio con quanto detto sotto il cofano. Se la qualità dell’output dipende dal corpus, allora la scelta del corpus diventa essa stessa un atto di responsabilità professionale, non una preferenza tecnica delegabile a chi installa il software. Affidarsi a una fonte di cui non si conosce l’autorevolezza, l’aggiornamento e i criteri di selezione equivale a far redigere i propri pareri da un collaboratore di cui si ignora la preparazione. Pretendere invece un corpus dichiarato, mantenuto e verificabile è il modo in cui il professionista estende anche alla macchina la diligenza che già applica alle proprie fonti cartacee. La documentazione che le regole più recenti richiedono trova qui un appiglio concreto: poter dire da dove l’intelligenza artificiale trae il proprio sapere è il primo mattone di qualunque difesa, e l’unico che non si può costruire dopo, a fatto compiuto.
10. Il test: riconoscere un’AI ancorata da una che improvvisa
Esiste una prova semplice, alla portata di chiunque, che separa uno strumento ancorato da un oracolo travestito, e non richiede competenze tecniche. Consiste nel chiedere le fonti. Ponete al sistema una domanda di cui conoscete già la risposta esatta, di quelle puntuali, con un riferimento normativo preciso, e poi pretendete che indichi su quale documento si fonda. Uno strumento ancorato a un corpus curato vi consegnerà la citazione, e voi potrete aprirla e verificarla. Un oracolo vi darà una risposta sicura e priva di appigli, oppure un riferimento che, controllato, non torna. La differenza la misurerete in quei pochi secondi di silenzio prima della risposta.
La stessa prova andrebbe ripetuta su una domanda volutamente insidiosa, costruita su una norma cambiata di recente. È il banco di prova dell’attualità: un modello a memoria risponderà con la versione vecchia, un sistema ancorato a un corpus mantenuto risponderà con quella vigente e ve ne mostrerà la fonte aggiornata. Provateci con qualunque strumento vi venga proposto, e fatelo prima di affidargli una pratica, non dopo. Il confronto seguente riassume, voce per voce, ciò che quella prova rende visibile.
Una terza prova, ancora più spietata, è la ripetizione. Si ponga la stessa domanda delicata due o tre volte, a distanza, e si confrontino le risposte. Un oracolo che attinge alla propria memoria fluttuante tende a variare, perché ogni volta ricostruisce la risposta da capo e può ricostruirla diversa; uno strumento ancorato a un corpus stabile tende a tornare alla stessa fonte e quindi alla stessa risposta, e a mostrarvi ogni volta lo stesso rimando. La coerenza, qui, non è monotonia, è il sintomo che dietro c’è un appoggio fermo e non un’improvvisazione che si rinnova a ogni interrogazione. Tre prove in tutto, fonti, attualità, coerenza, e nessuna di esse richiede di essere informatici: richiede soltanto di pretendere, da una macchina, lo stesso rigore che si pretenderebbe da un collaboratore prima di firmarne il lavoro.
11. Dove far nascere la risposta
L’intelligenza artificiale non ha abolito la differenza tra dire qualcosa e dire il vero, l’ha soltanto resa più difficile da cogliere, perché ha dato all’errore la stessa voce sicura della competenza. Creso non sbagliò perché fosse sciocco, sbagliò perché si fidò di un responso che non poteva verificare, e la storia gli mandò il conto. Noi, a differenza sua, possiamo scegliere a quale fonte mandare la macchina prima che parli, e in quella scelta si decide quasi tutto.
La domanda non è più se usare l’intelligenza artificiale nello studio, perché quella stagione è chiusa e la risposta l’ha già data il mercato. La domanda è dove far nascere la risposta che poi metterete sotto la vostra firma: dalla memoria di un oracolo che non potete interrogare, dal rumore di un mercato di cui non possedete la mappa, oppure da una biblioteca ordinata, autorevole e tenuta viva, dove ogni affermazione porta la propria segnatura. Le prime due strade vi consegnano, prima o poi, alla stessa sorpresa del re di Lidia. La terza vi lascia in mano la cosa che conta di più in questo mestiere, e che nessun tono sicuro potrà mai sostituire: una risposta che potete aprire, leggere, verificare e, soltanto allora, fare vostra.
La risposta che potete verificare è la sola che potete davvero firmare.
Professionisti che crescono oggi non lavorano di più, lavorano meglio. Con BP4U Studio accedi ad un ecosistema integrato di soluzioni AI che trasforma ogni area del tuo studio
Il mercato cambia. Le scadenze si moltiplicano. I clienti diventano più esigenti. Scopri come BP4U Studio aiuta i Professionisti ad evolversi con integrazione di strumenti AI.