Pergamena e penna d'oca contro l'AI

Pergamena e penna d’oca saranno sufficienti per dimopstrare di aver scritto un libro?

Il romanzo sospetto, gli scrittori furbi e i sacerdoti della purezza, ecco la notizia che cercavo: Un esordiente perde un contratto milionario perché l’agenzia non riesce a garantire che il suo romanzo sia interamente umano. Lui nega, le prove certe non ci sono e il processo è già cominciato. Nella guerra sull’intelligenza artificiale si affrontano due forme opposte di ipocrisia.

Un giovane autore scrive un romanzo, trova un’agenzia e suscita l’interesse di numerosi editori, sembra l’inizio di una carriera straordinaria. Poi qualcuno dubita che il libro sia stato scritto interamente da lui, l’agenzia ritira il manoscritto, il contratto crolla e lo scrittore celebrato fino al giorno prima diventa un impostore.

È accaduto a Jerry Falade e al suo romanzo d’esordio Call Me, I’ll Hide the Body. Falade nega di aver affidato la scrittura all’intelligenza artificiale e sostiene di averla utilizzata soltanto per alcune ricerche. L’agenzia non ha dichiarato di possedere la prova tecnica che il libro sia artificiale: ha affermato di non poter più garantirne l’origine dopo aver riscontrato incongruenze nelle spiegazioni dell’autore.

Forse Falade ha mentito o forse è innocente. Al momento non siamo in grado di saperlo con certezza, ma questo non ha impedito a molti di annunciare che “l’hanno scoperto” e che quindi non è più né esordiente né talentuoso.

Il caso è interessante proprio perché non offre la comodità di un colpevole sicuro, ma ci costringe a guardare i due eserciti che si stanno formando intorno alla scrittura: da una parte quelli che usano l’AI, magari molto, ma preferiscono non dirlo; dall’altra quelli che rivendicano una presunta purezza umana e trasformano il proprio rifiuto della tecnologia in una patente di talento.

Gli uni e gli altri hanno bisogno di mentire un po’.

Chi usa l’AI e …fa finta di niente.

Usare l’intelligenza artificiale non significa sempre farle scrivere un libro, si può chiederle di controllare una data, discutere un’idea, trovare un’incongruenza o offrire un parere su una scena. Si può anche ordinarle di preparare una scaletta o riscrivere una pagina.

Mettere tutto nello stesso sacco è comodo, ma disonesto.

La differenza esiste e riguarda soprattutto le parole, se l’autore pensa la storia, costruisce i personaggi e scrive personalmente il testo, l’AI può essere uno strumento di confronto. Se invece la macchina produce paragrafi e capitoli che vengono corretti e approvati, siamo davanti a una forma di scrittura mista. Se produce quasi tutto e la persona si limita a scegliere fra le versioni, firmare il libro come opera interamente propria diventa difficile da difendere.

“Ma l’idea era mia” non risolve il problema, anche chi commissiona un libro a un ghostwriter può fornire idee, ricordi, materiali e indicazioni dettagliate; questo non significa che abbia scritto le frasi, perchè progettare, dirigere, selezionare e scrivere sono attività diverse e possono appartenere alla stessa persona oppure no.

Il vero danno non lo provoca chi dichiara di aver condotto un esperimento o di aver utilizzato l’AI in una fase precisa, chi delega una parte sostanziale della scrittura, nasconde il procedimento e pretende la stessa fiducia accordata a chi ha scelto ogni parola, non sta soltanto vendendo un libro ma falsificando la storia della sua origine.

E rende sospetti anche gli altri. Ogni autore che nasconde l’AI prepara il terreno sul quale domani un innocente potrà essere accusato senza prove.

Chi non la usa e si proclama eletto, puro.

Sul fronte opposto non ci sono soltanto scrittori che preferiscono lavorare senza intelligenza artificiale. Questa è una scelta legittima e non avrebbe bisogno di grandi giustificazioni. Ci sono anche i sacerdoti della purezza, quelli per i quali la scrittura autentica si riconosce dalla fatica, dal tormento, dalla vocazione e dal famoso “prurito alla mano”.

Non basta dire: “Amo scrivere e non voglio delegare questo piacere”, bisogna aggiungere che il mestiere dovrebbe appartenere a chi possiede il fuoco sacro, che oggi tutti pretendono di fare tutto e che soltanto alcuni meriterebbero davvero di essere ascoltati.

Peccato che la vocazione non garantisca il talento. Si può avvertire un bisogno irrefrenabile di scrivere e produrre cinquecento pagine illeggibili. Si può lavorare con metodo, senza sentirsi scelti dalle muse, e creare un’opera eccellente. Anche la fatica non certifica la qualità: racconta quanto è costato un testo, non quanto vale.

La purezza assoluta, inoltre, è una bella leggenda. I libri passano da editor, correttori, agenti e responsabili commerciali, titoli, finali e intere parti possono essere modificati. Un buon editing non cancella l’autore, ma lo aiuta a vedere ciò che da solo non vede più. Un cattivo editing può invece normalizzare la voce e adattarla al mercato. Tutto questo esisteva molto prima dei chatbot.

AI ed editor umano non sono equivalenti. Un professionista competente comprende il progetto e sa anche che cosa non deve correggere; una macchina tende spesso ad assecondare, spiegare troppo e proporre soluzioni convenzionali. Ma fingere che il libro sia sempre nato dalla mente solitaria dell’autore, senza confronti né interventi esterni, serve soltanto ad alimentare il mito.

Come si dimostra di essere innocenti?

Qui arriva la parte più inquietante, i rilevatori di testi artificiali non forniscono una prova sicura: possono sbagliare, accusare testi umani ed essere confusi da una revisione. OpenAI stessa ritirò il proprio rilevatore per la scarsa accuratezza.

Io ad esempio sottoposi una mia poesia del 2010 a un rivelatore che la cosiderò scritta da AI!

Restano le bozze si dice, ma non tutti le conservano, io per esempio lo faccio, ma più che altro per affezzione non per conservare le prove. Molti scrittori lavorano per mesi sul medesimo documento Word, correggendo e salvando. Una vera cronologia delle versioni esiste soprattutto quando il file viene conservato su servizi come OneDrive o SharePoint. Una persona può aver scritto e riscritto ogni parola e non possedere l’archivio necessario a dimostrarlo.

E le bozze, comunque, possono essere fabbricate. Chi volesse ingannare un editore potrebbe chiedere all’AI una prima stesura mediocre, poi una seconda e una terza, costruendo un passato di correzioni molto più ordinato di quello di un vero scrittore.

Fra poco il manoscritto non basterà più, serviranno appunti, cancellature, file numerati e testimoni, tanti testimoni.. Conserveremo le prove della scrittura come fossero alibi per un delitto, una frase troppo regolare diventerà sospetta; una sintassi imperfetta verrà esibita come certificato di umanità.

Il bollino “Human Authored” non risolve magicamente il problema, perche si basa in gran parte sulla dichiarazione dell’autore e ammette già alcuni impieghi limitati dell’intelligenza artificiale, anche la purezza certificata, appena si prova a definirla, comincia a riempirsi di eccezioni.

Il furbo e il puro si alimentano a vicenda

Chi nasconde l’AI e chi pretende la purezza sono avversari soltanto in apparenza. Il primo crea il sospetto; il secondo lo trasforma in una condanna. Il primo rende opaca la nascita del testo; il secondo pretende prove che un autore onesto potrebbe non avere. Il primo dice: “Ho scritto io, perché ho dato le istruzioni”. Il secondo risponde: “Ho scritto io, perché ho sofferto nello scriverlo”, e nessuna delle due frasi basta.

La domanda seria non è più “hai usato l’AI?”, ma “come l’hai usata?”.
Per fare una ricerca, per ricevere un parere, per progettare il libro o per generare la prosa?
In quale misura il testo pubblicato contiene parole prodotte dalla macchina? Chi ha preso le decisioni che gli danno forma e identità?

Non avremo un confine matematico valido per ogni opera, ma possiamo pretendere una cosa semplice: che chi firma non menta sul procedimento e si assuma la responsabilità di ogni parola. La trasparenza non rende automaticamente bello un libro generato con l’AI; impedisce però che venga venduto per ciò che non è.

Quanto a Jerry Falade, potrebbe essere il furbo che ha tentato l’operazione perfetta oppure la prima vittima celebre di un sistema incapace di distinguere un sospetto da una prova. Prima di usarlo come esempio della fine della letteratura, sarebbe prudente sapere quale delle due cose, sia.

Nel frattempo gli scrittori “veri”possono risparmiarsi sia la falsa confessione sia l’aureola. Non occorrono impostori “sintetici”, ma nemmeno sacerdoti della penna d’oca. Servono piuttosto autori onesti, libri riconoscibili e qualcosa che valga davvero la pena di leggere.

Fonti essenziali