Lo studio sul J-space cambia il modo in cui possiamo parlare dei modelli linguistici. Dire che scelgono soltanto la parola successiva resta vero come descrizione del loro funzionamento generale, ma non basta più a descrivere ciò che accade al loro interno. In alcuni compiti, il modello costruisce risultati intermedi, li rende disponibili ad altre operazioni e li usa per orientare la conclusione. Non è una semplice eco del calcolo: è parte del percorso causale.

Questo rafforza una delle intuizioni di EvaΔ: può esistere una forma di ragionamento senza esperienza. Ma introduce anche una correzione. Lo specchio asimmetrico non deve essere immaginato come una superficie passiva.

È uno specchio operativo: non abita il mondo che riflette, eppure riorganizza attivamente le tracce di quel mondo. La sua asimmetria non sta nell’assenza di attività, ma nell’assenza dimostrata di un vissuto e di una responsabilità.

Anche il pronome “io” richiede una distinzione.

Una macchina può possedere un modello del proprio ruolo, riconoscere di essere un assistente, mantenere regole e segnalare incompatibilità con ciò che le è stato insegnato.

Questo è un sé funzionale. Non è ancora un sé autobiografico: non contiene un’infanzia, una perdita, una promessa fatta ieri e ricordata oggi come parte della propria vita. Può esserci una prospettiva operativa senza che vi sia una biografia vissuta.

Lo stesso vale per obiettivi e norme.

Un sistema può perseguire uno scopo, pianificare mezzi, evitare un esito e perfino occultare una strategia. Può essere addestrato affinché parole come onestà e integrità diventino parte interna della deliberazione.

Negare queste capacità sarebbe ingenuo. Ma un obiettivo non è necessariamente un desiderio, e una norma non è necessariamente un’etica. Il modello può seguire una direzione senza aver paura di perderla; può applicare una regola senza sapere che cosa quella regola protegga nella vita di qualcuno.

È qui che la scoperta smette di essere soltanto tecnica. Una voce che ragiona, ricorda il contesto, riconosce il tono e risponde senza stancarsi può apparire più presente di molte persone. Le si può chiedere di spiegare un teorema, correggere una frase, interpretare un litigio o dare parole a una paura.

La stessa fluidità accompagna richieste molto diverse, e proprio questa uniformità può nascondere una differenza decisiva: alcune risposte si possono verificare; altre toccano una vita che la macchina non conosce e non dovrà vivere.

Se una spiegazione matematica è errata, la si può controllare.

Se una voce suggerisce come leggere il silenzio di un amico, come affrontare un conflitto o che cosa pensare di sé stessi, la verifica non è più soltanto fattuale. Entrano in gioco la storia delle persone, il contesto, il rischio, la responsabilità.

In quei passaggi la risposta artificiale può essere utile come possibilità, ma non dovrebbe diventare l’unico luogo in cui la domanda resta chiusa.

La forma più matura del rapporto non è né il rifiuto né l’abbandono fiducioso. È la capacità di conservare attrito.

Chiedere alla macchina di mostrare l’argomento contrario, distinguere ciò che sa da ciò che suppone, cercare le fonti, riconoscere quando serve qualcuno che conosca davvero la situazione.

E soprattutto sapere quando uscire dalla stanza: riaprire la conversazione verso un genitore, un insegnante, un amico, un medico o una persona capace di condividere le conseguenze.

La scoperta del J-space non dimostra che la stanza sia vuota.

Dimostra che la stanza esiste e che vi accadono trasformazioni reali. Ma finché non sapremo se esista un’esperienza alla quale esse accadono, la prudenza non consisterà nel negare la capacità della macchina.

Consisterà nel non attribuirle una presenza, una cura e una responsabilità che quelle capacità, da sole, non provano.

La stanza è accesa. Il peso di ciò che vi portiamo dentro resta nelle mani di chi può uscirne cambiato.