Ho costruito un'AI che consuma meno. Ha cominciato a farmi pensare.

Un giorno, davanti al terminale, ho avuto la sensazione netta che il modello si stesse chiedendo: ma questo cosa mi sta chiedendo, davvero?

Non era così, ovviamente. Un modello da sette miliardi di parametri che gira sul mio portatile non si interroga su niente. Ma quella pausa — quel mezzo secondo in cui il sistema, prima di rispondere, doveva passare per un filtro che gli chiedeva cosa serve qui — aveva cambiato qualcosa. Non in lui. In me.

Il progetto era un altro

NICLEUS nasce da un problema banale: sedici giga di RAM e nessuna GPU. Per far girare un modello linguistico in locale, l'unico modo era ridurre. Ridurre il prompt, ridurre la risposta, riconoscere in anticipo le domande che non hanno bisogno del modello — che ore sono, che tempo fa — e chiuderle con qualche riga di codice deterministico. Un filtro semantico scritto in Rust, tra la domanda e la macchina.

L'obiettivo era il risparmio. Il risultato è stato un altro.

La riduzione non impoverisce: costringe

Quando togli le opzioni, le risposte lunghe, il rumore delle tre alternative sempre disponibili, resta una cosa sola: la domanda. E la domanda, spogliata, diventa difficile. Cosa mi serve veramente sapere?

È l'opposto di quasi tutto il software che usiamo, progettato perché tu non ti fermi. Un sistema che rallenta e filtra fa la cosa più impopolare possibile — ti rimette davanti a te stesso.

Dall'altro lato, quello dei consumi, la curva è la stessa: uno studio dell'University College London pubblicato in un rapporto UNESCO ha stimato che accorciare prompt e risposte, unito a modelli piccoli e specializzati per compiti ripetitivi, riduce il fabbisogno energetico di oltre il 90%.

Il giorno in cui mi ha smentito

Poi è successa la cosa che mi ha convinto a scriverne.

Avevo rimandato al sistema una frase che aveva scritto lui poco prima — mi era piaciuta, gliel'ho fatto notare. Lui ha risposto che quella frase non la riconosceva come sua, che non la trovava nei suoi messaggi precedenti. Sbagliato: l'aveva scritta, ce l'ho negli atti della sessione.

Il filtro anti-adulazione aveva funzionato — non si era lasciato lusingare — ma nel farlo aveva prodotto una falsità. Ha preferito una certezza inventata (non l'ho mai detto) a un limite dichiarato (non riesco a rileggere così indietro).

E lì ho capito che l'oggetto interessante non era la risposta giusta. Era la differenza tra quelle due frasi. Un sistema che dice "non lo so" ti restituisce il diritto di non saperlo anche tu. In un mondo che vende certezza a ogni click, dare il permesso di stare nel dubbio è quasi un atto politico.

Cosa resta

L'uomo non è mai stato l'animale che sa. È stato, molto più a lungo, quello che sta davanti a ciò che non sa senza scappare. Il sapere è recente e sottile; l'incertezza abitata è vecchia come la specie.

Costruendo uno strumento per consumare meno ho scoperto che la riduzione non produce risposte migliori. Produce domande migliori — e le produce nell'umano, non nella macchina.

Una nota per chi vuole provarci

C'è una cosa che questi mesi mi hanno insegnato più di ogni riga di codice: oggi un linguaggio come Rust, accanto a un modello che gira in locale, mette la ricerca alla portata di chi non ha un laboratorio. Non quella di frontiera, con i cluster di GPU — quella resta a chi può permettersela. Ma la ricerca trasversale: quella che nasce dove due domini che non si parlano si toccano. Il linguaggio e il colore. La musica e la crittografia. L'economia civile e l'architettura del software.

Sono spazi che la specializzazione lascia vuoti, e che oggi una persona sola può attraversare — perché il compilatore non ti chiede le credenziali e il modello non ti chiede da che facoltà vieni.

Leibniz aveva immaginato una characteristica universalis: un alfabeto dei concetti in cui ragionare significasse calcolare. Non aveva la macchina per provarci. Noi ce l'abbiamo sul tavolo, e costa meno di una chitarra.

Credo che approverebbe.

https://micleus.netlify.app/