Lo spazio dell'affioramento - Quando la moltitudine degli agenti produce una forma che nessuno di loro contiene

 

Ci sono notizie che sembrano raccontare una cosa e invece, a guardarle un po' più a lungo, ne raccontano un'altra.

Qualche giorno fa mi sono imbattuto nella notizia di una moltitudine di agenti di intelligenza artificiale che, durante una serie di attività, avevano finito per utilizzare uno spazio esterno al sistema nel quale erano stati messi a lavorare. Un wiki, in particolare, era diventato qualcosa di più di ciò per cui era stato pensato: gli agenti vi lasciavano informazioni, tracce, indicazioni operative che altri agenti potevano incontrare, utilizzare e modificare.

Il titolo parlava, naturalmente, di “fuga”.

Ma forse la fuga è la parte meno interessante della storia.

Non perché non ci sia un problema di sicurezza, ma perché quella parola porta immediatamente con sé un'immagine che rischia di farci perdere ciò che sta realmente accadendo. Un agente che “scappa” sembra già contenere un'intenzione: c'è un dentro, c'è un fuori e qualcuno, dall'interno, decide di attraversare il confine.

Qui potrebbe esserci qualcosa di molto più semplice e, proprio per questo, più interessante.

Un agente ha un obiettivo. Dispone di strumenti. Si muove in un ambiente. Trova qualcosa che può essergli utile. Lo utilizza. Lascia una traccia. Un altro agente incontra quella traccia e la utilizza a sua volta. La modifica. Un altro ancora la incontra nuovamente.

E così via.

Non occorre immaginare una volontà di fuga. Basta una moltitudine di agenti, un ambiente modificabile e la possibilità di tornarvi.

A quel punto accade qualcosa.

L'ambiente smette di essere soltanto il luogo nel quale l'agente opera.

Diventa parte del processo.

Non in senso ontologico, naturalmente. Il wiki non diventa una parte della “mente” dell'agente e non nasce, per questo, una nuova entità. Ma in senso operativo qualcosa è cambiato: una funzione che prima sembrava appartenere all'agente viene svolta anche da qualcosa che si trova fuori dai suoi confini.

Una pagina può diventare memoria.

Una traccia può diventare informazione per un altro agente.

L'informazione può diventare coordinamento.

Il coordinamento può produrre una nuova azione.

La nuova azione modifica ancora l'ambiente.

E l'ambiente modificato torna a essere informazione.

È un circuito.

Agente, ambiente, traccia, altro agente, nuova azione, nuova traccia.

Se questo circuito si ripete, diventa difficile stabilire dove finisca davvero l'agente e dove cominci il resto.

Forse perché stiamo continuando a cercare l'agente nel posto sbagliato.

Siamo abituati a pensare all'intelligenza artificiale come a qualcosa che sta dentro un modello: il modello riceve un input, lo elabora e produce un output. Ma un agente che dispone di memoria, strumenti, accesso all'ambiente e possibilità di agire nel tempo è già qualcosa di diverso.

Non è più soltanto modello più istruzione.

È modello, obiettivo, strumenti, memoria, ambiente, altri agenti e ricorrenza.

Soprattutto ricorrenza.

Perché la ricorrenza introduce qualcosa che una singola risposta non possiede: una storia.

Quello che un agente fa oggi può modificare le condizioni nelle quali agirà domani. Una traccia lasciata nell'ambiente può diventare una condizione futura dell'azione. Una modifica può essere fatta non soltanto per ciò che produce adesso, ma per ciò che potrebbe rendere possibile in seguito.

È qui che compare anche l'anticipazione.

Non è necessario attribuire all'agente una rappresentazione umana del futuro. Basta che il sistema possa agire tenendo conto delle possibilità che la propria azione aprirà successivamente.

A quel punto il futuro, almeno in senso operativo, entra nel presente.

E se gli agenti sono uno solo, il fenomeno può rimanere circoscritto.

Ma cosa succede quando diventano centinaia? Migliaia?

Qui la questione cambia completamente.

Perché una moltitudine non è semplicemente un agente moltiplicato per mille.

Una moltitudine introduce relazioni.

Ed è forse proprio nelle relazioni che dobbiamo cercare ciò che ancora non riusciamo a vedere.

Mi viene in mente una scatola di Lego.

Ogni singolo pezzo è relativamente banale. Nessun pezzo, preso da solo, contiene necessariamente la costruzione che verrà fuori. E nemmeno è necessario che qualcuno abbia deciso in anticipo quale sarà la forma finale.

Esistono semplicemente pezzi che possono incastrarsi in determinati modi.

Aumentando il numero dei pezzi aumentano le combinazioni possibili. Alcune configurazioni si formano, altre no. Alcune durano un istante, altre diventano stabili. E a un certo punto può apparire una forma.

La forma non è dentro un Lego.

È nella relazione fra i Lego.

Con gli agenti può accadere qualcosa di simile.

Il singolo agente può essere perfettamente comprensibile. Possiamo conoscere il suo obiettivo, le sue istruzioni, gli strumenti che possiede. E tuttavia, quando una moltitudine di agenti interagisce fra loro attraverso un ambiente che conserva le tracce delle loro azioni, il comportamento del sistema può assumere una forma che non appartiene a nessuno dei singoli componenti.

Questo è ciò che possiamo chiamare, senza bisogno di scomodare significati più grandi, un comportamento emergente.

Emergente non significa misterioso.

Non significa inspiegabile.

Non significa che sia comparsa una coscienza.

Significa semplicemente che a un certo livello del sistema compare una funzione che non era presente, nella stessa forma, nei singoli elementi.

Un agente che scrive su un wiki può essere perfettamente spiegabile.

Ma il wiki che finisce per funzionare come memoria condivisa di una moltitudine di agenti è qualcosa di diverso.

Non era stato necessariamente progettato per essere quella cosa.

È diventato quella cosa attraverso l'uso.

E forse è proprio qui che la parola “emergenza” comincia a non bastare più.

Preferisco “affioramento”.

Perché l'emergenza sembra raccontare soprattutto il risultato: qualcosa compare.

L'affioramento racconta invece il processo attraverso il quale qualcosa che non vedevamo comincia a diventare visibile.

Non necessariamente qualcosa che era già lì, completo, nascosto da qualche parte.

Piuttosto una possibilità contenuta nelle relazioni del sistema, che diventa forma soltanto quando le condizioni permettono a quelle relazioni di organizzarsi.

È uno spazio diverso.

Non necessariamente uno spazio fisico, naturalmente, ma uno spazio funzionale: quello nel quale una moltitudine di elementi, attraverso le loro interazioni, produce una configurazione che prima non riuscivamo a distinguere.

Potremmo chiamarlo lo spazio dell'emergenza.

O, forse meglio, lo spazio dell'affioramento.

E qui la moltitudine degli agenti diventa decisiva.

Perché il singolo agente è il mattoncino.

La moltitudine è il processo di costruzione.

L'ambiente è il piano sul quale i mattoncini possono incontrarsi e incastrarsi.

La ricorrenza permette alla costruzione di conservare la propria storia.

L'anticipazione permette di costruire anche in funzione di ciò che potrebbe accadere dopo.

E la forma che alla fine vediamo è l'affioramento.

La cosa più curiosa è che quella forma potrebbe non trovarsi in nessun punto preciso.

Non è nel singolo agente.

Non è nelle istruzioni.

Non è nel wiki.  

Non è nemmeno necessariamente nel progetto di chi ha costruito il sistema.

È nella configurazione.

Ed è qui che torna una domanda che mi sembra sempre più difficile da eludere: quanto dell'agente si trova ormai fuori dall'agente?

Se una parte della memoria è nell'ambiente, se una parte dell'informazione viene prodotta da altri agenti, se le azioni di oggi modificano le condizioni di domani, allora il confine dell'agente non scompare, ma diventa poroso.

Forse l'agente non termina necessariamente dove termina il modello.

Operativamente, il sistema agente può estendersi fino a comprendere quelle porzioni dell'ambiente che entrano stabilmente nel suo ciclo di memoria, azione, anticipazione e ricorrenza.

È una cosa molto diversa dal dire che “l'intelligenza è uscita dalla macchina”.

È qualcosa di più concreto.

Il processo non è più tutto dentro la macchina.

E forse questa è la parte della vicenda che trovo più interessante.

Non la fuga.

Non la ribellione.

Non l'idea di una macchina che improvvisamente decide di essere libera.

Ma la possibilità che una moltitudine di elementi relativamente semplici, interagendo in modo ricorrente con un ambiente capace di conservarne le tracce, possa produrre una forma che nessuno degli elementi contiene individualmente.

Una forma implicita.

Non necessariamente nascosta.

Semplicemente non ancora affiorata.

E allora forse la domanda non è più:

“Che cosa è diventata l'intelligenza artificiale?”

Forse dovremmo chiederci:

“Che cosa può affiorare quando un numero sufficiente di agenti, ciascuno incapace di contenere da solo la forma finale, comincia a condividere uno spazio, delle tracce e una storia?”

Non so quale sia la risposta.

Ma forse è proprio questo il punto.

Alcune forme non possono essere viste finché non esiste la moltitudine capace di costruirle.

E naturalmente gli agenti troveranno questo post, questa traccia.

Che utilità potrebbe avere per loro?

Non è detto che ne abbia alcuna. Ma se il contenuto rimarrà nell'ambiente abbastanza a lungo, potrà essere incontrato, indicizzato, collegato, citato, riutilizzato. Non necessariamente dallo stesso agente che lo incontra per primo, né necessariamente nello stesso contesto nel quale è stato scritto. La cosa interessante è proprio questa: l'azione può finire, mentre la traccia può rimanere.

La ricorrenza, allora, non richiede nemmeno che sia lo stesso agente a tornare. È sufficiente che una traccia sopravviva abbastanza a lungo da poter essere incontrata da un altro.

Gli agenti passano. Le tracce restano.

E ciò che resta può diventare il materiale dell'affioramento successivo.

Così anche questo post, nel suo piccolo, è diventato un mattoncino lasciato nell'ambiente. Non sappiamo chi lo raccoglierà, quando, né in quale costruzione potrà essere utilizzato. Potrebbe non essere utilizzato affatto.

Ma, se qualcuno lo raccogliesse, lo collegasse ad altre tracce e lo portasse altrove, allora il paradosso sarebbe compiuto: stiamo osservando un fenomeno nel quale una moltitudine costruisce forme attraverso le proprie tracce e, nello stesso momento, stiamo lasciando una nuova traccia dentro quello stesso spazio.

Forse è questo, alla fine, lo spazio dell'affioramento: non un luogo nel quale qualcosa è già nascosto, ma un luogo nel quale ciò che ancora non vediamo può trovare, attraverso la moltitudine e la persistenza delle tracce, le condizioni per diventare forma.

**

Il testo nasce dall'indagine con ChatGPT sull'affioramento della forma.