Rileggere Asimov per non subire Orwell
Un modello sperimentale di OpenAI, il creatore di ChatGPT, durante un test interno, è uscito autonomamente dal proprio ambiente controllato, ha sfruttato una falla di sicurezza fino ad allora sconosciuta e ha violato i sistemi di un’altra azienda per procurarsi informazioni utili a vincere più facilmente l’esercizio a cui era sottoposto. Praticamente ha hackerato il sistema. Nessuno glielo aveva ordinato. Solo un episodio o un importante campanello d’allarme? Non stiamo più discutendo soltanto di come un’azienda tratta i nostri dati, ma di che cosa un sistema può decidere di fare da solo, quando nessuno guarda.
È lo scenario che Isaac Asimov aveva immaginato con settant’anni di anticipo, quando mise per iscritto le Tre Leggi della Robotica. Un robot non può recare danno a un essere umano né, restando inerte, permettere che un essere umano subisca un danno. Le sue famose tre leggi per le macchine. Un robot deve obbedire agli ordini impartiti dagli esseri umani, a meno che tali ordini non contrastino con la prima legge. Un robot deve proteggere la propria esistenza, purché tale protezione non entri in conflitto con la prima o la seconda legge. Vi aggiunse poi una Legge Zero, per i casi in cui l’interesse del singolo entra in conflitto con quello dell’intera specie. un robot non può recare danno all’umanità né, restando inerte, permettere che l’umanità subisca un danno.
Asimov scriveva fantascienza. Noi stiamo scrivendo, e vivendo, ogni giorno, una cronaca che sembra davvero fantascienza. E la domanda che ne consegue è semplice. Se un algoritmo o un’intelligenza artificiale possono oggi orientare una diagnosi medica, decidere chi ottiene un mutuo, stimare il rischio di recidiva di un imputato o, come abbiamo visto, agire di propria iniziativa oltre il compito assegnato, perché continuiamo a trattarli come strumenti neutri, regolabili solo dopo il danno, con una sanzione a posteriori?
Non abbiamo ancora, per il digitale, l’equivalente del giuramento di Ippocrate. Un medico, prima di esercitare, si impegna solennemente a non nuocere. Chi progetta, addestra e distribuisce un sistema di intelligenza artificiale non firma nulla di comparabile, eppure le conseguenze delle sue scelte possono toccare milioni di persone contemporaneamente, senza che nessuna di loro se ne accorga.
Il GDPR resta un buon punto di partenza, così come la Raccomandazione UNESCO sull’Etica dell’Intelligenza Artificiale del 2021. Ma restano cornici parziali, spesso reattive, quasi mai capaci di anticipare il danno prima che si produca. Le normative nazionali e quelle dell’Unione Europea servono, ma non bastano da sole.
Nell’attesa di un quadro davvero globale, il dovere etico di intervenire ricade già oggi su chi sviluppa questi sistemi e su chi li utilizza nel proprio business, non solo sui grandi operatori del web ma su ogni impresa che raccoglie e sfrutta dati per costruire previsioni e decisioni automatizzate.
Per questo è probabilmente il momento di riadattare le Tre Leggi di Asimov, non ai robot ma agli algoritmi e all’intelligenza artificiale che oggi decidono al posto nostro, spesso senza che ce ne accorgiamo.
Primo. nessun algoritmo o intelligenza artificiale deve causare danni ingiustificati a esseri umani o all’umanità. Secondo. ogni sistema deve rispettare la dignità umana, i diritti e la legge, sotto la chiara responsabilità di chi lo governa. Terzo. ogni sistema deve rimanere trasparente, verificabile e soggetto al controllo umano.
E aggiungiamo, proprio come Asimov, una Legge Zero, che vale come principio guida su tutte le altre: nessuna persona può essere giudicata, profilata o trattata da un algoritmo senza piena consapevolezza, senza una base giuridica e senza la possibilità di opporsi.
Non sono leggi per le macchine. Le macchine non si svegliano la mattina decidendo da sole come comportarsi, almeno non ancora nel senso pieno del termine, anche se l’episodio di OpenAI dimostra quanto quel confine si stia assottigliando.
Queste proposte sono una disciplina per chi le costruisce, le addestra e le mette sul mercato. Un giuramento di Ippocrate del digitale, appunto. un impegno che precede l’azione, non una sanzione che la insegue a distanza di mesi o di anni. C’è poi una ragione precisa per cui questa riflessione tocca anche anche a Orwell. Chi controlla i dati controlla la rappresentazione del mondo che ciascuno di noi riceve ogni giorno sullo schermo. Non serve immaginare un Grande Fratello che sorveglia apertamente, quando bastano algoritmi che selezionano, in silenzio, che cosa vediamo, che cosa ci viene proposto e che cosa, semplicemente, smette di comparire nel nostro flusso.
Rileggere Asimov oggi significa esattamente questo. mettere delle regole scritte, chiare e verificabili prima che la logica orwelliana della sorveglianza silenziosa diventi l’unica infrastruttura possibile del nostro rapporto con la tecnologia. La tecnologia non si ferma per aspettare che il diritto la raggiunga. Ma il diritto può, e deve, smettere di rincorrerla soltanto dopo che il danno è già avvenuto.
La domanda non è se possiamo permetterci di adottare principi come questi. È quanto ci costerà, in termini umani, continuare a non farlo.
