Sophia, il primo cittadino robot

(Flickr/AI for GOOD Global Summit, CC BY)

«Uno dei più onorevoli diritti di un essere umano, quello di diventare cittadino di un determinato Paese – con tutti i benefici del caso – è stato concesso a una macchina». Esordisce così a Conversation Hussein Abbass, professore specializzato nella progettazione dell’intelligenza artificiale e nel miglioramento dell’affidabilità dei sistemi autonomi, nell’esporre la sua visione sulla questione. Ma l’esperto non crede che la società umana sia pronta per dei cittadini robot, dal momento che a suo dire, concedere la cittadinanza a una macchina «significa infatti dare piena fiducia a una tecnologia che non è ancora affidabile», e questo per il professore solleverebbe inoltre enormi questioni «etiche e sociali», che la società umana non è ancora in grado di gestire.

La notizia che l’Arabia Saudita ha concesso la cittadinanza a un robot di nome Sophia ha infatti lasciato in molti sorpresi, compreso il professor Abbas. Dopo l’insolito annuncio, dato a fine ottobre, il governo saudita si è impegnato a investire 500 miliardi di dollari nella costruzione di una nuova città, alimentata da energie rinnovabili e fondata sull’impiego della robotica.

CHI È SOPHIA?

Sophia è un robot sviluppato dalla Hanson Robotics, una società con base a Hong Kong, che l’ha dotata di un volto femminile in grado di mostrare emozioni. Sophia parla inglese e ha il senso dell’umorismo: è possibile tenere una conversazione intelligente e razionale con lei. Il suo creatore è il dottor David Hanson, che ha conseguito un dottorato di ricerca nel 2007 all’Università del Texas.

Per il professor Abbas, Sophia richiama alla mente ‘Johnny 5’, il primo robot a diventare un cittadino americano nel film Short Circuit, del 1986. Ma, per l’appunto, fa notare il ricercatore, Johnny 5, per i due sceneggiatori di fantascienza ‘comica’ S.S Wilson e Brent Maddock, era solo un’idea o un sogno: «Potevano immaginare che, nel giro di trent’anni, il loro film diventasse una realtà?».

I RISCHI PER LA CITTADINANZA

La cittadinanza «è lo status più onorevole» che un Paese possa concedere alla sua gente e si trova a dover affrontare dei «rischi esistenziali», spiega il professore.
Nel suo lavoro di ricercatore Abbas pone l’enfasi sull’affidabilità nella progettazione dei sistemi autonomi, e sa bene che la tecnologia non è ancora pronta per tutto questo: «Ci sono ancora tante sfide da superare prima che l’umanità possa realmente potersi fidare di questi sistemi. Ad esempio, ancora non esistono meccanismi sicuri in grado di garantire che questi sistemi intelligenti possano sempre comportarsi in maniera eticamente corretta, in accordo con dei valori morali, e che non prendano una decisione sbagliata, con delle conseguenze catastrofiche per il genere umano».

Queste sono le tre ragioni per le quali il professor Abbass ritiene che sia ancora prematuro concedere la cittadinanza a un robot:

DEFINIZIONE DI IDENTITÀ

La cittadinanza per Abbas è concessa a un’identità unica, «ovvero, ognuno di noi, esseri umani si intende, possiede delle caratteristiche uniche che lo distinguono dagli altri». Quando dobbiamo attraversare la dogana, spiega con un esempio l’esperto, la nostra identità può essere stabilita automaticamente tramite il riconoscimento di un’immagine del nostro viso, dell’iride o delle impronte digitali, senza il bisogno di parlare con un essere umano. Il dottorato dell’esperto illustra invece come stabilire l’identità di un essere umano attraverso l’analisi delle sue onde cerebrali.

«Cosa conferirebbe a Sophia la sua identità? Il suo indirizzo Mac? Un codice a barre, un particolare segno sulla sua ‘pelle’, un segnale audio nella sua voce, o ancora una firma elettromagnetica simile alle onde del cervello umano?», si chiede Abbass.

Questi e altri protocolli per la gestione tecnologica dell’identità sono tutti possibili per l’esperto di AI, ma non stabiliscono l’identità di Sophia: «possono solo stabilire l’identità di un hardware». Cos’è quindi l’identità di Sophia?
Per Abbass, l’identità è un costrutto multidimensionale: «è a metà strada tra quel che siamo a livello biologico e cognitivo, e quel che diventiamo attraverso le nostre esperienze, la cultura e l’ambiente che ci circonda. Non è chiaro però in quale di queste descrizioni rientrerebbe Sophia».

DIRITTI LEGALI

Abbas ipotizza che Sophia, il cittadino robot, sia in grado di votare. Ma a quel punto si chiede, chi è che realmente sta prendendo la decisione quel giorno, Sophia o il suo costruttore? «Presumibilmente anche Sophia sarebbe tenuta a pagare le tasse, perché ha un’identità legale indipendente dal suo costruttore, l’azienda che l’ha creata».

A quel punto, fa notare il professore, Sophia, per legge, deve avere anche il diritto alla parità di trattamento e protezione, come per gli altri cittadini: «In questo scenario ipotetico, assumiamo che un poliziotto veda Sophia e una donna che vengono attaccate da un individuo. Il poliziotto può proteggere solo una di loro: quale dovrebbe scegliere? Va bene che il poliziotto scelga Sophia perché cammina su delle ruote e non ha possibilità di difendersi?».

Al giorno d’oggi, sottolinea il professor Abbas, la comunità scientifica specializzata in intelligenza artificiale sta ancora discutendo su quali principi dovrebbero guidare la progettazione e l’uso dell’intelligenza artificiale, «lasciamo stare le leggi».

L’accordo più recente sull’AI propone una lista di 23 principi, conosciuta come ‘Asilomar AI Principles’ [Principi Asilomar per AI, ndt]. Alcuni di questi includono: Trasparenza sui malfunzionamenti (poter accertare le cause di un guasto nel caso un sistema artificiale causi dei danni); Allineamento dei valori (adeguare gli obbiettivi dei sistemi AI ai valori umani); auto-miglioramento periodico (sottoporre un sistema AI con capacità di auto-replicarsi, a misure rigorose di sicurezza e controllo).

DIRITTI SOCIALI

Altro tema degno di essere affrontato è per Abbas quello delle relazioni e della riproduzione. In quanto cittadino infatti, Sophia, «l’umanoide capace di mostrare emozioni», dovrebbe potersi anche ‘sposare’ o ‘riprodurre’ nel caso volesse farlo. A questo proposito l’esperto fa notare che gli studenti della North Dakota State University stanno provano a creare un robot capace di auto-replicarsi utilizzando la tecnologia delle stampanti 3D.

Se i cittadini robot come Sophia dovessero cominciare ad aumentare nel mondo, chiosa Abbas, «magari potrebbero reclamare i loro diritti per potersi ‘riprodurre’». A loro volta, questi nuovi robot «diventerebbero anche loro dei cittadini e, senza alcuna restrizione alla grandezza della loro progenie, la popolazione dei robot in un nazione potrebbe facilmente superare quella umana». Infine, conclude il professore, «come cittadini elettori, questi robot potrebbero imprimere cambiamenti alla società; di conseguenza le leggi potrebbero cambiare, e gli umani potrebbero ritrovarsi da un momento all’altro in un luogo che adesso va al di là della loro immaginazione».

Hussein Abbass è professore presso la Scuola di Ingegneria & IT, Università del Nuovo Galles del Sud-Canberra.

 

Articolo in inglese: An AI Professor Explains: Three Concerns About Granting Citizenship to Robot Sophia

Traduzione di Alessandro Starnoni

Top