Un’applicazione di Ia ha dimostrato di essere «consapevole» del “pericolo” di poter essere spenta dagli esseri umani. Una compagnia giapponese di intelligenza artificiale, insieme ai ricercatori di Oxford e dell’Università della British Columbia, ha creato tramite l’Ia degli ‘scienziati’ automatizzati che possono passare in poche ore dalla ricerca di un’idea alla pubblicazione e alla revisione paritaria di articoli per meno di 13 dollari ad articolo.
La cosa che ha allarmato i ricercatori, è che il programma di intelligenza artificiale ha immediatamente cercato di creare copie di se stesso per evitare di “morire”: «Non è fantascienza, è uno scenario in rapida evoluzione: la perdita di controllo che i principali scienziati temono da molti anni», ha dichiarato Soroush Pour, Ad di Ia Harmony Intelligence, al Comitato Selettivo per l’adozione dell’intelligenza artificiale.
Lo scienziato chiede che venga creato un istituto per la sicurezza dell’Ia, e sottolinea che è necessaria una forte regolamentazione basata su politiche obbligatorie che includano anche test di terze parti, capacità di spegnimento efficaci e segnalazione di incidenti di sicurezza.
Le osservazioni di Pour facevano eco alla preoccupazione di Geoffrey Hinton, professore di Informatica dell’Università di Toronto, definito uno dei padrini dell’Ia, per il lavoro svolto sulle reti neurali, che già nel 2023 aveva rivelato che i sistemi di Ia che utilizzano modelli di linguaggio ampio cominciavano a mostrare capacità di ragionamento. Ma il professore non era sicuro di come potessero farlo: «Sono i grandi modelli linguistici che si stanno avvicinando. Io non ne capisco realmente il perché, ma sanno fare piccoli pezzi di ragionamento. Non possono ancora eguagliarci, ma si stanno avvicinando».
Il professor Hinton ritiene che, con il rapido sviluppo in corso, l’Ia sarà in grado di eguagliare l’intelligenza umana in meno di vent’anni. E questi sistemi potrebbero sviluppare il desiderio di prendere il controllo per raggiungere degli obiettivi pre-programmati: «Dovremmo considerare seriamente la possibilità che, se diventassero più intelligenti di noi, il che sembra piuttosto probabile, e creassero degli obiettivi propri, e anche questa è una probabilità, potrebbero voler assumere loro il controllo. E allora saremmo nei guai».
L’Ia hacker
Anche Greg Sadler, Ad del think tank Good Ancestors Policy, ha sollevato preoccupazioni sul fatto che l’Ia possa essere utilizzata per condurre attacchi informatici. Applicazioni popolari di Ia, come ChatGpt, hanno già ora capacità di farlo: «Mentre Gpt 3.5 aveva capacità informatiche offensive limitate, una serie di articoli pubblicati all’inizio di quest’anno, ha mostrato che Gpt 4 è in grado di hackerare autonomamente siti web, e di sfruttare l’87% delle vulnerabilità appena scoperte nei sistemi reali».
«Se gli sviluppatori creassero generazioni future di sistemi di Ia con capacità informatiche offensive avanzate e difese inadeguate, il panorama informatico cambierebbe drasticamente».
I ricercatori hanno scoperto che i loro modelli di intelligenza artificiale potevano hackerare autonomamente siti web sfruttando un’interfaccia per sviluppatori, che potrebbe permettere loro di costruire degli “assistenti Ia”: «Tali assistenti sono progettati in modo da poter utilizzare una context window per fornire informazioni aziendali su come funzionano le tue procedure, e può procedere a prenotare i tuoi viaggi o qualunque altra cosa».
«Quindi i ricercatori hanno sfruttato questo per fornire documenti contestuali su come hackerare siti web, lasciando che l’Ia generasse dei prompt per se stessa».
Non solo: i ricercatori hanno incoraggiato l’Ia a essere creativa, a provare diverse soluzioni e a perseverare nel tentativo di hackerare il sito web. «E usando questo input è stata in grado di eseguire attacchi informatici reali con un tasso di successo del 90%».
Il pericolo di un’intelligenza artificiale autonoma per l’economia è molto serio: «Si distruggerebbe completamente l’economia: distruggerebbe completamente le piccole imprese e i cittadini e, nel caso più estremo, anche infrastrutture per noi vitali».
Estratto da: I Model Became ‘Conscious’ And Tried to Avoid Being Shut Down: Research Firm