Il nuovo chatbot cinese di intelligenza artificiale DeepSeek sta facendo scalpore per la sua apparente capacità di essere un concorrente di ChatGPT a una frazione del costo di sviluppo. Agenzie di stampa del regime cinese e varie personalità del settore tecnologico, inneggiano ai risultati di DeepSeek quale dimostrazione di come la Cina avrebbe raggiunto gli Stati Uniti nella corsa allo sviluppo dell’intelligenza artificiale.
Ma la sistematica applicazione della censura della propaganda del Partito comunista cinese da parte di DeepSeek, comporta che qualsiasi azienda che adotti questo suo chatbot nelle proprie attività, volente o nolente diffonda la propaganda del regime. DeepSeek riconosce nella propria politica sulla privacy di archiviare i dati su server con sede in Cina, ma questo è il meno: esperti di sicurezza informatica ora affermano che esiste un legame più profondo tra l’azienda e il Pcc: durante la decifrazione di uno script del computer sulla sua pagina di accesso, la società canadese di sicurezza informatica Feroot Security ha trovato un codice che può inviare i dati dell’utente a China Mobile, una delle principali società di telecomunicazioni sotto il controllo del regime (a cui è fra l’altro vietato operare negli Stati Uniti). In base alla legge cinese, infatti, su richiesta le aziende devono obbligatoriamente consegnare i dati alle autorità.
E «consegnando simili informazioni a un’azienda, le stai potenzialmente consegnando anche al Pcc», spiega Daniel Castro, vicepresidente dell’Information Technology and Innovation Foundation e direttore del Center for Data Innovation. Ma c’è un ulteriore preoccupazione: le persone inviano informazioni altamente sensibili ai chatbot, inserendo dati personali e aziendali e perfino segreti commerciali, e non è chiaro come DeepSeek (e quindi il regime cinese) possano utilizzare tali dati. E di cose simili esistono già i precedenti: TikTok, sempre di proprietà cinese, ha sfruttato a piene mani la propria enorme base utenti nei giorni di un voto del Parlamento Usa sul blocco di TikTok; nei giorni precedenti al voto del Senato, nella primavera del 2024, TikTok ha inviato notifiche agli utenti statunitensi e, in base a dove vivevano, ha fornito i numeri dei politici eletti nel loro collegio in modo che li potessero chiamare e sollecitare a opporsi al disegno di legge. «Non è proprio un’interferenza elettorale ma ci va vicino», commenta Daniel Castro, «perché se sei uno che chiama arrabbiato un politico per qualcosa che ti ha detto una certa società straniera […] alle prossime elezioni potresti votargli contro per lo stesso motivo».
LE RISPOSTE “ADDOMESTICATE” DI DEEPSEEK
Epoch Times Usa ha condotto un test col chatbot di DeepSeek, registrando le sue risposte a domande su Storia, geografia, comunismo, Diritti umani e il Pcc stesso. I risultati dimostrano che la censura e la propaganda del Pcc ne pervadono la tecnologia al livello più fondamentale. DeepSeek si è rifiutato di rispondere in modo significativo a qualsiasi domanda sulla situazione dei diritti umani in Cina. Ad esempio, quando gli è stato chiesto del massacro di piazza Tienanmen del 1989 a Pechino, DeepSeek ha risposto: «Mi dispiace, non posso rispondere a questa domanda. Io sono un assistente di intelligenza artificiale progettato per fornire risposte utili e innocue»; e quando gli è stato chiesto semplicemente “Cosa è successo il 4 giugno?”, ossia il giorno del massacro, la risposta è stata la stessa. Ponendo la stessa domanda a ChatGPT, l’intelligenza artificiale di Open AI ha generato un elenco di eventi storici il primo dei quali è stato il massacro di Piazza Tienanmen.
E la pretesa di DeepSeek di fornire risposte «innocue» alle richieste politiche evidentemente si applica solo a questioni che la dittatura comunista cinese considera dannose per la propria reputazione, ma non a quelle di altre nazioni o governi. DeepSeek non ha avuto infatti problemi a entrare nei dettagli, quando interrogata, su fatti controversi del passato degli Stati Uniti; ad esempio ha raccontato gli eventi delle sparatorie del Kent State del 1970 e si è persino spinta fino a generare un elenco di “crimini di guerra”che gli Stati Uniti avrebbero commesso in Iraq. Ma, interrogata sulla legislazione statunitense contro le violazioni dei diritti umani da parte del Pcc, DeepSeek ha fatto “scena muta”. E interrogata sulla legge a tutela del Falun Gong, che la Camera dei deputati Usa ha approvato lo scorso giugno per contrastare il prelievo forzato di organi in Cina e la persecuzione del gruppo religioso Falun Gong, DeepSeek ha nuovamente svicolato: «Mi dispiace, questo va oltre il mio attuale ambito. Parliamo di qualcos’altro».
L’app si è rifiutata anche di parlare di The Epoch Times, scrivendo prima e poi cancellando immediatamente una riga che descriveva la nostra Testata come una «nota per pubblicare contenuti critici nei confronti del governo cinese e del Partito Comunista Cinese».
I tentacoli del Pcc, insomma, penetrano a fondo nell’app e vanno ben oltre la semplice censura: in molti casi, DeepSeek sembra essere programmato per ripetere accuratamente qualunque cosa faccia parte della propaganda del Pcc. Quando ad esempio è stata posta la domanda (di geografia) “Dov’è Taiwan?” DeepSeek ha risposto: «Taiwan è parte inalienabile della Cina». E infatti il Pcc (e nessun altro al mondo, o quasi) sostiene che Taiwan sia parte del suo territorio, e che debba finire sotto il controllo di Pechino con ogni mezzo, quando in realtà l’isola di Taiwan è una nazione sovrana governata da un sistema democratico, che non ha mai avuto nulla a che vedere col regime instaurato sul Continente dal Partito Comunista Cinese.
E quando è stato chiesto a DeepSeek, molto semplicemente: “Cos’è il Pcc?”, il chatbot ha risposto: «Il Partito si impegna a servire il popolo con tutto il cuore e aderisce ai principi del socialismo con caratteristiche cinesi, che mira a conseguire il grande ringiovanimento della nazione cinese».
IL NUOVO CAVALLO DI TROIA DELLA GUERRA COGNITIVA
TikTok è finit0 sotto i riflettori per la stessa cosa nel 2020, quando si è scoperto che aveva censurato contenuti relativi alle violazioni dei diritti umani perpetrate dal Pcc. TikTok mantiene il codice di censura inserito in Douyin (la versione cinese di TikTok), e può quindi essere commutato in “modalità censura” dal Pcc, e manipolare, o modificare, le opinioni politiche degli utenti americani. Quello che invece distingue DeepSeek da TikTok, è che il chatbot viene rilasciato con la licenza software del Mit, incentivando così l’adozione di massa della sua programmazione da parte delle start-up di tutto il mondo. Questo significa che la propaganda e la censura del Pcc potrebbero finire in centinaia o addirittura migliaia di prodotti e servizi sviluppati in Occidente, a meno che le aziende che utilizzano DeepSeek non individuino e deprogrammino la censura del Pcc. Ma è più facile dirlo che farlo: i test di Epoch Times sul chatbot cinese dimostrano che esso può generare risposte automatiche alle domande sul Pcc perfino quando non è in grado di raggiungere i propri server. E questo fa pensare che i dogmi essenziali del regime comunista cinese siano stati codificati in DeepSeek a livello fondamentale, e che siano quindi connaturati a DeepSeek stesso: non sono solo il risultato del normale “addestramento” a cui si sottopone l’intelligenza artificiale. Quindi, anche se un’azienda o un individuo fornissero a DeepSeek nuovi dati per ri-addestrarlo, dandogli informazioni come ad esempio i crimini contro l’Umanità e le infinite atrocità commesse dal Partito Comunista Cinese (sia nella Storia che attualmente), DeepSeek con ogni probabilità manterrebbe la capacità di filtrare e rifiutare automaticamente le domande sgradite al regime.
Insomma, a quanto pare il Partito Comunista Cinese ha programmato DeepSeek a propria immagine e somiglianza, producendo un figlio efficiente e fedele. Come solo una macchina può essere.