OpenAI smantella una rete di disinformazione iraniana che utilizza ChatGpt per creare fake news

Un’operazione di disinformazione di ampia portata è stata recentemente scoperta e neutralizzata da OpenAI. Questa campagna, coordinata da hacker iraniani, utilizzava l’intelligenza artificiale di ChatGpt per generare contenuti falsi e polarizzanti da diffondere sui social media. Con l’obiettivo di seminare confusione su argomenti di rilevanza sociale e politica, OpenAI ha rivelato che l’operazione coinvolgeva diversi account e siti web attivi in lingua inglese e spagnola.

Dettagli dell’operazione “Storm-2035”

Struttura della campagna

Denominata “Storm-2035”, questa operazione mirava a scatenare divisioni su temi cruciali come le elezioni presidenziali negli Stati Uniti, i diritti Lgbtq+, e le recenti tensioni in Gaza. I cybercriminali iracheni hanno messo in atto una rete complessa di falsi siti web e profili sui social media, cercando di impersonare sia fonti conservatrici che progressiste. Il fine ultimo era manipolare l’opinione pubblica, generando contenuti in grado di influenzare le conversazioni su temi sensibili.

OpenAI, attraverso una nota ufficiale, ha confermato di essere riuscita a identificare e neutralizzare questi account. La società ha sottolineato l’importanza di contenere tali attività, dichiarando che “ogni tentativo di sfruttare i loro servizi per operazioni di influenza straniera sarà trattato con grande serietà”. Nonostante i loro sforzi, la campagna di disinformazione sembra aver generato scarso interesse tra gli utenti, con la maggior parte dei contenuti pubblicati che ha ricevuto pochissima interazione.

La reazione di OpenAI

“Prendiamo sul serio qualsiasi tentativo di usare i nostri servizi in operazioni di influenza straniera”, ha dichiarato la società, evidenziando il loro impegno nel monitorare e bloccare queste attività. Inoltre, sono stati resi noti i dettagli relativi ai contenuti generati dai hacker e al loro impatto limitato sulle conversazioni pubbliche. Secondo Ben Nimmo, manager di intelligence di OpenAI, “nonostante la strategia di operare su entrambi i fronti ideologici, il coinvolgimento dell’operazione è risultato trascurabile”.

Impatto della disinformazione sulle elezioni e oltre

Influenza sulle elezioni

L’operazione di disinformazione non è da considerarsi isolata. A pochi giorni dalla scoperta della campagna “Storm-2035”, è emerso che i hacker iraniani avevano già tentato di influenzare la corsa elettorale per la Casa Bianca, in particolare le campagne di Kamala Harris e Donald Trump. L’FBI ha riportato un incidente specifico in cui Roger Stone, un noto consigliere di Trump, sarebbe caduto vittima di e-mail di phishing. Gli hacker sono riusciti a penetrare nel suo account, utilizzandolo per inviare messaggi contenenti link malevoli ad altri membri del suo staff.

Effetti sulle discussioni pubbliche

Questo tentativo di infiltrazione non si limitava alle sole elezioni. La disinformazione diffusa dai cybercriminali mirava anche a influenzare le opinioni pubbliche su importanti questioni internazionali, rendendo l’operazione ancora più complessa e insidiosa. Le Olimpiadi e la situazione politica in Venezuela sono stati tra i temi su cui gli hacker hanno tentato di esercitare la loro influenza.

Nonostante l’ampiezza dei loro sforzi e la sofisticazione delle tecniche impiegate, i risultati finora ottenuti sono stati deludenti, rivelando la difficoltà di ottenere impegno significativo, sia da parte degli utenti sia sulla piattaforma complessiva dei social media. L’operazione, pur essendo un esempio di come le tecnologie moderne possano essere distorte, ha messo in evidenza anche la capacità di attori come OpenAI di contrastare tali minacce in tempo reale.

L’attenzione su questi fenomeni di disinformazione rimane alta in un periodo in cui la tecnologia e i social media giocano un ruolo cruciale nel modellare il dibattito pubblico e le opinioni politiche.