E' allarme foto e video manipolate con l'intelligenza artificiale

Scatta l'allarme foto e video manipolate con l'intelligenza artificiale. I cosiddetti deepfake che nel mirino hanno la politica, la pornografia e la criminalità informatica. Si tratta di una piaga nell'era delle post verità che viaggia sui social media e colpisce massicciamente gli Stati Uniti, il Paese del boom dell'IA e dove lo stesso presidente Donald Trump posta fotogrammi alterati.

Lo studio

Il 46% delle minacce a livello mondiale con l'utilizzo di deepfake avviene mediante video manipolati. Quasi uno su quattro, il 24,6%, ha avuto finalità di manipolazione politica, mentre uno su cinque, il 20,1%, mira alla frode. La pornografia riguarda l'11,3% delle manipolazioni . E su questo fronte, dopo una funzione lanciata e poi cancellata da X, hanno acceso un faro diversi Paesi nel mondo, mentre l'abuso di celebrità e la satira registrano rispettivamente il 9,3% e il 3,2% di esse, "a conferma di quanto questi strumenti siano indirizzati prevalentemente alla sovversione o alterazione politica e alla monetizzazione". A tracciare il quadro è il primo 'Deepfake Intelligence Report' di IdentifAI, startup tecnologica italiana che scova foto e video generati dall'intelligenza artificiale, su un arco temporale compreso tra il 2020 e i primi mesi del 2026 che ha riguardato l'ambiente digitale mondiale.

Cosa emerge dal rapporto

Lo studio ha rilevato che i media sintetici sono stati utilizzati come armi per manipolare le narrazioni geopolitiche prendendo di mira obiettivi politici di alto profilo tra cui un leader politico israeliano (5,4%), una figura politica statunitense di spicco (3,1%) e una serie di entità statali mediorientali (1,4%). Gli Stati Uniti con il 46,9% degli incidenti globali sono il paese più colpito, seguono il Regno Unito è secondo con l'8,2%, l'India (7,2%) e Israele (6,6%). Altre regioni degne di nota includono Iran (2,9%), Corea del Sud (2,1%) e Australia (1,8%).

La capacità di ingannare l'essere umano

"La sofisticazione tecnica delle operazioni dei media sintetici è maturata passando dalla capacità di ingannare gli esseri umani alla manipolazione algoritmica progettata per superare soglie di verifica avanzate", spiega il rapporto.

I metodi

Gli attacchi deepfake avvengono con video (45,6%), media misti (25,2%), immagini (17,4%) e clonazione vocale (10,5%). L'analisi avverte che la sofisticazione delle tecniche multimodali, compreso il bypass biometrico, aumenterà nei prossimi 12 mesi. I social media fungono da principale motore di distribuzione dei deepfake: X rappresenta il 51,2% della propagazione degli incidenti seguita da TikTok con il 21,1%. YouTube e Facebook rappresentano rispettivamente il 10,0% e l'8,2% della distribuzione. quindi Instagram (5,0%), Telegram (1,4%) e WhatsApp (1,1%).