Deepfake, Intelligenza Artificiale e tecnologia contemporanea

[gladio]

Gia' c'e' poca intelligenza naturale, ce mancava quella artificiale per peggiorare le cose...

[faro]

specie se il training e' fatto sur peggio der peggio di quella naturale

[gladio]

specie se il training e' fatto sur peggio der peggio di quella naturale

Questa non l’ho capita…

[faro]

no volevo dire che se il training della AI e' fatto sui post di facebook ed instagram, diventa complicato che sia migliore di quella naturale

solo una battuta

[fiume]

Bisogna stare anche attenti alle truffe col deepfake: da mesi ne stanno facendo usando AI per replicare la voce delle persone (presa dai social, per esempio).

L'hanno fatto anche ai miei questa primavera. Hanno chiamato mio padre, fingendosi suo nipote, che aveva bisogno andasse in posta a ritirare una cosa per lui. Questo per farlo uscire di casa e lasciare mia madre da sola. Poi hanno chiamato mia madre, sempre con la voce di mio nipote, che urlava che lo stessero arrestando, che aveva bisogno di soldi altrimenti sarebbe finito in galera, e che stava arrivando qualcuno a ritirare i soldi.
Ovviamente, niente torna logicamente, ma la loro tattica è mandare nel panico le persone mentalmente meno abili e più suggestionabili, mettergli paura e fretta, non farle staccare dal telefono per chiedere aiuto o consiglio ad altri. Infatti, con mia madre aveva pure funzionato perchè ha confessato che avrebbe pagato (per fortuna non aveva accesso a soldi nè capace di ottenerne, perchè sono cose di cui si occupa mio padre), e poi mio padre a un certo punto ha capito che c'era qualcosa di strano e lo trattenevano per qualche motivo (in posta c'era perfino un tipo che l'aspettava e si era spacciato per un impiegato che voleva fargli saltare la fila, per capire quanto siano ben studiate queste truffe con parecchia gente coinvolta).

Fatto sta che mio padre si è dato un pò del rimba da solo, per aver pensato fosse la voce del nipote, e a mia madre che insisteva fosse lui anche dopo che era confermato non lo fosse...gliel'abbiamo dato noi della rimba.
In seguito, ho letto che negli USA soprattutto, ma anche nel resto del mondo, da circa un anno stanno proliferando questo tipo di frodi con cui si riproducono le voci per creare panico e rubare soldi (se ne leggono anche nelle cronache italiane adesso), ed è molto probabile che i miei siano stati effettivamente soggetti a questo tipo di truffa (c'è tanto materiale con la voce di mio nipote sul web, da cui possono aver preso, e poi basta facebook o qualche altro social per vedere i rapporti di parentela, qualche nome e chi e come colpire).

[Jean Louis Scipione]

Eh ma chi ha orchestrato sta roba forse vi conosce e anche bene eh occhio. Magari sono sempre quelli che pescano a caso che inviano sms ed e-mail a destra e a manca però bò.

[fiume]

Eh ma chi ha orchestrato sta roba forse vi conosce e anche bene eh occhio. Magari sono sempre quelli che pescano a caso che inviano sms ed e-mail a destra e a manca però bò.

Bene non credo, ma probabilmente fanno una ricerca attraverso i social (ci vuole poco a incrociare informazioni). Inoltre, qui erano coinvolte persone fisiche, ma probabilmente si andrà verso un deepfake phishing che vada sui grandi numeri (magari tutto automatizzato tramite AI) e senza persone fisiche (spinta verso pagamenti digitali).

Ci sono già altri tipi di truffa col deepfake, anche rivolti ai più giovani, con video molto brevi con personaggi molto famosi (tipo Mr Beast) che gli dicono che stanno dando via qualcosa (tipo un Iphones) per qualche dollaro/euro, o altri tipi di truffa di questo tipo.

[Jean Louis Scipione]

Ogni tanto sulla mia home di facebook compare la promo di una console che puzza di truffa lontano un miglio, e viene descritta come una console all'avanguardia con millemilla giochi già installati. Ma ciò che colpisce sono i commenti sotto di gente tutta entusiasta per la console in questione. Ma tantissimi eh. Tutti quei profili sono sicuramente fake e lo si capisce dal fatto che guarda un po' si descrivono tutti genitori. Neanche un ragazzo/a che è pratico/a di videogames. Perciò ho l'impressione che i cybertruffatori puntino su quei genitori che non capiscono nulla di videogames, però leggono i commenti di questi genitori bot, che della console si ritengono soddisfatti per i loro bambini, e quindi da ignoranti di videogames possono cascarci.

[Freddo]

Bisogna stare anche attenti alle truffe col deepfake: da mesi ne stanno facendo usando AI per replicare la voce delle persone (presa dai social, per esempio).

L'hanno fatto anche ai miei questa primavera. Hanno chiamato mio padre, fingendosi suo nipote, che aveva bisogno andasse in posta a ritirare una cosa per lui. Questo per farlo uscire di casa e lasciare mia madre da sola. Poi hanno chiamato mia madre, sempre con la voce di mio nipote, che urlava che lo stessero arrestando, che aveva bisogno di soldi altrimenti sarebbe finito in galera, e che stava arrivando qualcuno a ritirare i soldi.
Ovviamente, niente torna logicamente, ma la loro tattica è mandare nel panico le persone mentalmente meno abili e più suggestionabili, mettergli paura e fretta, non farle staccare dal telefono per chiedere aiuto o consiglio ad altri. Infatti, con mia madre aveva pure funzionato perchè ha confessato che avrebbe pagato (per fortuna non aveva accesso a soldi nè capace di ottenerne, perchè sono cose di cui si occupa mio padre), e poi mio padre a un certo punto ha capito che c'era qualcosa di strano e lo trattenevano per qualche motivo (in posta c'era perfino un tipo che l'aspettava e si era spacciato per un impiegato che voleva fargli saltare la fila, per capire quanto siano ben studiate queste truffe con parecchia gente coinvolta).

Fatto sta che mio padre si è dato un pò del rimba da solo, per aver pensato fosse la voce del nipote, e a mia madre che insisteva fosse lui anche dopo che era confermato non lo fosse...gliel'abbiamo dato noi della rimba.
In seguito, ho letto che negli USA soprattutto, ma anche nel resto del mondo, da circa un anno stanno proliferando questo tipo di frodi con cui si riproducono le voci per creare panico e rubare soldi (se ne leggono anche nelle cronache italiane adesso), ed è molto probabile che i miei siano stati effettivamente soggetti a questo tipo di truffa (c'è tanto materiale con la voce di mio nipote sul web, da cui possono aver preso, e poi basta facebook o qualche altro social per vedere i rapporti di parentela, qualche nome e chi e come colpire).

Scusa, ma come facevano ad avere il numero di tuo padre?

[fiume]

Scusa, ma come facevano ad avere il numero di tuo padre?

Non lo so: presi da facebook? So che lì il numero di telefono lo fanno mettere, e che c'è chi entra negli account (a mia madre hanno recentemente clonato il profilo). Ma non sono sicuro (non ho account facebook o di altri social classici) però se sono così organizzati e capaci di usare il deepfake vocale, trovare dei numeri di telefono non credo sia un problema.

[Jean Louis Scipione]

Su FB il numero del cell è sotto sigillo. Solo il titolare dell'account può renderlo pubblico.

[fiume]

Elezioni: protezione Microsoft e Meta contro i deepfake

https://www.punto-informatico.it/elezio ... -deepfake/

[fiume]

Foto hard deepfake di Taylor Swift su X, nuovo allarme sui rischi dell’IA

Immagini sessualmente esplicite della cantautrice - generate con l’intelligenza artificiale - sono diventate virali: una di queste sarebbe stata vista 47 milioni di volte. Il caso ha sollevato paure sui pericoli legati a un simile utilizzo di tool basati sull’IA, ed è intervenuta anche la Casa Bianca

https://tg24.sky.it/tecnologia/2024/01/ ... ft-ai-foto

[robfel3000]

Ma perché si parla di intelligenza artificiale quando è tutto meno che intelligenza artificiale,senza neanche scomodare turing non ci vuole un genio a capire che questi programmi sono tutto meno che intelligenze artificiali?
Qualcuno sa spiegarmi perché si abusa di questa parola che in relazione alla realtà dei fatti non c entra nulla?

[siamocosì]

Ma perché si parla di intelligenza artificiale quando è tutto meno che intelligenza artificiale,senza neanche scomodare turing non ci vuole un genio a capire che questi programmi sono tutto meno che intelligenze artificiali?
Qualcuno sa spiegarmi perché si abusa di questa parola che in relazione alla realtà dei fatti non c entra nulla?

Se ne parla perche alcuni, che per me non capiscono nulla, pensano che il nostro cervello non sia altro che una rete neurale e che collegando tantissimi mega computer si possa replicare un cervello. Non credo serva che ti dica che per me c'è molta più intelligsnza nel cervello della mia canetta che in chat gpt