Deepfake-pornobilleder er nu gjort ulovlige i amerikansk stat

Hvad med "håndlavede" fakes, primært af kendte? Hvad med tegninger? Disney prinsesserne var vel nærmest de første ofre for fakes.

Det bliver også tit brugt herhjemme med tegninger af nøgne politikere og andre offentlige personer.

Alt sammen kan vel gå under satire?

Zalon (1) skrev:

Hvad med "håndlavede" fakes, primært af kendte? Hvad med tegninger? Disney prinsesserne var vel nærmest de første ofre for fakes.

Det bliver også tit brugt herhjemme med tegninger af nøgne politikere og andre offentlige personer.

Alt sammen kan vel gå under satire?

Fra kilden:

The new bill updated the law by adding a category of "falsely created videographic or still image" to the text.

...

Men hvad "Deepfakes" præcis omfatter er jeg ikke klar over.

Deepfakes er, i min verden, billeder og video genereret af
neurale netværk - men det er ikke sikkert, at myndighederne mener det samme.

Zalon (1) skrev:

Hvad med "håndlavede" fakes, primært af kendte? Hvad med tegninger? Disney prinsesserne var vel nærmest de første ofre for fakes.

Det bliver også tit brugt herhjemme med tegninger af nøgne politikere og andre offentlige personer.

Alt sammen kan vel gå under satire?

Jeg formoder det som problemet her er, er når det som nævnt bruges som "revenge porn". Altså at man prøver rent faktisk at forfalske en video med en rigtig person. At bruge tegnefilms figurer tvivler jeg på nogen gider lave en retssag ud af... selvom det da nu nok er sket.

Som satire er det jo netop en del af det at det er tydeligt at det ikke rent faktisk er en video eller et billede af denne person nøgen. Deep fakes gør det muligt at rent faktisk skabe en overbevisende video eller et billede som kunne bruges til at virkelig give problemer for en person.

Der er historier om forhold der endte i at den ene part lagde private sex videoer ud på nettet. Videoer som så ikke er til at slippe af med igen, da de jo nu er online, og den slags videoer kan så blive delt igen og igen mellem forskellige porno sider. Jeg tror endda folk tjener penge på at gøre det.

Så i nogle tilfælde har de været nød til at betale flere tusind kroner, over 10k, for at få folk til at "scrubbe" nettet for denne slags videoer.

Så forestil dig at videoerne så rent faktisk derudover også er falske? Man ville kunne tage en person og få det til at se ud som om at personen er en porno stjerne og potentielt ødelægger personens karriere.

Deep fakes burde referer til at det er "deep learning" som er brugt til at lave algoritmer som så kan lave meget realistiske falske videoer hvor man får det f.ex. til at se ud som om at en præsident har holdt en tale hvor det var en helt anden person, og talen havde noget helt andet indhold.

Man kan forfalske både ansigt og stemme nu og få munden til at passe med de ord man indsætter. Så... der er ret mange muligheder for hvad der kan gøres med dette, og det er ikke længere nemt at se hvis noget er en deep fake.

Zalon (1) skrev:

Hvad med "håndlavede" fakes, primært af kendte? Hvad med tegninger? Disney prinsesserne var vel nærmest de første ofre for fakes.

Det bliver også tit brugt herhjemme med tegninger af nøgne politikere og andre offentlige personer.

Alt sammen kan vel gå under satire?

jeg tror ikke et fake nude tegneserie billede betragtes som deep fake eller generelt andet end en tegning

kblood (5) skrev:

Det som absolut bekymrer mig mest er hvor meget magt den her form for video manipulering kan give korrupte politikere. De vil kunne undskylde ethver fejl de laver hvor de kommer til at udtale sig om ting de glemmer de ikke må afsløre om sig selv og de vil kunne producere smædematerialer om deres modstandere..

Alt i alt får vi snart et samfund hvor det bliver mere og mere umuligt for sandheden at komme frem! Det er ikke bare uhyggeligt det kommer til at betyde at vores demokrati bliver væltet på et tidspunkt af en som får løjet sig til så meget magt at denne kan få indørt diktatur!

Qw_freak (7) skrev:

kblood (5) skrev:

Det som absolut bekymrer mig mest er hvor meget magt den her form for video manipulering kan give korrupte politikere. De vil kunne undskylde ethver fejl de laver hvor de kommer til at udtale sig om ting de glemmer de ikke må afsløre om sig selv og de vil kunne producere smædematerialer om deres modstandere..

Alt i alt får vi snart et samfund hvor det bliver mere og mere umuligt for sandheden at komme frem! Det er ikke bare uhyggeligt det kommer til at betyde at vores demokrati bliver væltet på et tidspunkt af en som får løjet sig til så meget magt at denne kan få indørt diktatur!

Ja. Jeg kan se din pointe. Men jeg tror aldrig det vil komme til at ske, for det vil de allierede kunne se og forstå, og hjælpe med at bekæmpe det, hvis det skulle ske en dag. Hvem der enten kunne finde på den slags, ville få hele NATO og FN på nakken. Prøv lige at forestille dig, hvad der så sker. Jeg tror banditterne vil blive frosset ude at verdensøkonomien. Og det er bare worst bad-ass scenario for et land hvis det sker :)

#7 Det er nu lidt risky for en politiker at påstå at en fortalelse er en deepfake. Mon ikke der var andre til stede og måske også andre kameravinkler. Hvis han/hun bliver taget i bluffet er AL troværdighed tabt.

Vi har lært at leve med foto manipulation, og nu må vi så lære at leve med video manipulation. Man har kunne manipulere dokumenter og underskrifter i århundreder. Sådan er verden bare.

Men, mon ikke der kommer nogle tools der kan detekte deepfakery.

Spooky tankegang: "Hvor finder jeg denne app, så jeg kan lege lidt med naboens datters billeder hun har liggende på hendes Facebook side?"

Jeg har en datter, og jeg syntes at det er spooky at denne teknologi faktisk eksisterer nu. Det er bare et spørgsmål om at det kommer i hænderne på en teenagedreng med lidt for få brikker at flytte rundt på, eller at den havner hos en pædofil.

Ufomekaniker (8) skrev:

Ja. Jeg kan se din pointe. Men jeg tror aldrig det vil komme til at ske, for det vil de allierede kunne se og forstå

De allierede?

Tro mig Europæiske og amerkanske politikere kommer ikke til at stå tilbage for brugen af teknologien på den måde sålænge den tjener deres dagsorden! Se bare hvordan højreorienteret propaganda har fyldt i medierne i europa de sidste par år, hvad skulle dog holde dem tilbage fra at benytte teknolgi som denne til at skabe yderligere opbakning som de har gjort med falske nyheder?

Jeg tror nu ikke det bliver noget større problem politisk. Videoer har kilder, og hvis en kilde mangler så får det svært ved at slå igennem. Der kommer da måske nogle forsøg på det, men generelt set så skal en politisk tale jo netop gerne kunne linkes til hvor den blev holdt og sådan, og så burde man kunne finde den tale og sammenligne. Så tror ikke politikere vil prøve at lyve sig fra at have sagt noget forkert (medmindre man tæller Trump når han benægter noget han sagde kun 10 minutter tidligere), ved at påstå at det var deep fakes.

Det kan jo godt være at man vil bruge det som smæde kampagne. Nu er det ikke fordi jeg er fan af Hillary Clinton, men har nu hørt en del rygter om at mange af de ting der kom frem under valgkampagnen for 4 år siden, var en smæde kampagne mod Hillary. De mails var da rigtige nok, men der var en del rygter der blev sat i gang og en del "nyheds" sider der blev lavet som var anti-Hillary og pro-Trump. Det blev spredt på sociale medier med bots og jeg mener endda nogen af dem der var ansat til at hjælpe Trumps kampagne havde indrømmet at de gjorde den slags.

https://spectrum.ieee.org/computing/software/how-p...

I det Amerikanske valg i år kan det så godt være man tager deep fakes til sig også og prøver at lave ting som f.ex. da der var Trump optagelsen med "grab them in the pussy", men hvor at det så netop aldrig var noget personen havde sagt, noget som ikke var en del af en politisk tale. F.eks. kunne det være Hillary som indrømmede at hun forsvarede en person som hun vidste havde begået voldtægt og hjalp ham med at undgå straf, eller noget hvor hun måske snakkede om at være med i en pædofili ring.

Den slags er jeg helt sikker på at en ret stor gruppe af personer på nettet vil sluge råt og ikke stille spørgsmål ved, "for alle tegnene var der jo". De tror allerede på det, og sådan en video / stemme optagelse ville de ikke engang betvivle.

Men med det sagt, tror jeg nu stadigt at det største problem med deep fakes ville være personlig hetz mellem private personer. Måske teenage piger eller eks-kærester der vil have hævn og laver deep fake porno videoer med en eller anden de ikke kan li.

Der skal desværre nok nogle retssager til før den slags bliver stoppet. Og selv derefter vil det nok stadigt ske.

#12

Det scenarie du beskriver til sidst er netop det problem jeg er bange for udgør en af de størrere udfordringer for demokratiet. Demokratiet er netop stærkt fordi vælgerne kan bestemme hvem der kommer ind på baggrunde af kandidaternes holdninger. Men nu, og nok værrere i fremtiden, kan teknologien i endnu større grad bruges til vildledelse af vælgerner.

Selvom vi gerne ser os selv som værende kritiske individuaistiske tænkere, så æder vi typisk råt information der kommer fra kilder vi tror er pålidelige og personer som vi sympatiserer med.
https://www.apa.org/monitor/2017/05/alternative-fa...

Med den ovennævnte teknologi bliver det nemmere og nemmer for ondsindede at vildlede masserne til at overgive magten til de forkerte!

#13
Det er klart et stort problem som jeg tror vores kultur omkring kropsidealer og selvopfattelse vil begynde at dreje i en retning hvor det bliver mindre og mindre betydningsfuldt at der findes tilgængeligt billed materiale hvor man er afklædt.

#14 Forhåbentlig, men det lyder nu til stadigt at være et problem. Der er jo en grund til at der er personer som er nød til at betale flere tusind kroner for at få deres "historie" på nettet slettet for at få en mulighed for at normalt liv.

Men ja... Google har leaket en video om hvordan man kan manipulere folks mening og humør ved at styre hvad de ser på nettet. Selfish Ledger.


Det virker til at det nok ikke kun er Google der har tænkt den tanke, og der er ret rig mulighed for at gøre dette disse dage med services som Facebook, Adwords og sociale medier generelt.