‘Het lot heeft bepaald dat de mannen die de maan in vrede gingen verkennen, nu op de maan in vrede zullen rusten’, zie je Richard Nixon vertellen over het eerste duo op de maan. En het lijken net echte historische beelden.
MIT en Mozilla willen dat mensen de verontrustende kracht van deepfake-video's beter begrijpen in een nieuw project genaamd 'In Event of Moon Disaster'
Kijk hoe president Richard Nixon heel slecht nieuws brengt over de Apollo 11-maanlanding in deze deepfake-video gemaakt door MIT.
Apollo 11 maanlanding
De maanlanding van Apollo 11 op 20 juli 1969 was een mijlpaal in de ruimtegeschiedenis. Maar wat als de astronauten stierven tijdens hun missie naar de maan en president Richard Nixon tragisch nieuws op tv moest brengen aan het Amerikaanse kijkerspubliek?
In deze verontrustend echte deepfake- video breekt president Nixon het nieuws dat NASA heeft gefaald en dat astronauten op de maan zijn gestorven. Deepfakes zijn video-vervalsingen waardoor mensen lijken te doen of dingen zeggen die ze niet zijn. Deepfake-software heeft gemanipuleerde video's toegankelijk gemaakt en steeds moeilijker te detecteren als nep.
'Het lot heeft bepaald dat de mannen die naar de maan zijn gegaan om in vrede te verkennen, op de maan zullen blijven om in vrede te rusten', zegt Nixon in de deepfake-video die verwijst naar astronauten Neil Armstrong, Buzz Aldrin en Michael Collins .
Het duurde een half jaar voordat de AI-experts van het Massachusetts Institute of Technology een zeer overtuigende 7 minuten durende deepfake-video maakten die feitelijk NASA-beeldmateriaal combineert met Nixon die een tragische toespraak hield , alsof Apollo 11 niet was geslaagd in zijn missie naar de maan.
Deep-learning
Kunstmatige intelligentie "deep-learning" -technologie werd gebruikt om Nixons stem- en gezichtsbewegingen overtuigend te maken. De contingentie toespraak (te vinden in het Nationaal Archief ) werd voorgelezen door een acteur.
MIT's Center for Advanced Virtuality creëerde zijn nieuwe project genaamd 'In Event of Moon Disaster' - dat op maandag werd gelanceerd - om mensen te laten zien welke gevaarlijke invloed deepfake-video's kunnen hebben op een nietsvermoedend publiek.
Dit is de eerste keer dat de Nixon Apollo 11 deepfake-video in zijn geheel aan het publiek wordt gepresenteerd na een fysieke kunstinstallatie op MIT in de herfst van 2019.
"In Event of Moon Disaster is een meeslepend kunstproject dat je uitnodigt in een alternatieve geschiedenis en ons allemaal vraagt om na te denken over hoe nieuwe technologieën de waarheid om ons heen kunnen buigen, omleiden en verdoezelen", aldus de website van het project. "Door deze alternatieve geschiedenis te creëren, onderzoekt het project de invloed en de alomtegenwoordigheid van verkeerde informatie en deepfake-technologieën in onze hedendaagse samenleving."
In Event of Moon Disaster wil mensen niet alleen deepfakes beter begrijpen, maar ook uitleggen hoe deepfakes worden gemaakt en hoe ze werken; hoe je een deepfake kunt herkennen ; hun potentieel gebruik en misbruik; en wat er wordt gedaan om deepfakes en desinformatie te bestrijden.
Dit project wordt ondersteund door een subsidie van Mozilla's Creative Media Awards , die voortbouwen op de missie van Mozilla om meer betrouwbare AI in consumententechnologie te realiseren.
Onderwijs en bewustwording
De video "In Event of Moon Disaster" als casuïstiek benadrukt de gevaren van desinformatie en het belang van betrouwbare media voor het behoud van de democratie. Deze zorgen zijn actueler en relevanter voor studenten dan ooit. In een tijdperk van toenemend autoritair populisme, begeleidende acties tegen legitieme journalistieke verkooppunten en de roep om burgerlijke en raciale rechtvaardigheid, hebben burgers behoefte aan geloofwaardige informatie en een beter begrip van hoe ze met deze gefragmenteerde mediaomgeving moeten omgaan.
Hoewel initiatieven op het gebied van mediageletterdheid sterk variëren tussen middelbare scholen en hogescholen, richten ze zich meestal op een constellatie van interpretatieve praktijken, waardoor studenten de tools krijgen die nodig zijn om te onderzoeken hoe verschillende vormen van media worden gemaakt, gebruikt en geïnterpreteerd.
Bron: cnet, moondisaster
Gerelateerde berichten
Deepfakes kunnen op termijn de samenleving ontwrichten
Deepfake-video's worden steeds populairder en daarmee neemt het gevaar voor misbruik toe. Onderzoekers van de Tilburg University onderzochten hoe het nieuwe kabinet dit kan tegengaan. Bart van der Sloot, privacy- en big data-expert en Associate Professor bij Tilburg University voorziet dat dat flink wat problemen gaat opleveren.
Nieuwe evolutie ontdekt op het beruchte 'DeepNude'
Onderzoekers van 'Sensity' hebben een nieuw deepfake-ecosysteem ontdekt op het berichtenplatform Telegram.
Deepfake het nieuwe gevaar van desinformatie: 'Nixon' die NASA Apollo 11-ramp aankondigt
‘Het lot heeft bepaald dat de mannen die de maan in vrede gingen verkennen, nu op de maan in vrede zullen rusten’, zie je Richard Nixon vertellen over het eerste duo op de maan. En het lijken net echte historische beelden.
'Deepfake Ransomware' is één van de meest gevreesde toekomstige cyberdreigingen
'Deepfake Ransomware' is een aanval waarbij een cybercrimineel een selectie van een reeks afbeeldingen neemt die mensen online plaatsen, om ze om te zetten in beschamende of schandalige video’s.
Meer nieuws
Celstraf van drie jaar geëist tegen 35-jarige cybercrimineel ‘Han Solo’
Het Openbaar Ministerie (OM) heeft tegen een 35-jarige man uit Heerenveen een gevangenisstraf van 3 jaar geëist en het terugbetalen van het wederrechtelijk voordeel van €318.050,63. Hem wordt verweten dat hij door het handelen in digitale lijsten met persoonsgegevens, zogenaamde leads, een grote bijdrage heeft geleverd aan bankhelpdeskfraude met mogelijke vele gedupeerden wereldwijd.
Overzicht cyberaanvallen week 19-2022
Ransomware treft ziekenhuizen in provincie Luxemburg te Belgie, digitale televisiegidsen van Russische tv-aanbieders werden maandagochtend gehackt en geen diplomatieke reactie na cyberaanval op Nederlandse olieterminals. Hier het overzicht van afgelopen week en het nieuws van dag tot dag.
Cybercrime nieuwsbrief 209 week 19-2022
Is de ‘NewProfilePic-app’ Russische malware, hoe werkt de Apple, Google en Samsung Pay oplichtingstruc en Costa Rica, eerste land dat de noodtoestand afroept als gevolg van een cyberaanval. Dit en meer lees je in nieuwsbrief 209.
Digiweerbaar met de Cyber Sessies: Aflevering 5 'Digitaal ben je zo veilig als de zwakste schakel'
Zelf kun je je bedrijf nog zo goed tegen cybercriminelen hebben beveiligd, maar wat als een belangrijke toeleverancier wordt gehackt? In deze aflevering van Cyber Sessies draait het om hoe om te gaan met aanvallen in de leveranciersketen. Presentator Remy Gieling spreekt hierover met drie kopstukken uit de wereld van digitale veiligheid; Frank Groenewegen (partner Cyber Risk Deloitte), Erno Doorenspleet (vice president CTO KPN Security) en Daan Keuper (security researcher Computest).
Is de ‘NewProfilePic-app’ Russische malware?
De app 'New Profile Pic' staat zowel in de Apple App Store als in de Google Play Store op nummer één in de ranglijst van de populairste, meest gedownloade apps. Daarmee is de app momenteel dus populairder dan apps als Instagram, TikTok, Snapchat, YouTube en Messenger. Maar om deze app is momenteel het één en ander te doen: zo gaat het gerucht dat de app in werkelijkheid malware bevat van Russische makelij, dat gebruikers van de app slachtoffer worden van oplichting én dat de app data doorsluist naar het Kremlin. Hoe zit dat? In dit artikel leggen we het uit.
Drie verdachten aangehouden in onderzoek naar grootschalige bankhelpdeskfraude
Na maandenlang onderzoek heeft het basisteam Veluwe Vallei-Zuid op woensdag 11 mei drie verdachten aangehouden op verdenking van betrokkenheid bij veertien zaken van bankhelpdeskfraude door het hele land. De slachtoffers, allen op hoge leeftijd, is hierdoor grote financiële schade toegebracht.
Costa Rica, eerste land dat de noodtoestand afroept als gevolg van een cyberaanval
Costa Rica roept noodtoestand uit na cyberaanval, het eerste land dat de noodtoestand afroept als gevolg van een cyberaanval.
“Deze onaanvaardbare cyberaanval is het zoveelste voorbeeld van het aanhoudende patroon van onverantwoordelijk gedrag van Rusland in cyberspace”
De Europese Unie beschuldigt Rusland ervan “kwaadaardige cyberactiviteiten” tegen Oekraïne te hebben uitgevoerd. Eén specifieke aanval, die tegen het satellietnetwerk KA-SAT, wordt scherp veroordeeld. De lidstaten beraden zich om verdere stappen te nemen om Rusland een halt toe te roepen. Dat staat in een persverklaring van de Europese Raad, waar de regeringsleiders van alle 27 EU-landen zitting in hebben.
Hoe werkt de Apple, Google en Samsung Pay oplichtingstruc?
Oplichting via Apple Pay? Het kan! Criminelen zijn er namelijk in geslaagd om creditcardfraude via Apples betaaldienst te plegen. Ook Google Pay en Samsung Pay zijn kwetsbaar. De truc werkt via malware en vooralsnog zijn er geen Nederlandse slachtoffers bekend.
Overzicht cyberaanvallen week 18-2022
Schoonmaakbedrijf CWS getroffen door cyberaanval, populaire ransomware door middel van kwetsbaarheid uit te schakelen en forse premiestijging cyberverzekeringen door ransomware-aanvallen. Hier het overzicht van afgelopen week en het nieuws van dag tot dag.
Cybercrime nieuwsbrief 208 week 18-2022
Spoofcalls en robocalls vaak gebruikte ingrediënten bij cybercriminelen, hoe Instagram cybercriminelen met "gijzelvideo's" je contacten oplichten en CIA vraagt pro-westerse Russen om contact te zoeken via het darkweb. Dit en meer lees je in nieuwsbrief 208.
Digiweerbaar met de Cyber Sessies: Aflevering 4 'Het is niet de vraag óf, maar wanneer cyberaanvallen plaatsvinden'
Cyberaanvallen kosten de economie ruim €10 miljard per jaar en dit bedrag zal alleen maar stijgen naarmate meer en meer bedrijven dagelijks slachtoffer van online criminelen worden. In deze vierde aflevering wordt onze digitale veiligheid door de ogen van de politiek besproken. Presentator Remy Gieling spreekt met drie kopstukken uit de wereld van online veiligheid; Queeny Rajkowski (Kamerlid VVD), Inge Bryan (directeur FOX-IT) en Harm Teunis (tech-verslaggever RTL Z).
Heeft u tips of verdachte activiteiten gezien online? Neem dan contact op met de politie. Telefonisch via het nummer 0900-8844 of online via het meld formulier. Uiteraard kunt u daarnaast ook tips melden bij Cybercrimeinfo.