Deepfake het nieuwe gevaar van desinformatie: 'Nixon' die NASA Apollo 11-ramp aankondigt

Gepubliceerd op 22 juli 2020 om 16:34
Deepfake het nieuwe gevaar van desinformatie: 'Nixon' die NASA Apollo 11-ramp aankondigt

‘Het lot heeft bepaald dat de mannen die de maan in vrede gingen verkennen, nu op de maan in vrede zullen rusten’, zie je Richard Nixon vertellen over het eerste duo op de maan. En het lijken net echte historische beelden.

MIT en Mozilla willen dat mensen de verontrustende kracht van deepfake-video's beter begrijpen in een nieuw project genaamd 'In Event of Moon Disaster'

Kijk hoe president Richard Nixon heel slecht nieuws brengt over de Apollo 11-maanlanding in deze deepfake-video gemaakt door MIT. 

Apollo 11 maanlanding

De maanlanding van Apollo 11 op 20 juli 1969 was een mijlpaal in de ruimtegeschiedenis. Maar wat als de astronauten stierven tijdens hun missie naar de maan en president Richard Nixon tragisch nieuws op tv moest brengen aan het Amerikaanse kijkerspubliek?

In deze verontrustend echte deepfake- video breekt president Nixon het nieuws dat NASA heeft gefaald en dat astronauten op de maan zijn gestorven. Deepfakes zijn video-vervalsingen waardoor mensen lijken te doen of dingen zeggen die ze niet zijn. Deepfake-software heeft gemanipuleerde video's toegankelijk gemaakt en steeds moeilijker te detecteren als nep.

'Het lot heeft bepaald dat de mannen die naar de maan zijn gegaan om in vrede te verkennen, op de maan zullen blijven om in vrede te rusten', zegt Nixon in de deepfake-video die verwijst naar astronauten Neil Armstrong, Buzz Aldrin en Michael Collins .

Het duurde een half jaar voordat de AI-experts van het Massachusetts Institute of Technology een zeer overtuigende  7 minuten durende deepfake-video maakten  die feitelijk NASA-beeldmateriaal combineert  met Nixon die een tragische toespraak hield , alsof Apollo 11 niet was geslaagd in zijn missie naar de maan.

Deep-learning

Kunstmatige intelligentie "deep-learning" -technologie werd gebruikt om Nixons stem- en gezichtsbewegingen overtuigend te maken. De contingentie toespraak (te vinden in het  Nationaal Archief ) werd voorgelezen door een acteur. 

MIT's Center for Advanced Virtuality creëerde zijn nieuwe project genaamd 'In Event of Moon Disaster' - dat op maandag werd gelanceerd - om mensen te laten zien welke gevaarlijke invloed deepfake-video's kunnen hebben op een nietsvermoedend publiek. 

Dit is de eerste keer dat de Nixon Apollo 11 deepfake-video in zijn geheel aan het publiek wordt gepresenteerd na een fysieke kunstinstallatie op MIT in de herfst van 2019. 

"In Event of Moon Disaster is een meeslepend kunstproject dat je uitnodigt in een alternatieve geschiedenis en ons allemaal vraagt ​​om na te denken over hoe nieuwe technologieën de waarheid om ons heen kunnen buigen, omleiden en verdoezelen", aldus de website van het project. "Door deze alternatieve geschiedenis te creëren, onderzoekt het project de invloed en de alomtegenwoordigheid van verkeerde informatie en deepfake-technologieën in onze hedendaagse samenleving."

In Event of Moon Disaster wil mensen niet alleen deepfakes beter begrijpen, maar ook uitleggen hoe deepfakes worden gemaakt en hoe ze werken; hoe je een deepfake kunt herkennen ; hun potentieel gebruik en misbruik; en wat er wordt gedaan om deepfakes en desinformatie te bestrijden. 

Dit project wordt ondersteund door een subsidie ​​van Mozilla's Creative Media Awards , die voortbouwen op de missie van Mozilla om meer betrouwbare AI in consumententechnologie te realiseren. 

Rn 100 6 1 2
PDF – 131,7 KB 373 downloads

De contingentie toespraak Nationaal Archief

Onderwijs en bewustwording

De video "In Event of Moon Disaster" als casuïstiek benadrukt de gevaren van desinformatie en het belang van betrouwbare media voor het behoud van de democratie. Deze zorgen zijn actueler en relevanter voor studenten dan ooit. In een tijdperk van toenemend autoritair populisme, begeleidende acties tegen legitieme journalistieke verkooppunten en de roep om burgerlijke en raciale rechtvaardigheid, hebben burgers behoefte aan geloofwaardige informatie en een beter begrip van hoe ze met deze gefragmenteerde mediaomgeving moeten omgaan.

Hoewel initiatieven op het gebied van mediageletterdheid sterk variëren tussen middelbare scholen en hogescholen, richten ze zich meestal op een constellatie van interpretatieve praktijken, waardoor studenten de tools krijgen die nodig zijn om te onderzoeken hoe verschillende vormen van media worden gemaakt, gebruikt en geïnterpreteerd.

Onderwijsstof Ter Bewustwording Van Gemanipuleerde Media
PDF – 637,9 KB 371 downloads

Bron: cnet, moondisaster

Gerelateerde berichten

Deepfakes kunnen op termijn de samenleving ontwrichten

Deepfake-video's worden steeds populairder en daarmee neemt het gevaar voor misbruik toe. Onderzoekers van de Tilburg University onderzochten hoe het nieuwe kabinet dit kan tegengaan. Bart van der Sloot, privacy- en big data-expert en Associate Professor bij Tilburg University voorziet dat dat flink wat problemen gaat opleveren.

Lees meer »

Meer nieuws

Aanhouding maker en verkoper van 'Phishing panel'

Onder leiding van de Haagse cybercrime officier van justitie heeft het cybercrimeteam van de politie eenheid Den Haag een 19-jarige man aangehouden die ervan verdacht wordt tientallen zogenoemde 'phishing panels' te hebben gemaakt en verkocht. Met de panels kunnen anderen (criminele organisaties) phishing websites opzetten. Het is voor zover bekend de eerste keer dat een bouwer van dergelijke panels in Nederland is aangehouden.

Lees meer »

De slagkracht van een botnetwerk

Als je aan cyberaanvallen denkt, stel je waarschijnlijk een hacker met een capuchon voor die in een donkere kamer zit en drukdoende op zijn toetsenbord aan het typen is. Echter dit is niet altijd de realiteit van de meeste cyberaanvallen. Vele cyberaanvallen zijn inmiddels geautomatiseerd met behulp van voorgeprogrammeerde bots. Deze bots kunnen veelvoorkomende cyberaanvallen sneller en op veel grotere schaal uitvoeren dan menselijke hackers en ze zijn bovendien ook moeilijker te detecteren zijn.

Lees meer »

"Aanvallen op werken op afstand nemen toe"

Cybersecurity onderzoekers hebben deze week het 'Threat Report over Q3 2020' uitgebracht. In dit rapport worden de belangrijkste statistieken van detectiesystemen samengevat en worden opmerkelijke voorbeelden van cyber security onderzoek uitgelicht. Het rapport en de bevindingen werden gepresenteerd tijdens het virtuele evenement 'ESET European Cyber Security Day - Towards a Secure Post-COVID Future'.

Lees meer »

Diverse WhatsApp-accounts van politici overgenomen

Criminelen zijn erin geslaagd om de WhatsApp-accounts van diverse ambtenaren die werkzaam zijn voor de gemeente Den Bosch over te nemen. Via het platform probeerden ze geld afhandig te maken van nietsvermoedende slachtoffers. Volgens de politie en het Openbaar Ministerie is burgemeesters, wethouders, raadsleden en mensen van veiligheidsregio’s uit andere delen van het land hetzelfde overkomen.

Lees meer »

"Ambtenaren gebruiken meer dan veertig applicaties voor videoconferencing"

De Algemene Rekenkamer onderzocht tussen juli en oktober 2020 welke communicatiemiddelen ambtenaren, ministers, staatssecretarissen en andere hooggeplaatste overheidsmedewerkers gebruiken nu ze noodgedwongen thuis zitten. Uit deze inventarisatie blijkt dat er geen uniforme afspraken zijn over de wijze waarop ze op een veilige en verantwoorde manier met elkaar kunnen communiceren. Dat brengt risico’s met zich op het gebied van informatiebeveiliging, privacy en adequate archivering van informatie.

Lees meer »

Burgers en bedrijven digiweerbaar met de City Deal

Van digitale wijkambassadeurs tot een lokale helpdesk die wordt bemand door IT-studenten. In de 'City Deal Lokale Weerbaarheid Cybercrime' gaan 8 steden, 3 ministeries, veiligheidsorganisaties en kennisinstellingen samen aan de slag om de cyberweerbaarheid te verhogen onder burgers en bedrijven. Met de ondertekening van de City Deal op 28 oktober 2020 gaat de 'City Deal Lokale Weerbaarheid Cybercrime' van start.

Lees meer »

Cybercrime nieuwsbrief 130 (week 44-2020)

Nieuwe vormen van phishing, aanvallen op ziekenhuizen en hoe snapchat misbruikt wordt door oplichters. Dit en meer lees je in nieuwsbrief 130. Nog niet ingeschreven voor deze gratis nieuwsbrief over cybercrime en darkweb? Schrijf je dan hier in.

Lees meer »

Tweestapsverificatie vingerafdruk te koop met e-mailadressen en wachtwoorden

"Beveiliging op het internet is een eindeloos kat-en-muisspel. Terwijl beveiligingsspecialisten voortdurend nieuwe manieren bedenken om onze digitale gegevens te beschermen, verzinnen cybercriminelen nieuwe sluwe manieren om die verdediging te omzeilen. Onderzoekers van de TU/e hebben nu bewijs gevonden van een geavanceerde Russische online marktplaats die honderdduizenden zeer gedetailleerde gebruikersprofielen verhandelt. Deze 'fingerprints' stellen criminelen in staat om ultramoderne tweestapsverificatie te omzeilen, waardoor ze toegang krijgen tot waardevolle gebruikersinformatie, zoals creditcardgegevens." aldus de TU/e

Lees meer »

Heeft u tips of verdachte activiteiten gezien online? Neem dan contact op met de politie. Telefonisch via het nummer 0900-8844 of online via het meld formulier. Uiteraard kunt u daarnaast ook tips melden bij Cybercrimeinfo.