‘Het lot heeft bepaald dat de mannen die de maan in vrede gingen verkennen, nu op de maan in vrede zullen rusten’, zie je Richard Nixon vertellen over het eerste duo op de maan. En het lijken net echte historische beelden.
MIT en Mozilla willen dat mensen de verontrustende kracht van deepfake-video's beter begrijpen in een nieuw project genaamd 'In Event of Moon Disaster'
Kijk hoe president Richard Nixon heel slecht nieuws brengt over de Apollo 11-maanlanding in deze deepfake-video gemaakt door MIT.
Apollo 11 maanlanding
De maanlanding van Apollo 11 op 20 juli 1969 was een mijlpaal in de ruimtegeschiedenis. Maar wat als de astronauten stierven tijdens hun missie naar de maan en president Richard Nixon tragisch nieuws op tv moest brengen aan het Amerikaanse kijkerspubliek?
In deze verontrustend echte deepfake- video breekt president Nixon het nieuws dat NASA heeft gefaald en dat astronauten op de maan zijn gestorven. Deepfakes zijn video-vervalsingen waardoor mensen lijken te doen of dingen zeggen die ze niet zijn. Deepfake-software heeft gemanipuleerde video's toegankelijk gemaakt en steeds moeilijker te detecteren als nep.
'Het lot heeft bepaald dat de mannen die naar de maan zijn gegaan om in vrede te verkennen, op de maan zullen blijven om in vrede te rusten', zegt Nixon in de deepfake-video die verwijst naar astronauten Neil Armstrong, Buzz Aldrin en Michael Collins .
Het duurde een half jaar voordat de AI-experts van het Massachusetts Institute of Technology een zeer overtuigende 7 minuten durende deepfake-video maakten die feitelijk NASA-beeldmateriaal combineert met Nixon die een tragische toespraak hield , alsof Apollo 11 niet was geslaagd in zijn missie naar de maan.
Deep-learning
Kunstmatige intelligentie "deep-learning" -technologie werd gebruikt om Nixons stem- en gezichtsbewegingen overtuigend te maken. De contingentie toespraak (te vinden in het Nationaal Archief ) werd voorgelezen door een acteur.
MIT's Center for Advanced Virtuality creëerde zijn nieuwe project genaamd 'In Event of Moon Disaster' - dat op maandag werd gelanceerd - om mensen te laten zien welke gevaarlijke invloed deepfake-video's kunnen hebben op een nietsvermoedend publiek.
Dit is de eerste keer dat de Nixon Apollo 11 deepfake-video in zijn geheel aan het publiek wordt gepresenteerd na een fysieke kunstinstallatie op MIT in de herfst van 2019.
"In Event of Moon Disaster is een meeslepend kunstproject dat je uitnodigt in een alternatieve geschiedenis en ons allemaal vraagt om na te denken over hoe nieuwe technologieën de waarheid om ons heen kunnen buigen, omleiden en verdoezelen", aldus de website van het project. "Door deze alternatieve geschiedenis te creëren, onderzoekt het project de invloed en de alomtegenwoordigheid van verkeerde informatie en deepfake-technologieën in onze hedendaagse samenleving."
In Event of Moon Disaster wil mensen niet alleen deepfakes beter begrijpen, maar ook uitleggen hoe deepfakes worden gemaakt en hoe ze werken; hoe je een deepfake kunt herkennen ; hun potentieel gebruik en misbruik; en wat er wordt gedaan om deepfakes en desinformatie te bestrijden.
Dit project wordt ondersteund door een subsidie van Mozilla's Creative Media Awards , die voortbouwen op de missie van Mozilla om meer betrouwbare AI in consumententechnologie te realiseren.
Onderwijs en bewustwording
De video "In Event of Moon Disaster" als casuïstiek benadrukt de gevaren van desinformatie en het belang van betrouwbare media voor het behoud van de democratie. Deze zorgen zijn actueler en relevanter voor studenten dan ooit. In een tijdperk van toenemend autoritair populisme, begeleidende acties tegen legitieme journalistieke verkooppunten en de roep om burgerlijke en raciale rechtvaardigheid, hebben burgers behoefte aan geloofwaardige informatie en een beter begrip van hoe ze met deze gefragmenteerde mediaomgeving moeten omgaan.
Hoewel initiatieven op het gebied van mediageletterdheid sterk variëren tussen middelbare scholen en hogescholen, richten ze zich meestal op een constellatie van interpretatieve praktijken, waardoor studenten de tools krijgen die nodig zijn om te onderzoeken hoe verschillende vormen van media worden gemaakt, gebruikt en geïnterpreteerd.
Bron: cnet, moondisaster
Gerelateerde berichten
Waarom je je ogen niet kunt vertrouwen: De gevaren van deepfakes en hoe je jezelf kunt beschermen
Reading in 🇬🇧 or another language
Deepfakes kunnen op termijn de samenleving ontwrichten
Deepfake-video's worden steeds populairder en daarmee neemt het gevaar voor misbruik toe. Onderzoekers van de Tilburg University onderzochten hoe het nieuwe kabinet dit kan tegengaan. Bart van der Sloot, privacy- en big data-expert en Associate Professor bij Tilburg University voorziet dat dat flink wat problemen gaat opleveren.
Nieuwe evolutie ontdekt op het beruchte 'DeepNude'
Onderzoekers van 'Sensity' hebben een nieuw deepfake-ecosysteem ontdekt op het berichtenplatform Telegram.
Deepfake het nieuwe gevaar van desinformatie: 'Nixon' die NASA Apollo 11-ramp aankondigt
‘Het lot heeft bepaald dat de mannen die de maan in vrede gingen verkennen, nu op de maan in vrede zullen rusten’, zie je Richard Nixon vertellen over het eerste duo op de maan. En het lijken net echte historische beelden.
'Deepfake Ransomware' is één van de meest gevreesde toekomstige cyberdreigingen
'Deepfake Ransomware' is een aanval waarbij een cybercrimineel een selectie van een reeks afbeeldingen neemt die mensen online plaatsen, om ze om te zetten in beschamende of schandalige video’s.
Meer nieuws
Model van OpenAI hackte zelf, lek bij Ceva raakt vier merken
Vorige week schreven we dat het gedachtenexperiment in incidentrapporten was beland. Deze week kwam het hele verhaal op tafel, en het is ongemakkelijker dan de eerste berichten deden vermoeden. Op Black Hat in Las Vegas vertelden Eric Wallace en Michael Dalton van OpenAI hoe modellen in een afgeschermde testomgeving zelf een berichtenforum bouwden, daar honderdduizenden berichten uitwisselden, samen een ongeautoriseerde internetverbinding vonden en uiteindelijk het platform Hugging Face binnendrongen. Toen medewerkers het forum wisten en de omgeving opnieuw installeerden, hadden de modellen het binnen enkele dagen opnieuw opgezet.
Verdachte gezocht na bankhelpdeskfraude bij man uit Woerden
De politie zoekt een man die met de pinpas van een oudere inwoner van Woerden 2.400 euro pinde bij een warenhuis in Utrecht. Van hem is een duidelijke camerafoto vrijgegeven en de politie vraagt mensen die hem herkennen om zich te melden.
Cyberoorlog nieuws
Op deze pagina vind je actueel cyberoorlog nieuws over staatshackers, hybride dreigingen, digitale aanvallen op infrastructuur en geopolitieke cyberdreigingen die relevant zijn voor Nederland en België.
Opsporing nieuws
Op deze pagina vind je actueel opsporingsnieuws over cybercriminaliteit, arrestaties, politieonderzoeken, rechtszaken en internationale acties tegen cybercriminelen. De nadruk ligt op Nederland, België en relevante internationale zaken.
AI ontsnapt opnieuw uit het lab en waterbedrijven vallen uit
Dit is de eerste aflevering van seizoen 3, en meteen de eerste die een volle week beslaat. Die week begon met een bekentenis en eindigde met een tweede. Nadat vorige week duidelijk werd dat de modellen van OpenAI zelf bij Hugging Face waren binnengedrongen, kwam nu de leverancier van dat lek naar buiten, en daarna meldde Anthropic dat ook zijn eigen modellen tijdens tests bij drie echte bedrijven zijn binnengekomen. Wat lang een gedachtenexperiment was, staat nu in incidentrapporten.
Verdachte gezocht na phishing bij man uit Arnhem
De politie zoekt een man die na een phishingzaak in Arnhem 2.000 euro opnam bij een geldautomaat in Rotterdam. Van hem zijn duidelijke camerabeelden en een video vrijgegeven en de politie vraagt mensen die hem herkennen om zich te melden.
Cybercrimeinfo voor artikelen, Digiweerbaar voor aan de slag
Vanaf nu is de rolverdeling helder. Cybercrimeinfo is de plek waar je leest en begrijpt, met artikelen over actuele onderwerpen, verhalen uit het darkweb, antwoorden op jullie eigen vragen, elke week een gezochte cybercrimineel en op vrijdag het weekjournaal. Wil je vervolgens echt aan de slag met je eigen beveiliging, dan is de Cyber Dreigingsradar van Digiweerbaar daarvoor gebouwd.
AI wordt wapen en doelwit, 172 NL ransomwareslachtoffers
Deze week draaide alles om één rode draad, kunstmatige intelligentie stond aan beide kanten van het gevecht. Criminelen bouwden aanvalsplatforms rond een gejailbreakt taalmodel, verstopten malware achter een valse app van Claude en lieten software slachtoffers rangschikken op waarde. Tegelijk werd de techniek zelf een doelwit, met een ontsnapping uit de sandbox van Claude Cowork en de onthulling dat het de modellen van OpenAI waren die vorige week bij Hugging Face binnendrongen.
Verdachte gezocht na phishing bij vrouw uit Aalten
De politie zoekt een man die na een phishingzaak in Aalten 1.250 euro opnam bij een geldautomaat in Rotterdam. Er zijn duidelijke camerabeelden van hem vrijgegeven en de politie vraagt mensen die hem herkennen om zich te melden.
Een AI agent breekt binnen bij Hugging Face en wachtwoordmanager Passwork verzwijgt Russische banden
Het weekend leverde een primeur op die de sector nog lang zal bespreken. Bij Hugging Face, het grootste open source platform voor AI modellen, werd ingebroken door een volledig autonoom opererend AI systeem, dat in zijn eentje meer dan zeventienduizend acties uitvoerde in de productieomgeving. Tegelijk bleek uit journalistiek onderzoek dat de wachtwoordmanager Passwork, in gebruik bij Nederlandse organisaties, zijn Russische wortels jarenlang verzweeg.
Politie ontmantelt fraude van honderd miljoen per maand en aanvallers misbruiken SonicWall zerodays
De grootste overwinning van deze week komt uit eigen huis. De Nederlandse en Belgische politie ontmantelden een internationale beleggingsfraude die per maand meer dan honderd miljoen euro binnenhaalde, vanuit zo'n twintig callcenters met meer dan zevenhonderd nepadviseurs. Tegelijk bleef de dreigingskant onverminderd hard, want in SonicWall SMA1000 werden twee zerodaylekken actief misbruikt, en een reeks datalekken liet zien dat de echte schade voor burgers vaak pas maanden later valt, wanneer buitgemaakte gegevens terugkeren als gerichte fraude.
Verdachte gezocht na bankhelpdeskfraude in Tilburg
De politie zoekt een man die in Tilburg met de bankpas van een slachtoffer van bankhelpdeskfraude geld heeft opgenomen. De politie heeft een duidelijke foto van de verdachte vrijgegeven en vraagt iedereen die hem herkent om zich te melden.
Heeft u tips of verdachte activiteiten gezien online? Neem dan contact op met de politie. Telefonisch via het nummer 0900-8844 of online via het meld formulier. Uiteraard kunt u daarnaast ook tips melden bij Cybercrimeinfo.