De Tweede Kamer is bezorgd over de huidige ontwikkelingen op het gebied van kunstmatige intelligentie en de manier waarop ChatGPT wordt ingezet. Er bestaat angst dat deze technologische hulpmiddelen de kwaliteit van het onderwijs negatief beïnvloeden. Bovendien wordt er getwijfeld over de ethische implicaties van het gebruik van deze technologie.
Dat blijkt uit schriftelijke vragen van Hind Dekker-Abdulaziz en Paul van Meenen (beiden D66). De vragen zijn gericht aan staatssecretaris Alexandra van Huffelen (Digitalisering) en ministers Karin van Gennip (Sociale Zaken en Werkgelegenheid), Dennis Wiersma (Primair en Voortgezet Onderwijs), Robbert Dijkgraaf (Onderwijs, Cultuur en Wetenschap) en Micky Adriaansen (Economische Zaken en Klimaat).
Ontwikkeling van malware met kunstmatige intelligentie
De afgelopen paar weken hebben experts hun zorgen geuit over kunstmatige intelligentie, in het bijzonder over de chatbot ChatGPT. Cyberspecialisten waarschuwde dat cybercriminelen interesse hebben om malware te ontwikkelen via kunstmatige intelligentie.
“Op dit moment zien we dat Russische hackers al bespreken en controleren hoe ze voorbij de geofencing kunnen komen om ChatGPT te gebruiken voor hun kwaadaardige doeleinden. Wij denken dat deze hackers hoogstwaarschijnlijk proberen ChatGPT te implementeren en te testen in hun dagelijkse criminele operaties. Cybercriminelen raken steeds meer geïnteresseerd in ChatGPT, omdat de AI-technologie erachter een hacker kostenefficiënter kan maken”, aldus Check Point.
OpenAI, de ontwikkelaar van ChatGPT, ziet eveneens de gevaren in van kunstmatige technologie en applicaties als ChatGPT. In een analyse over taalmodellen kan deze technologie, in theorie althans, misbruikt worden om campagnes op te zetten die nepnieuws en desinformatie verspreiden. “Tools om teksten mee te creëren kunnen met behulp van taalmodellen berichten genereren die overtuigender overkomen en grotere impact hebben, vooral als schrijvers niet over de taalkundige of culturele kennis van hun doelgroep beschikken”, waarschuwen onderzoekers van OpenAI.
Scholieren maken huiswerk met ChatGPT
We zien nu al voorbeelden dicht bij huis waar kunstmatige intelligentie misbruikt wordt. De NOS berichtte vorige week dat scholieren de tekstgenerator ChatGPT gebruiken om hun huiswerkopdrachten te maken. Ze downloaden deze tool, voeren een opdracht in -bijvoorbeeld: schrijf een opstel van 500 woorden over de voor- en nadelen van kunstmatige intelligentie- en ChatGPT produceert een tekst. Het programma wordt tevens gebruikt om spel- en schrijffouten uit hun eigen teksten te halen.
Docenten staan machteloos tegenover ChatGPT: het programma creëert zijn eigen teksten. Bestaande software om plagiaat te detecteren kan hier niets tegen doen. Docenten vragen om een landelijke oplossing. Sommige scholen nemen maatregelen om misbruik te voorkomen. Zij laten onder meer leerlingen op school aan hun schrijfopdrachten werken. Of ze eisen dat de scholieren enkel recente bronnen gebruiken. ChatGPT kent alleen bronnen tot en met 2021.
Kansen en bedreigingen voor het onderwijs
D66 maakt zich zorgen om dergelijke ontwikkelingen. Dekker-Abdulaziz en Van Meenen hebben daarom een reeks schriftelijke vragen opgesteld voor het kabinet. Ze vragen aan de ministersploeg hoe zij denken over de recente ontwikkelingen rondom kunstmatige intelligentie en de inzet van ChatGPT door scholieren.
“Welke handvaten hebben leraren en scholen om om te gaan met kunstmatige intelligentie? Hoe voorkomen we negatieve effecten op de kwaliteit van het onderwijs? En welke stappen gaat u zetten om negatieve effecten te voorkomen en scholen te ondersteunen”, zo vragen de Tweede Kamerleden zich af. Ze willen tevens weten of de regering ook positieve kansen ziet van het gebruik van kunstmatige intelligentie in het onderwijs.
Bedrijfsleven en kunstmatige intelligentie
Verder informeren Dekker-Abdulaziz en Van Meenen welke kansen en bedreigingen het kabinet ziet voor bedrijven op het gebied van kunstmatige intelligentie. “Is de huidige inzet nog actueel in het ondersteunen van bedrijven in het gebruik van kunstmatige intelligentie voor innovatie, verduurzaming en diens productieprocessen?”, vragen zij zich af. De staatssecretaris en ministers moeten tevens tekst en uitleg geven over de kansen en bedreigingen die zij zien om kunstmatige intelligentie en applicaties als ChatGPT in te zetten voor de arbeidsmarkt.
Tot slot hebben de Kamerleden hun bedenkingen bij de bestendigheid van het Strategisch Actieplan voor Artificiële Intelligentie van het kabinet. Ze denken dat de recente ontwikkelingen aanleiding zijn om het actieplan te herzien. De Democraten vragen of de bewindslieden de vragen vóór 25 januari kunnen beantwoorden: dat vindt het Commissiedebat Kunstmatige Intelligentie plaats.
Bron: nos.nl, openai.com, tweedekamer.nl, vpngids.nl
Meer info over malware of alle begrippen en vormen van A tot Z 》
Meer actueel nieuws
Een AI agent breekt binnen bij Hugging Face en wachtwoordmanager Passwork verzwijgt Russische banden
Het weekend leverde een primeur op die de sector nog lang zal bespreken. Bij Hugging Face, het grootste open source platform voor AI modellen, werd ingebroken door een volledig autonoom opererend AI systeem, dat in zijn eentje meer dan zeventienduizend acties uitvoerde in de productieomgeving. Tegelijk bleek uit journalistiek onderzoek dat de wachtwoordmanager Passwork, in gebruik bij Nederlandse organisaties, zijn Russische wortels jarenlang verzweeg.
Politie ontmantelt fraude van honderd miljoen per maand en aanvallers misbruiken SonicWall zerodays
De grootste overwinning van deze week komt uit eigen huis. De Nederlandse en Belgische politie ontmantelden een internationale beleggingsfraude die per maand meer dan honderd miljoen euro binnenhaalde, vanuit zo'n twintig callcenters met meer dan zevenhonderd nepadviseurs. Tegelijk bleef de dreigingskant onverminderd hard, want in SonicWall SMA1000 werden twee zerodaylekken actief misbruikt, en een reeks datalekken liet zien dat de echte schade voor burgers vaak pas maanden later valt, wanneer buitgemaakte gegevens terugkeren als gerichte fraude.
Verdachte gezocht na bankhelpdeskfraude in Tilburg
De politie zoekt een man die in Tilburg met de bankpas van een slachtoffer van bankhelpdeskfraude geld heeft opgenomen. De politie heeft een duidelijke foto van de verdachte vrijgegeven en vraagt iedereen die hem herkent om zich te melden.
Rusland bespioneert Nederland via camera's en CitrixBleed 2 versnelt de ransomware
De rode draad van dit weekend loopt langs de rand van het netwerk, precies daar waar apparaten aan het internet hangen die niemand meer echt in de gaten houdt. De Nederlandse inlichtingendiensten AIVD en MIVD maakten bekend dat Russische hackers slecht beveiligde camera's langs militaire routes hebben overgenomen om troepen- en wapentransporten te volgen. Tegelijk waarschuwde beveiligingsbedrijf Huntress dat aanvallers via de kwetsbaarheid CitrixBleed 2 binnen een uur van inbraak naar een volledige ransomware-aanval gaan, en rolde er opnieuw een golf actief misbruikte lekken binnen, van Adobe ColdFusion tot een router die de fabrikant niet meer onderhoudt.
AI-assistenten worden aanvalsoppervlak en de politie zoekt de stem achter de hack bij Odido
Deze week draait het cybernieuws om een ongemakkelijke waarheid, de hulpmiddelen die ontwikkelaars sneller en slimmer maken, zijn tegelijk een nieuw doelwit, een nieuw wapen en een bron van ruis geworden. Onderzoekers van Sophos, Wiz en de Universiteit van Tel Aviv lieten in korte tijd zien hoe AI-codeerassistenten zoals Claude Code, Cursor en GitHub Copilot langs beveiliging glippen of erdoor worden gekaapt. Tegelijk rolde er een golf actief misbruikte kwetsbaarheden binnen, van Django tot Windows Defender, en meldde de Autoriteit Persoonsgegevens dat accountovernames in een jaar tijd bijna verdrievoudigden.
Verdachte gezocht na pinnen met gestolen bankpas in Tiel
De politie zoekt een man die in Tiel met de bankpas van iemand anders heeft betaald. Op beelden van bewakingscamera's is de verdachte duidelijk te zien, en de politie vraagt iedereen die hem herkent om zich te melden.