AI-detectoren, ook wel AI-schrijf- of AI-inhouddetectoren genoemd, dienen om te identificeren of een tekst geheel of gedeeltelijk is samengesteld door kunstmatige intelligentietools zoals ChatGPT.
Deze detectoren zijn handig voor het identificeren van gevallen waarin een geschreven stuk waarschijnlijk door AI is gemaakt. Toepassing is gunstig op de volgende manieren:
- Authenticatie van werk van leerlingen. Docenten kunnen het gebruiken om de authenticiteit van de originele opdrachten en schrijfprojecten van studenten te valideren.
- Valse productrecensies tegengaan. Moderators kunnen het gebruiken om beoordelingen van namaakproducten te identificeren en aan te pakken die tot doel hebben de perceptie van de consument te manipuleren.
- Spaminhoud aanpakken. Het helpt bij het opsporen en verwijderen van verschillende vormen van spamachtige inhoud die de kwaliteit en geloofwaardigheid van onlineplatforms kunnen verstoren.
Deze tools zijn nog nieuw en worden getest, dus we weten niet helemaal zeker hoe betrouwbaar ze op dit moment zijn. In de volgende paragrafen gaan we dieper in op hun werking, controleren we hoe betrouwbaar ze zijn en onderzoeken we een reeks praktische toepassingen die ze bieden.
| Onderwijsinstellingen, waaronder universiteiten, zijn bezig met het formuleren van hun standpunten over het juiste gebruik van ChatGPT en vergelijkbare tools. Het is essentieel om de richtlijnen van uw instelling voorrang te geven boven elk advies dat u online tegenkomt. |
Hoe werken AI-detectoren?
AI-detectoren gebruiken meestal taalmodellen die lijken op die in AI-schrijftools die ze proberen te vinden. Kortom, het taalmodel kijkt naar de invoer en vraagt: "Ziet dit eruit als iets dat ik misschien heb gemaakt?" Als er ja staat, vermoedt het model dat de tekst waarschijnlijk door AI is gemaakt.
Deze modellen zoeken in het bijzonder naar twee kenmerken binnen een tekst: 'perplexiteit' en 'uitbarsting'. Wanneer deze twee aspecten lager zijn, is de kans groter dat de tekst is gegenereerd door AI.
Maar wat betekenen deze ongebruikelijke termen precies?
verwarring
Verbijstering is een belangrijke maatstaf die wordt gebruikt om de vaardigheid van taalmodellen te beoordelen. Het verwijst naar hoe goed het model het volgende woord in een reeks woorden kan voorspellen.
AI-taalmodellen werken aan het creëren van teksten met een lage perplexiteit, wat resulteert in meer samenhang, soepele doorstroming en voorspelbaarheid. Daarentegen vertoont menselijk schrijven vaak meer verbijstering vanwege het gebruik van meer fantasierijke taalopties, zij het vergezeld van een grotere frequentie van typografische fouten.
Taalmodellen werken door te voorspellen welk woord vanzelf in een zin zou komen en dit in te voegen. Hieronder ziet u een voorbeeld.
| Voorbeeld vervolg | verwarring |
| Ik kon het project niet als laatste afmaken nacht. | Laag: Waarschijnlijk de meest waarschijnlijke voortzetting |
| Ik kon het project niet als laatste afmaken keer dat ik 's avonds geen koffie drink. | Laag tot gemiddeld: Minder waarschijnlijk, maar het is grammaticaal en logisch logisch |
| Ik kon het project afgelopen semester niet afmaken vaak vanwege hoe ongemotiveerd ik op dat moment was. | Medium: De zin is coherent, maar vrij ongebruikelijk gestructureerd en langdradig |
| Ik kon het project niet als laatste afmaken aangenaam kennis te maken. | Hoog: Grammaticaal onjuist en onlogisch |
Lage perplexiteit wordt beschouwd als bewijs dat een tekst door AI is gegenereerd.
uitbarsting
"Burstiness" is een manier om te zien hoe zinnen verschillen in hoe ze zijn samengesteld en hoe lang ze zijn. Het is een beetje zoals verbijstering, maar dan voor hele zinnen in plaats van alleen woorden.
Wanneer een tekst voornamelijk zinnen bevat die vergelijkbaar zijn in hoe ze zijn gemaakt en hoe lang ze zijn, heeft deze een lage burstiness. Hierdoor leest het vlotter. Maar als een tekst zinnen bevat die sterk van elkaar verschillen wat betreft de manier waarop ze zijn opgebouwd en hoe lang ze zijn, is er sprake van een hoge burstiness. Hierdoor voelt de tekst minder vast en gevarieerder aan.
Door AI gegenereerde tekst is meestal minder variabel in zijn zinspatronen in vergelijking met door mensen geschreven tekst. Terwijl taalmodellen het woord raden dat waarschijnlijk het volgende is, maken ze meestal zinnen van ongeveer 10 tot 20 woorden en volgen ze regelmatige patronen. Dit is de reden waarom AI-schrijven soms eentonig kan lijken.
Lage uitbarsting geeft aan dat een tekst waarschijnlijk door AI is gegenereerd.
Een andere optie om te overwegen: watermerken
OpenAI, de maker van ChatGPT, ontwikkelt naar verluidt een methode die 'watermerken' wordt genoemd. Dit systeem omvat het toevoegen van een ongeziene markering aan de tekst die door de tool wordt geproduceerd, die later door een ander systeem kan worden geïdentificeerd om de AI-oorsprong van de tekst te bevestigen.
Dit systeem is echter nog in ontwikkeling en de exacte details van hoe het zal werken zijn nog niet bekend gemaakt. Bovendien is het onduidelijk of eventuele voorgestelde watermerken intact blijven wanneer er bewerkingen worden aangebracht in de gegenereerde tekst.
| Hoewel het idee om dit concept te gebruiken om AI in de toekomst te detecteren er hoopvol uitziet, is het belangrijk op te merken dat definitieve details en bevestigingen over het in de praktijk brengen ervan nog in afwachting zijn. |
Wat is de betrouwbaarheid van AI-detectoren?
- AI-detectoren werken meestal effectief, vooral bij langere teksten, maar ze kunnen problemen krijgen als de door AI gemaakte tekst met opzet minder verwacht wordt gemaakt of wordt gewijzigd nadat deze is gemaakt.
- AI-detectoren kunnen ten onrechte denken dat tekst die door mensen is geschreven, daadwerkelijk door AI is gemaakt, vooral als deze voldoet aan de voorwaarden van een lage verbijstering en burstiness.
- Onderzoek naar AI-detectoren geeft aan dat geen enkele tool volledige nauwkeurigheid kan bieden; de hoogste nauwkeurigheid was 84% in een premium tool of 68% in de beste gratis tool.
- Deze tools bieden waardevolle inzichten in de waarschijnlijkheid dat een tekst door AI wordt gegenereerd, maar we raden aan om er niet alleen op te vertrouwen als bewijs. Met de voortdurende vooruitgang van taalmodellen zullen de tools die ze detecteren harder moeten werken om bij te blijven.
- De meer zelfverzekerde providers geven doorgaans toe dat hun tools niet kunnen dienen als sluitend bewijs van door AI gegenereerde tekst.
- Universiteiten hebben voorlopig geen sterk vertrouwen in deze tools.
| Proberen om AI-gegenereerd schrijven te verbergen, kan de tekst zelfs heel vreemd doen lijken of niet geschikt zijn voor het beoogde gebruik. Het opzettelijk introduceren van spelfouten of het gebruik van onlogische woordkeuzes in de tekst kan bijvoorbeeld de kans verkleinen dat het wordt geïdentificeerd door een AI-detector. Een tekst vol met deze fouten en vreemde keuzes zal echter waarschijnlijk niet worden gezien als goed academisch schrijven. |
Waarvoor worden AI-detectoren gebruikt?
AI-detectoren zijn bedoeld voor personen die willen verifiëren of een tekst door kunstmatige intelligentie zou kunnen zijn gemaakt. Mensen die het kunnen gebruiken zijn:
- Opvoeders en leraren. Waarborgen van de authenticiteit van het werk van studenten en voorkomen van plagiaat.
- De leerlingen controleren hun opdrachten. Controleren of hun inhoud uniek is en niet onbedoeld lijkt op door AI gegenereerde tekst.
- Uitgevers en redacteuren beoordelen inzendingen. Ervoor willen zorgen dat ze alleen door mensen geschreven inhoud publiceren.
- Onderzoekers. potentiële door AI gegenereerde onderzoekspapers of artikelen willen detecteren.
- Bloggers en schrijvers: Door AI gegenereerde inhoud willen publiceren, maar bang zijn dat het lager in zoekmachines kan scoren als het wordt herkend als AI-schrijven.
- Professionals in contentmoderatie. Identificatie van door AI gegenereerde spam, valse recensies of ongepaste inhoud.
- Bedrijven die zorgen voor originele marketinginhoud. Verifiëren dat promotiemateriaal niet wordt aangezien voor door AI gegenereerde tekst, waardoor de geloofwaardigheid van het merk behouden blijft.
| Vanwege zorgen over hun betrouwbaarheid aarzelen veel gebruikers momenteel om volledig afhankelijk te zijn van AI-detectoren. Deze detectoren worden echter al steeds populairder als teken dat een tekst mogelijk door AI is gegenereerd, vooral wanneer de gebruiker al twijfels had. |
Handmatige detectie van door AI gegenereerde tekst
Naast het gebruik van AI-detectoren, kunt u ook zelf leren de unieke eigenschappen van AI-schrijven te identificeren. Het is niet altijd gemakkelijk om dit betrouwbaar te doen - menselijk schrijven kan soms robotachtig klinken en AI-schrijven wordt steeds overtuigender menselijk - maar met wat oefening kun je er een goed gevoel voor ontwikkelen.
De specifieke regels die AI-detectoren volgen, zoals lage perplexiteit en burstiness, kunnen ingewikkeld lijken. U kunt echter zelf proberen deze eigenschappen te vinden door naar de tekst te kijken voor bepaalde tekens:
- Dat leest eentonig, met weinig variatie in zinsbouw of lengte
- Woorden gebruiken die worden verwacht en niet erg uniek zijn, en die weinig onverwachte elementen bevatten
Je kunt ook methoden gebruiken die AI-detectoren niet gebruiken, door op te letten voor:
| Methoden | Uitleg |
| Overdreven beleefdheid | Chatbots zoals ChatGPT zijn gemaakt om behulpzame assistenten te zijn, dus gebruiken ze vaak beleefde en formele taal die misschien niet erg nonchalant klinkt. |
| Inconsistentie in stem | Als je bekend bent met hoe iemand gewoonlijk schrijft (zoals een student), merk je meestal wanneer iets dat ze hebben geschreven nogal afwijkt van hun gebruikelijke stijl. |
| Afdekkende taal | Let op of er niet veel sterke en frisse ideeën zijn, en let ook op of het de gewoonte is om zinnen te gebruiken die te veel onzekerheid tonen: "Het is belangrijk op te merken dat ..." "X wordt algemeen beschouwd als ..." "X wordt beschouwd als ... ” “Sommige mensen zouden kunnen beweren dat …”. |
| Claims zonder bronnen of onjuist geciteerd | Als het gaat om academisch schrijven, is het cruciaal om te vermelden waar je je informatie vandaan hebt. AI-schrijftools volgen deze regel echter vaak niet of maken fouten (zoals het citeren van bronnen die niet bestaan of niet relevant zijn). |
| Logische fouten | Hoewel AI-schrijven steeds beter natuurlijk klinkt, passen de ideeën erin soms niet goed bij elkaar. Besteed aandacht aan plaatsen waar de tekst dingen zegt die niet overeenkomen, onwaarschijnlijk klinken, of ideeën naar voren brengen die niet soepel op elkaar aansluiten. |
| Door te experimenteren met verschillende AI-schrijftools, te kijken naar de soorten teksten die ze kunnen produceren en vertrouwd te raken met hoe ze schrijven, kun je beter worden in het herkennen van tekst die mogelijk door AI is gemaakt. |
Detectoren voor AI-afbeeldingen en -video's
AI-afbeeldingen en videogeneratoren, vooral populaire zoals DALL-E en Synthesia, kunnen realistische en gewijzigde beelden creëren. Dit maakt het van cruciaal belang om ‘deepfakes’ of door AI gemaakte afbeeldingen en video’s te identificeren om de verspreiding van valse informatie te voorkomen.
Momenteel kunnen veel signalen door AI gegenereerde afbeeldingen en video's onthullen, zoals:
- Handen met te veel vingers
- Vreemde bewegingen
- Onzinnige tekst in de afbeelding
- Onrealistische gelaatstrekken
Maar het kan moeilijker worden om deze signalen op te merken naarmate de AI beter wordt.
Er zijn tools ontworpen om deze door AI gegenereerde beelden te detecteren, waaronder:
- Deepware
- FakeCatcher van Intel
- verlichting
Het is nog steeds onduidelijk hoe effectief en betrouwbaar deze tools zijn, dus er zijn meer tests nodig.
De constante evolutie van het genereren en detecteren van AI-beelden en -video's creëert een voortdurende behoefte om meer solide en nauwkeurige detectiemethoden te ontwikkelen om de potentiële risico's van deepfakes en door AI gegenereerde beelden aan te pakken.
Conclusie
| AI-detectoren helpen bij het identificeren van teksten die zijn gegenereerd door tools zoals ChatGPT. Ze zoeken vooral naar ‘verbijstering’ en ‘burstiness’ om door AI gemaakte inhoud te herkennen. Hun nauwkeurigheid blijft een punt van zorg, waarbij zelfs de beste fouten vertonen. Naarmate de AI-technologie vordert, wordt het steeds moeilijker om mensen te onderscheiden van door AI geproduceerde inhoud, inclusief afbeeldingen en video's, wat de noodzaak benadrukt om online voorzichtig te blijven. |
Vaak gestelde vragen
| 1. Wat is het verschil tussen AI-detectoren en Plagiaatcontroleurs? A: Zowel AI-detectoren als plagiaatcontroles worden op universiteiten gebruikt om academische oneerlijkheid tegen te gaan, maar ze verschillen in hun methoden en doelstellingen: • AI-detectoren zijn bedoeld om tekst te identificeren die lijkt op uitvoer van AI-schrijftools. Dit omvat het analyseren van tekstkenmerken zoals verbijstering en burstiness, in plaats van ze te vergelijken met een database. • Plagiaatcontrole is bedoeld om gekopieerde tekst uit andere bronnen op te sporen. Ze bereiken dit door de tekst te vergelijken met een uitgebreide database van eerder gepubliceerde inhoud en scripties van studenten, en overeenkomsten te identificeren - zonder te vertrouwen op het analyseren van specifieke tekstkenmerken. 2. Hoe kan ik ChatGPT gebruiken? A: Om ChatGPT te gebruiken, maakt u eenvoudig een gratis account aan: • Volgen deze link naar de ChatGPT-website. • Selecteer "Aanmelden" en geef de vereiste informatie op (of gebruik uw Google-account). Aanmelden en gebruik van de tool is gratis. • Typ een prompt in de chatbox om aan de slag te gaan! Een iOS-versie van de ChatGPT-app is momenteel beschikbaar en er zijn plannen voor een Android-app in de pijplijn. De app werkt op dezelfde manier als de website en u kunt hetzelfde account gebruiken om op beide platforms in te loggen. 3. Tot wanneer blijft ChatGPT gratis? A: De toekomstige gratis beschikbaarheid van ChatGPT blijft onzeker, en er is geen specifieke tijdlijn aangekondigd. De tool werd voor het eerst geïntroduceerd in november 2022 als een "onderzoekspreview" die kosteloos door een brede gebruikersgroep kan worden getest. De term "preview" suggereert mogelijke toekomstige kosten, maar er bestaat geen officiële bevestiging van het beëindigen van gratis toegang. Een verbeterde optie, ChatGPT Plus, kost $ 20/maand en bevat geavanceerde functies zoals GPT-4. Het is onduidelijk of deze premiumversie de gratis versie zal vervangen of dat de laatste zal doorgaan. Factoren zoals serverkosten kunnen deze beslissing beïnvloeden. De toekomstige koers blijft onzeker. 4. Is het toegestaan om ChatGPT op te nemen in mijn citaties? A: In bepaalde contexten is het gepast om in uw werk naar ChatGPT te verwijzen, vooral wanneer het dient als een belangrijke bron voor het bestuderen van AI-taalmodellen. Bepaalde universiteiten kunnen citatie of erkenning vereisen als ChatGPT uw onderzoeks- of schrijfproces heeft geholpen, zoals bij het ontwikkelen van onderzoeksvragen; het is raadzaam om de richtlijnen van uw instelling te raadplegen. Vanwege de wisselende betrouwbaarheid en het gebrek aan geloofwaardigheid van ChatGPT als bron, is het echter het beste om het niet te citeren voor feitelijke informatie. In APA-stijl kunt u een ChatGPT-antwoord behandelen als persoonlijke communicatie, aangezien de antwoorden niet toegankelijk zijn voor anderen. Citeer het in de tekst als volgt: (ChatGPT, persoonlijke communicatie, 11 februari 2023). |
