Hvordan fungerer AI-detektorer?

AI-detektorer, noen ganger nevnt som AI-skriving eller AI-innholdsdetektorer, tjener hensikten med å identifisere om en tekst er delvis eller fullstendig komponert av kunstig intelligens-verktøy som ChatGPT.

Disse detektorene er nyttige for å identifisere tilfeller der et skrevet stykke sannsynligvis er laget av AI. Søknad er fordelaktig på følgende måter:

• Autentisering av studentarbeid. Lærere kan bruke den til å validere ektheten til elevenes originale oppgaver og skriveprosjekter.
• Motvirke falske produktanmeldelser. Moderatorer kan bruke det til å identifisere og adressere anmeldelser av forfalskede produkter som tar sikte på å manipulere forbrukernes oppfatning.
• Bekjempe spam-innhold. Den hjelper til med å oppdage og fjerne ulike former for søppelpost som kan forvrenge nettplattformers kvalitet og troverdighet.

Disse verktøyene er fortsatt nye og testes, så vi er ikke helt sikre på hvor pålitelige de er akkurat nå. I de følgende delene fordyper vi oss i hvordan de fungerer, sjekker hvor godt de kan stole på, og utforsker en rekke praktiske bruksområder de tilbyr.

Utdanningsinstitusjoner, inkludert universiteter, er i ferd med å formulere sine posisjoner angående riktig bruk av ChatGPT og lignende verktøy. Det er viktig å prioritere institusjonens retningslinjer fremfor alle råd du kommer over på nettet.

Hvordan fungerer AI-detektorer?

AI-detektorer bruker vanligvis språkmodeller som er som de i AI-skriveverktøy de prøver å finne. I utgangspunktet ser språkmodellen på innspillet og spør: "Ser dette ut som noe jeg kan ha laget?" Hvis det står ja, gjetter modellen at teksten sannsynligvis er laget av AI.

Spesielt søker disse modellene etter to egenskaper i en tekst: «forvirring» og «utbrudd». Når disse to aspektene er lavere, er det større sannsynlighet for at teksten ble generert av AI.

Men hva betyr disse uvanlige begrepene?

forvirring

Forvirring står som en betydelig metrikk som brukes for å vurdere ferdighetene til språkmodeller. Det refererer til hvor godt modellen er i stand til å forutsi neste ord i en rekkefølge av ord.

AI-språkmodeller jobber mot å lage tekster med lav forvirring, noe som resulterer i økt sammenheng, jevn flyt og forutsigbarhet. I kontrast viser menneskelig skrift ofte høyere forvirring på grunn av bruken av mer fantasifulle språkalternativer, om enn ledsaget av en større frekvens av typografiske feil.

Språkmodeller fungerer ved å forutsi hvilket ord som naturlig vil komme etter i en setning og sette det inn. Du kan se et eksempel nedenfor.

Eksempel på fortsettelse	forvirring
Jeg klarte ikke å fullføre prosjektet sist natt.	Lav: Sannsynligvis den mest sannsynlige fortsettelsen
Jeg klarte ikke å fullføre prosjektet sist gang jeg ikke drikker kaffe om kvelden.	Lav til middels: Mindre sannsynlig, men det gir grammatisk og logisk mening
Jeg klarte ikke å fullføre prosjektet forrige semester mange ganger på grunn av hvor umotivert jeg var på den tiden.	Medium: Setningen er sammenhengende, men ganske uvanlig strukturert og langdrakt
Jeg klarte ikke å fullføre prosjektet sist hyggelig å møte deg.	Høy: Grammatisk feil og ulogisk

Lav forvirring blir tatt som bevis på at en tekst er AI-generert.

Burstiness

"Burstiness" er en måte å se hvordan setninger er forskjellige i hvordan de er satt sammen og hvor lange de er. Det er litt som forvirring, men for hele setninger i stedet for bare ord.

Når en tekst stort sett har setninger som er like i hvordan de er laget og hvor lange de er, har den lav burstiness. Dette betyr at den leser mer jevnt. Men hvis en tekst har setninger som er veldig forskjellige fra hverandre i hvordan de er bygget og hvor lange de er, har den høy burstiness. Dette gjør at teksten føles mindre stødig og mer variert.

AI-generert tekst har en tendens til å være mindre variabel i setningsmønstrene sammenlignet med menneskeskreven tekst. Ettersom språkmodeller gjetter ordet som sannsynligvis er neste, lager de vanligvis setninger som er omtrent 10 til 20 ord lange og følger vanlige mønstre. Dette er grunnen til at AI-skriving noen ganger kan virke monotont.

Lav sprengning indikerer at en tekst sannsynligvis er AI-generert.

Et annet alternativ å vurdere: Vannmerker

OpenAI, skaperen av ChatGPT, utvikler angivelig en metode kalt "vannmerking". Dette systemet innebærer å legge til et usett merke til teksten produsert av verktøyet, som senere kan identifiseres av et annet system for å bekrefte AI-opprinnelsen til teksten.

Dette systemet er imidlertid fortsatt under utvikling, og de nøyaktige detaljene om hvordan det vil fungere er ennå ikke avslørt. Dessuten er det uklart om noen foreslåtte vannmerker vil forbli intakte når det gjøres endringer i den genererte teksten.

Selv om ideen om å bruke dette konseptet for å oppdage AI i fremtiden ser håpefull ut, er det viktig å merke seg at endelige detaljer og bekreftelser om å implementere det i praksis fortsatt venter.

Hva er påliteligheten til AI-detektorer?

• AI-detektorer fungerer vanligvis effektivt, spesielt med lengre tekster, men de kan ha problemer hvis den AI-skapte teksten med vilje gjøres mindre forventet eller endres etter at den er laget.
• AI-detektorer kan feilaktig tro at tekst skrevet av mennesker faktisk ble laget av AI, spesielt hvis den oppfyller vilkårene for å ha lav forvirring og utbrudd.
• Forskning om AI-detektorer indikerer at ingen verktøy kan gi fullstendig nøyaktighet; den høyeste nøyaktigheten var 84 % i et premiumverktøy eller 68 % i det beste gratisverktøyet.
• Disse verktøyene gir verdifull innsikt i sannsynligheten for at en tekst blir AI-generert, men vi anbefaler at du ikke bare stoler på dem som bevis. Med den pågående utviklingen av språkmodeller, må verktøyene som oppdager dem jobbe hardere for å følge med.
• De mer selvsikre leverandørene innrømmer vanligvis at verktøyene deres ikke kan tjene som avgjørende bevis på AI-generert tekst.
• Universiteter har foreløpig ikke sterk tillit til disse verktøyene.

Å prøve å skjule AI-generert skrift kan faktisk få teksten til å virke veldig merkelig eller ikke riktig for den tiltenkte bruken. For eksempel kan det å med vilje introdusere stavefeil eller bruke ulogiske ordvalg i teksten redusere sjansene for at det blir identifisert av en AI-detektor. Imidlertid vil en tekst fylt med disse feilene og merkelige valgene sannsynligvis ikke bli sett på som god akademisk skriving.

Til hvilket formål brukes AI-detektorer?

AI-detektorer er ment for personer som ønsker å verifisere om en tekst kan ha blitt laget av kunstig intelligens. Folk som kan bruke det er:

• Lærere og lærere. Sikre ektheten av studentenes arbeid og forhindre plagiering.
• Elevene sjekker oppgavene sine. Sjekker for å sikre at innholdet deres er unikt og ikke utilsiktet ser ut som tekst generert av AI.
• Utgivere og redaktører gjennomgår innsendinger. Vil sikre at de kun publiserer menneskeskrevet innhold.
• Forskere. ønsker å oppdage potensielle AI-genererte forskningsartikler eller artikler.
• Bloggere og skribenter: Ønsker å publisere AI-generert innhold, men er bekymret for at det kan rangeres lavere i søkemotorer hvis det blir anerkjent som AI-skriving.
• Fagfolk i innholdsmoderering. Identifisere AI-generert spam, falske anmeldelser eller upassende innhold.
• Bedrifter som sikrer originalt markedsføringsinnhold. Bekrefte at reklamemateriell ikke forveksles med AI-generert tekst, opprettholder merkevarens troverdighet.

På grunn av bekymringer om påliteligheten deres, er mange brukere nølende med å være helt avhengige av AI-detektorer for øyeblikket. Imidlertid er disse detektorene allerede blitt mer populære som et tegn på at en tekst kan være AI-generert, spesielt når brukeren allerede var i tvil.

Manuell gjenkjenning av AI-generert tekst

I tillegg til å bruke AI-detektorer, kan du også lære å identifisere de unike egenskapene til AI-skriving selv. Det er ikke alltid lett å gjøre dette pålitelig – menneskelig skriving kan noen ganger høres robotisk ut, og AI-skriving blir mer overbevisende menneskelig – men med øvelse kan du utvikle en god sans for det.

De spesifikke reglene som AI-detektorer følger, som lav forvirring og sprengning, kan virke kompliserte. Du kan imidlertid prøve å finne disse egenskapene selv ved å se på teksten for visse tegn:

• Som leses monotont, med liten variasjon i setningsstruktur eller lengde
• Bruke ord som er forventet og lite unike, og har svært få uventede elementer

Du kan også bruke metoder som AI-detektorer ikke gjør, ved å se opp for:

Metoder	Forklaring
Overdreven høflighet	Chatboter som ChatGPT er laget for å være hjelpsomme assistenter, så de bruker ofte et høflig og formelt språk som kanskje ikke høres veldig tilfeldig ut.
Inkonsekvens i stemmen	Hvis du er kjent med hvordan noen vanligvis skriver (som en student), kan du vanligvis legge merke til når noe de har skrevet er ganske forskjellig fra deres vanlige stil.
Sikringsspråk	Vær oppmerksom på om det ikke er mange sterke og friske ideer, og legg også merke til om det er en vane å bruke setninger som viser for mye usikkerhet: «Det er viktig å merke seg at …» «X er allment ansett som …» «X anses … " "Noen mennesker kan hevde at ...".
Påstander uten kilde eller feil sitert	Når det gjelder akademisk skriving, er det avgjørende å nevne hvor du fikk informasjonen din. Imidlertid følger AI-skriveverktøy ofte ikke denne regelen eller gjør feil (som å sitere kilder som ikke eksisterer eller ikke er relevante).
Logiske feil	Selv om AI-skriving blir bedre til å høres naturlig ut, passer noen ganger ikke ideene i den godt sammen. Vær oppmerksom på steder der teksten sier ting som ikke stemmer overens, høres usannsynlig ut eller presenterer ideer som ikke henger jevnt sammen.

Alt i alt kan det å eksperimentere med ulike AI-skriveverktøy, se hvilke typer tekster de kan produsere og bli kjent med hvordan de skriver hjelpe deg å bli bedre til å oppdage tekst som kan ha blitt laget av AI.

Detektorer for AI-bilder og videoer

AI-bilder og videogeneratorer, spesielt populære som DALL-E og Synthesia, kan skape realistiske og endrede bilder. Dette gjør det avgjørende å identifisere "deepfakes" eller AI-lagde bilder og videoer for å forhindre spredning av falsk informasjon.

Foreløpig kan mange tegn avsløre AI-genererte bilder og videoer, for eksempel:

• Hender med for mange fingre
• Merkelige bevegelser
• Utrolig tekst i bildet
• Urealistiske ansiktstrekk

Likevel kan det bli vanskeligere å oppdage disse tegnene etter hvert som AI blir bedre.

Det er verktøy utviklet for å oppdage disse AI-genererte bildene, inkludert:

• Deepware
• Intels FakeCatcher
• lysstyrke

Det er fortsatt uklart hvor effektive og pålitelige disse verktøyene er, så mer testing er nødvendig.

Den konstante utviklingen av AI-bilde- og videogenerering og -deteksjon skaper et pågående behov for å utvikle mer solide og nøyaktige deteksjonsmetoder for å adressere de potensielle risikoene forbundet med dype falske og AI-genererte bilder.

konklusjonen

AI-detektorer hjelper til med å identifisere tekster generert av verktøy som ChatGPT. De ser hovedsakelig etter "forvirring" og "utbrudd" for å oppdage AI-skapt innhold. Deres nøyaktighet er fortsatt et problem, med selv de beste som viser feil. Etter hvert som AI-teknologien utvikler seg, blir det vanskeligere å skille mennesker fra AI-produsert innhold, inkludert bilder og videoer, og understreker behovet for å være forsiktig på nettet.

Vanlige spørsmål

1. Hva er forskjellen mellom AI-detektorer og Plagieringskontroller? A: Både AI-detektorer og plagiatsjekkere finner bruk på universiteter for å avskrekke akademisk uærlighet, men de varierer i metoder og mål: • AI-detektorer tar sikte på å identifisere tekst som ligner utdata fra AI-skriveverktøy. Dette innebærer å analysere tekstegenskaper som forvirring og utbrudd, i stedet for å sammenligne dem med en database. • Plagiatkontrollere har som mål å oppdage kopiert tekst fra andre kilder. De oppnår dette ved å sammenligne teksten med en omfattende database med tidligere publisert innhold og studentoppgaver, og identifisere likheter – uten å stole på å analysere spesifikke teksttrekk. 2. Hvordan kan jeg bruke ChatGPT? A: For å bruke ChatGPT, bare opprette en gratis konto: • Følg denne koblingen til ChatGPT-nettstedet. • Velg "Registrer deg" og oppgi den nødvendige informasjonen (eller bruk Google-kontoen din). Registrering og bruk av verktøyet er gratis. • Skriv inn en melding i chat-boksen for å komme i gang! En iOS-versjon av ChatGPT-appen er for øyeblikket tilgjengelig, og det er planer om en Android-app i pipelinen. Appen fungerer på samme måte som nettsiden, og du kan bruke samme konto for å logge inn på begge plattformene. 3. Til når vil ChatGPT forbli gratis? A: Den fremtidige tilgjengeligheten av ChatGPT gratis er fortsatt usikker, uten noen spesifikk tidslinje annonsert. Verktøyet ble opprinnelig introdusert i november 2022 som en "forhåndsvisning av forskning" for å bli testet av en bred brukerbase uten kostnad. Begrepet "forhåndsvisning" antyder potensielle fremtidige avgifter, men det finnes ingen offisiell bekreftelse på å avslutte gratis tilgang. Et forbedret alternativ, ChatGPT Plus, koster $20/måned og inkluderer avanserte funksjoner som GPT-4. Det er uklart om denne premiumversjonen vil erstatte den gratis eller om sistnevnte vil fortsette. Faktorer som serverutgifter kan påvirke denne avgjørelsen. Fremtiden er fortsatt usikker. 4. Er det greit å inkludere ChatGPT i sitatene mine? A: I visse sammenhenger er det hensiktsmessig å referere til ChatGPT i arbeidet ditt, spesielt når det fungerer som en viktig kilde for å studere AI-språkmodeller. Enkelte universiteter kan kreve sitering eller anerkjennelse hvis ChatGPT hjalp din forsknings- eller skriveprosess, for eksempel ved å utvikle forskningsspørsmål; det er tilrådelig å konsultere institusjonens retningslinjer. Men på grunn av ChatGPTs varierende pålitelighet og mangel på troverdighet som kilde, er det best å ikke sitere den for faktainformasjon. I APA Style kan du behandle et ChatGPT-svar som personlig kommunikasjon siden svarene ikke er tilgjengelige for andre. I teksten, siter det som følger: (ChatGPT, personlig kommunikasjon, 11. februar 2023).