AI-detektorer, som ibland nämns som AI-skriv- eller AI-innehållsdetektorer, tjänar syftet att identifiera om en text helt eller delvis har komponerats av artificiell intelligens som t.ex. ChatGPT.
Dessa detektorer är användbara för att identifiera fall där en skriven del sannolikt skapas av AI. Ansökan är fördelaktig på följande sätt:
- Autentisera studentarbeten. Lärare kan använda den för att validera äktheten av elevernas ursprungliga uppgifter och skrivprojekt.
- Motverka falska produktrecensioner. Moderatorer kan använda det för att identifiera och ta itu med recensioner av förfalskade produkter som syftar till att manipulera konsumenternas uppfattning.
- Ta itu med spaminnehåll. Det hjälper till att upptäcka och ta bort olika former av spaminnehåll som kan förvränga onlineplattformarnas kvalitet och trovärdighet.
Dessa verktyg är fortfarande nya och testas, så vi är inte helt säkra på hur tillförlitliga de är just nu. I de följande avsnitten fördjupar vi oss i hur de fungerar, kontrollerar hur väl de kan lita på och utforskar en rad praktiska tillämpningar som de erbjuder.
| Utbildningsinstitutioner, inklusive universitet, håller på att formulera sina ståndpunkter angående lämplig användning av ChatGPT och liknande verktyg. Det är viktigt att prioritera din institutions riktlinjer framför alla råd du får online. |
Hur fungerar AI-detektorer?
AI-detektorer använder vanligtvis språkmodeller som är som de i AI-skrivverktyg de försöker hitta. I grund och botten tittar språkmodellen på inmatningen och frågar: "Ser det här ut som något jag kan ha gjort?" Om det står ja gissar modellen att texten förmodligen är skapad av AI.
I synnerhet söker dessa modeller efter två egenskaper i en text: "förvirring" och "burstiness". När dessa två aspekter är lägre, är det större sannolikhet att texten genererades av AI.
Men exakt vad betyder dessa ovanliga termer?
Bryderi
Förvirring står som ett betydande mått som används för att bedöma språkmodellernas skicklighet. Det hänvisar till hur väl modellen kan förutsäga nästa ord i en sekvens av ord.
AI-språkmodeller arbetar för att skapa texter med låg förvirring, vilket resulterar i ökad koherens, smidigt flöde och förutsägbarhet. Däremot uppvisar mänskligt skrivande ofta högre förvirring på grund av dess utnyttjande av mer fantasifulla språkalternativ, även om det åtföljs av en större frekvens av typografiska fel.
Språkmodeller fungerar genom att förutsäga vilket ord som naturligt skulle komma härnäst i en mening och infoga det. Du kan se ett exempel nedan.
| Exempel fortsättning | Bryderi |
| Jag kunde inte avsluta projektet sist natt. | Låg: Förmodligen den mest troliga fortsättningen |
| Jag kunde inte avsluta projektet sist gång jag inte dricker kaffe på kvällen. | Låg till medium: Mindre troligt, men det är grammatiskt och logiskt vettigt |
| Jag kunde inte avsluta projektet förra terminen många gånger på grund av hur omotiverad jag var på den tiden. | Medium: Meningen är sammanhängande men ganska ovanligt uppbyggd och långrandig |
| Jag kunde inte avsluta projektet sist trevligt att träffas. | Hög: Grammatiskt felaktigt och ologiskt |
Låg förvirring tas som bevis på att en text är AI-genererad.
Burstiness
"Burstiness" är ett sätt att se hur meningar är olika i hur de sätts ihop och hur långa de är. Det är lite som förvirring men för hela meningar istället för bara ord.
När en text mestadels har meningar som liknar hur de är gjorda och hur långa de är, har den låg burstiness. Det betyder att den läser smidigare. Men om en text har meningar som skiljer sig mycket från varandra i hur de är uppbyggda och hur långa de är, har den hög burstiness. Detta gör att texten känns mindre stadig och mer varierad.
AI-genererad text tenderar att vara mindre varierande i sina meningsmönster jämfört med mänskligt skriven text. Eftersom språkmodeller gissar det ord som förmodligen kommer härnäst, gör de vanligtvis meningar som är cirka 10 till 20 ord långa och följer vanliga mönster. Det är därför AI-skrivning ibland kan verka monotont.
Låg burstiness indikerar att en text sannolikt är AI-genererad.
Ett annat alternativ att överväga: Vattenstämplar
OpenAI, skaparen av ChatGPT, utvecklar enligt uppgift en metod som kallas "vattenmärkning". Detta system innebär att ett osynligt märke läggs till texten som produceras av verktyget, som senare kan identifieras av ett annat system för att bekräfta textens AI-ursprung.
Detta system utvecklas dock fortfarande, och de exakta detaljerna om hur det kommer att fungera är ännu inte avslöjade. Dessutom är det oklart om några föreslagna vattenstämplar kommer att förbli intakta när redigeringar görs i den genererade texten.
| Även om idén om att använda detta koncept för att upptäcka AI i framtiden ser hoppfull ut, är det viktigt att notera att definitiva detaljer och bekräftelser om att omsätta det i praktiken fortfarande väntar. |
Vad är tillförlitligheten hos AI-detektorer?
- AI-detektorer fungerar vanligtvis effektivt, särskilt med längre texter, men de kan ha problem om den AI-skapade texten avsiktligt görs mindre förväntad eller ändras efter att den har skapats.
- AI-detektorer kan felaktigt tro att text skriven av människor faktiskt skapades av AI, särskilt om den uppfyller villkoren för att ha låg förvirring och bristfällighet.
- Forskning om AI-detektorer visar att inget verktyg kan ge fullständig noggrannhet; den högsta noggrannheten var 84 % i ett premiumverktyg eller 68 % i det bästa gratisverktyget.
- Dessa verktyg ger värdefulla insikter om sannolikheten för att en text genereras av AI, men vi rekommenderar att du inte enbart litar på dem som bevis. Med den pågående utvecklingen av språkmodeller kommer verktygen som upptäcker dem att behöva arbeta hårdare för att hänga med.
- De mer självsäkra leverantörerna medger vanligtvis att deras verktyg inte kan fungera som avgörande bevis på AI-genererad text.
- Universiteten har för närvarande inte starkt förtroende för dessa verktyg.
| Att försöka dölja AI-genererad skrift kan faktiskt få texten att verka väldigt konstig eller inte rätt för dess avsedda användning. Till exempel kan avsiktligt införa stavfel eller använda ologiska ordval i texten minska chansen att det identifieras av en AI-detektor. Men en text fylld med dessa fel och konstiga val kommer förmodligen inte att ses som bra akademiskt skrivande. |
För vilket syfte används AI-detektorer?
AI-detektorer är avsedda för individer som vill verifiera om en text kan ha skapats av artificiell intelligens. Personer som kan använda det är:
- Pedagoger och lärare. Säkerställa äktheten av elevernas arbete och förhindra plagiat.
- Eleverna kontrollerar sina uppgifter. Kontrollera att deras innehåll är unikt och inte oavsiktligt ser ut som text genererad av AI.
- Förläggare och redaktörer granskar bidrag. Vill säkerställa att de bara publicerar mänskligt skrivet innehåll.
- Forskare. vill upptäcka eventuella AI-genererade forskningsartiklar eller artiklar.
- Bloggare och skribenter: Jag vill publicera AI-genererat innehåll men oroar mig för att det kan rankas lägre i sökmotorerna om det erkänns som AI-skrivande.
- Proffs inom innehållsmoderering. Identifiera AI-genererad spam, falska recensioner eller olämpligt innehåll.
- Företag som säkerställer original marknadsföringsinnehåll. Verifiera att reklammaterial inte förväxlas med AI-genererad text, vilket bibehåller varumärkets trovärdighet.
| På grund av oro för deras tillförlitlighet är många användare tveksamma till att vara helt beroende av AI-detektorer för tillfället. Dessa detektorer blir dock redan mer populära som ett tecken på att en text kan vara AI-genererad, särskilt när användaren redan hade sina tvivel. |
Manuell upptäckt av AI-genererad text
Förutom att använda AI-detektorer kan du också lära dig att identifiera de unika egenskaperna hos AI-skrivning själv. Det är inte alltid lätt att göra detta på ett tillförlitligt sätt – mänskligt skrivande kan ibland låta robotiskt, och AI-skrivandet blir mer övertygande mänskligt – men med övning kan du utveckla en bra känsla för det.
De specifika reglerna som AI-detektorer följer, som låg förvirring och bristfällighet, kan verka komplicerade. Du kan dock försöka hitta dessa egenskaper själv genom att titta på texten efter vissa tecken:
- Det läses monotont, med liten variation i meningsstruktur eller längd
- Använda ord som är förväntade och inte särskilt unika, och har väldigt få oväntade element
Du kan också använda metoder som AI-detektorer inte gör, genom att se upp för:
| Metoder | Förklaring |
| Överdriven artighet | Chatbots som ChatGPT är gjorda för att vara hjälpsamma assistenter, så de använder ofta ett artigt och formellt språk som kanske inte låter särskilt avslappnat. |
| Inkonsekvens i rösten | Om du är bekant med hur någon vanligtvis skriver (som en student), kan du vanligtvis märka när något de har skrivit skiljer sig ganska mycket från deras vanliga stil. |
| Säkringsspråk | Var uppmärksam på om det inte finns många starka och fräscha idéer, och lägg även märke till om det finns en vana att använda fraser som visar osäkerhet för mycket: "Det är viktigt att notera att ..." "X anses allmänt som ..." "X anses ... " "Vissa människor kan hävda att ...". |
| Påståenden utan källa eller felaktigt citerade | När det kommer till akademiskt skrivande är det avgörande att nämna var du fick din information. Men AI-skrivverktyg följer ofta inte denna regel eller gör misstag (som att citera källor som inte finns eller som inte är relevanta). |
| Logiska fel | Även om AI-skrivandet blir bättre på att låta naturligt, stämmer ibland idéerna i det inte ihop. Var uppmärksam på platser där texten säger saker som inte stämmer överens, låter osannolikt eller presenterar idéer som inte hänger ihop smidigt. |
| Sammantaget kan experimentera med olika AI-skrivverktyg, titta på vilka typer av texter de kan producera och bli bekanta med hur de skriver hjälpa dig att bli bättre på att upptäcka text som kan ha skapats av AI. |
Detektorer för AI-bilder och videor
AI-bilder och videogeneratorer, särskilt populära sådana som DALL-E och Synthesia, kan skapa realistiska och förändrade bilder. Detta gör det avgörande att identifiera "deepfakes" eller AI-tillverkade bilder och videor för att förhindra spridning av falsk information.
För närvarande kan många tecken avslöja AI-genererade bilder och videor, till exempel:
- Händer med för många fingrar
- Konstiga rörelser
- Orimlig text i bilden
- Orealistiska ansiktsdrag
Ändå kan det bli svårare att upptäcka dessa tecken när AI blir bättre.
Det finns verktyg utformade för att upptäcka dessa AI-genererade bilder, inklusive:
- Deepware
- Intels FakeCatcher
- Belysningskraft
Det är fortfarande oklart hur effektiva och tillförlitliga dessa verktyg är, så fler tester behövs.
Den ständiga utvecklingen av AI-bild- och videogenerering och -detektering skapar ett ständigt behov av att utveckla mer solida och exakta detekteringsmetoder för att ta itu med de potentiella riskerna som är förknippade med deepfakes och AI-genererade bilder.
Slutsats
| AI-detektorer hjälper till att identifiera texter som genereras av verktyg som ChatGPT. De letar främst efter "förvirring" och "burstiness" för att upptäcka AI-skapat innehåll. Deras noggrannhet är fortfarande ett problem, även de bästa visar fel. I takt med att AI-tekniken går framåt blir det svårare att skilja människor från AI-producerat innehåll, inklusive bilder och videor, vilket understryker behovet av att vara försiktig online. |
Vanliga frågor
| 1. Vad är skillnaden mellan AI-detektorer och Plagieringskontroller? A: Både AI-detektorer och plagiatkontroller används på universitet för att avskräcka akademisk oärlighet, men de varierar i sina metoder och mål: • AI-detektorer syftar till att identifiera text som liknar utdata från AI-skrivverktyg. Det handlar om att analysera textegenskaper som förvirring och bristfällighet, snarare än att jämföra dem med en databas. • Plagiatkontroller syftar till att upptäcka kopierad text från andra källor. De uppnår detta genom att jämföra texten med en omfattande databas med tidigare publicerat innehåll och studentuppsatser, identifiera likheter – utan att förlita sig på att analysera specifika textegenskaper. 2. Hur kan jag använda ChatGPT? A: För att använda ChatGPT, skapa helt enkelt ett gratis konto: • Följ denna länk till ChatGPT-webbplatsen. • Välj "Registrera dig" och ange den information som krävs (eller använd ditt Google-konto). Att registrera sig och använda verktyget är gratis. • Skriv en uppmaning i chattrutan för att komma igång! En iOS-version av ChatGPT-appen är för närvarande tillgänglig, och det finns planer på en Android-app på gång. Appen fungerar på samma sätt som webbplatsen, och du kan använda samma konto för att logga in på båda plattformarna. 3. Tills när förblir ChatGPT gratis? A: Den framtida tillgängligheten för ChatGPT gratis är fortfarande osäker, utan någon specifik tidslinje har meddelats. Verktyget introducerades ursprungligen i november 2022 som en "forskningsförhandsvisning" för att testas av en bred användarbas utan kostnad. Termen "förhandsgranskning" antyder potentiella framtida avgifter, men det finns ingen officiell bekräftelse på att den fria åtkomsten avslutas. Ett förbättrat alternativ, ChatGPT Plus, kostar $20/månad och inkluderar avancerade funktioner som GPT-4. Det är oklart om den här premiumversionen kommer att ersätta den gratis eller om den senare kommer att fortsätta. Faktorer som serverkostnader kan påverka detta beslut. Den framtida kursen är fortfarande osäker. 4. Är det okej att inkludera ChatGPT i mina citat? A: I vissa sammanhang är det lämpligt att referera till ChatGPT i ditt arbete, särskilt när det fungerar som en viktig källa för att studera AI-språkmodeller. Vissa universitet kan kräva citering eller erkännande om ChatGPT hjälpte din forskning eller skrivprocess, till exempel att utveckla forskningsfrågor; det är tillrådligt att konsultera din institutions riktlinjer. Men på grund av ChatGPT:s varierande tillförlitlighet och bristande trovärdighet som källa, är det bäst att inte citera det för faktainformation. I APA Style kan du behandla ett ChatGPT-svar som personlig kommunikation eftersom svaren inte är tillgängliga för andra. I texten, citera det enligt följande: (ChatGPT, personlig kommunikation, 11 februari 2023). |
