Detektorji umetne inteligence, včasih omenjeni kot detektorji AI pisanja ali detektorji vsebine AI, služijo ugotavljanju, ali je bilo besedilo delno ali v celoti sestavljeno z orodji umetne inteligence, kot je ChatGPT.
Ti detektorji so uporabni za prepoznavanje primerov, ko je pisni del verjetno ustvaril AI. Aplikacija je koristna na naslednje načine:
- Preverjanje pristnosti študentskega dela. Učitelji ga lahko uporabljajo za potrjevanje pristnosti prvotnih študentskih nalog in pisnih projektov.
- Boj proti lažnim ocenam izdelkov. Moderatorji ga lahko uporabijo za prepoznavanje in obravnavanje ocen ponarejenih izdelkov, katerih cilj je manipulirati z zaznavanjem potrošnikov.
- Boj proti neželeni vsebini. Pomaga pri odkrivanju in odstranjevanju različnih oblik vsiljene vsebine, ki bi lahko izkrivila kakovost in verodostojnost spletnih platform.
Ta orodja so še nova in se testirajo, zato trenutno nismo povsem prepričani, kako zanesljiva so. V naslednjih razdelkih se poglobimo v njihovo delovanje, preverimo, kako dobro jim lahko zaupamo, in raziščemo vrsto praktičnih aplikacij, ki jih ponujajo.
| Izobraževalne ustanove, vključno z univerzami, so v procesu oblikovanja svojih stališč glede ustrezne uporabe ChatGPT in podobnih orodij. Bistveno je, da daste prednost smernicam vaše ustanove pred vsemi nasveti, ki jih najdete na spletu. |
Kako delujejo detektorji AI?
Detektorji AI običajno uporabljajo jezikovne modele, ki so podobni tistim v orodjih za pisanje AI, ki jih poskušajo najti. V bistvu jezikovni model pogleda vnos in vpraša: "Ali je to videti kot nekaj, kar sem morda naredil?" Če piše da, model ugiba, da je besedilo verjetno ustvaril AI.
Zlasti ti modeli iščejo dve značilnosti v besedilu: "zmedenost" in "počenje". Ko sta ta dva vidika nižja, je večja verjetnost, da je besedilo ustvaril AI.
Vendar, kaj natančno pomenijo ti neobičajni izrazi?
Zmedenost
Zmedenost je pomembna metrika, ki se uporablja za ocenjevanje znanja jezikovnih modelov. Nanaša se na to, kako dobro je model sposoben predvideti naslednjo besedo v zaporedju besed.
Jezikovni modeli umetne inteligence delujejo v smeri ustvarjanja besedil z nizko zapletenostjo, kar ima za posledico večjo koherentnost, gladek tok in predvidljivost. Nasprotno pa je človeško pisanje pogosto bolj zapleteno zaradi uporabe bolj domiselnih jezikovnih možnosti, čeprav jih spremlja večja pogostnost tipografskih napak.
Jezikovni modeli delujejo tako, da predvidevajo, katera beseda bi naravno prišla naslednja v stavku, in jo vstavijo. Spodaj si lahko ogledate primer.
| Primer nadaljevanja | Zmedenost |
| Projekta nisem mogel dokončati zadnji noč. | Nizka: Verjetno najbolj verjetno nadaljevanje |
| Projekta nisem mogel dokončati zadnji čas zvečer ne pijem kave. | Nizka do srednja: Manj verjetno, vendar je slovnično in logično smiselno |
| Prejšnji semester nisem mogel dokončati projekta velikokrat zaradi tega, kako nemotiviran sem bil takrat. | medij: Stavek je koherenten, a precej nenavadno strukturiran in dolgovezen |
| Projekta nisem mogel dokončati zadnji me veseli, da sva se spoznala. | visoka: Slovnično nepravilno in nelogično |
Nizka zapletenost se šteje kot dokaz, da je besedilo ustvarila umetna inteligenca.
Pokanje
»Burstiness« je način, da vidite, kako se stavki razlikujejo glede na to, kako so sestavljeni skupaj in kako dolgi so. To je nekoliko podobno zmedi, vendar za cele stavke namesto samo za besede.
Ko ima besedilo večinoma podobne stavke in dolžino, ima nizko razpočnost. To pomeni, da se bere bolj gladko. Toda če ima besedilo stavke, ki se med seboj zelo razlikujejo glede na to, kako so zgrajeni in kako dolgi so, ima visoko razpočnost. Zaradi tega se besedilo zdi manj enakomerno in bolj raznoliko.
Besedilo, ki ga ustvari umetna inteligenca, je v stavčnih vzorcih manj spremenljivo v primerjavi z besedilom, ki ga napiše človek. Ko jezikovni modeli ugibajo besedo, ki je verjetno naslednja, običajno sestavijo stavke, ki so dolgi približno 10 do 20 besed in sledijo običajnim vzorcem. Zato se lahko pisanje AI včasih zdi monotono.
Nizka razpočnost označuje, da je besedilo verjetno ustvarjeno z umetno inteligenco.
Druga možnost, ki jo je treba upoštevati: vodni žigi
OpenAI, ustvarjalec ChatGPT, menda razvija metodo, imenovano "vodni žig". Ta sistem vključuje dodajanje nevidne oznake besedilu, ki ga ustvari orodje, ki ga lahko pozneje identificira drug sistem, da potrdi izvor besedila z umetno inteligenco.
Vendar pa je ta sistem še v razvoju, natančne podrobnosti o tem, kako bo deloval, pa še niso razkrite. Poleg tega ni jasno, ali bodo predlagani vodni žigi ostali nedotaknjeni, ko bodo ustvarjeno besedilo popravljene.
| Medtem ko je zamisel o uporabi tega koncepta za odkrivanje umetne inteligence v prihodnosti videti obetavna, je pomembno omeniti, da dokončne podrobnosti in potrditve o njegovi uporabi v praksi še vedno čakajo. |
Kakšna je zanesljivost detektorjev AI?
- Detektorji umetne inteligence običajno delujejo učinkovito, zlasti pri daljših besedilih, vendar imajo lahko težave, če je besedilo, ustvarjeno z umetno inteligenco, namerno manj pričakovano ali spremenjeno po tem, ko je bilo ustvarjeno.
- Detektorji umetne inteligence bi lahko zmotno mislili, da je besedilo, ki so ga napisali ljudje, dejansko ustvarila umetna inteligenca, še posebej, če izpolnjuje pogoje nizke zmedenosti in razpokanosti.
- Raziskave o detektorjih AI kažejo, da nobeno orodje ne more zagotoviti popolne natančnosti; največja natančnost je bila 84 % pri vrhunskem orodju ali 68 % pri najboljšem brezplačnem orodju.
- Ta orodja ponujajo dragocene vpoglede v verjetnost, da je besedilo ustvarjeno z umetno inteligenco, vendar priporočamo, da se ne zanašate le nanje kot na dokaz. Z nenehnim napredkom jezikovnih modelov se bodo morala orodja, ki jih zaznavajo, bolj potruditi, da bodo sledila.
- Bolj samozavestni ponudniki običajno priznajo, da njihova orodja ne morejo služiti kot prepričljiv dokaz besedila, ustvarjenega z umetno inteligenco.
- Univerze za zdaj še nimajo močnega zaupanja v ta orodja.
| Če poskusite skriti pisanje, ki ga je ustvarila umetna inteligenca, se lahko besedilo dejansko zdi zelo nenavadno ali neprimerno za predvideno uporabo. Na primer, namerno vnašanje črkovalnih napak ali uporaba nelogičnih izbir besed v besedilu lahko zmanjša možnosti, da bi ga prepoznal detektor AI. Vendar besedilo, polno teh napak in čudnih izbir, verjetno ne bo obravnavano kot dobro akademsko pisanje. |
Za kakšen namen se uporabljajo detektorji AI?
Detektorji AI so namenjeni posameznikom, ki želijo preveriti, ali bi besedilo lahko ustvarila umetna inteligenca. Ljudje, ki bi ga lahko uporabljali, so:
- Vzgojitelji in učitelji. Zagotavljanje verodostojnosti študentskih del in preprečevanje plagiatorstva.
- Učenci preverijo svoje naloge. Preverjanje, ali je njihova vsebina edinstvena in ni nenamerno videti kot besedilo, ki ga je ustvaril AI.
- Založniki in uredniki pregledujejo prispevke. Želim zagotoviti, da objavljajo samo vsebino, ki jo je napisal človek.
- Raziskovalci. želijo odkriti morebitne raziskovalne dokumente ali članke, ki jih ustvari umetna inteligenca.
- Blogerji in pisci: Želi objaviti vsebino, ustvarjeno z umetno inteligenco, vendar ga skrbi, da bi bila uvrščena nižje v iskalnikih, če bi jo prepoznali kot pisanje z umetno inteligenco.
- Profesionalci v moderiranju vsebin. Prepoznavanje neželene pošte, lažnih mnenj ali neprimerne vsebine, ki jo ustvari AI.
- Podjetja, ki zagotavljajo izvirno marketinško vsebino. Preverjanje, da se promocijsko gradivo ne zamenja za besedilo, ustvarjeno z umetno inteligenco, ohranjanje verodostojnosti blagovne znamke.
| Zaradi skrbi glede njihove zanesljivosti se mnogi uporabniki trenutno obotavljajo glede popolne odvisnosti od detektorjev AI. Vendar ti detektorji že postajajo vse bolj priljubljeni kot znak, da je besedilo morda ustvarjeno z umetno inteligenco, še posebej, če je uporabnik že dvomil. |
Ročno zaznavanje besedila, ustvarjenega z umetno inteligenco
Poleg uporabe detektorjev AI se lahko naučite tudi sami prepoznati edinstvene lastnosti pisanja AI. Tega ni vedno lahko narediti zanesljivo – človeško pisanje lahko včasih zveni robotsko in pisanje z umetno inteligenco postaja vse bolj prepričljivo človeško – toda z vajo lahko razvijete dober občutek za to.
Posebna pravila, ki jim sledijo detektorji umetne inteligence, na primer nizka zmeda in razpoke, se lahko zdijo zapletena. Vendar pa lahko te lastnosti poskusite najti sami, tako da v besedilu pogledate določene znake:
- To se bere monotono, z malo variacijami v zgradbi ali dolžini stavkov
- Uporaba besed, ki so pričakovane in ne zelo edinstvene, ter z zelo malo nepričakovanimi elementi
Uporabite lahko tudi metode, ki jih detektorji AI ne uporabljajo, tako da pazite na:
| Metode | Izjava |
| Pretirana vljudnost | Klepetalni roboti, kot je ChatGPT, so narejeni kot koristni pomočniki, zato pogosto uporabljajo vljuden in formalen jezik, ki morda ne zveni zelo ležerno. |
| Neskladnost v glasu | Če ste seznanjeni s tem, kako nekdo običajno piše (na primer študent), lahko običajno opazite, da je nekaj, kar je napisal, precej drugačno od njegovega običajnega sloga. |
| Jezik varovanja pred tveganjem | Bodite pozorni na to, ali ni veliko močnih in svežih idej, in opazite tudi, ali obstaja navada uporabe besednih zvez, ki preveč kažejo na negotovost: »Pomembno je omeniti, da ...« »X na splošno velja za ...« »X velja za ... ” “Nekateri ljudje bi lahko trdili, da …”. |
| Trditve brez vira ali nepravilno navedene | Ko gre za akademsko pisanje, je ključno omeniti, kje ste dobili informacije. Vendar orodja za pisanje AI pogosto ne upoštevajo tega pravila ali delajo napake (na primer navajanje virov, ki ne obstajajo ali niso ustrezni). |
| Logične napake | Čeprav pisanje z umetno inteligenco postaja vse boljše, ker zveni naravno, se ideje v njem včasih ne ujemajo najbolje. Bodite pozorni na mesta, kjer besedilo govori o stvareh, ki se ne ujemajo, zvenijo malo verjetno ali predstavljajo ideje, ki se ne povezujejo gladko. |
| Na splošno vam lahko eksperimentiranje z različnimi orodji za pisanje z umetno inteligenco, opazovanje vrst besedil, ki jih lahko ustvarijo, in spoznavanje načina pisanja pomagajo bolje opaziti besedilo, ki bi ga morda ustvarila umetna inteligenca. |
Detektorji za AI slike in videe
Generatorji slik in videa z umetno inteligenco, zlasti priljubljeni, kot sta DALL-E in Synthesia, lahko ustvarijo realistične in spremenjene vizualne podobe. Zaradi tega je ključnega pomena prepoznavanje »deepfake« ali slik in videoposnetkov, ki jih je ustvarila umetna inteligenca, da preprečimo širjenje lažnih informacij.
Trenutno lahko veliko znakov razkrije slike in videoposnetke, ustvarjene z umetno inteligenco, kot so:
- Roke s preveč prsti
- Čudni gibi
- Nesmiselno besedilo na sliki
- Nerealne poteze obraza
Vendar bo odkrivanje teh znakov težje, ko bo umetna inteligenca vse boljša.
Obstajajo orodja, zasnovana za zaznavanje teh vizualnih elementov, ki jih ustvari umetna inteligenca, vključno z:
- Deepware
- Intelov FakeCatcher
- iluminarnost
Še vedno ni jasno, kako učinkovita in zanesljiva so ta orodja, zato je potrebnih več testiranj.
Nenehni razvoj ustvarjanja in odkrivanja slik in videoposnetkov z umetno inteligenco ustvarja stalno potrebo po razvoju trdnejših in natančnejših metod odkrivanja za obravnavo možnih tveganj, povezanih z globokimi ponaredki in vizualnimi elementi, ustvarjenimi z umetno inteligenco.
zaključek
| Detektorji umetne inteligence pomagajo prepoznati besedila, ki jih ustvarijo orodja, kot je ChatGPT. V glavnem iščejo »zmedo« in »razpoke«, da bi opazili vsebino, ustvarjeno z umetno inteligenco. Njihova natančnost ostaja zaskrbljujoča, saj tudi najboljši kažejo napake. Ko tehnologija umetne inteligence napreduje, je razlikovanje med ljudmi in vsebino, ki jo proizvaja umetna inteligenca, vključno s slikami in videoposnetki, težje, kar poudarja, da moramo biti previdni na spletu. |
Pogosto zastavljena vprašanja
| 1. Kakšna je razlika med Detektorji AI in Preverjevalci plagiatorstva? A: Detektorji umetne inteligence in preverjalniki plagiatorstva se na univerzah uporabljajo za odvračanje od akademske nepoštenosti, vendar se razlikujejo po svojih metodah in ciljih: • Detektorji umetne inteligence so namenjeni prepoznavanju besedila, ki spominja na izpis pisalnih orodij umetne inteligence. To vključuje analizo lastnosti besedila, kot sta zmedenost in razpokanost, namesto da bi jih primerjali z bazo podatkov. • Preverjevalci plagiatorstva so namenjeni odkrivanju kopiranega besedila iz drugih virov. To dosežejo s primerjavo besedila z obsežno zbirko podatkov o predhodno objavljenih vsebinah in študentskih diplomskih nalogah, pri čemer ugotavljajo podobnosti – ne da bi se zanašali na analizo specifičnih lastnosti besedila. 2. Kako lahko uporabljam ChatGPT? A: Če želite uporabljati ChatGPT, preprosto ustvarite brezplačen račun: • Sledi ta povezava na spletno mesto ChatGPT. • Izberite »Prijava« in vnesite zahtevane podatke (ali uporabite svoj Google Račun). Prijava in uporaba orodja je brezplačna. • Vnesite poziv v polje za klepet, da začnete! Trenutno je na voljo različica aplikacije ChatGPT za iOS, v načrtu pa je tudi aplikacija za Android. Aplikacija deluje podobno kot spletna stran in za prijavo na obeh platformah lahko uporabite isti račun. 3. Do kdaj bo ChatGPT brezplačen? A: Prihodnja brezplačna razpoložljivost ChatGPT ostaja negotova, brez posebnega časovnega načrta. Orodje je bilo prvotno predstavljeno novembra 2022 kot »predogled raziskave«, ki ga bo brezplačno preizkusila široka baza uporabnikov. Izraz »predogled« nakazuje morebitne prihodnje stroške, vendar uradna potrditev o koncu brezplačnega dostopa ne obstaja. Izboljšana možnost, ChatGPT Plus, stane 20 USD/mesec in vključuje napredne funkcije, kot je GPT-4. Ni jasno, ali bo ta premium različica nadomestila brezplačno ali se bo slednja nadaljevala. Na to odločitev lahko vplivajo dejavniki, kot so stroški strežnika. Prihodnja pot ostaja negotova. 4. Ali je v redu vključiti ChatGPT v svoje citate? A: V določenih kontekstih je primerno, da se v svojem delu sklicevate na ChatGPT, zlasti če služi kot pomemben vir za preučevanje jezikovnih modelov umetne inteligence. Določene univerze lahko zahtevajo navedbo ali priznanje, če je ChatGPT pomagal vašemu procesu raziskovanja ali pisanja, na primer pri razvijanju raziskovalnih vprašanj; priporočljivo je, da si ogledate smernice vaše ustanove. Vendar pa je zaradi različne zanesljivosti in pomanjkanja verodostojnosti ChatGPT kot vira najbolje, da ga ne navajate kot dejanske informacije. V slogu APA lahko odgovor ChatGPT obravnavate kot osebno komunikacijo, saj njegovi odgovori niso dostopni drugim. V besedilu ga navedite na naslednji način: (ChatGPT, osebna komunikacija, 11. februar 2023). |
