AI detektori, koji se ponekad spominju kao AI detektori pisanja ili AI detektori sadržaja, služe svrsi utvrđivanja da li je tekst djelomično ili u potpunosti sastavljen pomoću alata umjetne inteligencije kao što su Chat GPT.
Ovi detektori su korisni za identifikaciju slučajeva u kojima je pisani dio vjerovatno kreiran od strane AI. Aplikacija je korisna na sljedeće načine:
- Ovjera studentskog rada. Nastavnici ga mogu koristiti za provjeru autentičnosti originalnih zadataka učenika i pisanja projekata.
- Borba protiv lažnih recenzija proizvoda. Moderatori ga mogu koristiti da identifikuju i adresiraju kritike krivotvorenih proizvoda koje imaju za cilj da manipulišu percepcijom potrošača.
- Borba protiv neželjenog sadržaja. Pomaže u otkrivanju i uklanjanju različitih oblika neželjenog sadržaja koji bi mogli narušiti kvalitet i kredibilitet online platformi.
Ovi alati su još uvijek novi i testirani su, tako da trenutno nismo sasvim sigurni koliko su pouzdani. U sljedećim odjeljcima ulazimo u njihovo funkcioniranje, provjeravamo koliko im se može vjerovati i istražujemo niz praktičnih aplikacija koje nude.
| Obrazovne institucije, uključujući univerzitete, su u procesu formulisanja svojih stavova u pogledu odgovarajuće upotrebe ChatGPT-a i sličnih alata. Od suštinske je važnosti dati prioritet smjernicama vaše institucije u odnosu na sve savjete na koje naiđete na internetu. |
Kako rade AI detektori?
AI detektori obično koriste jezičke modele koji su poput onih u alatima za pisanje AI koje pokušavaju pronaći. U osnovi, jezički model gleda ulaz i pita: "Da li ovo izgleda kao nešto što sam možda napravio?" Ako kaže da, model pretpostavlja da je tekst vjerovatno kreirao AI.
Konkretno, ovi modeli traže dvije karakteristike unutar teksta: „zbunjenost“ i „rafalnost“. Kada su ova dva aspekta niža, postoji veća vjerovatnoća da je tekst generirao AI.
Međutim, šta tačno znače ovi neuobičajeni izrazi?
Zbunjenost
Zbunjenost je značajna metrika koja se koristi za procjenu znanja jezičkih modela. Odnosi se na to koliko dobro je model u stanju da predvidi sljedeću riječ u nizu riječi.
Modeli AI jezika rade na stvaranju tekstova s malom nedoumice, što rezultira povećanom koherentnošću, nesmetanim protokom i predvidljivošću. Nasuprot tome, ljudsko pisanje često pokazuje veću zbunjenost zbog korištenja maštovitijih jezičkih opcija, iako je praćeno većom učestalošću tipografskih grešaka.
Jezički modeli rade tako što predviđaju koja bi riječ prirodno došla u rečenicu i ubacuju je. U nastavku možete vidjeti primjer.
| Primjer nastavka | Zbunjenost |
| Nisam mogao da završim projekat poslednji noć. | Low: Vjerovatno najvjerovatniji nastavak |
| Nisam mogao da završim projekat poslednji vreme da ne pijem kafu uveče. | Nisko do srednje: Manje vjerovatno, ali ima gramatički i logički smisao |
| Nisam mogao završiti projekat prošlog semestra mnogo puta zbog toga koliko sam bio nemotivisan u to vreme. | Srednje: Rečenica je koherentna, ali prilično neobično strukturirana i duga |
| Nisam mogao da završim projekat poslednji drago mi je da smo se upoznali. | Visoka: Gramatički netačno i nelogično |
Niska zbunjenost se uzima kao dokaz da je tekst generisan AI.
Burstiness
„Pravljenje“ je način da se vidi kako se rečenice razlikuju po tome kako su sastavljene i koliko su dugačke. To je pomalo kao zbunjenost, ali za cijele rečenice umjesto samo riječi.
Kada tekst uglavnom ima rečenice koje su slične po načinu na koji su napravljene i koliko su dugačke, ima nisku rasprskavanje. To znači da se čita lakše. Ali ako tekst ima rečenice koje se međusobno veoma razlikuju po načinu na koji su izgrađene i koliko su dugačke, on ima visoku brzinu. Zbog toga se tekst čini manje postojanim i raznovrsnijim.
Tekst generisan veštačkom inteligencijom ima tendenciju da bude manje varijabilan u svojim obrascima rečenica u poređenju sa tekstom koji je napisao čovek. Kako jezički modeli pogađaju riječ koja je vjerovatno sljedeća, oni obično prave rečenice dugačke oko 10 do 20 riječi i slijede uobičajene obrasce. Zbog toga pisanje AI ponekad može izgledati monotono.
Low burstness označava da će tekst vjerovatno biti generisan AI.
Još jedna opcija koju treba razmotriti: vodeni žigovi
OpenAI, tvorac ChatGPT-a, navodno razvija metodu pod nazivom "vodeni žig". Ovaj sistem uključuje dodavanje nevidljive oznake tekstu koji proizvodi alat, koji kasnije može biti identificiran od strane drugog sistema kako bi se potvrdilo AI porijeklo teksta.
Međutim, ovaj sistem se još uvijek razvija, a tačni detalji kako će funkcionirati još nisu otkriveni. Štaviše, nejasno je da li će neki predloženi vodeni žigovi ostati netaknuti kada se izvrše izmjene generiranog teksta.
| Iako ideja o korištenju ovog koncepta za otkrivanje umjetne inteligencije u budućnosti izgleda puna nade, važno je napomenuti da se još uvijek čekaju definitivni detalji i potvrde o njegovom sprovođenju u praksu. |
Koja je pouzdanost AI detektora?
- AI detektori obično rade efikasno, posebno sa dužim tekstovima, ali mogu imati problema ako se tekst kreiran AI namerno učini manje očekivanim ili se promeni nakon što je napravljen.
- AI detektori mogu pogrešno pomisliti da je tekst koji su napisali ljudi zapravo napravila AI, posebno ako ispunjava uslove niske zbunjenosti i rafalnosti.
- Istraživanja o AI detektorima pokazuju da nijedan alat ne može pružiti potpunu tačnost; najveća preciznost bila je 84% u premium alatu ili 68% u najboljem besplatnom alatu.
- Ovi alati nude vrijedan uvid u vjerovatnoću da će tekst biti generiran umjetnom inteligencijom, ali preporučujemo da se ne oslanjate samo na njih kao na dokaz. Sa tekućim napretkom jezičkih modela, alati koji ih otkrivaju morat će više raditi da bi bili u toku.
- Provajderi sa više samopouzdanja obično priznaju da njihovi alati ne mogu poslužiti kao uvjerljiv dokaz teksta generiranog umjetnom inteligencijom.
- Univerziteti, za sada, nemaju snažno povjerenje u ove alate.
| Pokušaj sakrivanja pisanja generiranog umjetnom inteligencijom zapravo može učiniti da se tekst čini vrlo čudnim ili neprikladnim za namjeravanu upotrebu. Na primjer, namjerno uvođenje pravopisnih grešaka ili korištenje nelogičnih odabira riječi u tekstu može smanjiti šanse da ga detektor AI prepoznaje. Međutim, tekst ispunjen ovim greškama i čudnim izborima vjerovatno se neće smatrati dobrim akademskim pisanjem. |
U koju svrhu se koriste AI detektori?
AI detektori su namijenjeni pojedincima koji žele provjeriti da li je tekst mogao biti kreiran umjetnom inteligencijom. Ljudi koji bi ga mogli koristiti su:
- Odgajatelji i nastavnici. Osiguravanje autentičnosti rada studenata i sprječavanje plagijata.
- Učenici provjeravaju svoje zadatke. Provjera da li je njihov sadržaj jedinstven i da ne izgleda slučajno kao tekst generiran AI.
- Izdavači i urednici pregledavaju podneske. Žele osigurati da objavljuju samo sadržaj koji su napisali ljudi.
- Istraživači. žele otkriti sve potencijalne istraživačke radove ili članke generirane umjetnom inteligencijom.
- Blogeri i pisci: Želja objavljivanje sadržaja generiranog umjetnom inteligencijom, ali se brinete da bi mogao biti niže rangiran u pretraživačima ako se prepozna kao pisanje AI.
- Profesionalci u moderiranju sadržaja. Prepoznavanje neželjene pošte koju je stvorila umjetna inteligencija, lažnih recenzija ili neprikladnog sadržaja.
- Preduzeća koja osiguravaju originalni marketinški sadržaj. Provjera da se promotivni materijal ne zamijeni s tekstom generiranim umjetnom inteligencijom, održavajući kredibilitet brenda.
| Zbog zabrinutosti oko njihove pouzdanosti, mnogi korisnici trenutno oklevaju da u potpunosti ovise o AI detektorima. Međutim, ovi detektori već postaju sve popularniji kao znak da bi tekst mogao biti generiran umjetnom inteligencijom, posebno kada je korisnik već sumnjao. |
Ručno otkrivanje teksta generiranog umjetnom inteligencijom
Osim korištenja detektora umjetne inteligencije, možete naučiti i sami prepoznati jedinstvene osobine pisanja AI. Nije uvijek lako to učiniti pouzdano – ljudsko pisanje ponekad može zvučati robotski, a pisanje AI postaje uvjerljivije ljudsko – ali s vježbom možete razviti dobar smisao za to.
Specifična pravila koja se pridržavaju AI detektori, kao što su niska zbunjenost i rasprskavanje, mogu izgledati komplikovano. Međutim, možete pokušati sami pronaći ove osobine gledajući u tekstu određene znakove:
- To se čita monotono, sa malim varijacijama u strukturi ili dužini rečenice
- Korištenje riječi koje su očekivane i ne baš jedinstvene, i koje imaju vrlo malo neočekivanih elemenata
Također možete koristiti metode koje AI detektori ne koriste, tako što ćete paziti na:
| metode | objašnjenje |
| Preterana ljubaznost | Chatbotovi kao što je ChatGPT su napravljeni da budu pomoćni pomoćnici, tako da često koriste pristojan i formalan jezik koji možda ne zvuči baš opušteno. |
| Nedosljednost u glasu | Ako vam je poznato kako neko obično piše (kao student), obično možete primijetiti da se nešto što je napisao prilično razlikuje od njihovog uobičajenog stila. |
| Jezik hedžinga | Obratite pažnju na to da nema mnogo jakih i svježih ideja, a također primijetite da li postoji navika da se koriste fraze koje previše pokazuju nesigurnost: „Važno je napomenuti da…” „X se široko smatra…” „X se smatra … ” „Određeni ljudi bi mogli tvrditi da…”. |
| Tvrdnje bez izvora ili netačno citirane | Kada je riječ o akademskom pisanju, ključno je spomenuti odakle ste dobili informacije. Međutim, AI alati za pisanje često ne slijede ovo pravilo ili prave greške (kao što je citiranje izvora koji ne postoje ili nisu relevantni). |
| Logičke greške | Iako pisanje AI postaje sve bolje u zvučanju prirodno, ponekad se ideje u njemu ne uklapaju dobro. Obratite pažnju na mjesta na kojima se u tekstu navode stvari koje se ne poklapaju, zvuče malo vjerovatno ili predstavljaju ideje koje se ne povezuju glatko. |
| Općenito, eksperimentiranje s različitim alatima za pisanje AI-a, gledanje vrsta tekstova koje mogu proizvesti i upoznavanje s načinom na koji pišu može vam pomoći da bolje uočite tekst koji je možda stvorila AI. |
Detektori za AI slike i video zapise
AI slike i video generatori, posebno popularni kao što su DALL-E i Synthesia, mogu stvoriti realistične i izmijenjene vizuale. Zbog toga je presudno identificirati “deepfakes” ili slike i video zapise napravljene umjetnom inteligencijom kako bi se spriječilo širenje lažnih informacija.
Trenutno, mnogi znakovi mogu otkriti slike i videozapise generirane umjetnom inteligencijom, kao što su:
- Ruke sa previše prstiju
- Čudni pokreti
- Besmislen tekst na slici
- Nerealne crte lica
Ipak, uočavanje ovih znakova moglo bi postati teže kako AI postaje sve bolji.
Postoje alati dizajnirani za otkrivanje ovih vizuala generiranih umjetnom inteligencijom, uključujući:
- Deepware
- Intelov FakeCatcher
- illuminarty
Još uvijek nije jasno koliko su ovi alati efikasni i pouzdani, pa je potrebno više testiranja.
Stalna evolucija generisanja i detekcije AI slika i video zapisa stvara stalnu potrebu za razvojem čvršćih i preciznijih metoda detekcije kako bi se pozabavili potencijalnim rizicima povezanim s dubokim lažiranjem i vizualima generisanim AI.
zaključak
| AI detektori pomažu u identifikaciji tekstova generiranih alatima kao što je ChatGPT. Oni uglavnom traže „zbunjenost“ i „rafalnost“ da bi uočili sadržaj kreiran AI. Njihova tačnost ostaje zabrinjavajuća, čak i oni najbolji pokazuju greške. Kako tehnologija umjetne inteligencije napreduje, razlikovanje ljudi od sadržaja proizvedenog umjetnom inteligencijom, uključujući slike i video zapise, postaje sve teže, naglašavajući potrebu da budete oprezni na mreži. |
Najčešća pitanja
| 1. Koja je razlika između AI detektori i Plagijat Checkers? A: I detektori umjetne inteligencije i provjere plagijata nalaze se na univerzitetima kako bi spriječili akademsko nepoštenje, ali se razlikuju po svojim metodama i ciljevima: • AI detektori imaju za cilj da identifikuju tekst koji liči na izlaz iz AI alata za pisanje. Ovo uključuje analizu karakteristika teksta kao što su zbunjenost i burnost, umjesto da ih upoređujete s bazom podataka. • Provjera plagijata ima za cilj da otkrije kopirani tekst iz drugih izvora. Oni to postižu upoređujući tekst sa opsežnom bazom podataka prethodno objavljenih sadržaja i studentskih teza, identifikujući sličnosti – bez oslanjanja na analizu specifičnih osobina teksta. 2. Kako mogu koristiti ChatGPT? A: Da biste koristili ChatGPT, jednostavno kreirajte besplatni račun: • Pratiti ovaj link na web stranicu ChatGPT. • Odaberite “Registracija” i unesite tražene informacije (ili koristite svoj Google račun). Registracija i korištenje alata su besplatni. • Unesite upit u okvir za ćaskanje da započnete! Trenutno je dostupna iOS verzija aplikacije ChatGPT, a u pripremi su i planovi za Android aplikaciju. Aplikacija funkcionira slično kao i web stranica, a možete koristiti isti račun za prijavu na obje platforme. 3. Do kada će ChatGPT ostati besplatan? A: Buduća dostupnost besplatnog ChatGPT-a ostaje neizvjesna, bez najavljenog određenog vremenskog okvira. Alat je prvobitno predstavljen u novembru 2022. kao "pregled istraživanja" koji će ga bez ikakvih troškova testirati široka korisnička baza. Termin "pregled" sugerira potencijalne buduće naknade, ali ne postoji zvanična potvrda o ukidanju besplatnog pristupa. Poboljšana opcija, ChatGPT Plus, košta 20 USD mjesečno i uključuje napredne funkcije kao što je GPT-4. Nejasno je hoće li ova premium verzija zamijeniti besplatnu ili će se ova druga nastaviti. Faktori poput troškova servera mogu uticati na ovu odluku. Budući kurs ostaje neizvjestan. 4. Da li je u redu uključiti ChatGPT u moje citate? A: U određenim kontekstima, prikladno je upućivati na ChatGPT u svom radu, posebno kada služi kao značajan izvor za proučavanje jezičkih modela AI. Određeni univerziteti mogu zahtijevati citiranje ili priznanje ako je ChatGPT pomogao vašem istraživanju ili procesu pisanja, kao što je razvoj istraživačkih pitanja; preporučljivo je konsultovati smjernice vaše institucije. Međutim, zbog različite pouzdanosti ChatGPT-a i nedostatka kredibiliteta kao izvora, najbolje je ne citirati ga za činjenične informacije. U APA stilu, možete tretirati ChatGPT odgovor kao ličnu komunikaciju jer njegovi odgovori nisu dostupni drugima. U tekstu ga citirajte na sljedeći način: (ChatGPT, lična komunikacija, 11. februar 2023.). |
