AI detektori, koji se ponekad spominju kao AI pisanje ili AI detektori sadržaja, služe u svrhu utvrđivanja je li tekst djelomično ili u potpunosti sastavljen pomoću alata umjetne inteligencije kao što su ChatGPT.
Ovi detektori korisni su za prepoznavanje slučajeva u kojima je pisani dio vjerojatno stvorila umjetna inteligencija. Primjena je korisna na sljedeće načine:
- Ovjera studentskih radova. Nastavnici ga mogu koristiti za provjeru autentičnosti izvornih zadataka učenika i pisanja projekata.
- Suprotstavljanje lažnim recenzijama proizvoda. Moderatori ga mogu koristiti za prepoznavanje i rješavanje recenzija krivotvorenih proizvoda kojima je cilj manipulirati percepcijom potrošača.
- Rješavanje spam sadržaja. Pomaže u otkrivanju i uklanjanju različitih oblika neželjenog sadržaja koji bi mogao narušiti kvalitetu i vjerodostojnost mrežnih platformi.
Ovi su alati još uvijek novi i testiraju se, tako da trenutno nismo potpuno sigurni koliko su pouzdani. U sljedećim odjeljcima istražit ćemo njihovo funkcioniranje, provjeriti koliko im se može vjerovati i istražiti niz praktičnih primjena koje nude.
| Obrazovne institucije, uključujući sveučilišta, u procesu su formuliranja svojih stavova u vezi s odgovarajućom upotrebom ChatGPT-a i sličnih alata. Bitno je dati prednost smjernicama svoje ustanove u odnosu na bilo koji savjet na koji naiđete na internetu. |
Kako rade AI detektori?
AI detektori obično koriste jezične modele koji su slični onima u AI alatima za pisanje koje pokušavaju pronaći. U osnovi, jezični model gleda ulaz i pita: "Izgleda li ovo kao nešto što sam ja napravio?" Ako kaže da, model pogađa da je tekst vjerojatno stvorila umjetna inteligencija.
Konkretno, ovi modeli traže dvije karakteristike unutar teksta: "zbrkanost" i "praskovitost". Kada su ova dva aspekta niža, postoji veća vjerojatnost da je tekst generirao AI.
Međutim, što točno znače ovi neuobičajeni pojmovi?
Zbunjenost
Zbunjenost je značajna metrika koja se koristi za procjenu poznavanja jezičnih modela. Odnosi se na to koliko dobro model može predvidjeti sljedeću riječ u nizu riječi.
Jezični modeli umjetne inteligencije rade na stvaranju tekstova s malom zamršenošću, što rezultira povećanom koherentnošću, glatkim tokom i predvidljivošću. Nasuprot tome, ljudsko pisanje često pokazuje veću zbunjenost zbog korištenja maštovitijih jezičnih opcija, iako je popraćeno većom učestalošću tipografskih pogrešaka.
Jezični modeli funkcioniraju tako da predviđaju koja će riječ prirodno doći sljedeća u rečenici i umeću je. Primjer možete vidjeti u nastavku.
| Primjer nastavka | Zbunjenost |
| Nisam uspio završiti projekt posljednji noć. | niska: Vjerojatno najizgledniji nastavak |
| Nisam uspio završiti projekt posljednji vrijeme kad navečer ne pijem kavu. | Nisko do srednje: Manje vjerojatno, ali ima gramatičkog i logičkog smisla |
| Nisam mogao završiti projekt prošlog semestra mnogo puta zbog toga koliko sam u to vrijeme bio nemotiviran. | Srednji: Rečenica je koherentna, ali prilično neobično strukturirana i razvučena |
| Nisam uspio završiti projekt posljednji drago mi je. | Visoka: Gramatički netočno i nelogično |
Niska zbunjenost uzima se kao dokaz da je tekst generiran umjetnom inteligencijom.
Pucanje
"Burstiness" je način da vidite kako se rečenice razlikuju u tome kako su sastavljene i koliko su duge. To je pomalo kao zbunjenost, ali za cijele rečenice umjesto samo za riječi.
Kada tekst uglavnom ima rečenice koje su slične po načinu na koji su napravljene i koliko su dugačke, on ima nisku rasprskavost. To znači da se očitava glađe. Ali ako tekst ima rečenice koje se jako razlikuju jedna od druge po tome kako su izgrađene i koliko su dugačke, on ima visoku praskavost. Zbog toga se tekst čini manje stabilnim i raznolikijim.
Tekst generiran umjetnom inteligencijom obično je manje promjenjiv u svojim obrascima rečenica u usporedbi s tekstom koji su napisali ljudi. Dok jezični modeli pogađaju riječ koja je vjerojatno sljedeća, oni obično sastavljaju rečenice koje imaju oko 10 do 20 riječi i slijede redovne obrasce. Zbog toga se AI pisanje ponekad može činiti monotonim.
Niska rasprsnutost označava da je tekst vjerojatno generiran umjetnom inteligencijom.
Još jedna mogućnost za razmatranje: vodeni žigovi
OpenAI, tvorac ChatGPT-a, navodno razvija metodu koja se zove "vodeni žig". Ovaj sustav uključuje dodavanje nevidljive oznake tekstu koji proizvodi alat, koju kasnije može identificirati drugi sustav kako bi se potvrdilo AI porijeklo teksta.
Međutim, ovaj sustav se još uvijek razvija, a točni detalji kako će funkcionirati još nisu otkriveni. Štoviše, nejasno je hoće li bilo koji predloženi vodeni žig ostati netaknut kada se unese uređivanje generiranog teksta.
| Iako ideja o korištenju ovog koncepta za otkrivanje umjetne inteligencije u budućnosti izgleda obećavajuće, važno je napomenuti da se konačni detalji i potvrde o njegovoj primjeni u praksi još čekaju. |
Koja je pouzdanost AI detektora?
- AI detektori obično rade učinkovito, osobito s dužim tekstovima, ali mogu imati problema ako se tekst koji je stvorila umjetna inteligencija namjerno učini manje očekivanim ili se promijeni nakon što je napravljen.
- Detektori umjetne inteligencije mogli bi pogrešno pomisliti da je tekst koji su napisali ljudi zapravo izradila umjetna inteligencija, posebno ako ispunjava uvjete niske zamršenosti i pucanja.
- Istraživanja o AI detektorima pokazuju da nijedan alat ne može pružiti potpunu točnost; najveća točnost bila je 84% u vrhunskom alatu ili 68% u najboljem besplatnom alatu.
- Ovi alati nude dragocjene uvide u vjerojatnost da je tekst generiran umjetnom inteligencijom, ali preporučujemo da se ne oslanjate samo na njih kao na dokaz. Sa stalnim napretkom jezičnih modela, alati koji ih otkrivaju morat će više raditi kako bi išli u korak.
- Samouvjereniji pružatelji obično priznaju da njihovi alati ne mogu poslužiti kao uvjerljivi dokaz teksta generiranog umjetnom inteligencijom.
- Sveučilišta za sada nemaju veliko povjerenje u te alate.
| Pokušaj sakriti pisanje koje je generirala umjetna inteligencija zapravo može učiniti da se tekst čini vrlo čudnim ili neprikladnim za namjeravanu upotrebu. Na primjer, namjerno unošenje pravopisnih pogrešaka ili korištenje nelogičnog odabira riječi u tekstu može smanjiti šanse da ga identificira AI detektor. Međutim, tekst ispunjen tim pogreškama i čudnim odabirima vjerojatno se neće smatrati dobrim akademskim pisanjem. |
U koju svrhu se koriste AI detektori?
AI detektori namijenjeni su pojedincima koji žele provjeriti je li tekst mogao stvoriti umjetna inteligencija. Ljudi koji bi ga mogli koristiti su:
- Odgojitelji i učitelji. Osiguravanje autentičnosti studentskih radova i sprječavanje plagiranja.
- Učenici provjeravaju svoje zadatke. Provjera je li njihov sadržaj jedinstven i nenamjerno izgleda kao tekst koji je generirao AI.
- Izdavači i urednici pregledavaju podneske. Želimo osigurati da objavljuju samo sadržaje koje su napisali ljudi.
- Istraživači. žele otkriti sve potencijalne istraživačke radove ili članke koje je generirala umjetna inteligencija.
- Blogeri i pisci: Želi objaviti sadržaj generiran umjetnom inteligencijom, ali brine se da bi mogao biti niži u tražilicama ako ga prepoznaju kao pisanje umjetne inteligencije.
- Profesionalci u moderiranju sadržaja. Identificiranje neželjene pošte generirane umjetnom inteligencijom, lažnih recenzija ili neprikladnog sadržaja.
- Tvrtke koje osiguravaju originalni marketinški sadržaj. Provjera da se promotivni materijal ne zamijeni s tekstom generiranim umjetnom inteligencijom, održavajući kredibilitet marke.
| Zbog zabrinutosti oko njihove pouzdanosti, mnogi korisnici trenutno oklijevaju u potpunosti ovisiti o AI detektorima. Međutim, ovi detektori već postaju sve popularniji kao znak da je tekst možda generiran umjetnom inteligencijom, osobito kada korisnik već ima svoje sumnje. |
Ručno otkrivanje teksta generiranog umjetnom inteligencijom
Osim korištenja AI detektora, također možete naučiti sami identificirati jedinstvene značajke AI pisanja. Nije uvijek lako to učiniti pouzdano - ljudsko pisanje ponekad može zvučati robotski, a AI pisanje postaje sve uvjerljivije ljudsko - ali s vježbom možete razviti dobar osjećaj za to.
Specifična pravila koja slijede AI detektori, kao što su niska zbunjenost i pucanje, mogu se činiti kompliciranima. Međutim, te osobine možete pokušati sami pronaći tako da u tekstu potražite određene znakove:
- To glasi monotono, s malim varijacijama u strukturi rečenice ili duljini
- Korištenje riječi koje su očekivane i nisu baš jedinstvene, te imaju vrlo malo neočekivanih elemenata
Također možete koristiti metode koje AI detektori ne koriste, pazeći na:
| Metode | Objašnjenje |
| Pretjerana uljudnost | Chatbotovi kao što je ChatGPT stvoreni su da budu korisni pomoćnici, pa često koriste pristojan i formalan jezik koji možda ne zvuči baš ležerno. |
| Nedosljednost u glasu | Ako ste upoznati s načinom na koji netko obično piše (poput učenika), obično možete primijetiti da je nešto što je napisao prilično drugačije od njegovog uobičajenog stila. |
| Jezik zaštite od rizika | Obratite pozornost na to nema li mnogo jakih i svježih ideja, a također primijetite postoji li navika korištenja izraza koji previše pokazuju nesigurnost: “Važno je napomenuti da…” “X se općenito smatra …” “X se smatra … ” “Određeni ljudi mogu tvrditi da...”. |
| Tvrdnje bez izvora ili netočno navedene | Kada je riječ o akademskom pisanju, ključno je spomenuti odakle ste dobili informacije. Međutim, alati za pisanje umjetne inteligencije često ne slijede ovo pravilo ili čine pogreške (poput navođenja izvora koji ne postoje ili nisu relevantni). |
| Logičke greške | Iako pisanje umjetne inteligencije sve bolje zvuči prirodno, ponekad se ideje u njemu ne slažu dobro. Obratite pozornost na mjesta na kojima tekst govori o stvarima koje se ne podudaraju, zvuči nevjerojatno ili iznosi ideje koje se ne povezuju glatko. |
| Općenito, eksperimentiranje s raznim alatima za pisanje AI-jem, promatranje vrsta tekstova koje mogu proizvesti i upoznavanje s načinom na koji pišu može vam pomoći da bolje uočite tekst koji je možda stvorio AI. |
Detektori za AI slike i video
AI generatori slika i videa, posebno oni popularni kao što su DALL-E i Synthesia, mogu stvoriti realistične i izmijenjene vizuale. Zbog toga je ključno identificirati "deepfake" ili slike i videozapise napravljene umjetnom inteligencijom kako bi se spriječilo širenje lažnih informacija.
Trenutačno mnogi znakovi mogu otkriti slike i videozapise generirane umjetnom inteligencijom, kao što su:
- Ruke s previše prstiju
- Čudni pokreti
- Besmislen tekst na slici
- Nerealne crte lica
Ipak, uočavanje ovih znakova moglo bi postati teže kako umjetna inteligencija postaje bolja.
Postoje alati dizajnirani za otkrivanje ovih vizualnih prikaza koje je generirala umjetna inteligencija, uključujući:
- Deepware
- Intelov FakeCatcher
- iluminarnost
Još uvijek nije jasno koliko su ovi alati učinkoviti i pouzdani, pa je potrebno dodatno testiranje.
Stalna evolucija generiranja i otkrivanja slike i videa umjetnom inteligencijom stvara stalnu potrebu za razvojem čvršćih i preciznijih metoda detekcije za rješavanje potencijalnih rizika povezanih s deepfakeovima i vizualnim elementima generiranim umjetnom inteligencijom.
Zaključak
| AI detektori pomažu identificirati tekstove koje generiraju alati poput ChatGPT-a. Oni uglavnom traže "zbrku" i "prskavost" kako bi uočili sadržaj koji je stvorila umjetna inteligencija. Njihova točnost ostaje problem, jer čak i oni najbolji pokazuju pogreške. Kako tehnologija umjetne inteligencije napreduje, razlikovanje ljudi od sadržaja proizvedenog umjetnom inteligencijom, uključujući slike i videozapise, postaje sve teže, naglašavajući potrebu da budete oprezni na internetu. |
Često postavljana pitanja
| 1. Koja je razlika između AI detektori i Provjera plagijata? A: I detektori umjetne inteligencije i provjerivači plagijata koriste se na sveučilištima za odvraćanje od akademskog nepoštenja, no ipak se razlikuju u svojim metodama i ciljevima: • AI detektori imaju za cilj identificirati tekst koji nalikuje izlazu iz AI alata za pisanje. To uključuje analizu značajki teksta kao što su zamršenost i pucanje, umjesto njihove usporedbe s bazom podataka. • Alati za provjeru plagijata imaju za cilj otkrivanje kopiranog teksta iz drugih izvora. To postižu usporedbom teksta s opsežnom bazom prethodno objavljenih sadržaja i studentskih radova, utvrđivanjem sličnosti—bez oslanjanja na analizu specifičnih karakteristika teksta. 2. Kako mogu koristiti ChatGPT? A: Da biste koristili ChatGPT, jednostavno napravite besplatni račun: • Slijediti ovaj link na web mjesto ChatGPT. • Odaberite “Prijava” i unesite potrebne podatke (ili upotrijebite svoj Google račun). Prijava i korištenje alata je besplatno. • Upišite upit u okvir za razgovor da biste započeli! Trenutačno je dostupna iOS verzija aplikacije ChatGPT, au planu su i aplikacije za Android. Aplikacija funkcionira slično web stranici, a možete koristiti isti račun za prijavu na obje platforme. 3. Do kada će ChatGPT ostati besplatan? A: Buduća dostupnost besplatnog ChatGPT-a ostaje neizvjesna, bez najavljenog određenog vremenskog okvira. Alat je prvotno predstavljen u studenom 2022. kao "pretpregled istraživanja" koji će besplatno testirati široka baza korisnika. Izraz "pregled" sugerira potencijalne buduće troškove, ali ne postoji službena potvrda o ukidanju besplatnog pristupa. Poboljšana opcija, ChatGPT Plus, košta 20 USD mjesečno i uključuje napredne značajke poput GPT-4. Nije jasno hoće li ova premium verzija zamijeniti besplatnu ili će se potonja nastaviti. Čimbenici poput troškova poslužitelja mogli bi utjecati na ovu odluku. Budući tok ostaje neizvjestan. 4. Je li u redu uključiti ChatGPT u moje citate? A: U određenim kontekstima, prikladno je spominjati ChatGPT u svom radu, posebno kada služi kao značajan izvor za proučavanje jezičnih modela umjetne inteligencije. Određena sveučilišta mogu zahtijevati citiranje ili priznanje ako je ChatGPT pomogao vašem procesu istraživanja ili pisanja, kao što je razvoj istraživačkih pitanja; preporučljivo je konzultirati smjernice svoje ustanove. Međutim, zbog različite pouzdanosti ChatGPT-a i nedostatka vjerodostojnosti kao izvora, najbolje je ne citirati ga radi činjeničnih informacija. U APA stilu, možete tretirati ChatGPT odgovor kao osobnu komunikaciju budući da njegovi odgovori nisu dostupni drugima. U tekstu ga citirajte na sljedeći način: (ChatGPT, osobna komunikacija, 11. veljače 2023.). |
