Detektory AI, niekedy uvádzané ako detektory AI písania alebo obsahu AI, slúžia na účely identifikácie, či bol text čiastočne alebo úplne zložený nástrojmi umelej inteligencie, ako sú ChatGPT.
Tieto detektory sú užitočné pri identifikácii prípadov, keď je písaný kus pravdepodobne vytvorený AI. Aplikácia je výhodná v nasledujúcich smeroch:
- Autentifikácia študentských prác. Pedagógovia ho môžu použiť na overenie pravosti pôvodných zadaní študentov a projektov písania.
- Boj proti falošným recenziám produktov. Moderátori ho môžu použiť na identifikáciu a riešenie recenzií falošných produktov, ktorých cieľom je manipulovať vnímanie spotrebiteľov.
- Riešenie spamu. Pomáha pri zisťovaní a odstraňovaní rôznych foriem spamového obsahu, ktorý by mohol narušiť kvalitu a dôveryhodnosť online platforiem.
Tieto nástroje sú stále nové a testujú sa, takže si momentálne nie sme úplne istí, nakoľko sú spoľahlivé. V nasledujúcich častiach sa ponoríme do ich fungovania, overíme, ako dobre im možno dôverovať, a preskúmame celý rad praktických aplikácií, ktoré ponúkajú.
| Vzdelávacie inštitúcie, vrátane univerzít, sú v procese formulovania svojich stanovísk ohľadom vhodného využívania ChatGPT a podobných nástrojov. Je nevyhnutné uprednostniť usmernenia vašej inštitúcie pred akýmikoľvek radami, s ktorými sa stretnete online. |
Ako fungujú detektory AI?
Detektory AI zvyčajne používajú jazykové modely, ktoré sú podobné tým v nástrojoch na písanie AI, ktoré sa snažia nájsť. V podstate sa jazykový model pozerá na vstup a pýta sa: „Vyzerá to ako niečo, čo som mohol urobiť?“ Ak povie áno, model uhádne, že text pravdepodobne vytvorila AI.
Tieto modely hľadajú v texte najmä dve charakteristiky: „zmätenosť“ a „roztrhnutie“. Keď sú tieto dva aspekty nižšie, je väčšia pravdepodobnosť, že text vygenerovala AI.
Čo však tieto nezvyčajné pojmy presne znamenajú?
Zmätenosť
Zmätenosť predstavuje významnú metriku používanú na hodnotenie znalostí jazykových modelov. Vzťahuje sa na to, ako dobre je model schopný predpovedať ďalšie slovo v sekvencii slov.
Jazykové modely AI pracujú na vytváraní textov s nízkou zložitosťou, čo vedie k zvýšenej koherencii, plynulosti a predvídateľnosti. Na rozdiel od toho ľudské písanie často vykazuje väčšiu zmätok v dôsledku využívania nápaditejších jazykových možností, aj keď je sprevádzané vyššou frekvenciou typografických chýb.
Jazykové modely fungujú tak, že predpovedajú, aké slovo bude prirodzene nasledovať vo vete, a vložia ho. Príklad si môžete pozrieť nižšie.
| Príklad pokračovania | Zmätenosť |
| Nemohol som dokončiť projekt ako posledný noc. | low: Asi najpravdepodobnejšie pokračovanie |
| Nemohol som dokončiť projekt ako posledný čas, keď večer nepijem kávu. | Nízka až stredná: Menej pravdepodobné, ale dáva to gramatický a logický zmysel |
| Minulý semester som nemohol dokončiť projekt veľakrát kvôli tomu, aký som bol v tom čase nemotivovaný. | médium: Veta je súvislá, no dosť nezvyčajne štrukturovaná a rozvláčna |
| Nemohol som dokončiť projekt ako posledný rád som vás spoznal. | Vysoká: Gramaticky nesprávne a nelogické |
Nízka zložitosť sa považuje za dôkaz, že text je generovaný AI.
Burstiness
„Burstiness“ je spôsob, ako zistiť, ako sa vety líšia v tom, ako sú zostavené a ako dlhé sú. Je to trochu ako zmätok, ale pre celé vety namiesto iba slov.
Keď text obsahuje väčšinou vety, ktoré sú podobné v tom, ako sú vytvorené a ako dlho sú, má nízku hlučnosť. To znamená, že sa číta plynulejšie. Ak však text obsahuje vety, ktoré sa od seba veľmi líšia v tom, ako sú zostavené a ako dlho sú, má vysokú hustotu. Vďaka tomu je text menej stabilný a rozmanitejší.
Text vygenerovaný AI má tendenciu byť menej variabilný vo svojich vzorcoch viet v porovnaní s textom napísaným človekom. Keď jazykové modely hádajú slovo, ktoré je pravdepodobne ďalšie, zvyčajne tvoria vety, ktoré majú približne 10 až 20 slov a sledujú pravidelné vzorce. To je dôvod, prečo sa písanie AI môže niekedy zdať monotónne.
Nízka praskavosť označuje, že text je pravdepodobne vygenerovaný AI.
Ďalšia možnosť na zváženie: Vodoznaky
OpenAI, tvorca ChatGPT, údajne vyvíja metódu nazývanú „vodoznak“. Tento systém zahŕňa pridanie neviditeľnej značky do textu vytvoreného nástrojom, ktorý môže byť neskôr identifikovaný iným systémom na potvrdenie AI pôvodu textu.
Tento systém je však stále vo vývoji a presné detaily, ako bude fungovať, zatiaľ nie sú známe. Navyše nie je jasné, či niektoré navrhované vodoznaky zostanú nedotknuté, keď sa vygenerujú úpravy.
| Aj keď myšlienka použitia tohto konceptu na detekciu AI v budúcnosti vyzerá nádejne, je dôležité poznamenať, že definitívne podrobnosti a potvrdenia o jej uvedení do praxe stále čakajú. |
Aká je spoľahlivosť detektorov AI?
- Detektory AI zvyčajne fungujú efektívne, najmä pri dlhších textoch, ale môžu mať problémy, ak je text vytvorený AI zámerne menej očakávaný alebo sa po jeho vytvorení zmení.
- Detektory umelej inteligencie by sa mohli mylne domnievať, že text napísaný ľuďmi v skutočnosti vytvorila umelá inteligencia, najmä ak spĺňa podmienky nízkej zložitosti a zhlukovania.
- Výskum o detektoroch AI ukazuje, že žiadny nástroj nemôže poskytnúť úplnú presnosť; najvyššia presnosť bola 84 % v prémiovom nástroji alebo 68 % v najlepšom bezplatnom nástroji.
- Tieto nástroje ponúkajú cenné informácie o pravdepodobnosti generovania textu AI, ale odporúčame nespoliehať sa len na ne ako na dôkaz. S neustálym pokrokom jazykových modelov budú musieť nástroje, ktoré ich zisťujú, pracovať tvrdšie, aby udržali krok.
- Sebavedomejší poskytovatelia zvyčajne pripúšťajú, že ich nástroje nemôžu slúžiť ako presvedčivý dôkaz textu vygenerovaného AI.
- Univerzity zatiaľ týmto nástrojom veľmi nedôverujú.
| Pokus skryť písanie generované AI môže v skutočnosti spôsobiť, že text bude vyzerať veľmi zvláštne alebo nevhodný na zamýšľané použitie. Napríklad zámerné vloženie pravopisných chýb alebo použitie nelogických výberov slov v texte môže znížiť pravdepodobnosť, že bude identifikovaný detektorom AI. Avšak text plný týchto chýb a podivných volieb sa pravdepodobne nebude považovať za dobré akademické písanie. |
Na aký účel sa používajú detektory AI?
Detektory AI sú určené pre jednotlivcov, ktorí si chcú overiť, či text mohol vytvoriť umelá inteligencia. Ľudia, ktorí by to mohli použiť, sú:
- Pedagógovia a učitelia. Zabezpečenie autentickosti prác žiakov a predchádzanie plagiátorstvu.
- Študenti kontrolujú svoje úlohy. Skontrolujte, či je ich obsah jedinečný a neúmyselne nevyzerá ako text vygenerovaný AI.
- Vydavatelia a redaktori kontrolujú príspevky. Chcete zabezpečiť, aby zverejňovali iba obsah písaný ľuďmi.
- Výskumníci. chcete zistiť akékoľvek potenciálne výskumné práce alebo články generované AI.
- Blogeri a spisovatelia: Chceli by ste publikovať obsah generovaný AI, ale obávate sa, že by sa mohol vo vyhľadávačoch umiestniť nižšie, ak by bol uznaný ako písanie AI.
- Profesionáli v moderovaní obsahu. Identifikácia spamu generovaného AI, falošných recenzií alebo nevhodného obsahu.
- Firmy zabezpečujúce originálny marketingový obsah. Overenie, či sa propagačný materiál nepomýli s textom generovaným AI, čím sa zachová dôveryhodnosť značky.
| Kvôli obavám o ich spoľahlivosť mnohí používatelia v súčasnosti váhajú, či sú úplne závislí na detektoroch AI. Tieto detektory sa však už stávajú čoraz obľúbenejšími ako znak toho, že text môže byť vygenerovaný AI, najmä ak už mal používateľ pochybnosti. |
Manuálna detekcia textu generovaného AI
Okrem používania detektorov AI sa môžete tiež naučiť identifikovať jedinečné črty písania AI sami. Nie je to vždy ľahké urobiť to spoľahlivo – ľudské písanie môže niekedy znieť roboticky a písanie pomocou AI sa stáva presvedčivejším ľudským – ale s praxou si pre to môžete vypestovať dobrý zmysel.
Špecifické pravidlá, ktorými sa detektory AI riadia, ako napríklad nízka zmätenosť a praskavosť, sa môžu zdať komplikované. Môžete sa však pokúsiť nájsť tieto vlastnosti sami tým, že sa pozriete na text pre určité znaky:
- To sa číta monotónne, s malými zmenami v štruktúre alebo dĺžke vety
- Používať slová, ktoré sú očakávané a nie veľmi jedinečné a majú veľmi málo neočakávaných prvkov
Môžete tiež použiť metódy, ktoré detektory AI nepoužívajú, a to tak, že budete dávať pozor na:
| Metódy | vysvetlenie |
| Prílišná zdvorilosť | Chatboti, ako napríklad ChatGPT, sú stvorení na to, aby boli nápomocní asistenti, takže často používajú zdvorilý a formálny jazyk, ktorý nemusí znieť príliš ležérne. |
| Nekonzistentnosť v hlase | Ak ste oboznámení s tým, ako niekto zvyčajne píše (napríklad študent), zvyčajne si môžete všimnúť, že niečo, čo napísal, je úplne odlišné od jeho obvyklého štýlu. |
| Zaisťovací jazyk | Venujte pozornosť tomu, či nie je veľa silných a sviežich nápadov, a tiež si všimnite, či nie je zvykom používať frázy, ktoré priveľmi vyjadrujú neistotu: „Je dôležité poznamenať, že…“ „X sa všeobecne považuje za…“ „X sa považuje za … "Niektorí ľudia môžu namietať, že..." |
| Nezdrojované alebo nesprávne citované tvrdenia | Pokiaľ ide o akademické písanie, je dôležité spomenúť, kde ste získali svoje informácie. Nástroje na písanie AI však často nedodržiavajú toto pravidlo alebo robia chyby (napríklad citovanie zdrojov, ktoré neexistujú alebo nie sú relevantné). |
| Logické chyby | Aj keď písanie pomocou umelej inteligencie znie prirodzenejšie, niekedy sa nápady v ňom nezhodujú. Venujte pozornosť miestam, kde text hovorí veci, ktoré sa nezhodujú, znejú nepravdepodobne alebo prezentujú myšlienky, ktoré nie sú hladko prepojené. |
| Celkovo možno povedať, že experimentovanie s rôznymi nástrojmi na písanie AI, sledovanie typov textov, ktoré dokážu produkovať, a oboznámenie sa s tým, ako píšu, vám môže pomôcť lepšie rozpoznať text, ktorý mohla vytvoriť AI. |
Detektory pre obrázky a videá AI
AI obrázky a generátory videa, najmä populárne ako DALL-E a Synthesia, dokážu vytvárať realistické a pozmenené vizuály. Preto je dôležité identifikovať „deepfakes“ alebo obrázky a videá vytvorené AI, aby sa zabránilo šíreniu nepravdivých informácií.
V súčasnosti môže veľa znakov odhaliť obrázky a videá generované AI, ako napríklad:
- Ruky s príliš veľkým počtom prstov
- Čudné pohyby
- Nezmyselný text na obrázku
- Nereálne črty tváre
Odhalenie týchto znakov však môže byť ťažšie, pretože AI sa zlepšuje.
Existujú nástroje navrhnuté na detekciu týchto vizuálov generovaných AI, vrátane:
- Deepware
- FakeCatcher od Intelu
- Illuminarty
Stále nie je jasné, aké efektívne a spoľahlivé sú tieto nástroje, takže je potrebné ďalšie testovanie.
Neustály vývoj generovania a detekcie obrazu a videa AI vytvára neustálu potrebu vyvíjať spoľahlivejšie a presnejšie metódy detekcie na riešenie potenciálnych rizík spojených s deepfakes a vizuálmi generovanými AI.
záver
| Detektory AI pomáhajú identifikovať texty generované nástrojmi ako ChatGPT. Na rozpoznanie obsahu vytvoreného AI hľadajú hlavne „zmätenosť“ a „trhnutie“. Ich presnosť zostáva problémom, pričom aj tie najlepšie vykazujú chyby. S napredovaním technológie AI je odlíšenie ľudí od obsahu vytvoreného umelou inteligenciou, vrátane obrázkov a videí, čoraz ťažšie, čo zdôrazňuje potrebu byť opatrný online. |
Často kladené otázky
| 1. Aký je rozdiel medzi AI detektory a Kontrola plagiátov? A: Detektory AI aj kontrolóri plagiátov nachádzajú využitie na univerzitách na odvrátenie akademickej nečestnosti, no líšia sa svojimi metódami a cieľmi: • Cieľom detektorov AI je identifikovať text pripomínajúci výstup z nástrojov na písanie AI. Zahŕňa to analýzu vlastností textu, ako je zmätenosť a roztrhnutie, a nie ich porovnávanie s databázou. • Cieľom kontroly plagiátorstva je odhaliť skopírovaný text z iných zdrojov. Dosahujú to porovnaním textu s rozsiahlou databázou predtým publikovaného obsahu a študentských prác, pričom identifikujú podobnosti – bez toho, aby sa spoliehali na analýzu špecifických vlastností textu. 2. Ako môžem používať ChatGPT? A: Ak chcete používať ChatGPT, jednoducho si vytvorte bezplatný účet: • Nasledujte tento odkaz na webovú stránku ChatGPT. • Vyberte „Zaregistrovať sa“ a zadajte požadované informácie (alebo použite svoj účet Google). Registrácia a používanie nástroja je bezplatné. • Začnite zadaním výzvy do chatovacieho poľa! V súčasnosti je dostupná verzia aplikácie ChatGPT pre iOS a v príprave sú plány na aplikáciu pre Android. Aplikácia funguje podobne ako webová stránka a na prihlásenie na oboch platformách môžete použiť rovnaký účet. 3. Dokedy zostane ChatGPT zadarmo? A: Budúca dostupnosť ChatGPT zadarmo zostáva neistá a nie je oznámený žiadny konkrétny časový plán. Tento nástroj bol pôvodne predstavený v novembri 2022 ako „náhľad výskumu“, ktorý má bezplatne otestovať široká používateľská základňa. Výraz „ukážka“ naznačuje potenciálne budúce poplatky, ale neexistuje žiadne oficiálne potvrdenie o ukončení bezplatného prístupu. Vylepšená možnosť, ChatGPT Plus, stojí 20 $ mesačne a zahŕňa pokročilé funkcie, ako je GPT-4. Nie je jasné, či táto prémiová verzia nahradí bezplatnú verziu, alebo či tá bude pokračovať. Faktory ako náklady na server môžu ovplyvniť toto rozhodnutie. Budúci kurz zostáva neistý. 4. Je v poriadku zahrnúť ChatGPT do mojich citácií? A: V určitých kontextoch je vhodné odkazovať na ChatGPT vo svojej práci, najmä ak slúži ako významný zdroj na štúdium jazykových modelov AI. Niektoré univerzity môžu vyžadovať citáciu alebo uznanie, ak ChatGPT pomáhal vášmu výskumu alebo procesu písania, napríklad pri vytváraní výskumných otázok; odporúča sa prečítať si pokyny vašej inštitúcie. Avšak vzhľadom na rôznu spoľahlivosť a nedostatočnú dôveryhodnosť ChatGPT ako zdroja je najlepšie ho necitovať pre faktické informácie. V štýle APA môžete odpoveď ChatGPT považovať za osobnú komunikáciu, pretože jej odpovede nie sú prístupné ostatným. V texte ho citujte takto: (ChatGPT, osobná komunikácia, 11. február 2023). |
