Detectoarele AI, uneori menționați ca detectori de scriere AI sau detectori de conținut AI, servesc scopul de a identifica dacă un text a fost compus parțial sau integral de instrumente de inteligență artificială precum Chat GPT.
Acești detectori sunt utili pentru identificarea cazurilor în care o piesă scrisă este probabil creată de AI. Aplicarea este benefică în următoarele moduri:
- Autentificarea lucrărilor elevilor. Educatorii îl pot folosi pentru a valida autenticitatea sarcinilor originale ale elevilor și a proiectelor de scriere.
- Contracararea recenziilor false de produse. Moderatorii îl pot folosi pentru a identifica și aborda recenziile de produse contrafăcute care au ca scop manipularea percepției consumatorilor.
- Abordarea conținutului spam. Ajută la detectarea și eliminarea diferitelor forme de conținut spam care ar putea distorsiona calitatea și credibilitatea platformelor online.
Aceste instrumente sunt încă noi și în curs de testare, așa că nu suntem pe deplin siguri cât de fiabile sunt acum. În secțiunile următoare, analizăm funcționarea lor, verificăm cât de bine se poate avea încredere în ele și explorăm o serie de aplicații practice pe care le oferă.
| Instituțiile de învățământ, inclusiv universitățile, sunt în curs de a-și formula pozițiile cu privire la utilizarea adecvată a ChatGPT și a instrumentelor similare. Este esențial să acordați prioritate liniilor directoare ale instituției dvs. față de orice sfat pe care îl întâlniți online. |
Cum funcționează detectoarele AI?
Detectoarele AI folosesc de obicei modele de limbaj ca cele din instrumentele de scriere AI pe care încearcă să le găsească. Practic, modelul de limbă se uită la intrare și întreabă: „Arata ca ceva pe care l-am putut realiza?” Dacă spune da, modelul ghicește că textul este probabil creat de AI.
În special, aceste modele caută două caracteristici într-un text: „perplexitate” și „răbufnire”. Când aceste două aspecte sunt mai mici, există o probabilitate mai mare ca textul să fi fost generat de AI.
Cu toate acestea, ce înseamnă exact acești termeni neobișnuiți?
dezorientare
Perplexitatea reprezintă o măsură semnificativă folosită pentru evaluarea competenței modelelor lingvistice. Se referă la cât de bine este capabil modelul să prezică următorul cuvânt dintr-o succesiune de cuvinte.
Modelele de limbaj AI lucrează pentru a crea texte cu perplexitate scăzută, rezultând o coerență sporită, flux fluid și predictibilitate. În schimb, scrierea umană prezintă adesea o perplexitate mai mare datorită utilizării opțiunilor de limbaj mai imaginative, deși însoțită de o frecvență mai mare a erorilor tipografice.
Modelele de limbaj funcționează prin prezicerea ce cuvânt va urma în mod natural într-o propoziție și inserându-l. Puteți vedea un exemplu mai jos.
| Continuare exemplu | dezorientare |
| Nu am putut termina ultimul proiect noapte. | Scăzut: Probabil cea mai probabilă continuare |
| Nu am putut termina ultimul proiect timp când nu beau cafea seara. | Scăzut spre mediu: Mai puțin probabil, dar are sens gramatical și logic |
| Nu am putut termina proiectul semestrul trecut de multe ori din cauza cât de nemotivat eram în acel moment. | Mediu: Propoziția este coerentă, dar destul de neobișnuit de structurată și lungă |
| Nu am putut termina ultimul proiect Încântat de cunoștință. | Mare: Incorect din punct de vedere gramatical și ilogic |
Perplexitatea scăzută este luată ca dovadă că un text este generat de IA.
Burstiness
„Burstiness” este o modalitate de a vedea cum diferă propozițiile în modul în care sunt alcătuite și cât de lungi sunt. Este un pic ca nedumerire, dar pentru propoziții întregi în loc de doar cuvinte.
Când un text are în mare parte propoziții care sunt similare în ceea ce privește modul în care sunt făcute și cât de lungi sunt, are o intensitate scăzută. Aceasta înseamnă că se citește mai ușor. Dar dacă un text are propoziții care sunt foarte diferite unele de altele în ceea ce privește modul în care sunt construite și cât de lungi sunt, are o intensitate ridicată. Acest lucru face ca textul să se simtă mai puțin stabil și mai variat.
Textul generat de AI tinde să fie mai puțin variabil în tiparele sale de propoziții în comparație cu textul scris de om. Pe măsură ce modelele de limbaj ghicesc cuvântul care urmează probabil, ei fac de obicei propoziții care au aproximativ 10 până la 20 de cuvinte și urmează modele obișnuite. Acesta este motivul pentru care scrierea AI poate părea uneori monotonă.
Răbușnire scăzută indică faptul că un text este probabil să fie generat de IA.
O altă opțiune de luat în considerare: filigranele
OpenAI, creatorul ChatGPT, dezvoltă o metodă numită „watermarking”. Acest sistem implică adăugarea unui semn nevăzut textului produs de instrument, care poate fi identificat ulterior de un alt sistem pentru a confirma originea textului prin IA.
Cu toate acestea, acest sistem este încă în curs de dezvoltare, iar detaliile exacte despre modul în care va funcționa nu sunt încă dezvăluite. Mai mult, nu este clar dacă filigranele sugerate vor rămâne intacte atunci când se fac modificări textului generat.
| Deși ideea de a utiliza acest concept pentru a detecta AI în viitor pare plină de speranță, este important de menționat că detaliile definitive și confirmările despre punerea în practică a acestuia sunt încă în așteptare. |
Care este fiabilitatea detectorilor AI?
- De obicei, detectoarele AI funcționează eficient, în special cu textele mai lungi, dar ar putea avea probleme dacă textul creat de AI este mai puțin așteptat sau este modificat după ce este creat.
- Detectoarele AI ar putea crede în mod eronat că textul scris de oameni a fost de fapt realizat de AI, mai ales dacă îndeplinește condițiile de a avea o perplexitate și o explozie scăzute.
- Cercetările despre detectoarele AI indică faptul că niciun instrument nu poate oferi o acuratețe completă; cea mai mare precizie a fost de 84% într-un instrument premium sau 68% în cel mai bun instrument gratuit.
- Aceste instrumente oferă informații valoroase asupra probabilității ca un text să fie generat de inteligență artificială, dar vă recomandăm să nu vă bazați doar pe ele ca dovezi. Odată cu progresul continuu al modelelor lingvistice, instrumentele care le detectează vor trebui să lucreze mai mult pentru a ține pasul.
- Furnizorii mai încrezători admit de obicei că instrumentele lor nu pot servi drept dovezi concludente ale textului generat de AI.
- Universitățile, deocamdată, nu au încredere puternică în aceste instrumente.
| Încercarea de a ascunde scrisul generat de AI poate face ca textul să pară foarte ciudat sau nepotrivit pentru utilizarea prevăzută. De exemplu, introducerea intenționată a erorilor de ortografie sau folosirea unor alegeri ilogice de cuvinte în text poate reduce șansele ca acesta să fie identificat de un detector AI. Cu toate acestea, un text plin cu aceste erori și alegeri ciudate probabil nu va fi văzut ca o bună scriere academică. |
În ce scop sunt folosiți detectoarele AI?
Detectoarele AI sunt destinate persoanelor care doresc să verifice dacă un text ar fi putut fi creat de inteligența artificială. Persoanele care l-ar putea folosi sunt:
- Educatori și profesori. Asigurarea autenticității muncii elevilor și prevenirea plagiatului.
- Elevii își verifică temele. Verificați pentru a vă asigura că conținutul lor este unic și nu arată neintenționat ca textul generat de AI.
- Editorii și editorii care examinează trimiterile. Doriți să vă asigurați că publică numai conținut scris de oameni.
- Cercetători. doresc să detecteze orice potențiale lucrări sau articole de cercetare generate de IA.
- Bloggeri și scriitori: Doresc să publice conținut generat de AI, dar vă faceți griji că s-ar putea clasa mai jos în motoarele de căutare dacă este recunoscut ca scriere AI.
- Profesioniști în moderarea conținutului. Identificarea spamului generat de AI, a recenziilor false sau a conținutului neadecvat.
- Afaceri care asigură conținut de marketing original. Verificarea faptului că materialul promoțional nu este confundat cu text generat de AI, menținând credibilitatea mărcii.
| Din cauza grijilor legate de fiabilitatea lor, mulți utilizatori ezită să depinda complet de detectorii AI în acest moment. Cu toate acestea, acești detectori devin deja din ce în ce mai populari ca semn că un text ar putea fi generat de AI, mai ales atunci când utilizatorul avea deja îndoieli. |
Detectarea manuală a textului generat de AI
Pe lângă utilizarea detectorilor AI, puteți învăța și să identificați singur trăsăturile unice ale scrierii AI. Nu este întotdeauna ușor să faci acest lucru în mod fiabil – scrierea umană poate suna uneori robotică, iar scrierea AI devine din ce în ce mai convingător umană – dar cu practică, poți dezvolta un bun simț pentru asta.
Regulile specifice pe care le urmează detectoarele AI, cum ar fi perplexitatea scăzută și explozia, pot părea complicate. Cu toate acestea, puteți încerca să găsiți singur aceste trăsături uitându-vă la text pentru anumite semne:
- Se citește monoton, cu puține variații în structura sau lungimea propoziției
- Folosind cuvinte care sunt așteptate și nu foarte unice și având foarte puține elemente neașteptate
De asemenea, puteți utiliza metode pe care detectorii AI nu le folosesc, urmărind:
| Aplicate | Explicație |
| Politețe excesivă | Chatboții precum ChatGPT sunt făcuți pentru a fi asistenți de ajutor, așa că folosesc adesea un limbaj politicos și formal care ar putea să nu sune foarte casual. |
| Inconsecvență în voce | Dacă sunteți familiarizat cu modul în care cineva scrie în mod obișnuit (precum un student), puteți observa, de obicei, când ceva ce a scris este destul de diferit de stilul său obișnuit. |
| Limbajul de acoperire | Fiți atenți dacă nu există multe idei puternice și proaspete și, de asemenea, observați dacă există o obișnuință de a folosi expresii care arată prea mult incertitudine: „Este important să rețineți că...” „X este considerat pe scară largă ca...” „X este considerat... ” „Anumiți oameni ar putea argumenta că…”. |
| Afirmații fără sursă sau citate incorect | Când vine vorba de scrierea academică, este esențial să menționați de unde ați obținut informațiile. Cu toate acestea, instrumentele de scriere AI nu respectă adesea această regulă sau nu fac greșeli (cum ar fi citarea de surse care nu există sau nu sunt relevante). |
| Erori logice | Chiar dacă scrierea AI devine din ce în ce mai bună la a suna natural, uneori ideile din ea nu se potrivesc bine. Acordați atenție locurilor în care textul spune lucruri care nu se potrivesc, sună puțin probabil sau prezintă idei care nu se conectează bine. |
| În general, experimentarea cu diverse instrumente de scriere AI, urmărirea tipurilor de texte pe care le pot produce și familiarizarea cu modul în care scriu vă poate ajuta să vă îmbunătățiți identificarea textului care ar fi putut fi creat de AI. |
Detectoare pentru imagini și videoclipuri AI
Imaginile AI și generatoarele video, în special cele populare precum DALL-E și Synthesia, pot crea imagini realiste și modificate. Acest lucru face ca este esențială identificarea „deepfake-urilor” sau a imaginilor și videoclipurilor realizate prin inteligență artificială pentru a preveni răspândirea informațiilor false.
În prezent, multe semne pot dezvălui imagini și videoclipuri generate de AI, cum ar fi:
- Mâinile cu prea multe degete
- Mișcări ciudate
- Text fără sens în imagine
- Trăsături faciale nerealiste
Cu toate acestea, identificarea acestor semne ar putea deveni mai dificilă pe măsură ce AI se îmbunătățește.
Există instrumente concepute pentru a detecta aceste imagini generate de AI, inclusiv:
- Deepware
- FakeCatcher de la Intel
- iluminare
Încă nu este clar cât de eficiente și de fiabile sunt aceste instrumente, așa că sunt necesare mai multe teste.
Evoluția constantă a generării și detectării imaginilor și videoclipurilor AI creează o nevoie continuă de a dezvolta metode de detectare mai solide și mai precise pentru a aborda riscurile potențiale asociate cu deepfake-urile și imaginile generate de AI.
Concluzie
| Detectoarele AI ajută la identificarea textelor generate de instrumente precum ChatGPT. Ei caută în principal „perplexitate” și „răbufnire” pentru a identifica conținutul creat de AI. Precizia lor rămâne o preocupare, chiar și cele mai bune prezentând erori. Pe măsură ce tehnologia AI avansează, diferențierea oamenilor de conținutul produs de AI, inclusiv imagini și videoclipuri, devine din ce în ce mai dificilă, evidențiind nevoia de a fi atent online. |
Întrebări frecvente
| 1. Care este diferența dintre Detectoare AI si Dame de plagiat? A: Atât detectoarele de inteligență artificială, cât și verificatoarele de plagiat își găsesc folosință în universități pentru a descuraja necinstea academică, dar acestea variază în ceea ce privește metodele și obiectivele lor: • Detectoarele AI urmăresc să identifice textul care seamănă cu rezultatul de la instrumentele de scriere AI. Aceasta implică analiza trăsăturilor textului, cum ar fi perplexitatea și explozia, mai degrabă decât compararea lor cu o bază de date. • Verificatoarele de plagiat urmăresc să detecteze text copiat din alte surse. Ei realizează acest lucru comparând textul cu o bază de date extinsă de conținut publicat anterior și teze ale studenților, identificând asemănări – fără a se baza pe analiza trăsăturilor specifice ale textului. 2. Cum pot folosi ChatGPT? A: Pentru a utiliza ChatGPT, pur și simplu creați un cont gratuit: • Urma acest link pe site-ul web ChatGPT. • Selectați „Înscrieți-vă” și furnizați informațiile necesare (sau utilizați contul dvs. Google). Înregistrarea și utilizarea instrumentului sunt gratuite. • Introduceți o solicitare în caseta de chat pentru a începe! O versiune iOS a aplicației ChatGPT este în prezent accesibilă și există planuri pentru o aplicație Android în curs de dezvoltare. Aplicația funcționează în mod similar cu site-ul web și puteți utiliza același cont pentru a vă conecta pe ambele platforme. 3. Până când va rămâne gratuit ChatGPT? A: Disponibilitatea viitoare a ChatGPT gratuit rămâne incertă, fără a fi anunțată o cronologie specifică. Instrumentul a fost introdus inițial în noiembrie 2022 ca o „previzualizare a cercetării” pentru a fi testat de o bază largă de utilizatori fără costuri. Termenul „previzualizare” sugerează potențiale taxe viitoare, dar nu există nicio confirmare oficială a încetării accesului gratuit. O opțiune îmbunătățită, ChatGPT Plus, costă 20 USD/lună și include funcții avansate precum GPT-4. Nu este clar dacă această versiune premium o va înlocui pe cea gratuită sau dacă aceasta din urmă va continua. Factori precum cheltuielile cu serverul ar putea influența această decizie. Cursul viitor rămâne incert. 4. Este în regulă să includ ChatGPT în citatele mele? A: În anumite contexte, este adecvat să faceți referire la ChatGPT în munca dvs., în special atunci când servește ca o sursă semnificativă pentru studiul modelelor de limbaj AI. Anumite universități pot solicita citare sau recunoaștere dacă ChatGPT v-a ajutat procesul de cercetare sau de scriere, cum ar fi dezvoltarea întrebărilor de cercetare; este recomandabil să consultați instrucțiunile instituției dvs. Cu toate acestea, din cauza fiabilității diferite a ChatGPT și a lipsei de credibilitate ca sursă, este mai bine să nu o citați pentru informații concrete. În stilul APA, puteți trata un răspuns ChatGPT ca o comunicare personală, deoarece răspunsurile sale nu sunt accesibile celorlalți. În text, citați-l după cum urmează: (ChatGPT, comunicare personală, 11 februarie 2023). |
