Els detectors d'IA, de vegades esmentats com a escriptura d'IA o detectors de contingut d'IA, tenen el propòsit d'identificar si un text ha estat totalment o parcialment compost per eines d'intel·ligència artificial com ara Xat GPT.
Aquests detectors són útils per identificar casos en què és probable que la IA creï una peça escrita. L'aplicació és beneficiosa de les maneres següents:
- Autenticació del treball de l'estudiant. Els educadors poden utilitzar-lo per validar l'autenticitat de les tasques originals dels estudiants i dels projectes d'escriptura.
- Contrarestar comentaris falsos sobre productes. Els moderadors poden utilitzar-lo per identificar i abordar ressenyes de productes falsificats que tenen com a objectiu manipular la percepció del consumidor.
- Abordar el contingut de correu brossa. Ajuda a detectar i eliminar diverses formes de contingut brossa que podrien distorsionar la qualitat i la credibilitat de les plataformes en línia.
Aquestes eines encara són noves i s'estan provant, de manera que ara mateix no estem del tot segurs de la seva fiabilitat. A les seccions següents, aprofundirem en el seu funcionament, comprovem fins a quin punt es pot confiar en ells i explorem una sèrie d'aplicacions pràctiques que ofereixen.
| Les institucions educatives, incloses les universitats, estan en procés de formular les seves posicions sobre l'ús adequat de ChatGPT i eines similars. És essencial prioritzar les directrius de la vostra institució per sobre de qualsevol consell que trobeu en línia. |
Com funcionen els detectors d'IA?
Els detectors d'IA solen utilitzar models de llenguatge que són com els de les eines d'escriptura d'IA que estan intentant trobar. Bàsicament, el model d'idioma mira l'entrada i pregunta: "Sembla alguna cosa que podria haver fet?" Si diu que sí, el model endevina que probablement el text és creat per IA.
En particular, aquests models cerquen dues característiques dins d'un text: "perplexitat" i "esclat". Quan aquests dos aspectes són més baixos, hi ha una major probabilitat que el text hagi estat generat per IA.
Tanmateix, què signifiquen exactament aquests termes poc comuns?
Perplexitat
La perplexitat és una mètrica important emprada per avaluar la competència dels models lingüístics. Es refereix a com és capaç el model de predir la paraula següent en una seqüència de paraules.
Els models de llenguatge d'IA treballen per crear textos amb poca perplexitat, donant com a resultat una major coherència, fluïdesa i predictibilitat. En canvi, l'escriptura humana sovint presenta una major perplexitat a causa de la utilització d'opcions de llenguatge més imaginatives, tot i que acompanyada d'una major freqüència d'errors tipogràfics.
Els models de llenguatge funcionen predint quina paraula vindria naturalment a continuació en una frase i inserint-la. Podeu veure un exemple a continuació.
| Exemple de continuació | Perplexitat |
| No vaig poder acabar el projecte l'últim nit. | Baix: Probablement la continuació més probable |
| No vaig poder acabar el projecte l'últim hora que no prenc cafè al vespre. | Baix a mitjà: Menys probable, però té sentit gramatical i lògic |
| No vaig poder acabar el projecte el trimestre passat moltes vegades per la desmotivació que estava en aquell moment. | Mitjà: La frase és coherent però força inusualment estructurada i llarga |
| No vaig poder acabar el projecte l'últim encantat de coneixe't. | Alt: Gramàticament incorrecte i il·lògic |
La baixa perplexitat es pren com una prova que un text està generat per IA.
Esclat
"Burstiness" és una manera de veure com són diferents les frases pel que fa a com es combinen i quant de llargs són. És una mica com la perplexitat, però per a frases senceres en lloc de només paraules.
Quan un text té frases que són similars pel que fa a la forma en què estan fetes i quant de llarg són, té poca intensitat. Això vol dir que es llegeix amb més facilitat. Però si un text té frases que són molt diferents entre si pel que fa a com es construeixen i quant de llarg són, té una gran intensitat. Això fa que el text se senti menys estable i més variat.
El text generat per IA tendeix a ser menys variable en els seus patrons de frases en comparació amb el text escrit per humans. A mesura que els models lingüístics endevinen la paraula que probablement serà la següent, solen fer frases d'entre 10 i 20 paraules i segueixen patrons regulars. És per això que l'escriptura d'IA de vegades pot semblar monòtona.
Esclat baix indica que és probable que un text sigui generat per IA.
Una altra opció a tenir en compte: les filigranes
OpenAI, el creador de ChatGPT, està desenvolupant un mètode anomenat "marca d'aigua". Aquest sistema implica afegir una marca invisible al text produït per l'eina, que després pot ser identificada per un altre sistema per confirmar l'origen de l'IA del text.
Tanmateix, aquest sistema encara s'està desenvolupant i encara no s'han revelat els detalls exactes de com funcionarà. A més, no està clar si alguna filigrana suggerida romandrà intacte quan es facin edicions al text generat.
| Tot i que la idea d'utilitzar aquest concepte per detectar la intel·ligència artificial en el futur sembla esperançadora, és important tenir en compte que els detalls definitius i les confirmacions sobre la seva posada en pràctica encara estan pendents. |
Quina és la fiabilitat dels detectors d'IA?
- Normalment, els detectors d'IA funcionen amb eficàcia, sobretot amb textos més llargs, però poden tenir problemes si el text creat amb IA es fa menys esperat a propòsit o es canvia després de fer-lo.
- Els detectors d'IA podrien pensar erròniament que el text escrit per humans va ser en realitat fet per AI, sobretot si compleix les condicions de poca perplexitat i explosió.
- La investigació sobre detectors d'IA indica que cap eina pot proporcionar una precisió completa; la precisió més alta va ser del 84% en una eina premium o del 68% en la millor eina gratuïta.
- Aquestes eines ofereixen informació valuosa sobre la probabilitat que un text es generi amb intel·ligència artificial, però us recomanem no confiar només en elles com a evidència. Amb el progrés constant dels models lingüístics, les eines que els detectin hauran de treballar més per mantenir-se al dia.
- Els proveïdors més segurs solen admetre que les seves eines no poden servir com a evidència concloent del text generat per IA.
- Les universitats, de moment, no tenen una gran confiança en aquestes eines.
| Intentar amagar l'escriptura generada per IA pot fer que el text sembli molt estrany o no adequat per a l'ús previst. Per exemple, introduir errors ortogràfics de manera intencionada o emprar opcions de paraules il·lògiques al text pot reduir les possibilitats que sigui identificat per un detector d'IA. Tanmateix, un text ple d'aquests errors i opcions estranyes probablement no es veurà com una bona escriptura acadèmica. |
Amb quina finalitat s'utilitzen els detectors d'IA?
Els detectors d'IA estan pensats per a persones que volen verificar si un text podria haver estat creat per intel·ligència artificial. Les persones que el podrien utilitzar són:
- Educadors i mestres. Garantir l'autenticitat del treball dels alumnes i prevenir el plagi.
- Els alumnes revisen els seus deures. Comprovació per assegurar-se que el seu contingut és únic i que no s'assembla a un text generat per IA sense voler.
- Editors i editors que revisen els enviaments. Voleu assegurar-vos que només publiquen contingut escrit per humans.
- Investigadors. Voleu detectar qualsevol possible treball o article de recerca generat per IA.
- Bloggers i escriptors: Voleu publicar contingut generat per IA, però us preocupa que pugui tenir una classificació més baixa als motors de cerca si es reconeix com a escriptura d'IA.
- Professionals en moderació de continguts. Identificació de correu brossa generat per IA, ressenyes falses o contingut inadequat.
- Empreses que garanteixen contingut de màrqueting original. Verificar que el material promocional no es confon amb text generat per IA, mantenint la credibilitat de la marca.
| A causa de les preocupacions sobre la seva fiabilitat, molts usuaris dubten a dependre completament dels detectors d'IA en aquest moment. Tanmateix, aquests detectors ja s'estan popularitzant com a senyal que un text podria ser generat per IA, sobretot quan l'usuari ja tenia els seus dubtes. |
Detecció manual de text generat per IA
A més d'utilitzar detectors d'IA, també podeu aprendre a identificar els trets únics de l'escriptura d'IA per vosaltres mateixos. No sempre és fàcil fer-ho de manera fiable (l'escriptura humana de vegades pot semblar robòtica i l'escriptura d'IA s'està tornant més humana de manera convincent), però amb la pràctica, podeu desenvolupar-hi un bon sentit.
Les regles específiques que segueixen els detectors d'IA, com la baixa perplexitat i l'esclat, poden semblar complicades. Tanmateix, podeu provar de trobar aquests trets vosaltres mateixos mirant el text per a certs signes:
- Es llegeix monòtonament, amb poca variació en l'estructura o la longitud de la frase
- Utilitzant paraules esperades i poc úniques, i amb molt pocs elements inesperats
També podeu utilitzar mètodes que els detectors d'IA no fan servir:
| Mètodes | Explicació |
| Excés de cortesia | Els chatbots com ara ChatGPT estan fets per ser assistents útils, de manera que sovint utilitzen un llenguatge educat i formal que potser no sembla gaire casual. |
| Incoherència en la veu | Si esteu familiaritzat amb com algú escriu normalment (com un estudiant), normalment podeu notar quan alguna cosa que ha escrit és força diferent del seu estil habitual. |
| Llenguatge de cobertura | Fixeu-vos en si no hi ha moltes idees fortes i fresques, i també observeu si hi ha el costum d'utilitzar frases que mostren massa incertesa: "És important tenir en compte que..." "X es considera àmpliament com..." "X es considera... ""Algunes persones podrien argumentar que...". |
| Reclamacions sense font o citades incorrectament | Quan es tracta d'una redacció acadèmica, és crucial esmentar d'on heu tret la informació. Tanmateix, les eines d'escriptura d'IA sovint no segueixen aquesta regla o cometen errors (com citar fonts que no existeixen o que no són rellevants). |
| Errors lògics | Tot i que l'escriptura d'IA està millorant per sonar natural, de vegades les idees no encaixen bé. Fixeu-vos en els llocs on el text diu coses que no coincideixen, sonen poc probables o presenten idees que no s'uneixen bé. |
| En general, experimentar amb diverses eines d'escriptura d'IA, observar els tipus de textos que poden produir i familiaritzar-se amb com escriuen us pot ajudar a detectar millor el text que podria haver estat creat per l'IA. |
Detectors d'imatges i vídeos d'IA
Les imatges d'IA i els generadors de vídeo, especialment els populars com DALL-E i Synthesia, poden crear imatges realistes i alterades. Això fa que sigui crucial identificar "deepfakes" o imatges i vídeos fets amb IA per evitar la propagació d'informació falsa.
Actualment, molts signes poden revelar imatges i vídeos generats per IA, com ara:
- Mans amb massa dits
- Moviments estranys
- Text sense sentit a la imatge
- Trets facials poc realistes
No obstant això, detectar aquests signes pot ser més difícil a mesura que la IA millori.
Hi ha eines dissenyades per detectar aquestes imatges generades per IA, com ara:
- Deepware
- FakeCatcher d'Intel
- Il·luminació
Encara no està clar fins a quin punt són efectives i fiables aquestes eines, de manera que calen més proves.
L'evolució constant de la generació i detecció d'imatges i vídeos d'IA crea una necessitat constant de desenvolupar mètodes de detecció més sòlids i precisos per abordar els riscos potencials associats amb les falsificacions profundes i les imatges generades per IA.
Conclusió
| Els detectors d'IA ajuden a identificar textos generats per eines com ChatGPT. Principalment busquen "perplexitat" i "esclat" per detectar contingut creat per IA. La seva precisió segueix sent una preocupació, fins i tot els millors mostren errors. A mesura que avança la tecnologia d'IA, es fa més difícil diferenciar els humans del contingut produït per IA, incloses imatges i vídeos, cosa que posa de manifest la necessitat de tenir cura en línia. |
Preguntes més freqüents
| 1. Quina diferència hi ha entre Detectors d'IA i Dames de plagi? A: Tant els detectors d'IA com els verificadors de plagi s'utilitzen a les universitats per dissuadir la deshonestedat acadèmica, però varien en els seus mètodes i objectius: • Els detectors d'IA tenen com a objectiu identificar text semblant a la sortida de les eines d'escriptura d'IA. Això implica analitzar trets del text com la perplexitat i l'esclat, en lloc de comparar-los amb una base de dades. • Els verificadors de plagi tenen com a objectiu detectar text copiat d'altres fonts. Ho aconsegueixen comparant el text amb una àmplia base de dades de continguts publicats prèviament i tesis d'estudiants, identificant similituds, sense dependre d'analitzar trets específics del text. 2. Com puc utilitzar ChatGPT? A: Per utilitzar ChatGPT, només cal que creeu un compte gratuït: • Segueix aquest enllaç al lloc web de ChatGPT. • Seleccioneu “Registreu-vos” i proporcioneu la informació requerida (o utilitzeu el vostre compte de Google). Registrar-se i utilitzar l'eina és gratuït. • Escriviu una sol·licitud al quadre de xat per començar! Actualment, s'hi pot accedir a una versió per a iOS de l'aplicació ChatGPT i hi ha plans per a una aplicació per a Android en procés. L'aplicació funciona de manera similar al lloc web i podeu utilitzar el mateix compte per iniciar sessió a les dues plataformes. 3. Fins quan ChatGPT romandrà gratuït? A: La futura disponibilitat de ChatGPT de forma gratuïta segueix sent incerta, sense que s'anunciï cap calendari específic. L'eina es va presentar inicialment el novembre de 2022 com una "visualització prèvia de la investigació" per ser provada per una àmplia base d'usuaris sense cap cost. El terme "vista prèvia" suggereix possibles càrrecs futurs, però no existeix cap confirmació oficial de la finalització de l'accés gratuït. Una opció millorada, ChatGPT Plus, costa 20 dòlars al mes i inclou funcions avançades com GPT-4. No està clar si aquesta versió premium substituirà la gratuïta o si aquesta darrera continuarà. Factors com les despeses del servidor podrien influir en aquesta decisió. El rumb futur segueix sent incert. 4. Està bé incloure ChatGPT a les meves cites? A: En determinats contextos, és apropiat fer referència a ChatGPT al vostre treball, sobretot quan serveix com a font important per estudiar els models de llenguatge d'IA. Algunes universitats poden requerir una citació o un reconeixement si ChatGPT ha ajudat el vostre procés de recerca o redacció, com ara el desenvolupament de preguntes de recerca; és recomanable consultar les directrius de la vostra institució. Tanmateix, a causa de la fiabilitat variable de ChatGPT i la manca de credibilitat com a font, és millor no citar-lo per obtenir informació factual. A l'estil APA, podeu tractar una resposta de ChatGPT com a comunicació personal, ja que les seves respostes no són accessibles per als altres. Al text, cita-ho de la següent manera: (ChatGPT, comunicació personal, 11 de febrer de 2023). |
