Os detectores de intelixencia artificial, ás veces mencionados como detectores de contido de intelixencia artificial ou de escritura de intelixencia artificial, serven para identificar se un texto foi composto parcial ou totalmente mediante ferramentas de intelixencia artificial como Chat GPT.
Estes detectores son útiles para identificar casos nos que probablemente unha peza escrita sexa creada pola IA. A aplicación é beneficiosa das seguintes formas:
- Autenticación do traballo do alumno. Os educadores poden usalo para validar a autenticidade dos traballos orixinais dos estudantes e dos proxectos de redacción.
- Contrarrestar as críticas de produtos falsos. Os moderadores poden empregalo para identificar e abordar as recensións de produtos falsificados que pretenden manipular a percepción do consumidor.
- Abordar o contido de spam. Axuda a detectar e eliminar varias formas de contido spam que poden distorsionar a calidade e credibilidade das plataformas en liña.
Estas ferramentas aínda son novas e están a ser probadas, polo que non estamos completamente seguros da súa fiabilidade neste momento. Nas seguintes seccións, afondamos no seu funcionamento, comprobamos o ben que se pode confiar e exploramos unha serie de aplicacións prácticas que ofrecen.
| As institucións educativas, incluídas as universidades, están en proceso de formular as súas posicións sobre a utilización adecuada de ChatGPT e ferramentas similares. É esencial priorizar as directrices da túa institución sobre calquera consello que atopes en liña. |
Como funcionan os detectores de intelixencia artificial?
Os detectores de intelixencia artificial adoitan usar modelos de linguaxe que son como os das ferramentas de escritura de intelixencia artificial que están tentando atopar. Basicamente, o modelo lingüístico mira a entrada e pregunta: "Semella algo que puiden ter feito?" Se di que si, o modelo adiviña que o texto probablemente sexa creado por IA.
En particular, estes modelos buscan dúas características dentro dun texto: "perplexidade" e "estupor". Cando estes dous aspectos son máis baixos, hai unha maior probabilidade de que o texto fose xerado pola IA.
Non obstante, que significan exactamente estes termos pouco comúns?
Perplexidade
A perplexidade é unha métrica importante empregada para avaliar a competencia dos modelos lingüísticos. Refírese ao ben que o modelo é capaz de predicir a seguinte palabra nunha secuencia de palabras.
Os modelos de linguaxe de intelixencia artificial traballan para crear textos con pouca perplexidade, o que resulta en maior coherencia, fluidez e previsibilidade. Pola contra, a escritura humana adoita mostrar unha maior perplexidade debido á súa utilización de opcións lingüísticas máis imaxinativas, aínda que acompañada dunha maior frecuencia de erros tipográficos.
Os modelos lingüísticos funcionan predicindo que palabra viría naturalmente a continuación nunha frase e inséríndoa. Podes ver un exemplo a continuación.
| Exemplo continuación | Perplexidade |
| Non puiden rematar o proxecto de último noite. | Baixo: Probablemente a continuación máis probable |
| Non puiden rematar o proxecto de último tempo que non tomo café pola noite. | Baixo a medio: Menos probable, pero ten sentido gramatical e lóxico |
| Non puiden rematar o proxecto o semestre pasado moitas veces polo desmotivado que estaba naquel momento. | Medio: A frase é coherente pero bastante inusualmente estruturada e longa |
| Non puiden rematar o proxecto de último encantado de coñecerte. | Alta: Gramaticalmente incorrecto e ilóxico |
A baixa perplexidade tómase como evidencia de que un texto está xerado por intelixencia artificial.
Burstiness
"Burstiness" é unha forma de ver como as frases son diferentes na forma en que están xuntos e canto son longas. É un pouco como a perplexidade, pero para frases enteiras en lugar de só palabras.
Cando un texto ten na súa maioría frases que son similares na forma en que están feitas e na súa duración, ten unha baixa intensidade. Isto significa que se le con máis fluidez. Pero se un texto ten frases que son moi diferentes entre si pola forma en que están construídas e polo tempo que teñen, ten unha gran explosión. Isto fai que o texto se sinta menos estable e máis variado.
O texto xerado pola intelixencia artificial tende a ser menos variable nos seus patróns de oracións en comparación co texto escrito por humanos. A medida que os modelos lingüísticos adiviñan a palabra que probablemente sexa a seguinte, adoitan facer frases que teñen entre 10 e 20 palabras e seguen patróns habituais. É por iso que a escritura de intelixencia artificial ás veces pode parecer monótona.
Baixa explosión indica que é probable que un texto sexa xerado por IA.
Outra opción a considerar: marcas de auga
OpenAI, o creador de ChatGPT, está a desenvolver un método chamado "marca de auga". Este sistema consiste en engadir unha marca invisible ao texto producido pola ferramenta, que posteriormente pode ser identificada por outro sistema para confirmar a orixe da IA do texto.
Non obstante, este sistema aínda se está a desenvolver e aínda non se revelan os detalles exactos de como funcionará. Ademais, non está claro se algunha marca de auga suxerida permanecerá intacta cando se fagan edicións no texto xerado.
| Aínda que a idea de utilizar este concepto para detectar a IA no futuro parece esperanzadora, é importante ter en conta que aínda están pendentes os detalles definitivos e as confirmacións sobre a súa posta en práctica. |
Cal é a fiabilidade dos detectores de IA?
- Os detectores de intelixencia artificial adoitan funcionar de forma eficaz, especialmente con textos máis longos, pero poden ter problemas se o texto creado con intelixencia artificial non se espera deliberadamente ou se cambia despois de que se faga.
- Os detectores de intelixencia artificial poderían pensar erróneamente que o texto escrito por humanos foi realmente feito por intelixencia artificial, especialmente se cumpre as condicións de ter baixa perplexidade e explosión.
- A investigación sobre detectores de IA indica que ningunha ferramenta pode proporcionar unha precisión completa; a maior precisión foi do 84 % nunha ferramenta premium ou do 68 % na mellor ferramenta gratuíta.
- Estas ferramentas ofrecen información valiosa sobre a probabilidade de que un texto se xere mediante intelixencia artificial, pero recomendamos non confiar só nelas como proba. Co progreso continuo dos modelos lingüísticos, as ferramentas que os detectan terán que esforzarse máis para manterse ao día.
- Os provedores máis seguros adoitan admitir que as súas ferramentas non poden servir como proba concluínte do texto xerado pola IA.
- As universidades, polo de agora, non confían moito nestas ferramentas.
| Tentar ocultar a escritura xerada pola IA pode facer que o texto pareza moi estraño ou non axeitado para o seu uso previsto. Por exemplo, introducir erros ortográficos intencionadamente ou empregar opcións de palabras ilóxicas no texto pode reducir as posibilidades de que sexa identificado por un detector de intelixencia artificial. Non obstante, un texto cheo destes erros e opcións estrañas probablemente non se considere unha boa escritura académica. |
Para que fin se empregan os detectores de IA?
Os detectores de intelixencia artificial están destinados a persoas que queren verificar se un texto puido ser creado por intelixencia artificial. As persoas que poden usalo son:
- Educadores e profesores. Garantir a autenticidade do traballo do alumnado e previr o plaxio.
- Os alumnos revisan os seus traballos. Comprobando que o seu contido é único e que non se parece sen querer ao texto xerado pola IA.
- Editores e editores que revisan os envíos. Quere asegurarse de que só publican contido escrito por humanos.
- Investigadores. quere detectar posibles artigos ou artigos de investigación xerados pola IA.
- Bloggers e escritores: Desexo publicar contido xerado por IA pero preocúpame de que poida ocupar un lugar máis baixo nos motores de busca se se recoñece como escrito de AI.
- Profesionais na moderación de contidos. Identificar spam xerado pola IA, recensións falsas ou contido inadecuado.
- Empresas que garanten contidos de mercadotecnia orixinais. Verificar que o material promocional non se confunde con texto xerado pola IA, mantendo a credibilidade da marca.
| Debido á preocupación pola súa fiabilidade, moitos usuarios dubidan en depender completamente dos detectores de intelixencia artificial neste momento. Non obstante, estes detectores xa son cada vez máis populares como un sinal de que un texto pode ser xerado por IA, especialmente cando o usuario xa tiña as súas dúbidas. |
Detección manual de texto xerado por AI
Ademais de usar detectores de intelixencia artificial, tamén podes aprender a identificar os trazos únicos da escritura de intelixencia artificial por ti mesmo. Non sempre é fácil facelo de forma fiable (a escritura humana ás veces pode parecer robótica e a escritura con intelixencia artificial é cada vez máis humana), pero coa práctica pódese desenvolver un bo sentido para iso.
As regras específicas que seguen os detectores de IA, como a baixa perplexidade e a explosión, poden parecer complicadas. Non obstante, podes tentar atopar estes trazos por ti mesmo mirando o texto para ver certos signos:
- Que lese monótonamente, con poucas variacións na estrutura ou lonxitude da frase
- Empregando palabras que se esperan e non moi singulares, e que teñan moi poucos elementos inesperados
Tamén podes usar métodos que os detectores de intelixencia artificial non usan, tendo coidado de:
| Methods | Explicación |
| Excesiva educación | Os chatbots como ChatGPT están feitos para ser asistentes útiles, polo que adoitan usar unha linguaxe educada e formal que pode non parecer moi casual. |
| Incoherencia na voz | Se estás familiarizado coa forma en que alguén escribe normalmente (como un estudante), normalmente podes notar cando algo que escribiu é bastante diferente do seu estilo habitual. |
| Linguaxe de cobertura | Presta atención a se non hai moitas ideas fortes e frescas, e tamén observa se hai o hábito de usar frases que mostran demasiada incerteza: "É importante ter en conta que..." "X considérase amplamente como..." "X considérase... ""Algunhas persoas poden argumentar que...". |
| Reclamacións sen orixe ou citadas incorrectamente | Cando se trata de redacción académica, é fundamental mencionar de onde obtivo a información. Non obstante, as ferramentas de escritura de intelixencia artificial adoitan non seguir esta regra ou cometer erros (como citar fontes que non existen ou non son relevantes). |
| Erros lóxicos | Aínda que a escritura de intelixencia artificial é cada vez mellor para soar natural, ás veces as ideas nela non encaixan ben. Presta atención aos lugares nos que o texto di cousas que non coinciden, que soan pouco probables ou que presentan ideas que non se conectan sen problemas. |
| En xeral, experimentar con varias ferramentas de escritura de intelixencia artificial, ver os tipos de textos que poden producir e familiarizarse coa forma en que escriben pode axudarche a detectar o texto que puidese ser creado pola intelixencia artificial. |
Detectores para imaxes e vídeos AI
As imaxes de intelixencia artificial e os xeradores de vídeo, especialmente os populares como DALL-E e Synthesia, poden crear imaxes realistas e alteradas. Isto fai que sexa crucial identificar imaxes e vídeos de "deepfakes" ou feitos con IA para evitar a difusión de información falsa.
Actualmente, moitos sinais poden revelar imaxes e vídeos xerados pola IA, como:
- Mans con demasiados dedos
- Movementos estraños
- Texto sen sentido na imaxe
- Trazos faciais pouco realistas
Non obstante, detectar estes signos pode ser máis difícil a medida que a IA mellora.
Existen ferramentas deseñadas para detectar estes elementos visuais xerados pola IA, que inclúen:
- Deepware
- FakeCatcher de Intel
- iluminación
Aínda non está claro que tan eficaces e fiables son estas ferramentas, polo que son necesarias máis probas.
A constante evolución da xeración e detección de imaxes e vídeos da intelixencia artificial crea unha necesidade continua de desenvolver métodos de detección máis sólidos e precisos para abordar os riscos potenciais asociados aos deepfakes e ás imaxes xeradas pola intelixencia artificial.
Conclusión
| Os detectores de intelixencia artificial axudan a identificar textos xerados por ferramentas como ChatGPT. Buscan principalmente "perplexidade" e "estupefacción" para detectar contido creado pola IA. A súa precisión segue sendo unha preocupación, ata os mellores mostrando erros. A medida que a tecnoloxía da intelixencia artificial avanza, a diferenciación dos seres humanos do contido producido pola intelixencia artificial, incluíndo imaxes e vídeos, faise máis difícil, destacando a necesidade de ter coidado en liña. |
Preguntas frecuentes
| 1. Cal é a diferenza entre Detectores AI Damas de plaxio? A: Tanto os detectores de intelixencia artificial como os verificadores de plaxios atopan uso nas universidades para disuadir a deshonestidade académica, aínda que varían nos seus métodos e obxectivos: • Os detectores de intelixencia artificial teñen como obxectivo identificar textos que se asemellan á saída das ferramentas de escritura de intelixencia artificial. Isto implica analizar trazos do texto como a perplexidade e a explosión, en lugar de comparalos cunha base de datos. • Os comprobadores de plaxio teñen como obxectivo detectar texto copiado doutras fontes. Conségueno comparando o texto cunha extensa base de datos de contidos publicados previamente e teses dos estudantes, identificando semellanzas, sen depender de analizar trazos específicos do texto. 2. Como podo usar ChatGPT? A: Para utilizar ChatGPT, simplemente crea unha conta gratuíta: • Seguir este enlace ao sitio web de ChatGPT. • Seleccione "Rexistrarse" e proporcione a información requirida (ou use a súa conta de Google). Rexistrarse e utilizar a ferramenta é gratuíto. • Escribe unha solicitude na caixa de chat para comezar! Actualmente está accesible a unha versión para iOS da aplicación ChatGPT e hai plans para unha aplicación para Android en proceso. A aplicación funciona de xeito similar ao sitio web e podes usar a mesma conta para iniciar sesión en ambas plataformas. 3. Ata cando permanecerá gratis ChatGPT? A: A dispoñibilidade futura de ChatGPT gratuíto segue sendo incerta, sen anunciar un calendario específico. A ferramenta presentouse inicialmente en novembro de 2022 como unha "vista previa de investigación" para ser probada por unha ampla base de usuarios sen custo. O termo "vista previa" suxire posibles cargos futuros, pero non existe ningunha confirmación oficial de finalizar o acceso gratuíto. Unha opción mellorada, ChatGPT Plus, custa 20 dólares ao mes e inclúe funcións avanzadas como GPT-4. Non está claro se esta versión premium substituirá á gratuíta ou se continuará esta última. Factores como os gastos do servidor poderían influír nesta decisión. O rumbo futuro segue sendo incerto. 4. Está ben incluír ChatGPT nas miñas citas? A: En certos contextos, é apropiado facer referencia a ChatGPT no teu traballo, especialmente cando serve como fonte importante para estudar modelos de linguaxe de IA. Algunhas universidades poden requirir citas ou recoñecementos se ChatGPT axudou a túa investigación ou proceso de redacción, como no desenvolvemento de preguntas de investigación; é recomendable consultar as directrices da súa institución. Non obstante, debido á fiabilidade variable de ChatGPT e á falta de credibilidade como fonte, é mellor non citalo para obter información factual. No estilo APA, podes tratar unha resposta de ChatGPT como comunicación persoal xa que as súas respostas non son accesibles para outros. No texto, cítao do seguinte xeito: (ChatGPT, comunicación persoal, 11 de febreiro de 2023). |
