Los detectores de IA, a veces mencionados como escritura de IA o detectores de contenido de IA, sirven para identificar si un texto ha sido compuesto parcial o totalmente por herramientas de inteligencia artificial como ChatGPT.
Estos detectores son útiles para identificar casos en los que es probable que la IA cree una pieza escrita. La aplicación es beneficiosa de las siguientes maneras:
- Autenticar el trabajo de los estudiantes. Los educadores pueden usarlo para validar la autenticidad de las tareas y proyectos de escritura originales de los estudiantes.
- Contrarrestar las reseñas de productos falsos. Los moderadores pueden emplearlo para identificar y abordar reseñas de productos falsificados que tienen como objetivo manipular la percepción del consumidor.
- Abordar el contenido spam. Ayuda a detectar y eliminar diversas formas de contenido spam que podrían distorsionar la calidad y credibilidad de las plataformas en línea.
Estas herramientas aún son nuevas y se están probando, por lo que no estamos completamente seguros de cuán confiables son en este momento. En las siguientes secciones, profundizamos en su funcionamiento, verificamos qué tan bien se puede confiar en ellos y exploramos una variedad de aplicaciones prácticas que ofrecen.
| Las instituciones educativas, incluidas las universidades, están en proceso de formular sus posiciones con respecto a la utilización adecuada de ChatGPT y herramientas similares. Es esencial priorizar las pautas de su institución sobre cualquier consejo que encuentre en línea. |
¿Cómo funcionan los detectores de IA?
Los detectores de IA generalmente usan modelos de lenguaje que son como los de las herramientas de escritura de IA que están tratando de encontrar. Básicamente, el modelo de lenguaje mira la entrada y pregunta: "¿Esto se parece a algo que podría haber hecho?" Si dice que sí, el modelo adivina que el texto probablemente fue creado por IA.
En particular, estos modelos buscan dos características dentro de un texto: “perplejidad” y “estallido”. Cuando estos dos aspectos son más bajos, existe una mayor probabilidad de que el texto haya sido generado por IA.
Sin embargo, ¿qué significan exactamente estos términos poco comunes?
Perplejidad
La perplejidad se erige como una métrica significativa empleada para evaluar la competencia de los modelos lingüísticos. Se refiere a qué tan bien el modelo es capaz de predecir la siguiente palabra en una secuencia de palabras.
Los modelos de lenguaje de IA funcionan para crear textos con poca perplejidad, lo que resulta en una mayor coherencia, fluidez y previsibilidad. Por el contrario, la escritura humana a menudo muestra una mayor perplejidad debido a la utilización de opciones de lenguaje más imaginativas, aunque acompañada de una mayor frecuencia de errores tipográficos.
Los modelos de lenguaje funcionan prediciendo qué palabra vendría naturalmente a continuación en una oración e insertándola. Puedes ver un ejemplo a continuación.
| continuación del ejemplo | Perplejidad |
| No pude terminar el proyecto en último lugar. noche. | Bajo: Probablemente la continuación más probable. |
| No pude terminar el proyecto en último lugar. tiempo que no bebo café por la noche. | Bajo a medio: Menos probable, pero tiene sentido gramatical y lógico. |
| No pude terminar el proyecto el semestre pasado. muchas veces por lo desmotivado que estaba en ese momento. | Medio: La oración es coherente pero inusualmente estructurada y prolija. |
| No pude terminar el proyecto en último lugar. Encantado de conocerte. | Alto: Gramaticalmente incorrecta e ilógica |
La perplejidad baja se toma como evidencia de que un texto es generado por IA.
explosión
"Burstiness" es una forma de ver cómo las oraciones son diferentes en cómo se juntan y cuánto duran. Es un poco como la perplejidad pero para oraciones completas en lugar de solo palabras.
Cuando un texto tiene en su mayoría oraciones que son similares en cómo están hechas y cuánto duran, tiene poca ráfaga. Esto significa que se lee más suavemente. Pero si un texto tiene oraciones que son muy diferentes entre sí en cuanto a cómo están construidas y qué tan largas son, tiene una gran ráfaga. Esto hace que el texto se sienta menos estable y más variado.
El texto generado por IA tiende a ser menos variable en sus patrones de oraciones en comparación con el texto escrito por humanos. A medida que los modelos de lenguaje adivinan la palabra que probablemente sigue, por lo general forman oraciones de entre 10 y 20 palabras y siguen patrones regulares. Esta es la razón por la cual la escritura de IA a veces puede parecer monótona.
Baja ráfaga indica que es probable que un texto sea generado por IA.
Otra opción a considerar: las marcas de agua
Según los informes, OpenAI, el creador de ChatGPT, está desarrollando un método llamado "marca de agua". Este sistema implica agregar una marca invisible al texto producido por la herramienta, que luego puede ser identificado por otro sistema para confirmar el origen de la IA del texto.
Sin embargo, este sistema aún se está desarrollando y aún no se han revelado los detalles exactos de cómo funcionará. Además, no está claro si las marcas de agua sugeridas permanecerán intactas cuando se realicen ediciones en el texto generado.
| Si bien la idea de usar este concepto para detectar IA en el futuro parece esperanzadora, es importante señalar que aún están pendientes los detalles definitivos y las confirmaciones sobre su puesta en práctica. |
¿Cuál es la fiabilidad de los detectores de IA?
- Los detectores de IA generalmente funcionan de manera efectiva, particularmente con textos más largos, pero pueden tener problemas si el texto creado por IA se hace menos esperado deliberadamente o se cambia después de que se hizo.
- Los detectores de IA pueden pensar erróneamente que el texto escrito por humanos en realidad fue creado por IA, especialmente si cumple con las condiciones de baja perplejidad y ráfagas.
- La investigación sobre los detectores de IA indica que ninguna herramienta puede proporcionar una precisión completa; la precisión más alta fue del 84 % en una herramienta premium o del 68 % en la mejor herramienta gratuita.
- Estas herramientas ofrecen información valiosa sobre la probabilidad de que un texto sea generado por IA, pero recomendamos no confiar únicamente en ellas como evidencia. Con el progreso continuo de los modelos de lenguaje, las herramientas que los detectan tendrán que trabajar más para mantenerse al día.
- Los proveedores más seguros suelen admitir que sus herramientas no pueden servir como evidencia concluyente de texto generado por IA.
- Las universidades, por ahora, no tienen mucha confianza en estas herramientas.
| Intentar ocultar la escritura generada por IA puede hacer que el texto parezca muy extraño o inadecuado para el uso previsto. Por ejemplo, la introducción intencional de errores ortográficos o el uso de palabras ilógicas en el texto puede reducir las posibilidades de que un detector de IA lo identifique. Sin embargo, un texto lleno de estos errores y elecciones extrañas probablemente no se verá como una buena escritura académica. |
¿Con qué propósito se emplean los detectores de IA?
Los detectores de IA están destinados a personas que desean verificar si un texto podría haber sido creado por inteligencia artificial. Las personas que podrían usarlo son:
- Educadores y profesores. Garantizar la autenticidad de los trabajos de los estudiantes y prevenir el plagio.
- Los estudiantes revisan sus tareas.. Verificar que su contenido sea único y no parezca involuntariamente texto generado por IA.
- Editores y editores que revisan los envíos. Quiere asegurarse de que solo publiquen contenido escrito por humanos.
- Los investigadores desea detectar cualquier posible artículo o artículo de investigación generado por IA.
- Blogueros y escritores: Desea publicar contenido generado por IA, pero le preocupa que pueda clasificarse más bajo en los motores de búsqueda si se reconoce como escritura de IA.
- Profesionales en moderación de contenidos. Identificar spam generado por IA, reseñas falsas o contenido inapropiado.
- Empresas que garantizan contenidos de marketing originales. Verificar que el material promocional no se confunda con texto generado por IA, manteniendo la credibilidad de la marca.
| Debido a las preocupaciones sobre su confiabilidad, muchos usuarios dudan en depender completamente de los detectores de IA en este momento. Sin embargo, estos detectores ya se están volviendo más populares como una señal de que un texto podría ser generado por IA, especialmente cuando el usuario ya tenía sus dudas. |
Detección manual de texto generado por IA
Además de usar detectores de IA, también puede aprender a identificar los rasgos únicos de la escritura de IA por sí mismo. No siempre es fácil hacer esto de manera confiable: la escritura humana a veces puede parecer robótica, y la escritura de IA se está volviendo más convincentemente humana, pero con la práctica, puede desarrollar un buen sentido para ello.
Las reglas específicas que siguen los detectores de IA, como baja perplejidad y ráfagas, pueden parecer complicadas. Sin embargo, puede intentar encontrar estos rasgos usted mismo mirando el texto en busca de ciertos signos:
- Que se lee monótonamente, con poca variación en la estructura o longitud de la oración.
- Usar palabras esperadas y no muy únicas, y tener muy pocos elementos inesperados
También puede utilizar métodos que los detectores de IA no utilizan, prestando atención a:
| Métodos | Explicación |
| Cortesía excesiva | Los chatbots como ChatGPT están hechos para ser asistentes útiles, por lo que a menudo usan un lenguaje cortés y formal que puede no parecer muy informal. |
| Inconsistencia en la voz | Si está familiarizado con la forma en que alguien escribe normalmente (como un estudiante), generalmente puede notar cuando algo que ha escrito es bastante diferente de su estilo habitual. |
| Lenguaje de cobertura | Preste atención a si no hay muchas ideas fuertes y frescas, y también observe si existe la costumbre de usar frases que muestren demasiada incertidumbre: “Es importante tener en cuenta que…” “X es ampliamente considerado como…” “X es considerado… “Ciertas personas podrían argumentar que…”. |
| Reclamos sin fuente o citados incorrectamente | Cuando se trata de redacción académica, es crucial mencionar de dónde obtuviste la información. Sin embargo, las herramientas de escritura de IA a menudo no siguen esta regla o cometen errores (como citar fuentes que no existen o no son relevantes). |
| Errores lógicos | Aunque la escritura con IA cada vez suena más natural, a veces las ideas que contiene no encajan bien. Preste atención a los lugares donde el texto dice cosas que no coinciden, suenan poco probables o presenta ideas que no conectan fácilmente. |
| En general, experimentar con varias herramientas de escritura de IA, observar los tipos de textos que pueden producir y familiarizarse con la forma en que escriben puede ayudarlo a detectar mejor el texto que podría haber sido creado por IA. |
Detectores para imágenes y videos de IA
Las imágenes de IA y los generadores de vídeo, especialmente los populares como DALL-E y Synthesia, pueden crear imágenes realistas y alteradas. Esto hace que sea fundamental identificar “deepfakes” o imágenes y vídeos creados por IA para evitar la difusión de información falsa.
Actualmente, muchos carteles pueden revelar imágenes y vídeos generados por IA, como por ejemplo:
- Manos con demasiados dedos
- Movimientos extraños
- Texto sin sentido en la imagen.
- Rasgos faciales poco realistas
Sin embargo, detectar estos signos podría volverse más difícil a medida que la IA mejore.
Existen herramientas diseñadas para detectar estas imágenes generadas por IA, que incluyen:
- software profundo
- FakeCatcher de Intel
- iluminaridad
Aún no está claro cuán efectivas y confiables son estas herramientas, por lo que se necesitan más pruebas.
La evolución constante de la generación y detección de imágenes y videos de IA crea una necesidad continua de desarrollar métodos de detección más sólidos y precisos para abordar los riesgos potenciales asociados con las falsificaciones profundas y las imágenes generadas por IA.
Conclusión
| Los detectores de IA ayudan a identificar textos generados por herramientas como ChatGPT. Principalmente buscan "perplejidad" y "explosión" para detectar contenido creado por IA. Su precisión sigue siendo una preocupación, e incluso los mejores muestran errores. A medida que avanza la tecnología de IA, se vuelve más difícil diferenciar a los humanos del contenido producido por IA, incluidas imágenes y videos, lo que resalta la necesidad de tener cuidado en línea. |
Preguntas más frecuentes
| 1. Cuál es la diferencia entre Detectores de IA y Damas de plagio? A: Tanto los detectores de IA como los verificadores de plagio encuentran uso en las universidades para disuadir la deshonestidad académica, pero varían en sus métodos y objetivos: • Los detectores de IA tienen como objetivo identificar el texto que se parece a la salida de las herramientas de escritura de IA. Esto implica analizar rasgos de texto como perplejidad y explosión, en lugar de compararlos con una base de datos. • Los detectores de plagio tienen como objetivo detectar texto copiado de otras fuentes. Logran esto comparando el texto con una extensa base de datos de contenido publicado anteriormente y tesis de estudiantes, identificando similitudes, sin depender de analizar rasgos específicos del texto. 2. ¿Cómo puedo usar ChatGPT? A: Para utilizar ChatGPT, simplemente cree una cuenta gratuita: • Seguir este enlace al sitio web de ChatGPT. • Seleccione "Registrarse" y proporcione la información requerida (o use su cuenta de Google). Registrarse y utilizar la herramienta es gratuito. • ¡Escriba un aviso en el cuadro de chat para comenzar! Actualmente se puede acceder a una versión de iOS de la aplicación ChatGPT, y hay planes para una aplicación de Android en trámite. La aplicación funciona de manera similar al sitio web y puede usar la misma cuenta para iniciar sesión en ambas plataformas. 3. ¿Hasta cuándo seguirá siendo gratuito ChatGPT? A: La disponibilidad futura de ChatGPT de forma gratuita sigue siendo incierta, sin que se haya anunciado un cronograma específico. La herramienta se presentó inicialmente en noviembre de 2022 como una "vista previa de investigación" para ser probada por una amplia base de usuarios sin costo alguno. El término "vista previa" sugiere posibles cargos futuros, pero no existe una confirmación oficial de la finalización del acceso gratuito. Una opción mejorada, ChatGPT Plus, cuesta $20 al mes e incluye funciones avanzadas como GPT-4. No está claro si esta versión premium reemplazará a la gratuita o si esta última continuará. Factores como los gastos del servidor podrían influir en esta decisión. El curso futuro sigue siendo incierto. 4. ¿Está bien incluir ChatGPT en mis citas? A: En ciertos contextos, es apropiado hacer referencia a ChatGPT en su trabajo, particularmente cuando sirve como una fuente importante para estudiar modelos de lenguaje de IA. Ciertas universidades pueden requerir citación o reconocimiento si ChatGPT lo ayudó en su proceso de investigación o redacción, como en el desarrollo de preguntas de investigación; es recomendable consultar los lineamientos de su institución. Sin embargo, debido a la confiabilidad variable de ChatGPT y la falta de credibilidad como fuente, es mejor no citarlo para obtener información objetiva. En el estilo APA, puede tratar una respuesta de ChatGPT como una comunicación personal, ya que otras personas no pueden acceder a sus respuestas. En el texto, cítelo de la siguiente manera: (ChatGPT, comunicación personal, 11 de febrero de 2023). |
