Como funcionam exatamente os detectores de IA?

Os detectores de IA, às vezes mencionados como IA de escrita ou IA de conteúdo, servem para identificar se um texto foi parcial ou totalmente composto por ferramentas de inteligência artificial como ChatGPT.

Esses detectores são úteis para identificar casos em que uma peça escrita provavelmente foi criada por IA. A aplicação é benéfica das seguintes maneiras:

Autenticando o trabalho do aluno. Os educadores podem usá-lo para validar a autenticidade das tarefas originais e dos projetos de redação dos alunos.
Combatendo análises falsas de produtos. Os moderadores podem utilizá-lo para identificar e abordar análises de produtos falsificados que visam manipular a percepção do consumidor.
Lidando com conteúdo de spam. Ajuda a detectar e remover várias formas de conteúdo com spam que podem distorcer a qualidade e a credibilidade das plataformas online.

Essas ferramentas ainda são novas e estão sendo testadas, então não temos certeza de quão confiáveis elas são agora. Nas seções a seguir, nos aprofundamos em seu funcionamento, verificamos até que ponto eles são confiáveis e exploramos uma variedade de aplicações práticas que eles oferecem.

Instituições educacionais, incluindo universidades, estão em processo de formulação de suas posições sobre a utilização adequada do ChatGPT e ferramentas similares. É essencial priorizar as diretrizes da sua instituição sobre qualquer conselho que você encontrar online.

Como funcionam os detectores de IA?

Os detectores de IA geralmente usam modelos de linguagem semelhantes aos das ferramentas de escrita de IA que estão tentando encontrar. Basicamente, o modelo de linguagem analisa a entrada e pergunta: “Isso se parece com algo que eu possa ter feito?” Se disser sim, o modelo supõe que o texto provavelmente foi criado por IA.

Em particular, esses modelos buscam duas características dentro de um texto: “perplexidade” e “explosão”. Quando esses dois aspectos são menores, há uma probabilidade maior de que o texto tenha sido gerado por IA.

No entanto, o que exatamente esses termos incomuns significam?

Perplexidade

A perplexidade se destaca como uma métrica significativa empregada para avaliar a proficiência dos modelos de linguagem. Refere-se a quão bem o modelo é capaz de prever a próxima palavra em uma sequência de palavras.

Os modelos de linguagem AI trabalham para criar textos com baixa perplexidade, resultando em maior coerência, fluxo suave e previsibilidade. Em contraste, a escrita humana costuma apresentar maior perplexidade devido à utilização de opções de linguagem mais imaginativas, embora acompanhada de maior frequência de erros tipográficos.

Os modelos de linguagem funcionam prevendo qual palavra viria naturalmente a seguir em uma frase e inserindo-a. Você pode ver um exemplo abaixo.

Exemplo de continuação	Perplexidade
Eu não consegui terminar o projeto por último noite.	Low: Provavelmente a continuação mais provável
Eu não consegui terminar o projeto por último vez que eu não tomo café à noite.	Baixo a médio: Menos provável, mas faz sentido gramatical e lógico
Não consegui terminar o projeto no semestre passado muitas vezes por causa do quão desmotivado eu estava naquele momento.	Meio: A frase é coerente, mas bastante invulgarmente estruturada e prolixo
Eu não consegui terminar o projeto por último prazer em conhecê-lo.	High: Gramaticalmente incorreto e ilógico

A baixa perplexidade é tomada como evidência de que um texto é gerado por IA.

Explosão

“Burstiness” é uma maneira de ver como as sentenças são diferentes em como elas são colocadas juntas e quanto elas duram. É um pouco como a perplexidade, mas para frases inteiras em vez de apenas palavras.

Quando um texto tem principalmente frases semelhantes em como são feitas e quanto tempo são, ele tem baixo estouro. Isso significa que ele lê mais suavemente. Mas se um texto tem frases que são muito diferentes umas das outras na forma como são construídas e quanto tempo duram, ele tem alta rajada. Isso faz com que o texto pareça menos estável e mais variado.

O texto gerado por IA tende a ser menos variável em seus padrões de sentença em comparação com o texto escrito por humanos. À medida que os modelos de linguagem adivinham a palavra que provavelmente vem a seguir, eles geralmente criam frases com cerca de 10 a 20 palavras e seguem padrões regulares. É por isso que a escrita de IA às vezes pode parecer monótona.

Baixo estouro indica que é provável que um texto seja gerado por IA.

Outra opção a considerar: marcas d'água

A OpenAI, criadora do ChatGPT, está desenvolvendo um método chamado “marca d'água”. Esse sistema envolve a adição de uma marca não vista ao texto produzido pela ferramenta, que posteriormente pode ser identificada por outro sistema para confirmar a origem AI do texto.

No entanto, esse sistema ainda está sendo desenvolvido e os detalhes exatos de como funcionará ainda não foram revelados. Além disso, não está claro se alguma marca d'água sugerida permanecerá intacta quando as edições forem feitas no texto gerado.

Embora a ideia de usar esse conceito para detectar IA no futuro pareça promissora, é importante observar que detalhes definitivos e confirmações sobre como colocá-la em prática ainda estão pendentes.

aluno aprende como funcionam os detectores de IA

Qual é a confiabilidade dos detectores de IA?

Os detectores de IA normalmente funcionam de maneira eficaz, principalmente com textos mais longos, mas podem ter problemas se o texto criado por IA for propositalmente menos esperado ou alterado depois de feito.
Os detectores de IA podem pensar erroneamente que o texto escrito por humanos foi realmente feito por IA, especialmente se atender às condições de baixa perplexidade e estouro.
A pesquisa sobre detectores de IA indica que nenhuma ferramenta pode fornecer precisão completa; a maior precisão foi de 84% em uma ferramenta premium ou 68% na melhor ferramenta gratuita.
Essas ferramentas oferecem informações valiosas sobre a probabilidade de um texto ser gerado por IA, mas recomendamos não confiar apenas nelas como evidência. Com o progresso contínuo dos modelos de linguagem, as ferramentas que os detectam precisarão trabalhar mais para acompanhá-los.
Os provedores mais confiantes geralmente admitem que suas ferramentas não podem servir como evidência conclusiva de texto gerado por IA.
As universidades, por enquanto, não confiam muito nessas ferramentas.

Tentar ocultar a escrita gerada por IA pode, na verdade, fazer com que o texto pareça muito estranho ou inadequado para o uso pretendido.
Por exemplo, introduzir intencionalmente erros de ortografia ou empregar escolhas ilógicas de palavras no texto pode reduzir as chances de ser identificado por um detector de IA. No entanto, um texto repleto desses erros e escolhas estranhas provavelmente não será visto como uma boa redação acadêmica.

Para que finalidade os detectores de IA são empregados?

Os detectores de IA destinam-se a indivíduos que desejam verificar se um texto pode ter sido criado por inteligência artificial. As pessoas que podem usar são:

Educadores e professores. Garantir a autenticidade do trabalho dos alunos e prevenir o plágio.
Os alunos verificam suas tarefas. Verificando para garantir que seu conteúdo seja único e não se pareça involuntariamente com texto gerado por IA.
Editores e editores analisando os envios. Deseja garantir que eles publiquem apenas conteúdo escrito por humanos.
Pesquisadores. deseja detectar quaisquer trabalhos ou artigos de pesquisa gerados por IA em potencial.
Blogueiros e escritores: Deseja publicar conteúdo gerado por IA, mas teme que ele tenha uma classificação mais baixa nos mecanismos de pesquisa se for reconhecido como escrita por IA.
Profissionais em moderação de conteúdo. Identificação de spam gerado por IA, avaliações falsas ou conteúdo impróprio.
Empresas garantindo conteúdo de marketing original. Verificar se o material promocional não é confundido com texto gerado por IA, mantendo a credibilidade da marca.

Devido a preocupações com sua confiabilidade, muitos usuários hesitam em depender completamente dos detectores de IA no momento. No entanto, esses detectores já estão se tornando mais populares como um sinal de que um texto pode ser gerado por IA, principalmente quando o usuário já tinha dúvidas.

Detecção manual de texto gerado por IA

Além de usar detectores de IA, você também pode aprender a identificar sozinho as características únicas da escrita de IA. Nem sempre é fácil fazer isso de forma confiável - a escrita humana às vezes pode soar robótica, e a escrita de IA está se tornando mais convincentemente humana - mas com a prática, você pode desenvolver um bom senso para isso.

As regras específicas que os detectores de IA seguem, como baixa perplexidade e explosão, podem parecer complicadas. No entanto, você pode tentar encontrar essas características olhando o texto para certos sinais:

Que lê monotonamente, com pouca variação na estrutura ou comprimento da frase
Usando palavras que são esperadas e não muito únicas, e com poucos elementos inesperados

Você também pode usar métodos que os detectores de IA não usam, observando:

De Depósito	Explicação
polidez excessiva	Chatbots como o ChatGPT são feitos para serem assistentes úteis, então eles costumam usar uma linguagem educada e formal que pode não soar muito casual.
Inconsistência na voz	Se você está familiarizado com a forma como alguém normalmente escreve (como um aluno), geralmente pode perceber quando algo que eles escreveram é bem diferente de seu estilo usual.
Linguagem de cobertura	Preste atenção se não há muitas ideias fortes e frescas, e observe também se há o hábito de usar frases que mostram muita incerteza: “É importante observar que…” “X é amplamente considerado como…” “X é considerado … “Algumas pessoas podem argumentar que…”.
Reivindicações sem fonte ou citadas incorretamente	Quando se trata de redação acadêmica, é crucial mencionar onde você obteve suas informações. No entanto, as ferramentas de redação de IA geralmente não seguem essa regra ou cometem erros (como citar fontes que não existem ou não são relevantes).
Erros lógicos	Embora a escrita de IA esteja cada vez melhor em soar natural, às vezes as ideias nela contidas não se encaixam bem. Preste atenção aos lugares onde o texto diz coisas que não combinam, parecem improváveis ou apresentam ideias que não se conectam perfeitamente.

No geral, experimentar várias ferramentas de escrita de IA, observar os tipos de texto que elas podem produzir e familiarizar-se com a forma como escrevem pode ajudá-lo a identificar melhor o texto que pode ter sido criado pela IA.

Detectores para imagens e vídeos AI

Imagens de IA e geradores de vídeo, especialmente os populares como DALL-E e Synthesia, podem criar visuais realistas e alterados. Isto torna crucial identificar “deepfakes” ou imagens e vídeos feitos por IA para evitar a propagação de informações falsas.

Atualmente, muitos sinais podem revelar imagens e vídeos gerados por IA, como:

Mãos com muitos dedos
Movimentos estranhos
Texto sem sentido na imagem
Características faciais irrealistas

No entanto, detectar esses sinais pode ficar mais difícil à medida que a IA melhora.

Existem ferramentas projetadas para detectar esses recursos visuais gerados por IA, incluindo:

Software profundo
FakeCatcher da Intel
iluminismo

Ainda não está claro quão eficazes e confiáveis são essas ferramentas, por isso são necessários mais testes.

A evolução constante da geração e detecção de imagem e vídeo de IA cria uma necessidade contínua de desenvolver métodos de detecção mais sólidos e precisos para abordar os riscos potenciais associados a deepfakes e visuais gerados por IA.

Conclusão

Os detectores de IA ajudam a identificar textos gerados por ferramentas como ChatGPT. Eles procuram principalmente “perplexidade” e “explosão” para detectar conteúdo criado por IA. A sua precisão continua a ser uma preocupação, mesmo os melhores apresentando erros. À medida que a tecnologia de IA avança, fica mais difícil diferenciar os humanos do conteúdo produzido por IA, incluindo imagens e vídeos, destacando a necessidade de manter o cuidado online.

Perguntas mais frequentes

1. Qual é a diferença entre Detectores de IA e Damas de plágio?
A: Tanto os detectores de IA quanto os verificadores de plágio são usados nas universidades para impedir a desonestidade acadêmica, mas variam em seus métodos e objetivos:
• Os detectores de IA visam identificar texto semelhante à saída de ferramentas de escrita de IA. Isso envolve a análise de características de texto como perplexidade e explosão, em vez de compará-las a um banco de dados.
• Os verificadores de plágio visam detectar texto copiado de outras fontes. Eles conseguem isso comparando o texto com um extenso banco de dados de conteúdo publicado anteriormente e teses de alunos, identificando semelhanças – sem depender da análise de características específicas do texto.

2. Como posso usar o ChatGPT?
A: Para utilizar o ChatGPT, basta criar uma conta gratuita:
• Segue este link para o site ChatGPT.
• Selecione “Inscreva-se” e forneça as informações necessárias (ou use sua conta do Google). O cadastro e o uso da ferramenta são gratuitos.
• Digite um prompt na caixa de bate-papo para começar!
Uma versão iOS do aplicativo ChatGPT está atualmente acessível e há planos para um aplicativo Android em andamento. O aplicativo funciona de forma semelhante ao site, e você pode usar a mesma conta para fazer login nas duas plataformas.

3. Até quando o ChatGPT permanecerá gratuito?
A: A disponibilidade futura do ChatGPT gratuitamente permanece incerta, sem um cronograma específico anunciado. A ferramenta foi inicialmente introduzida em novembro de 2022 como uma “visualização de pesquisa” a ser testada por uma ampla base de usuários sem nenhum custo.
O termo “visualização” sugere possíveis cobranças futuras, mas não existe nenhuma confirmação oficial do fim do acesso gratuito. Uma opção aprimorada, ChatGPT Plus, custa US$ 20/mês e inclui recursos avançados como GPT-4. Não está claro se esta versão premium substituirá a versão gratuita ou se esta continuará. Fatores como despesas com servidores podem influenciar essa decisão. O rumo futuro permanece incerto.

4. Posso incluir o ChatGPT em minhas citações?
A: Em certos contextos, é apropriado fazer referência ao ChatGPT em seu trabalho, principalmente quando ele serve como uma fonte significativa para o estudo de modelos de linguagem de IA. Certas universidades podem exigir citação ou reconhecimento se o ChatGPT tiver auxiliado sua pesquisa ou processo de redação, como no desenvolvimento de questões de pesquisa; é aconselhável consultar as diretrizes de sua instituição. No entanto, devido à confiabilidade variável do ChatGPT e à falta de credibilidade como fonte, é melhor não citá-lo para obter informações factuais.
No estilo APA, você pode tratar uma resposta do ChatGPT como comunicação pessoal, pois suas respostas não são acessíveis a outras pessoas. No texto, cite da seguinte forma: (ChatGPT, comunicação pessoal, 11 de fevereiro de 2023).