Detektory AI, czasami określane jako wykrywacze pisma AI lub detektory treści AI, służą do identyfikacji, czy tekst został częściowo lub w całości skomponowany przez narzędzia sztucznej inteligencji, takie jak ChatGPT.
Detektory te są przydatne do identyfikowania przypadków, w których prawdopodobnie sztuczna inteligencja stworzyła utwór pisemny. Aplikacja jest korzystna na następujące sposoby:
- Uwierzytelnianie pracy ucznia. Nauczyciele mogą go używać do sprawdzania autentyczności oryginalnych zadań i projektów pisemnych uczniów.
- Zwalczanie fałszywych recenzji produktów. Moderatorzy mogą go używać do identyfikowania i rozpatrywania fałszywych recenzji produktów, które mają na celu manipulowanie postrzeganiem przez konsumentów.
- Walka ze spamem. Pomaga w wykrywaniu i usuwaniu różnych form spamerskich treści, które mogą zakłócać jakość i wiarygodność platform internetowych.
Te narzędzia są wciąż nowe i są testowane, więc nie jesteśmy do końca pewni, na ile są teraz niezawodne. W kolejnych sekcjach zagłębimy się w ich funkcjonowanie, sprawdzimy, na ile można im zaufać i poznamy szereg praktycznych zastosowań, jakie oferują.
| Instytucje edukacyjne, w tym uniwersytety, są w trakcie formułowania swoich stanowisk dotyczących właściwego wykorzystania ChatGPT i podobnych narzędzi. Istotne jest, aby priorytetowo traktować wytyczne instytucji w stosunku do wszelkich porad, które można znaleźć w Internecie. |
Jak działają detektory AI?
Detektory AI zwykle używają modeli językowych, które są podobne do tych w narzędziach do pisania AI, które próbują znaleźć. Zasadniczo model języka patrzy na dane wejściowe i pyta: „Czy to wygląda na coś, co mogłem zrobić?” Jeśli powie tak, model zgaduje, że tekst jest prawdopodobnie tworzony przez sztuczną inteligencję.
W szczególności modele te wyszukują w tekście dwie cechy: „zakłopotanie” i „wybuchowość”. Gdy te dwa aspekty są niższe, istnieje większe prawdopodobieństwo, że tekst został wygenerowany przez sztuczną inteligencję.
Co jednak dokładnie oznaczają te niecodzienne terminy?
Zakłopotanie
Zakłopotanie jest istotną miarą stosowaną do oceny biegłości modeli językowych. Odnosi się do tego, jak dobrze model jest w stanie przewidzieć następne słowo w sekwencji słów.
Modele językowe AI pracują nad tworzeniem tekstów o niskim stopniu zakłopotania, co skutkuje zwiększoną spójnością, płynnym przepływem i przewidywalnością. W przeciwieństwie do tego, pismo ludzkie często wykazuje większe zakłopotanie ze względu na wykorzystanie bardziej pomysłowych opcji językowych, aczkolwiek towarzyszy im większa częstotliwość błędów typograficznych.
Modele językowe działają na zasadzie przewidywania, jakie słowo naturalnie pojawi się jako następne w zdaniu i wstawiania go. Możesz zobaczyć przykład poniżej.
| Przykładowa kontynuacja | Zakłopotanie |
| Nie mogłem ukończyć projektu jako ostatni noc. | Niska: Chyba najbardziej prawdopodobna kontynuacja |
| Nie mogłem ukończyć projektu jako ostatni czasu nie piję kawy wieczorem. | Niski do średniego: Mniej prawdopodobne, ale ma sens gramatyczny i logiczny |
| Nie mogłem ukończyć projektu w zeszłym semestrze wiele razy z powodu braku motywacji w tamtym czasie. | Medium: Zdanie jest spójne, ale dość nietypowo skonstruowane i rozwlekłe |
| Nie mogłem ukończyć projektu jako ostatni miło mi cię poznać. | Wysoka: Niepoprawne gramatycznie i nielogiczne |
Niski poziom zakłopotania jest traktowany jako dowód na to, że tekst jest generowany przez sztuczną inteligencję.
Pęknięcie
„Burstiness” to sposób na sprawdzenie, jak różne są zdania pod względem ich budowy i długości. To trochę jak zakłopotanie, ale dla całych zdań, a nie tylko dla słów.
Kiedy tekst zawiera głównie zdania, które są podobne pod względem sposobu ich budowy i długości, ma niską wybuchowość. Oznacza to, że czyta się płynniej. Ale jeśli tekst zawiera zdania, które bardzo różnią się od siebie budową i długością, ma dużą wybuchowość. To sprawia, że tekst wydaje się mniej stabilny i bardziej zróżnicowany.
Tekst generowany przez sztuczną inteligencję jest mniej zmienny pod względem wzorców zdań w porównaniu z tekstem pisanym przez człowieka. Gdy modele językowe odgadują słowo, które prawdopodobnie będzie następne, zwykle tworzą zdania o długości około 10 do 20 słów i według regularnych wzorców. Dlatego pisanie AI może czasami wydawać się monotonne.
Niska pękalność wskazuje, że tekst prawdopodobnie zostanie wygenerowany przez sztuczną inteligencję.
Kolejna opcja do rozważenia: znaki wodne
Podobno OpenAI, twórca ChatGPT, opracowuje metodę zwaną „znakiem wodnym”. Ten system polega na dodaniu niewidocznego znaku do tekstu utworzonego przez narzędzie, który może później zostać zidentyfikowany przez inny system w celu potwierdzenia pochodzenia tekstu AI.
System ten jest jednak wciąż rozwijany, a dokładne szczegóły jego działania nie zostały jeszcze ujawnione. Co więcej, nie jest jasne, czy jakiekolwiek sugerowane znaki wodne pozostaną nienaruszone po wprowadzeniu zmian w wygenerowanym tekście.
| Chociaż pomysł wykorzystania tej koncepcji do wykrywania sztucznej inteligencji w przyszłości wygląda obiecująco, należy zauważyć, że ostateczne szczegóły i potwierdzenia dotyczące jej praktycznego zastosowania wciąż nie są znane. |
Jaka jest niezawodność detektorów AI?
- Detektory AI zwykle działają skutecznie, szczególnie w przypadku dłuższych tekstów, ale mogą mieć problemy, jeśli tekst stworzony przez AI jest celowo mniej oczekiwany lub został zmieniony po utworzeniu.
- Detektory AI mogą błędnie sądzić, że tekst napisany przez ludzi został w rzeczywistości stworzony przez sztuczną inteligencję, zwłaszcza jeśli spełnia warunki niskiej zakłopotania i wybuchowości.
- Badania nad detektorami AI wskazują, że żadne narzędzie nie może zapewnić pełnej dokładności; najwyższa dokładność wyniosła 84% w narzędziu premium lub 68% w najlepszym darmowym narzędziu.
- Narzędzia te zapewniają cenny wgląd w prawdopodobieństwo wygenerowania tekstu przez sztuczną inteligencję, ale zalecamy, aby nie polegać wyłącznie na nich jako na dowodach. Wraz z ciągłym rozwojem modeli językowych narzędzia, które je wykrywają, będą musiały pracować ciężej, aby nadążyć.
- Bardziej pewni siebie dostawcy zwykle przyznają, że ich narzędzia nie mogą służyć jako rozstrzygający dowód na tekst generowany przez sztuczną inteligencję.
- Na razie uniwersytety nie mają dużego zaufania do tych narzędzi.
| Próba ukrycia pisma generowanego przez sztuczną inteligencję może w rzeczywistości sprawić, że tekst będzie wydawał się bardzo dziwny lub nieodpowiedni do zamierzonego zastosowania. Na przykład celowe wprowadzanie błędów ortograficznych lub stosowanie nielogicznych słów w tekście może zmniejszyć szanse na wykrycie go przez wykrywacz AI. Jednak tekst pełen tych błędów i dziwnych wyborów prawdopodobnie nie będzie postrzegany jako dobre dzieło akademickie. |
W jakim celu stosuje się detektory AI?
Detektory AI są przeznaczone dla osób, które chcą sprawdzić, czy tekst mógł zostać stworzony przez sztuczną inteligencję. Osoby, które mogą z niego korzystać to:
- Wychowawcy i nauczyciele. Zapewnienie autentyczności prac uczniów i zapobieganie plagiatom.
- Uczniowie sprawdzają swoje zadania. Sprawdzanie, czy ich treść jest unikalna i nie wygląda niechcący jak tekst wygenerowany przez AI.
- Wydawcy i redaktorzy recenzujący zgłoszenia. Chcą mieć pewność, że publikują wyłącznie treści napisane przez ludzi.
- Naukowcy. chcesz wykryć wszelkie potencjalne prace badawcze lub artykuły wygenerowane przez sztuczną inteligencję.
- Blogerzy i pisarze: Chcesz publikować treści generowane przez sztuczną inteligencję, ale obawiasz się, że mogą one zająć niższą pozycję w wyszukiwarkach, jeśli zostaną rozpoznane jako pisane przez sztuczną inteligencję.
- Profesjonaliści w moderowaniu treści. Identyfikowanie spamu generowanego przez sztuczną inteligencję, fałszywych recenzji lub nieodpowiednich treści.
- Firmy zapewniające oryginalne treści marketingowe. Weryfikacja, czy materiały promocyjne nie są mylone z tekstem generowanym przez sztuczną inteligencję, zachowując wiarygodność marki.
| Ze względu na obawy o ich niezawodność wielu użytkowników waha się obecnie, czy całkowicie polegać na wykrywaczach AI. Jednak wykrywacze te stają się już coraz bardziej popularne jako znak, że tekst może być generowany przez sztuczną inteligencję, zwłaszcza gdy użytkownik miał już wątpliwości. |
Ręczne wykrywanie tekstu generowanego przez AI
Oprócz korzystania z detektorów AI możesz także nauczyć się samodzielnie identyfikować unikalne cechy pisania AI. Nie zawsze łatwo jest to zrobić niezawodnie — pisanie ludzkie może czasami brzmieć jak robot, a pisanie AI staje się coraz bardziej przekonujące — ale dzięki praktyce możesz rozwinąć w tym dobry zmysł.
Konkretne zasady, których przestrzegają detektory AI, takie jak niski stopień zakłopotania i wybuchowość, mogą wydawać się skomplikowane. Możesz jednak spróbować znaleźć te cechy samodzielnie, patrząc na tekst pod kątem niektórych znaków:
- To czyta się monotonnie, z niewielkimi różnicami w strukturze zdania lub długości
- Używanie słów, które są oczekiwane i niezbyt unikalne oraz zawierające bardzo niewiele nieoczekiwanych elementów
Możesz także użyć metod, których nie mają detektory AI, uważając na:
| Metody | Wyjaśnienie |
| Nadmierna uprzejmość | Chatboty, takie jak ChatGPT, są stworzone jako pomocni asystenci, więc często używają uprzejmego i oficjalnego języka, który może nie brzmieć zbyt swobodnie. |
| Niekonsekwencja w głosie | Jeśli jesteś zaznajomiony z tym, jak ktoś zwykle pisze (np. student), zwykle możesz zauważyć, że coś, co napisali, różni się od ich zwykłego stylu. |
| Język zabezpieczający | Zwróć uwagę, czy nie ma zbyt wielu mocnych i świeżych pomysłów, a także czy nie ma nawyku używania zwrotów, które zbytnio wskazują na niepewność: „Ważne jest, aby zauważyć, że…” „X jest powszechnie uważany za…” „X jest uważany… „Niektórzy ludzie mogą twierdzić, że…”. |
| Niepotwierdzone lub nieprawidłowo cytowane twierdzenia | Jeśli chodzi o pisanie akademickie, ważne jest, aby wspomnieć, skąd masz informacje. Jednak narzędzia do pisania oparte na sztucznej inteligencji często nie przestrzegają tej zasady lub popełniają błędy (np. cytowanie źródeł, które nie istnieją lub są nieistotne). |
| Błędy logiczne | Mimo że pisanie AI coraz lepiej brzmi naturalnie, czasami zawarte w nim pomysły nie pasują do siebie. Zwróć uwagę na miejsca, w których tekst mówi rzeczy, które do siebie nie pasują, brzmią nieprawdopodobnie lub przedstawiają idee, które nie łączą się płynnie. |
| Ogólnie rzecz biorąc, eksperymentowanie z różnymi narzędziami do pisania opartymi na sztucznej inteligencji, obserwowanie rodzajów tekstów, które mogą tworzyć, oraz zapoznanie się z ich sposobem pisania może pomóc ci lepiej wykrywać tekst, który mógł zostać stworzony przez sztuczną inteligencję. |
Detektory obrazów i filmów AI
Obrazy AI i generatory wideo, szczególnie popularne, takie jak DALL-E i Synthesia, mogą tworzyć realistyczne i zmienione efekty wizualne. To sprawia, że kluczowe znaczenie ma identyfikacja „deepfake” lub obrazów i filmów stworzonych przez sztuczną inteligencję, aby zapobiec rozprzestrzenianiu się fałszywych informacji.
Obecnie wiele znaków może ujawniać obrazy i filmy generowane przez sztuczną inteligencję, takie jak:
- Ręce ze zbyt wieloma palcami
- Dziwne ruchy
- Bezsensowny tekst na obrazku
- Nierealistyczne rysy twarzy
Jednak dostrzeganie tych znaków może być trudniejsze, gdy sztuczna inteligencja staje się lepsza.
Istnieją narzędzia zaprojektowane do wykrywania tych wizualizacji generowanych przez sztuczną inteligencję, w tym:
- Oprogramowanie głębokie
- FakeCatcher firmy Intel
- oświecony
Nadal nie jest jasne, jak skuteczne i niezawodne są te narzędzia, dlatego potrzebne są dalsze testy.
Ciągła ewolucja generowania i wykrywania obrazów i wideo AI stwarza ciągłą potrzebę opracowania bardziej solidnych i dokładnych metod wykrywania, aby zająć się potencjalnymi zagrożeniami związanymi z deepfake'ami i materiałami wizualnymi generowanymi przez AI.
Podsumowanie
| Detektory AI pomagają identyfikować teksty generowane przez narzędzia takie jak ChatGPT. Szukają głównie „zakłopotania” i „wybuchu”, aby dostrzec treści tworzone przez sztuczną inteligencję. Ich dokładność pozostaje problemem, a nawet najlepsze wykazują błędy. Wraz z postępem technologii sztucznej inteligencji odróżnienie ludzi od treści tworzonych przez sztuczną inteligencję, w tym obrazów i filmów, staje się coraz trudniejsze, co podkreśla potrzebę zachowania ostrożności w Internecie. |
Często zadawane pytania
| 1. Jaka jest różnica między Detektory AI i Plagiaty Warcaby? A: Zarówno wykrywacze sztucznej inteligencji, jak i kontrolery plagiatu znajdują zastosowanie na uniwersytetach w celu powstrzymania nieuczciwości akademickiej, ale różnią się metodami i celami: • Detektory AI mają na celu identyfikację tekstu przypominającego dane wyjściowe z narzędzi AI do pisania. Wiąże się to z analizą cech tekstu, takich jak zakłopotanie i wybuchowość, zamiast porównywania ich z bazą danych. • Kontrolery plagiatu mają na celu wykrycie skopiowanego tekstu z innych źródeł. Osiągają to, porównując tekst z obszerną bazą wcześniej opublikowanych treści i prac studenckich, identyfikując podobieństwa – bez polegania na analizie konkretnych cech tekstu. 2. Jak mogę korzystać z ChatGPT? A: Aby korzystać z ChatGPT, po prostu utwórz darmowe konto: • Podążać pod tym linkiem na stronie ChatGPT. • Wybierz „Zarejestruj się” i podaj wymagane informacje (lub użyj swojego konta Google). Rejestracja i korzystanie z narzędzia jest bezpłatne. • Wpisz monit w oknie czatu, aby rozpocząć! Wersja aplikacji ChatGPT na iOS jest obecnie dostępna, a w planach jest aplikacja na Androida. Aplikacja działa podobnie do strony internetowej, a do logowania na obu platformach można używać tego samego konta. 3. Do kiedy ChatGPT pozostanie darmowe? A: Przyszła dostępność ChatGPT za darmo pozostaje niepewna, bez ogłoszonego konkretnego harmonogramu. Narzędzie zostało pierwotnie wprowadzone w listopadzie 2022 r. jako „podgląd badań” do bezpłatnego przetestowania przez szeroką bazę użytkowników. Termin „podgląd” sugeruje potencjalne przyszłe opłaty, ale nie istnieje żadne oficjalne potwierdzenie zakończenia bezpłatnego dostępu. Ulepszona opcja, ChatGPT Plus, kosztuje 20 USD miesięcznie i zawiera zaawansowane funkcje, takie jak GPT-4. Nie jest jasne, czy ta wersja premium zastąpi darmową, czy ta druga będzie kontynuowana. Czynniki takie jak wydatki na serwery mogą wpłynąć na tę decyzję. Przyszły kurs pozostaje niepewny. 4. Czy mogę dołączyć ChatGPT do moich cytatów? A: W pewnych kontekstach właściwe jest odwoływanie się do ChatGPT w swojej pracy, zwłaszcza gdy służy on jako istotne źródło do badania modeli językowych AI. Niektóre uniwersytety mogą wymagać zacytowania lub potwierdzenia, jeśli ChatGPT pomogło w procesie wyszukiwania lub pisania, na przykład w opracowywaniu pytań badawczych; wskazane jest zapoznanie się z wytycznymi swojej instytucji. Jednak ze względu na zmienną niezawodność ChatGPT i brak wiarygodności jako źródła, najlepiej nie cytować go w celu uzyskania faktycznych informacji. W stylu APA możesz traktować odpowiedź ChatGPT jako osobistą komunikację, ponieważ jej odpowiedzi nie są dostępne dla innych. W tekście zacytuj to w następujący sposób: (ChatGPT, wiadomość prywatna, 11 lutego 2023 r.). |
