AI детекторите, понякога споменавани като AI писане или AI детектори за съдържание, служат за идентифициране дали даден текст е бил частично или изцяло съставен от инструменти с изкуствен интелект като ChatGPT.
Тези детектори са полезни за идентифициране на случаи, когато писмено произведение вероятно е създадено от AI. Приложението е полезно по следните начини:
- Удостоверяване на ученическите работи. Преподавателите могат да го използват, за да потвърдят автентичността на оригиналните задачи на учениците и писмените проекти.
- Противодействие на фалшиви отзиви за продукти. Модераторите могат да го използват, за да идентифицират и адресират прегледи на фалшиви продукти, които имат за цел да манипулират възприятието на потребителите.
- Справяне със спам съдържание. Той помага при откриването и премахването на различни форми на спам съдържание, което може да изкриви качеството и достоверността на онлайн платформите.
Тези инструменти са все още нови и се тестват, така че не сме напълно сигурни доколко са надеждни в момента. В следващите раздели се задълбочаваме в тяхното функциониране, проверяваме доколко може да им се вярва и изследваме набор от практически приложения, които предлагат.
| Образователните институции, включително университетите, са в процес на формулиране на своите позиции относно подходящото използване на ChatGPT и подобни инструменти. От съществено значение е да дадете приоритет на насоките на вашата институция пред всякакви съвети, които срещнете онлайн. |
Как работят AI детекторите?
AI детекторите обикновено използват езикови модели, които са като тези в инструментите за писане на AI, които се опитват да намерят. По принцип езиковият модел разглежда входа и пита: „Това изглежда ли като нещо, което може да съм направил?“ Ако каже „да“, моделът предполага, че текстът вероятно е създаден от AI.
По-специално, тези модели търсят две характеристики в текста: „объркване“ и „избухване“. Когато тези два аспекта са по-ниски, има по-голяма вероятност текстът да е генериран от AI.
Но какво точно означават тези необичайни термини?
недоумение
Недоумението е важен показател, използван за оценка на владеенето на езикови модели. Отнася се до това колко добре моделът може да предвиди следващата дума в поредица от думи.
Езиковите модели на AI работят за създаване на текстове с ниска степен на объркване, което води до повишена кохерентност, плавен поток и предсказуемост. За разлика от това, човешкото писане често проявява по-голямо недоумение поради използването на по-въображаеми езикови опции, макар и придружено от по-голяма честота на печатни грешки.
Езиковите модели работят, като предвиждат коя дума естествено ще дойде след това в изречението и я вмъкват. Можете да видите пример по-долу.
| Примерно продължение | недоумение |
| Не можах да завърша проекта последен нощ. | Ниска: Може би най-вероятното продължение |
| Не можах да завърша проекта последен време не пия кафе вечер. | Ниско до средно: По-малко вероятно, но има граматически и логически смисъл |
| Не можах да завърша проекта миналия семестър много пъти заради това колко немотивиран бях по това време. | Medium: Изречението е свързано, но доста необичайно структурирано и дълго |
| Не можах да завърша проекта последен приятно ми е да се запознаем. | Високо: Граматически неправилно и нелогично |
Ниската степен на объркване се приема като доказателство, че даден текст е генериран от AI.
Спукване
„Бурстност“ е начин да видите как изреченията се различават по това как са сглобени и колко дълги са. Това е малко като недоумение, но за цели изречения, вместо само за думи.
Когато даден текст има предимно изречения, които са сходни по начина, по който са направени и колко са дълги, той има ниска спукване. Това означава, че се чете по-гладко. Но ако даден текст има изречения, които са много различни едно от друго по начина, по който са изградени и колко са дълги, той има висока разкъсаност. Това кара текста да се чувства по-малко стабилен и по-разнообразен.
Текстът, генериран от изкуствен интелект, обикновено е по-малко променлив в своите модели на изречения в сравнение с текста, написан от хора. Тъй като езиковите модели отгатват думата, която вероятно е следващата, те обикновено съставят изречения с дължина около 10 до 20 думи и следват редовни модели. Ето защо писането на AI понякога може да изглежда монотонно.
Ниска спукване показва, че текстът вероятно ще бъде генериран от AI.
Друга възможност за разглеждане: водни знаци
Съобщава се, че OpenAI, създателят на ChatGPT, разработва метод, наречен „воден знак“. Тази система включва добавяне на невидим знак към текста, създаден от инструмента, който по-късно може да бъде идентифициран от друга система, за да се потвърди произходът на текста от AI.
Тази система обаче все още се разработва и точните подробности за това как ще работи все още не са разкрити. Освен това не е ясно дали предложените водни знаци ще останат непокътнати, когато се правят редакции на генерирания текст.
| Докато идеята за използване на тази концепция за откриване на AI в бъдеще изглежда обнадеждаваща, важно е да се отбележи, че окончателните подробности и потвърждения за прилагането й на практика все още се очакват. |
Каква е надеждността на AI детекторите?
- AI детекторите обикновено работят ефективно, особено с по-дълги текстове, но може да имат проблеми, ако създаденият от AI текст нарочно е направен по-малко очакван или е променен, след като е направен.
- AI детекторите може погрешно да помислят, че текстът, написан от хора, всъщност е създаден от AI, особено ако отговаря на условията за ниско объркване и разкъсване.
- Изследванията относно AI детекторите показват, че никой инструмент не може да осигури пълна точност; най-високата точност беше 84% в премиум инструмент или 68% в най-добрия безплатен инструмент.
- Тези инструменти предлагат ценна информация за вероятността даден текст да бъде генериран от AI, но препоръчваме да не разчитате единствено на тях като доказателство. С продължаващия напредък на езиковите модели, инструментите, които ги откриват, ще трябва да работят по-усилено, за да бъдат в крак.
- По-уверените доставчици обикновено признават, че техните инструменти не могат да служат като убедително доказателство за текст, генериран от AI.
- Засега университетите нямат голямо доверие в тези инструменти.
| Опитът да се скрие писане, генерирано от AI, всъщност може да направи текста да изглежда много странен или неподходящ за предназначението му. Например, умишленото въвеждане на правописни грешки или използването на нелогични избори на думи в текста може да намали шансовете той да бъде идентифициран от AI детектор. Въпреки това, текст, пълен с тези грешки и странни избори, вероятно няма да се разглежда като добро академично писане. |
За каква цел се използват AI детектори?
AI детекторите са предназначени за хора, които искат да проверят дали даден текст може да е създаден от изкуствен интелект. Хората, които могат да го използват, са:
- Възпитатели и учители. Гарантиране на автентичността на работата на студентите и предотвратяване на плагиатството.
- Учениците проверяват задачите си. Проверка, за да се гарантира, че тяхното съдържание е уникално и не изглежда неволно като текст, генериран от AI.
- Издателите и редакторите преглеждат изпратените материали. Искате да сте сигурни, че публикуват само съдържание, написано от хора.
- Изследователи. искат да открият всякакви потенциални изследователски документи или статии, генерирани от AI.
- Блогъри и писатели: Желаете да публикувате генерирано от AI съдържание, но се притеснявате, че може да се класира по-ниско в търсачките, ако бъде разпознато като писане на AI.
- Професионалисти в модерирането на съдържание. Идентифициране на генериран от AI спам, фалшиви отзиви или неподходящо съдържание.
- Бизнеси, осигуряващи оригинално маркетингово съдържание. Проверка дали промоционалните материали не са сбъркани с текст, генериран от AI, поддържане на доверието в марката.
| Поради притеснения за тяхната надеждност, много потребители се колебаят да зависят напълно от AI детекторите в момента. Тези детектори обаче вече стават все по-популярни като знак, че даден текст може да е генериран от AI, особено когато потребителят вече е имал своите съмнения. |
Ръчно откриване на текст, генериран от AI
Освен да използвате AI детектори, можете също да се научите сами да идентифицирате уникалните черти на писането с AI. Не винаги е лесно да направите това надеждно – човешкото писане понякога може да звучи роботизирано, а писането с изкуствен интелект става все по-убедително човешко – но с практиката можете да развиете добър усет за него.
Специфичните правила, които AI детекторите следват, като ниска степен на объркване и спукване, могат да изглеждат сложни. Можете обаче да опитате сами да намерите тези черти, като погледнете текста за определени знаци:
- Това се чете монотонно, с малки вариации в структурата или дължината на изречението
- Използване на думи, които са очаквани и не много уникални, и с много малко неочаквани елементи
Можете също да използвате методи, които AI детекторите не използват, като внимавате за:
| Методи | Обяснение |
| Прекалена учтивост | Чатботове като ChatGPT са създадени да бъдат полезни помощници, така че често използват учтив и официален език, който може да не звучи много непринудено. |
| Непоследователност в гласа | Ако сте запознати с това как някой обикновено пише (като студент), обикновено можете да забележите, когато нещо, което е написал, е доста различно от обичайния му стил. |
| Хеджиращ език | Обърнете внимание дали няма много силни и свежи идеи и също така забележете дали има навик да използвате фрази, които показват твърде много несигурност: „Важно е да се отбележи, че …“ „X се смята широко за …“ „X се счита за … ” „Някои хора може да твърдят, че...”. |
| Твърдения без източник или неправилно цитирани | Когато става въпрос за академично писане, от решаващо значение е да споменете откъде сте получили информацията си. Инструментите за писане на AI обаче често не следват това правило или допускат грешки (като цитиране на източници, които не съществуват или не са подходящи). |
| Логически грешки | Въпреки че писането на AI става все по-добро като звучи естествено, понякога идеите в него не си пасват добре. Обърнете внимание на местата, където текстът казва неща, които не съвпадат, звучи малко вероятно или представя идеи, които не се свързват гладко. |
| Като цяло, експериментирането с различни инструменти за писане с изкуствен интелект, наблюдаването на видовете текстове, които те могат да произвеждат, и запознаването с начина, по който те пишат, може да ви помогне да забележите по-добре текст, който може да е създаден от изкуствен интелект. |
Детектори за AI изображения и видео
AI изображения и видео генератори, особено популярни като DALL-E и Synthesia, могат да създават реалистични и променени визуализации. Това прави от решаващо значение идентифицирането на „deepfakes“ или създадени от AI изображения и видеоклипове, за да се предотврати разпространението на невярна информация.
В момента много знаци могат да разкрият изображения и видеоклипове, генерирани от AI, като например:
- Ръце с твърде много пръсти
- Странни движения
- Безсмислен текст в изображението
- Нереалистични черти на лицето
И все пак забелязването на тези признаци може да стане по-трудно с подобряването на ИИ.
Има инструменти, предназначени да откриват тези генерирани от AI визуализации, включително:
- Deepware
- FakeCatcher на Intel
- Просветление
Все още не е ясно колко ефективни и надеждни са тези инструменти, така че са необходими повече тестове.
Постоянната еволюция на генерирането и откриването на изображения и видео с изкуствен интелект създава постоянна необходимост от разработване на по-солидни и точни методи за откриване, за да се отговори на потенциалните рискове, свързани с дълбоки фалшификати и визуализации, генерирани от изкуствен интелект.
Заключение
| AI детекторите помагат за идентифициране на текстове, генерирани от инструменти като ChatGPT. Те търсят главно „объркване“ и „избухване“, за да забележат съдържание, създадено от AI. Тяхната точност остава проблем, като дори най-добрите показват грешки. С напредването на AI технологията разграничаването на хората от създаденото от AI съдържание, включително изображения и видеоклипове, става все по-трудно, което подчертава необходимостта да бъдете внимателни онлайн. |
Често задавани въпроси
| 1. Каква е разликата между AI детектори намлява Проверка на плагиатство? A: Както AI детекторите, така и проверките за плагиатство намират приложение в университетите за възпиране на академична нечестност, но те се различават по своите методи и цели: • AI детекторите имат за цел да идентифицират текст, наподобяващ изход от инструменти за писане на AI. Това включва анализиране на характеристиките на текста като объркване и спукване, вместо да ги сравнявате с база данни. • Проверките за плагиатство имат за цел да открият копиран текст от други източници. Те постигат това, като сравняват текста с обширна база данни с публикувано преди това съдържание и дипломни работи на студенти, като идентифицират приликите - без да разчитат на анализиране на конкретни черти на текста. 2. Как мога да използвам ChatGPT? A: За да използвате ChatGPT, просто създайте безплатен акаунт: • Последвам тази връзка към уебсайта на ChatGPT. • Изберете „Регистрация“ и предоставете необходимата информация (или използвайте акаунта си в Google). Регистрацията и използването на инструмента е безплатно. • Въведете подкана в полето за чат, за да започнете! В момента е достъпна версия за iOS на приложението ChatGPT и има планове за приложение за Android в процес на подготовка. Приложението функционира подобно на уебсайта и можете да използвате един и същ акаунт, за да влезете и в двете платформи. 3. До кога ChatGPT ще остане безплатен? A: Бъдещата наличност на ChatGPT безплатно остава несигурна, без обявена конкретна времева линия. Първоначално инструментът беше представен през ноември 2022 г. като „предварителен преглед на изследването“, за да бъде тестван от широка потребителска база безплатно. Терминът „предварителен преглед“ предполага потенциални бъдещи такси, но не съществува официално потвърждение за прекратяване на безплатния достъп. Подобрена опция, ChatGPT Plus, струва $20/месец и включва разширени функции като GPT-4. Не е ясно дали тази премиум версия ще замени безплатната или последната ще продължи. Фактори като разходи за сървър могат да повлияят на това решение. Бъдещият курс остава несигурен. 4. Добре ли е да включа ChatGPT в моите цитати? A: В определени контексти е подходящо да се позовавате на ChatGPT в работата си, особено когато служи като важен източник за изучаване на езикови модели на AI. Някои университети може да изискват цитиране или потвърждение, ако ChatGPT е подпомогнал вашето проучване или процес на писане, като например при разработване на изследователски въпроси; препоръчително е да се консултирате с указанията на вашата институция. Въпреки това, поради различната надеждност на ChatGPT и липсата на доверие като източник, най-добре е да не го цитирате за фактическа информация. В стил APA можете да третирате отговор на ChatGPT като лична комуникация, тъй като отговорите му не са достъпни за други. Цитирайте го в текста, както следва: (ChatGPT, лична комуникация, 11 февруари 2023 г.). |
