Детектори штучного інтелекту, іноді згадувані як детектори ШІ-письма або детектори вмісту штучного інтелекту, служать для визначення того, чи був текст частково чи повністю складений інструментами штучного інтелекту, як-от ChatGPT.
Ці детектори корисні для виявлення випадків, коли письмовий твір, ймовірно, створено ШІ. Застосування корисно в таких випадках:
- Перевірка учнівських робіт. Викладачі можуть використовувати його для перевірки автентичності оригінальних завдань і письмових проектів студентів.
- Протидія фальшивим оглядам товару. Модератори можуть використовувати його для виявлення та розгляду відгуків про підроблені продукти, які мають на меті маніпулювати сприйняттям споживачів.
- Боротьба зі спамом. Він допомагає виявляти та видаляти різні форми спаму, який може спотворити якість і довіру до онлайн-платформ.
Ці інструменти все ще нові та тестуються, тому ми не зовсім впевнені, наскільки вони надійні прямо зараз. У наступних розділах ми заглибимося в їх функціонування, перевіримо, наскільки їм можна довіряти, і дослідимо низку практичних застосувань, які вони пропонують.
| Навчальні заклади, включаючи університети, знаходяться в процесі формулювання своїх позицій щодо належного використання ChatGPT і подібних інструментів. Важливо віддати перевагу вказівкам вашої установи над будь-якими порадами, які ви знайдете в Інтернеті. |
Як працюють детектори ШІ?
Детектори штучного інтелекту зазвичай використовують мовні моделі, схожі на ті, що в інструментах для написання штучного інтелекту, які вони намагаються знайти. По суті, мовна модель переглядає вхідні дані та запитує: «Це схоже на те, що я міг зробити?» Якщо ствердно, модель припускає, що текст, ймовірно, створено ШІ.
Зокрема, ці моделі шукають у тексті дві характеристики: «збентеження» та «вибух». Коли ці два аспекти нижчі, існує більша ймовірність того, що текст був створений ШІ.
Однак що саме означають ці незвичайні терміни?
Розгубленість
Здивування виступає як важливий показник, який використовується для оцінки володіння мовними моделями. Це стосується того, наскільки добре модель здатна передбачити наступне слово в послідовності слів.
Мовні моделі штучного інтелекту працюють над створенням текстів із низьким рівнем плутанини, що забезпечує підвищену зв’язність, плавність і передбачуваність. Навпаки, людське письмо часто викликає більше здивування через використання більш творчих варіантів мови, хоча це супроводжується більшою частотою друкарських помилок.
Мовні моделі працюють, передбачаючи, яке слово природним чином буде наступним у реченні, і вставляють його. Ви можете побачити приклад нижче.
| Приклад продовження | Розгубленість |
| Я не зміг завершити проект останнім ніч. | Низький: Мабуть, найімовірніше продовження |
| Я не зміг завершити проект останнім час я не п'ю каву ввечері. | Від низького до середнього: Менш імовірно, але це має граматичний і логічний сенс |
| Я не міг завершити проект минулого семестру багато разів через те, наскільки я був немотивований у той час. | Середнє: Речення зв’язне, але досить незвичайно побудоване і розлоге |
| Я не зміг завершити проект останнім радий познайомитися з вами. | Висока: Граматично неправильно і нелогічно |
Низький рівень здивування сприймається як доказ того, що текст створено ШІ.
лопнутий
«Розривність» — це спосіб побачити, наскільки речення відрізняються за тим, як вони складені разом і якою довжиною. Це трохи схоже на збентеження, але стосується цілих речень, а не слів.
Коли в тексті здебільшого є речення, схожі за способом їх створення та довжиною, він має низьку вибуховість. Це означає, що він читається плавніше. Але якщо в тексті є речення, які дуже відрізняються один від одного за тим, як вони побудовані та за довжиною, він має високу розривність. Це робить текст менш стабільним і більш різноманітним.
Текст, створений штучним інтелектом, як правило, менш варіативний у своїх моделях речень порівняно з текстом, написаним людиною. Коли мовні моделі вгадують слово, яке, ймовірно, наступне, вони зазвичай складають речення довжиною приблизно від 10 до 20 слів і дотримуються регулярних шаблонів. Ось чому написання ШІ іноді може здаватися монотонним.
Низька розривність вказує на те, що текст, імовірно, створено ШІ.
Ще один варіант, який слід розглянути: водяні знаки
Повідомляється, що OpenAI, творець ChatGPT, розробляє метод під назвою «водяний знак». Ця система передбачає додавання невидимої позначки до тексту, створеного інструментом, який пізніше може бути ідентифікований іншою системою, щоб підтвердити походження тексту ШІ.
Однак ця система все ще розробляється, і точні деталі того, як вона буде працювати, поки не розкриваються. Крім того, незрозуміло, чи будь-які запропоновані водяні знаки залишаться недоторканими під час редагування згенерованого тексту.
| Хоча ідея використання цієї концепції для виявлення штучного інтелекту в майбутньому виглядає обнадійливою, важливо зазначити, що остаточні деталі та підтвердження щодо впровадження її на практиці все ще очікуються. |
Яка надійність детекторів ШІ?
- Детектори штучного інтелекту зазвичай працюють ефективно, особливо з довшими текстами, але вони можуть мати проблеми, якщо текст, створений штучним інтелектом, навмисно робиться менш очікуваним або змінюється після створення.
- Детектори штучного інтелекту можуть помилково подумати, що текст, написаний людьми, насправді був створений штучним інтелектом, особливо якщо він відповідає умовам низької складності та розриву.
- Дослідження детекторів ШІ показують, що жоден інструмент не може забезпечити повну точність; найвища точність становила 84% у преміум-інструменті або 68% у найкращому безкоштовному інструменті.
- Ці інструменти пропонують цінну інформацію про ймовірність того, що текст створено ШІ, але ми рекомендуємо не покладатися лише на них як на доказ. З постійним прогресом мовних моделей інструментам, які їх виявляють, потрібно буде більше працювати, щоб не відставати.
- Більш впевнені провайдери зазвичай визнають, що їхні інструменти не можуть служити переконливим доказом тексту, створеного ШІ.
- Університети поки що не дуже довіряють цим інструментам.
| Спроба приховати текст, створений штучним інтелектом, насправді може зробити текст дуже дивним або невідповідним для використання за призначенням. Наприклад, навмисне введення орфографічних помилок або використання нелогічного вибору слів у тексті може зменшити ймовірність того, що його буде ідентифіковано детектором ШІ. Однак текст, наповнений цими помилками та дивними варіантами, ймовірно, не вважатиметься хорошим академічним письмом. |
З якою метою використовуються детектори ШІ?
Детектори AI призначені для людей, які хочуть перевірити, чи міг текст бути створений штучним інтелектом. Люди, які можуть використовувати його:
- Вихователі та вчителі. Забезпечення достовірності робіт студентів та запобігання плагіату.
- Учні перевіряють виконання завдань. Перевірка, щоб переконатися, що їхній вміст унікальний і не схожий випадково на текст, створений ШІ.
- Видавці та редактори переглядають подання. Хочу переконатися, що вони публікують лише написаний людьми вміст.
- Дослідники. хочуть виявити будь-які потенційні дослідницькі роботи або статті, створені ШІ.
- Блогери та письменники: Хочу публікувати створений штучним інтелектом контент, але хвилююся, що він може мати нижчий рейтинг у пошукових системах, якщо його визнають написаним штучним інтелектом.
- Професіонали модерації контенту. Виявлення створеного штучним інтелектом спаму, фальшивих відгуків або невідповідного вмісту.
- Компанії, що забезпечують оригінальний маркетинговий контент. Перевірка того, що рекламні матеріали не сприймаються за текст, створений штучним інтелектом, збереження довіри до бренду.
| Через занепокоєння щодо їхньої надійності багато користувачів на даний момент не хочуть повністю покладатися на детектори ШІ. Однак ці детектори вже стають все більш популярними як ознака того, що текст може бути згенерований штучним інтелектом, особливо якщо у користувача вже є сумніви. |
Ручне визначення тексту, створеного штучним інтелектом
Окрім використання детекторів штучного інтелекту, ви також можете навчитися самостійно визначати унікальні особливості письма ШІ. Це не завжди легко зробити надійно — людське письмо іноді може звучати робототехнічно, а штучне писання стає все переконливішим, але з практикою ви можете розвинути в ньому гарне відчуття.
Специфічні правила, яких дотримуються детектори штучного інтелекту, як-от низька плутанина та розрив, можуть здаватися складними. Однак ви можете спробувати знайти ці риси самостійно, подивившись на текст певні ознаки:
- Це читається монотонно, з невеликими варіаціями в структурі чи довжині речень
- Використання очікуваних і не дуже унікальних слів, а також мало неочікуваних елементів
Ви також можете використовувати методи, яких не використовують детектори ШІ, звернувши увагу на:
| Методи | Пояснення |
| Надмірна ввічливість | Такі чат-боти, як ChatGPT, створені як корисні помічники, тому вони часто використовують ввічливу та офіційну мову, яка може звучати не дуже невимушено. |
| Нестійкість голосу | Якщо ви знайомі з тим, як хтось зазвичай пише (наприклад, студент), ви зазвичай можете помітити, коли щось, що вони написали, сильно відрізняється від їхнього звичного стилю. |
| Мова хеджування | Зверніть увагу на те, чи мало сильних і свіжих ідей, а також зверніть увагу на те, чи є звичка вживати фрази, які надто демонструють невпевненість: «Важливо відзначити, що…» «X широко розглядається як…» «X вважається… «Деякі люди можуть стверджувати, що…». |
| Твердження без джерел або з неправильними цитатами | Коли справа доходить до академічного письма, дуже важливо згадати, звідки ви отримали інформацію. Однак інструменти для написання штучного інтелекту часто не дотримуються цього правила або допускають помилки (наприклад, цитування джерел, яких не існує або нерелевантних). |
| Логічні помилки | Незважаючи на те, що написання штучного інтелекту все краще звучить природно, іноді ідеї в ньому не поєднуються. Зверніть увагу на місця, де в тексті йдеться про те, що не збігається, звучить малоймовірно, або містить ідеї, які не пов’язані гладко. |
| Загалом, експериментуючи з різними інструментами AI для написання, спостерігаючи за типами текстів, які вони можуть створювати, і знайомство з тим, як вони пишуть, може допомогти вам краще виявляти текст, який міг бути створений AI. |
Детектори для зображень і відео ШІ
ШІ-генератори зображень і відео, особливо такі популярні, як DALL-E і Synthesia, можуть створювати реалістичні та змінені візуальні ефекти. Тому надзвичайно важливо ідентифікувати «дипфейки» або зображення та відео, створені ШІ, щоб запобігти поширенню неправдивої інформації.
Наразі багато знаків можуть розкривати зображення та відео, згенеровані ШІ, наприклад:
- Руки із занадто великою кількістю пальців
- Дивні рухи
- Безглуздий текст на зображенні
- Нереалістичні риси обличчя
Проте виявити ці ознаки може стати важче, оскільки ШІ стає кращим.
Існують інструменти, розроблені для виявлення цих візуальних елементів, створених ШІ, зокрема:
- Deepware
- FakeCatcher від Intel
- Освітленість
Досі незрозуміло, наскільки ефективні та надійні ці інструменти, тому потрібні додаткові тести.
Постійна еволюція генерації та виявлення зображень і відео ШІ створює постійну потребу в розробці більш надійних і точних методів виявлення для усунення потенційних ризиків, пов’язаних із глибокими фейками та візуальними елементами, створеними ШІ.
Висновок
| ШІ-детектори допомагають ідентифікувати тексти, створені такими інструментами, як ChatGPT. Вони в основному шукають «збентеження» та «вибух», щоб помітити створений штучним інтелектом контент. Їхня точність залишається проблемою, оскільки навіть найкращі показують помилки. У міру розвитку технологій штучного інтелекту стає все важче відрізнити людей від створеного штучним інтелектом контенту, зокрема зображень і відео, що підкреслює необхідність бути обережними в Інтернеті. |
Поширені запитання
| 1. Яка різниця між Детектори AI та Шашки для плагіату? A: І детектори штучного інтелекту, і засоби перевірки плагіату знаходять застосування в університетах для запобігання академічній нечесності, але вони відрізняються за своїми методами та цілями: • Детектори штучного інтелекту спрямовані на ідентифікацію тексту, що нагадує вихідні дані інструментів ШІ. Це передбачає аналіз таких властивостей тексту, як заплутаність і розрив, а не порівняння їх із базою даних. • Перевірка плагіату спрямована на виявлення скопійованого тексту з інших джерел. Вони досягають цього шляхом порівняння тексту з великою базою даних раніше опублікованого вмісту та дипломних робіт студентів, виявлення схожості, не покладаючись на аналіз конкретних рис тексту. 2. Як я можу використовувати ChatGPT? A: Щоб використовувати ChatGPT, просто створіть безкоштовний обліковий запис: • Дотримуйтесь посилання на веб-сайт ChatGPT. • Виберіть «Зареєструватися» та надайте необхідну інформацію (або скористайтеся своїм обліковим записом Google). Реєстрація та використання інструменту є безкоштовними. • Щоб розпочати, введіть запит у вікно чату! Наразі доступна версія програми ChatGPT для iOS, а також є плани щодо програми для Android. Додаток працює подібно до веб-сайту, і ви можете використовувати той самий обліковий запис для входу на обидві платформи. 3. До якого часу ChatGPT залишатиметься безкоштовним? A: Майбутня безкоштовна доступність ChatGPT залишається невизначеною, конкретних часових рамок не повідомляється. Інструмент було вперше представлено в листопаді 2022 року як «попередній перегляд дослідження», який буде безкоштовно протестовано широкою базою користувачів. Термін «попередній перегляд» передбачає можливі майбутні збори, але офіційного підтвердження припинення безкоштовного доступу немає. Розширена опція ChatGPT Plus коштує 20 доларів на місяць і включає розширені функції, такі як GPT-4. Незрозуміло, чи замінить ця преміум-версія безкоштовну, чи остання буде продовжена. Такі фактори, як витрати на сервер, можуть вплинути на це рішення. Майбутній курс залишається невизначеним. 4. Чи можна включати ChatGPT у мої цитати? A: У певних контекстах доцільно посилатися на ChatGPT у своїй роботі, особливо якщо він служить важливим джерелом для вивчення мовних моделей ШІ. Певні університети можуть вимагати посилання чи підтвердження, якщо ChatGPT допоміг вашому дослідницькому чи написанню процесу, наприклад, у розробці дослідницьких питань; бажано ознайомитися з інструкціями вашого закладу. Однак через різну надійність ChatGPT і відсутність довіри як джерела, краще не цитувати його як фактичну інформацію. У стилі APA ви можете розглядати відповідь ChatGPT як особисте спілкування, оскільки відповіді на нього недоступні для інших. У тексті процитуйте це так: (ChatGPT, особисте спілкування, 11 лютого 2023 р.). |
