Детекторы ИИ, иногда называемые детекторами письма ИИ или детекторами контента ИИ, служат для определения того, был ли текст частично или полностью составлен инструментами искусственного интеллекта, такими как ChatGPT.
Эти детекторы полезны для выявления случаев, когда письменная часть, вероятно, создана ИИ. Применение выгодно в следующих отношениях:
- Проверка работы учащихся. Преподаватели могут использовать его для проверки подлинности оригинальных заданий и письменных проектов учащихся.
- Противодействие фейковым отзывам о продукции. Модераторы могут использовать его для выявления и устранения отзывов о контрафактной продукции, целью которых является манипулирование восприятием потребителей.
- Борьба со спамом. Он помогает обнаруживать и удалять различные формы спам-контента, которые могут исказить качество и надежность онлайн-платформ.
Эти инструменты все еще новые и проходят испытания, поэтому мы не совсем уверены, насколько они надежны прямо сейчас. В следующих разделах мы углубимся в их функционирование, проверим, насколько им можно доверять, и рассмотрим ряд практических применений, которые они предлагают.
| Образовательные учреждения, в том числе университеты, находятся в процессе формулирования своей позиции относительно надлежащего использования ChatGPT и подобных инструментов. Важно отдавать приоритет рекомендациям вашего учреждения перед любыми советами, с которыми вы сталкиваетесь в Интернете. |
Как работают детекторы ИИ?
Детекторы ИИ обычно используют языковые модели, подобные тем, которые используются в инструментах для письма ИИ, которые они пытаются найти. По сути, языковая модель смотрит на ввод и спрашивает: «Похоже ли это на то, что я мог сделать?» Если он говорит «да», модель предполагает, что текст, вероятно, создан ИИ.
В частности, эти модели ищут в тексте две характеристики: «недоумение» и «порывистость». Когда эти два аспекта ниже, вероятность того, что текст был сгенерирован ИИ, выше.
Однако что именно означают эти необычные термины?
растерянность
Недоумение является важной метрикой, используемой для оценки владения языковыми моделями. Это относится к тому, насколько хорошо модель способна предсказать следующее слово в последовательности слов.
Языковые модели ИИ работают над созданием текстов с низким уровнем сложности, что приводит к повышению согласованности, плавности и предсказуемости. Напротив, человеческое письмо часто вызывает большее недоумение из-за использования более творческих вариантов языка, хотя и сопровождается большей частотой типографских ошибок.
Языковые модели работают, предсказывая, какое слово естественным образом будет следующим в предложении, и вставляя его. Вы можете увидеть пример ниже.
| Продолжение примера | растерянность |
| Я не мог закончить проект последним ночь. | Низкий: Вероятно, наиболее вероятное продолжение |
| Я не мог закончить проект последним время я не пью кофе вечером. | От низкого до среднего: Менее вероятно, но это имеет грамматический и логический смысл |
| Я не смог закончить проект в прошлом семестре много раз из-за того, насколько я был немотивирован в то время. | среда: Предложение связное, но довольно необычно структурированное и многословное. |
| Я не мог закончить проект последним рад встрече с вами. | Высокая: Грамматически неправильно и нелогично |
Низкий уровень недоумения воспринимается как свидетельство того, что текст сгенерирован ИИ.
взрывчатость
«Взрывность» — это способ увидеть, чем отличаются предложения в том, как они составлены и каковы их длина. Это немного похоже на недоумение, но для целых предложений, а не только для слов.
Когда в тексте в основном есть предложения, похожие по тому, как они составлены и каковы их длина, у него низкая взрывоопасность. Это означает, что он читается более плавно. Но если в тексте есть предложения, сильно отличающиеся друг от друга тем, как они построены и каковы их длина, он имеет высокую разрывность. Это делает текст менее стабильным и более разнообразным.
Текст, сгенерированный искусственным интеллектом, имеет тенденцию быть менее изменчивым в структуре предложений по сравнению с текстом, написанным человеком. Поскольку языковые модели угадывают слово, которое, вероятно, будет следующим, они обычно составляют предложения длиной от 10 до 20 слов, которые следуют регулярным шаблонам. Вот почему написание ИИ иногда может показаться монотонным.
Низкая взрывоопасность указывает на то, что текст, скорее всего, будет сгенерирован ИИ.
Еще один вариант для рассмотрения: водяные знаки
Сообщается, что OpenAI, создатель ChatGPT, разрабатывает метод, называемый «водяными знаками». Эта система включает в себя добавление невидимой метки к тексту, созданному инструментом, который позже может быть идентифицирован другой системой, чтобы подтвердить происхождение текста ИИ.
Однако эта система все еще находится в разработке, и точные детали того, как она будет работать, пока не раскрываются. Кроме того, неясно, останутся ли какие-либо предлагаемые водяные знаки нетронутыми, когда в сгенерированный текст будут внесены изменения.
| Хотя идея использования этой концепции для обнаружения ИИ в будущем выглядит обнадеживающей, важно отметить, что окончательные детали и подтверждения ее практического применения все еще ожидаются. |
Какова надежность детекторов ИИ?
- Детекторы ИИ обычно работают эффективно, особенно с более длинными текстами, но у них могут возникнуть проблемы, если созданный ИИ текст намеренно сделан менее ожидаемым или изменен после его создания.
- Детекторы ИИ могут ошибочно подумать, что текст, написанный людьми, на самом деле был создан ИИ, особенно если он соответствует условиям низкой сложности и взрывоопасности.
- Исследования детекторов ИИ показывают, что ни один инструмент не может обеспечить полную точность; самая высокая точность составила 84% в премиум-инструменте или 68% в лучшем бесплатном инструменте.
- Эти инструменты дают ценную информацию о вероятности того, что текст сгенерирован искусственным интеллектом, но мы рекомендуем не полагаться исключительно на них как на доказательство. С непрерывным развитием языковых моделей инструменты, которые их обнаруживают, должны будут работать усерднее, чтобы не отставать.
- Более уверенные в себе поставщики обычно признают, что их инструменты не могут служить убедительным доказательством текста, сгенерированного ИИ.
- Университеты пока не очень доверяют этим инструментам.
| Попытка скрыть текст, созданный ИИ, может на самом деле сделать текст очень странным или неподходящим для его предполагаемого использования. Например, преднамеренное введение орфографических ошибок или использование нелогичного выбора слов в тексте может снизить вероятность его обнаружения детектором ИИ. Тем не менее, текст, наполненный этими ошибками и странными выборами, вероятно, не будет считаться хорошим академическим письмом. |
Для каких целей используются детекторы ИИ?
Детекторы ИИ предназначены для людей, которые хотят проверить, мог ли текст быть создан искусственным интеллектом. Люди, которые могут использовать это:
- Воспитатели и учителя. Обеспечение подлинности работ студентов и предотвращение плагиата.
- Учащиеся проверяют свои задания. Проверяем, что их контент уникален и не случайно не похож на текст, сгенерированный ИИ.
- Издатели и редакторы, проверяющие материалы. Хотите гарантировать, что они публикуют только контент, написанный людьми.
- Исследователи. хотите обнаружить любые потенциальные исследовательские работы или статьи, созданные ИИ.
- Блогеры и писатели: Желание публиковать контент, созданный ИИ, но опасаетесь, что он может получить более низкий рейтинг в поисковых системах, если будет распознан как написанный ИИ.
- Профессионалы в модерации контента. Выявление спама, фейковых отзывов или неприемлемого контента, создаваемого искусственным интеллектом.
- Компании, обеспечивающие оригинальный маркетинговый контент. Проверка того, что рекламные материалы не ошибочно принимают за текст, сгенерированный искусственным интеллектом, для поддержания доверия к бренду.
| Из-за опасений по поводу их надежности многие пользователи в настоящее время не решаются полностью полагаться на детекторы ИИ. Однако эти детекторы уже становятся все более популярными как признак того, что текст может быть сгенерирован ИИ, особенно когда у пользователя уже были сомнения. |
Ручное обнаружение текста, созданного AI
Помимо использования детекторов ИИ, вы также можете научиться самостоятельно определять уникальные черты письма ИИ. Не всегда легко сделать это надежно — человеческое письмо иногда может звучать роботизированно, а письмо ИИ становится все более убедительным человеческим, — но с практикой вы сможете развить в себе хорошее чутье.
Конкретные правила, которым следуют детекторы ИИ, такие как низкий уровень недоумения и всплесков, могут показаться сложными. Однако вы можете попытаться найти эти черты самостоятельно, просмотрев в тексте определенные признаки:
- Читается монотонно, с небольшими изменениями в структуре или длине предложения.
- Использование слов, которые ожидаются и не очень уникальны, и очень мало неожиданных элементов
Вы также можете использовать методы, которых нет у детекторов ИИ, обращая внимание на:
| методы | объяснение |
| Излишняя вежливость | Чат-боты, такие как ChatGPT, созданы для того, чтобы быть полезными помощниками, поэтому они часто используют вежливый и формальный язык, который может звучать не очень небрежно. |
| Непоследовательность в голосе | Если вы знакомы с тем, как кто-то обычно пишет (например, студент), вы обычно можете заметить, когда что-то, что они написали, сильно отличается от их обычного стиля. |
| Язык хеджирования | Обратите внимание на то, не много ли сильных и свежих идей, а также обратите внимание на привычку употреблять фразы, показывающие неуверенность слишком сильно: «Важно отметить, что…», «Х широко рассматривается как…», «Х считается… «Некоторые люди могут возразить, что…». |
| Заявления без источников или неправильно процитированные | Когда дело доходит до академического письма, важно упомянуть, откуда вы получили информацию. Однако инструменты для написания ИИ часто не следуют этому правилу или допускают ошибки (например, цитируют несуществующие или неактуальные источники). |
| Логические ошибки | Несмотря на то, что тексты об искусственном интеллекте становятся всё более естественными, иногда идеи в них не сочетаются друг с другом. Обратите внимание на места, где в тексте говорится о вещах, которые не совпадают, звучат маловероятно или представлены идеи, которые не связаны плавно. |
| В целом, экспериментируя с различными инструментами письма ИИ, наблюдая за типами текстов, которые они могут создавать, и знакомясь с тем, как они пишут, вы сможете лучше определять текст, который мог быть создан ИИ. |
Детекторы изображений и видео с искусственным интеллектом
Генераторы изображений и видео с искусственным интеллектом, особенно популярные, такие как DALL-E и Synthesia, могут создавать реалистичные и измененные визуальные эффекты. Поэтому крайне важно выявлять «дипфейки» или изображения и видео, созданные искусственным интеллектом, чтобы предотвратить распространение ложной информации.
В настоящее время многие знаки могут отображать изображения и видео, созданные искусственным интеллектом, например:
- Руки со слишком большим количеством пальцев
- Странные движения
- Бессмысленный текст на картинке
- Нереальные черты лица
Тем не менее, по мере совершенствования ИИ обнаружить эти признаки может стать сложнее.
Существуют инструменты, предназначенные для обнаружения этих визуальных эффектов, созданных искусственным интеллектом, в том числе:
- Глубокое ПО
- FakeCatcher от Intel
- иллюминация
До сих пор неясно, насколько эффективны и надежны эти инструменты, поэтому необходимы дополнительные испытания.
Постоянная эволюция создания и обнаружения изображений и видео ИИ создает постоянную потребность в разработке более надежных и точных методов обнаружения для устранения потенциальных рисков, связанных с дипфейками и визуальными эффектами, созданными ИИ.
Заключение
| Детекторы искусственного интеллекта помогают идентифицировать тексты, созданные такими инструментами, как ChatGPT. В основном они ищут «недоумение» и «взрывоопасность», чтобы обнаружить контент, созданный ИИ. Их точность по-прежнему вызывает беспокойство, даже самые лучшие из них допускают ошибки. По мере развития технологий искусственного интеллекта отличить людей от контента, созданного искусственным интеллектом, включая изображения и видео, становится все сложнее, что подчеркивает необходимость оставаться осторожными в Интернете. |
Часто задаваемые вопросы
| 1. В чем разница между Детекторы ИИ и Плагиат Шашки? A: И детекторы ИИ, и средства проверки на плагиат находят применение в университетах для предотвращения недобросовестности в учебе, однако они различаются по своим методам и целям: • Детекторы ИИ нацелены на выявление текста, напоминающего вывод инструментов для письма ИИ. Это включает в себя анализ текстовых характеристик, таких как растерянность и взрывоопасность, а не сравнение их с базой данных. • Средства проверки на плагиат предназначены для обнаружения скопированного текста из других источников. Они достигают этого, сравнивая текст с обширной базой данных ранее опубликованного контента и студенческих работ, выявляя сходство, не полагаясь на анализ конкретных характеристик текста. 2. Как я могу использовать ChatGPT? A: Чтобы использовать ChatGPT, просто создайте бесплатную учетную запись: • Следить эту ссылку на сайт ChatGPT. • Выберите «Зарегистрироваться» и укажите необходимую информацию (или используйте свою учетную запись Google). Регистрация и использование инструмента бесплатны. • Введите приглашение в окно чата, чтобы начать! В настоящее время доступна версия приложения ChatGPT для iOS, и в разработке находятся планы по выпуску приложения для Android. Приложение работает аналогично веб-сайту, и вы можете использовать одну и ту же учетную запись для входа на обеих платформах. 3. До каких пор ChatGPT останется бесплатным? A: Будущая доступность ChatGPT бесплатно остается неопределенной, и конкретные сроки не объявлены. Инструмент был первоначально представлен в ноябре 2022 года в качестве «предварительного исследования» для бесплатного тестирования широкой пользовательской базой. Термин «предварительная версия» предполагает возможную плату в будущем, но официального подтверждения прекращения бесплатного доступа не существует. Расширенный вариант ChatGPT Plus стоит 20 долларов в месяц и включает расширенные функции, такие как GPT-4. Неясно, заменит ли эта премиум-версия бесплатную версию или последняя будет продолжена. На это решение могут повлиять такие факторы, как расходы на сервер. Будущий курс остается неопределенным. 4. Можно ли включать ChatGPT в мои цитаты? A: В определенных контекстах уместно ссылаться на ChatGPT в своей работе, особенно когда он служит важным источником для изучения языковых моделей ИИ. Некоторым университетам может потребоваться ссылка или подтверждение, если ChatGPT помог вашему исследованию или процессу написания, например, при разработке исследовательских вопросов; рекомендуется ознакомиться с рекомендациями вашего учреждения. Однако из-за разной надежности ChatGPT и отсутствия доверия к источнику лучше не цитировать его для получения фактической информации. В стиле APA вы можете рассматривать ответ ChatGPT как личное общение, поскольку его ответы недоступны для других. В тексте цитировать следующим образом: (ChatGPT, личное общение, 11 февраля 2023 г.). |
