آشکارسازهای هوش مصنوعی، که گاهی اوقات به عنوان ردیاب‌های نوشتن هوش مصنوعی یا آشکارسازهای محتوای هوش مصنوعی نامیده می‌شوند، به منظور شناسایی اینکه آیا یک متن به طور جزئی یا کامل توسط ابزارهای هوش مصنوعی ساخته شده است، خدمت می‌کنند. GPT چت.
این آشکارسازها برای شناسایی مواردی که احتمالاً یک قطعه نوشته شده توسط هوش مصنوعی ایجاد شده است مفید هستند. استفاده از روش های زیر مفید است:
- احراز هویت کار دانشجویی. مربیان می توانند از آن برای تأیید صحت تکالیف اصلی و پروژه های نوشتاری دانش آموزان استفاده کنند.
- مقابله با بررسی های جعلی محصول. ناظران می‌توانند از آن برای شناسایی و رسیدگی به بررسی‌های محصولات تقلبی که هدف آن دستکاری درک مصرف‌کننده است، استفاده کنند.
- مقابله با محتوای اسپم. این به شناسایی و حذف اشکال مختلف محتوای هرزنامه که می تواند کیفیت و اعتبار پلتفرم های آنلاین را مخدوش کند، کمک می کند.
این ابزارها هنوز جدید هستند و در حال آزمایش هستند، بنابراین ما در حال حاضر کاملاً مطمئن نیستیم که چقدر قابل اعتماد هستند. در بخش‌های بعدی، عملکرد آنها را بررسی می‌کنیم، بررسی می‌کنیم که چقدر می‌توان به آنها اعتماد کرد و طیف وسیعی از برنامه‌های کاربردی را که ارائه می‌دهند بررسی می‌کنیم.
| مؤسسات آموزشی از جمله دانشگاه ها در حال تدوین موضع خود در خصوص استفاده مناسب از ChatGPT و ابزارهای مشابه هستند. اولویت بندی دستورالعمل های مؤسسه خود بر هر توصیه ای که به صورت آنلاین با آن مواجه می شوید ضروری است. |
آشکارسازهای هوش مصنوعی چگونه کار می کنند؟
آشکارسازهای هوش مصنوعی معمولاً از مدل‌های زبانی استفاده می‌کنند که شبیه مدل‌هایی هستند که در ابزارهای نوشتن هوش مصنوعی در تلاش برای یافتن هستند. اساساً، مدل زبان به ورودی نگاه می کند و می پرسد: "آیا این شبیه چیزی است که من ساخته ام؟" اگر پاسخ مثبت باشد، مدل حدس می‌زند که متن احتمالاً توسط هوش مصنوعی ایجاد شده است.
به طور خاص، این مدل‌ها دو ویژگی را در متن جستجو می‌کنند: «گیج» و «شکستگی». وقتی این دو جنبه کمتر باشد، احتمال بیشتری وجود دارد که متن توسط هوش مصنوعی تولید شده باشد.
با این حال، این اصطلاحات غیر معمول دقیقاً چه چیزی را نشان می دهند؟
سرگشتگی
گیجی به عنوان یک معیار مهم برای ارزیابی مهارت مدل های زبانی به کار می رود. این به این اشاره دارد که مدل چگونه می تواند کلمه بعدی را در یک دنباله از کلمات پیش بینی کند.
مدل‌های زبان هوش مصنوعی به سمت ایجاد متون با گیجی کم کار می‌کنند که منجر به افزایش انسجام، جریان روان و قابلیت پیش‌بینی می‌شود. در مقابل، نوشتار انسان اغلب به دلیل استفاده از گزینه‌های زبانی تخیلی‌تر، اگرچه با فراوانی خطاهای تایپی همراه است، سردرگمی بالاتری از خود نشان می‌دهد.
مدل‌های زبان با پیش‌بینی کلمه بعدی در جمله و درج آن کار می‌کنند. در زیر می توانید یک نمونه را مشاهده کنید.
| ادامه مثال | سرگشتگی |
| من نتوانستم پروژه را آخرین بار تمام کنم شب. | کم: احتمالا محتمل ترین ادامه |
| من نتوانستم پروژه را آخرین بار تمام کنم وقتی عصر قهوه نمی نوشم. | کم تا متوسط: احتمال کمتری دارد، اما از نظر دستوری و منطقی منطقی است |
| ترم گذشته نتوانستم پروژه را تمام کنم بارها به دلیل بی انگیزگی من در آن زمان. | متوسط: جمله منسجم اما کاملاً غیرعادی ساختار یافته و طولانی است |
| من نتوانستم پروژه را آخرین بار تمام کنم از دیدار شما خوشحالم. | بالا: از نظر گرامری نادرست و غیر منطقی است |
گیجی کم به عنوان مدرکی در نظر گرفته می شود که یک متن با هوش مصنوعی تولید شده است.
ترکیدگی
"Burstiness" راهی است برای مشاهده اینکه جملات چگونه در کنار هم قرار می گیرند و چقدر طولانی هستند. این کمی شبیه گیجی است اما برای جملات کامل به جای کلمات.
وقتی یک متن عمدتاً دارای جملاتی است که از نظر نحوه ساخت و طول آنها شبیه به هم هستند، ترکیدگی کمی دارد. این بدان معنی است که آن را روان تر می خواند. اما اگر متنی جملاتی داشته باشد که از نظر نحوه ساخت و طولانی بودن با یکدیگر تفاوت زیادی داشته باشند، انباشتگی بالایی دارد. این باعث می شود متن کمتر ثابت و متنوع تر احساس شود.
متن تولید شده توسط هوش مصنوعی در مقایسه با متن نوشته شده توسط انسان، در الگوهای جملات خود متغیر کمتری دارد. همانطور که مدل های زبان کلمه ای را که احتمالاً بعدی است حدس می زنند، معمولاً جملاتی حدود 10 تا 20 کلمه می سازند و از الگوهای منظم پیروی می کنند. به همین دلیل است که نوشتن با هوش مصنوعی گاهی اوقات می تواند یکنواخت به نظر برسد.
ترکیدگی کم نشان می دهد که یک متن احتمالاً با هوش مصنوعی تولید می شود.
گزینه دیگری که باید در نظر بگیرید: واترمارک
بنا بر گزارش ها، OpenAI، خالق ChatGPT، در حال توسعه روشی به نام "واترمارکینگ" است. این سیستم شامل اضافه کردن یک علامت نادیده به متن تولید شده توسط ابزار است که بعداً می تواند توسط سیستم دیگری برای تأیید منشاء AI متن شناسایی شود.
با این حال، این سیستم هنوز در حال توسعه است و جزئیات دقیقی از نحوه عملکرد آن هنوز فاش نشده است. علاوه بر این، مشخص نیست که آیا هیچ واترمارک پیشنهادی در هنگام ویرایش متن ایجاد شده دست نخورده باقی خواهد ماند.
| در حالی که ایده استفاده از این مفهوم برای شناسایی هوش مصنوعی در آینده امیدوارکننده به نظر می رسد، مهم است که توجه داشته باشیم که جزئیات و تاییدات قطعی در مورد اجرای آن هنوز در انتظار است. |
قابلیت اطمینان آشکارسازهای هوش مصنوعی چقدر است؟
- آشکارسازهای هوش مصنوعی معمولاً عملکرد مؤثری دارند، به‌ویژه با متون طولانی‌تر، اما اگر متن ایجاد شده با هوش مصنوعی عمداً کمتر مورد انتظار باشد یا بعد از ساخته شدن تغییر کند، ممکن است با مشکل مواجه شوند.
- آشکارسازهای هوش مصنوعی ممکن است به اشتباه فکر کنند که متن نوشته شده توسط انسان در واقع توسط هوش مصنوعی ساخته شده است، به خصوص اگر شرایط گیجی و ترکیدگی کم را داشته باشد.
- تحقیقات در مورد آشکارسازهای هوش مصنوعی نشان می دهد که هیچ ابزاری نمی تواند دقت کامل را ارائه دهد. بالاترین دقت 84 درصد در ابزار برتر یا 68 درصد در بهترین ابزار رایگان بود.
- این ابزارها بینش‌های ارزشمندی را در مورد احتمال ایجاد یک متن با هوش مصنوعی ارائه می‌دهند، اما توصیه می‌کنیم تنها به آنها به عنوان مدرک اعتماد نکنید. با پیشرفت مداوم مدل‌های زبان، ابزارهایی که آنها را شناسایی می‌کنند باید سخت‌تر کار کنند تا همگام شوند.
- ارائه‌دهندگان مطمئن‌تر معمولاً اذعان می‌کنند که ابزارهای آنها نمی‌تواند به عنوان شواهد قطعی از متن تولید شده توسط هوش مصنوعی باشد.
- در حال حاضر دانشگاه ها به این ابزارها اعتماد زیادی ندارند.
| تلاش برای پنهان کردن نوشته های تولید شده توسط هوش مصنوعی در واقع می تواند متن را بسیار عجیب و غریب به نظر برساند یا برای استفاده مورد نظر مناسب نباشد. به عنوان مثال، معرفی عمدی اشتباهات املایی یا استفاده از انتخاب کلمات غیرمنطقی در متن ممکن است شانس شناسایی آن توسط یک آشکارساز هوش مصنوعی را کاهش دهد. با این حال، متنی که با این خطاها و انتخاب های عجیب و غریب پر شده باشد، احتمالاً به عنوان نوشته آکادمیک خوب دیده نمی شود. |
آشکارسازهای هوش مصنوعی برای چه منظوری استفاده می شوند؟
آشکارسازهای هوش مصنوعی برای افرادی در نظر گرفته شده است که می خواهند بررسی کنند که آیا یک متن توسط هوش مصنوعی ایجاد شده است یا خیر. افرادی که ممکن است از آن استفاده کنند عبارتند از:
- مربیان و معلمان. اطمینان از اصالت کار دانش آموزان و جلوگیری از سرقت ادبی.
- دانش آموزان تکالیف خود را بررسی می کنند. بررسی برای اطمینان از اینکه محتوای آنها منحصر به فرد است و به طور ناخواسته شبیه متن تولید شده توسط هوش مصنوعی نیست.
- ناشران و ویراستاران در حال بررسی مطالب ارسالی. می خواهید اطمینان حاصل کنید که آنها فقط محتوای نوشته شده توسط انسان را منتشر می کنند.
- محققین. می خواهید هرگونه مقاله یا مقاله تحقیقاتی بالقوه تولید شده توسط هوش مصنوعی را شناسایی کنید.
- وبلاگ نویسان و نویسندگان: مایل به انتشار محتوای تولید شده توسط هوش مصنوعی هستید، اما نگران این هستید که اگر به عنوان نوشتن با هوش مصنوعی شناخته شود، ممکن است در موتورهای جستجو رتبه پایین تری داشته باشد.
- حرفه ای ها در اعتدال محتوا. شناسایی هرزنامه های تولید شده توسط هوش مصنوعی، بررسی های جعلی یا محتوای نامناسب.
- کسب و کارهایی که محتوای بازاریابی اصلی را تضمین می کنند. تأیید اینکه مطالب تبلیغاتی با متن تولید شده توسط هوش مصنوعی اشتباه نشود، اعتبار برند را حفظ می کند.
| به دلیل نگرانی در مورد قابلیت اطمینان آنها، بسیاری از کاربران در حال حاضر در وابستگی کامل به آشکارسازهای هوش مصنوعی مردد هستند. با این حال، این آشکارسازها در حال حاضر به عنوان نشانه ای مبنی بر اینکه ممکن است یک متن با هوش مصنوعی تولید شده باشد، محبوبیت بیشتری پیدا کرده اند، به خصوص زمانی که کاربر قبلاً شک داشته باشد. |
تشخیص دستی متن تولید شده توسط هوش مصنوعی
علاوه بر استفاده از آشکارسازهای هوش مصنوعی، شما همچنین می توانید یاد بگیرید که ویژگی های منحصر به فرد نوشتن هوش مصنوعی را توسط خودتان شناسایی کنید. انجام این کار به طور قابل اعتماد همیشه آسان نیست - نوشتن انسان گاهی اوقات می تواند رباتیک به نظر برسد و نوشتن با هوش مصنوعی متقاعد کننده تر می شود - اما با تمرین، می توانید حس خوبی برای آن ایجاد کنید.
قوانین خاصی که آشکارسازهای هوش مصنوعی از آنها پیروی می کنند، مانند گیجی کم و ترکیدگی، می تواند پیچیده به نظر برسد. با این حال، می توانید سعی کنید این ویژگی ها را خودتان با نگاه کردن به متن برای نشانه های خاص پیدا کنید:
- که به صورت یکنواخت خوانده می شود، با تغییرات کمی در ساختار یا طول جمله
- استفاده از کلماتی که انتظار می رود و خیلی منحصر به فرد نیستند و عناصر غیرمنتظره بسیار کمی دارند
همچنین می‌توانید با توجه به موارد زیر از روش‌هایی استفاده کنید که آشکارسازهای هوش مصنوعی از آن استفاده نمی‌کنند:
| مواد و روش ها | توضیح |
| ادب بیش از حد | ربات‌های چت مانند ChatGPT برای دستیاران مفید ساخته شده‌اند، بنابراین اغلب از زبان مودبانه و رسمی استفاده می‌کنند که ممکن است خیلی معمولی به نظر نرسد. |
| ناهماهنگی در صدا | اگر با نحوه نوشتن معمولاً کسی (مانند یک دانش آموز) آشنا هستید، معمولاً می توانید متوجه شوید که چیزی که آنها نوشته اند با سبک معمول آنها کاملاً متفاوت است. |
| زبان پرچین | توجه داشته باشید که آیا ایده های قوی و تازه زیادی وجود ندارد، و همچنین توجه کنید که آیا عادت به استفاده از عباراتی که بیش از حد عدم اطمینان را نشان می دهند وجود دارد: "مهم است توجه داشته باشید که ..." "X به طور گسترده به عنوان ..." "X در نظر گرفته می شود ... "" افراد خاصی ممکن است استدلال کنند که ...". |
| ادعاهای بدون منبع یا استناد نادرست | وقتی صحبت از نوشتن آکادمیک به میان می آید، ذکر این نکته که اطلاعات خود را از کجا به دست آورده اید بسیار مهم است. با این حال، ابزارهای نوشتن هوش مصنوعی اغلب از این قانون پیروی نمی کنند یا اشتباه می کنند (مانند ذکر منابعی که وجود ندارند یا مرتبط نیستند). |
| خطاهای منطقی | اگرچه نوشتن هوش مصنوعی در به نظر رسیدن طبیعی بهتر می شود، گاهی اوقات ایده های موجود در آن به خوبی با هم جور در نمی آیند. به مکان‌هایی که متن چیزهایی را بیان می‌کند که مطابقت ندارند، بعید به نظر می‌رسند، یا ایده‌هایی ارائه می‌دهند که به راحتی به هم متصل نیستند، توجه کنید. |
| به طور کلی، آزمایش با ابزارهای مختلف نوشتن هوش مصنوعی، تماشای انواع متن‌هایی که می‌توانند تولید کنند، و آشنایی با نحوه نوشتن آنها می‌تواند به شما در تشخیص متنی که ممکن است توسط هوش مصنوعی ایجاد شده باشد، کمک کند. |
آشکارسازهای تصاویر و ویدیوهای هوش مصنوعی
تصاویر هوش مصنوعی و تولیدکننده‌های ویدیو، به‌ویژه نمونه‌های محبوبی مانند DALL-E و Synthesia، می‌توانند تصاویر واقعی و تغییر یافته ایجاد کنند. این امر شناسایی تصاویر و ویدیوهای ساخته شده توسط هوش مصنوعی برای جلوگیری از انتشار اطلاعات نادرست، ضروری است.
در حال حاضر، بسیاری از علائم می‌توانند تصاویر و ویدیوهای تولید شده توسط هوش مصنوعی را نشان دهند، مانند:
- دست هایی با انگشتان زیاد
- حرکات عجیب
- متن بی معنی در تصویر
- ویژگی های غیر واقعی صورت
با این حال، تشخیص این علائم ممکن است با بهتر شدن هوش مصنوعی دشوارتر شود.
ابزارهایی برای تشخیص این تصاویر تولید شده توسط هوش مصنوعی طراحی شده اند، از جمله:
- Deepware
- FakeCatcher اینتل
- روشنایی
هنوز مشخص نیست که این ابزارها چقدر مؤثر و قابل اعتماد هستند، بنابراین آزمایشات بیشتری مورد نیاز است.
تکامل مداوم تولید و تشخیص تصویر و ویدئو با هوش مصنوعی، نیاز مداوم به توسعه روش‌های تشخیص دقیق‌تر و دقیق‌تر را برای مقابله با خطرات احتمالی مرتبط با دیپ‌فیک‌ها و تصاویر تولید شده توسط هوش مصنوعی ایجاد می‌کند.
نتیجه
| آشکارسازهای هوش مصنوعی به شناسایی متون تولید شده توسط ابزارهایی مانند ChatGPT کمک می کنند. آنها عمدتاً به دنبال «سرگشتگی» و «شکستگی» هستند تا محتوای ایجاد شده توسط هوش مصنوعی را شناسایی کنند. دقت آنها همچنان یک نگرانی است، حتی بهترین آنها خطا نشان می دهد. با پیشرفت فناوری هوش مصنوعی، تمایز انسان ها از محتوای تولید شده توسط هوش مصنوعی، از جمله تصاویر و ویدیوها، سخت تر می شود و نیاز به مراقبت آنلاین را برجسته می کند. |
سوالات متداول
| 1. چه تفاوتی وجود دارد آشکارسازهای هوش مصنوعی و چکرز سرقت ادبی? A: هم آشکارسازهای هوش مصنوعی و هم بررسی‌کننده سرقت ادبی در دانشگاه‌ها برای جلوگیری از عدم صداقت دانشگاهی استفاده می‌شوند، اما روش‌ها و اهدافشان متفاوت است: • هدف آشکارسازهای هوش مصنوعی شناسایی متنی شبیه خروجی از ابزارهای نوشتن هوش مصنوعی است. این شامل تجزیه و تحلیل ویژگی‌های متن مانند گیجی و شکاف است، به جای مقایسه آنها با پایگاه داده. • جستجوگر سرقت ادبی با هدف شناسایی متن کپی شده از منابع دیگر است. آنها با مقایسه متن با پایگاه داده گسترده ای از مطالب و پایان نامه های دانشجویی که قبلا منتشر شده است، به این امر دست می یابند - بدون تکیه بر تجزیه و تحلیل ویژگی های متن خاص. 2. چگونه می توانم از ChatGPT استفاده کنم؟ A: برای استفاده از ChatGPT، به سادگی یک حساب کاربری رایگان ایجاد کنید: • دنبال کردن این لینک به وب سایت ChatGPT. • «ثبت نام» را انتخاب کنید و اطلاعات مورد نیاز را ارائه دهید (یا از حساب Google خود استفاده کنید). ثبت نام و استفاده از ابزار رایگان است. • برای شروع یک درخواست را در کادر چت تایپ کنید! یک نسخه iOS از برنامه ChatGPT در حال حاضر در دسترس است و برنامه‌هایی برای یک برنامه Android در دست انتشار است. عملکرد برنامه مشابه وب سایت است و می توانید از یک حساب کاربری برای ورود به هر دو پلتفرم استفاده کنید. 3. تا کی ChatGPT رایگان باقی می ماند؟ A: در دسترس بودن ChatGPT در آینده به صورت رایگان نامشخص است و هیچ جدول زمانی مشخصی اعلام نشده است. این ابزار ابتدا در نوامبر 2022 به عنوان یک "پیش نمایش تحقیقاتی" معرفی شد تا توسط یک پایگاه گسترده کاربران بدون هیچ هزینه ای آزمایش شود. عبارت «پیش‌نمایش» هزینه‌های احتمالی آینده را نشان می‌دهد، اما هیچ تأیید رسمی برای پایان دسترسی رایگان وجود ندارد. یک گزینه پیشرفته، ChatGPT Plus، 20 دلار در ماه هزینه دارد و شامل ویژگی های پیشرفته ای مانند GPT-4 است. مشخص نیست که آیا این نسخه پریمیوم جایگزین نسخه رایگان خواهد شد یا اینکه نسخه دوم ادامه خواهد داشت. عواملی مانند هزینه های سرور می تواند بر این تصمیم تأثیر بگذارد. مسیر آینده نامشخص است. 4. آیا گنجاندن ChatGPT در نقل قول های من اشکالی ندارد؟ A: در زمینه های خاص، مناسب است که ChatGPT را در کار خود ارجاع دهید، به ویژه زمانی که به عنوان منبع مهمی برای مطالعه مدل های زبان هوش مصنوعی عمل می کند. اگر ChatGPT به فرآیند تحقیق یا نوشتن شما کمک کرده باشد، مانند ایجاد سؤالات تحقیق، ممکن است برخی از دانشگاه‌ها به استناد یا تأیید نیاز داشته باشند. توصیه می شود با دستورالعمل های موسسه خود مشورت کنید. با این حال، با توجه به قابلیت اطمینان متفاوت ChatGPT و عدم اعتبار به عنوان منبع، بهتر است برای اطلاعات واقعی به آن استناد نکنید. در APA Style، می‌توانید پاسخ ChatGPT را به عنوان یک ارتباط شخصی در نظر بگیرید، زیرا پاسخ‌های آن برای دیگران قابل دسترسی نیست. در متن، آن را به شرح زیر ذکر کنید: (ChatGPT، ارتباطات شخصی، 11 فوریه 2023). |
