Pengesan AI, kadangkala disebut sebagai penulisan AI atau pengesan kandungan AI, berfungsi untuk mengenal pasti sama ada teks telah digubah sebahagian atau sepenuhnya oleh alat kecerdasan buatan seperti SembangGPT.
Pengesan ini berguna untuk mengenal pasti kes di mana sekeping bertulis mungkin dicipta oleh AI. Permohonan adalah berfaedah dalam cara berikut:
- Mengesahkan hasil kerja pelajar. Pendidik boleh menggunakannya untuk mengesahkan ketulenan tugasan asal pelajar dan projek penulisan.
- Menentang ulasan produk palsu. Moderator boleh menggunakannya untuk mengenal pasti dan menangani ulasan produk palsu yang bertujuan untuk memanipulasi persepsi pengguna.
- Menangani kandungan spam. Ia membantu dalam mengesan dan mengalih keluar pelbagai bentuk kandungan spam yang boleh memesongkan kualiti dan kredibiliti platform dalam talian.
Alat ini masih baharu dan sedang diuji, jadi kami tidak pasti sepenuhnya sejauh mana ia boleh dipercayai sekarang. Dalam bahagian berikut, kami menyelidiki fungsinya, menyemak sejauh mana mereka boleh dipercayai dan meneroka pelbagai aplikasi praktikal yang mereka tawarkan.
| Institusi pendidikan, termasuk universiti, sedang dalam proses merumuskan pendirian mereka mengenai penggunaan ChatGPT yang sesuai dan alat yang serupa. Adalah penting untuk mengutamakan garis panduan institusi anda berbanding sebarang nasihat yang anda temui dalam talian. |
Bagaimanakah pengesan AI beroperasi?
Pengesan AI biasanya menggunakan model bahasa yang seperti yang terdapat dalam alat penulisan AI yang mereka cuba cari. Pada asasnya, model bahasa melihat input dan bertanya, "Adakah ini kelihatan seperti sesuatu yang mungkin saya buat?" Jika ia berkata ya, model meneka bahawa teks itu mungkin dicipta oleh AI.
Khususnya, model ini mencari dua ciri dalam teks: "perplexity" dan "burstiness." Apabila kedua-dua aspek ini lebih rendah, terdapat kemungkinan yang lebih tinggi bahawa teks itu dihasilkan oleh AI.
Walau bagaimanapun, apakah sebenarnya yang dimaksudkan dengan istilah yang tidak biasa ini?
Kesempurnaan
Kekeliruan berdiri sebagai metrik penting yang digunakan untuk menilai kecekapan model bahasa. Ia merujuk kepada sejauh mana model mampu meramal perkataan seterusnya dalam urutan perkataan.
Model bahasa AI berfungsi ke arah mencipta teks dengan kebingungan yang rendah, menghasilkan peningkatan koheren, aliran lancar dan kebolehramalan. Sebaliknya, tulisan manusia sering mempamerkan kebingungan yang lebih tinggi kerana penggunaan pilihan bahasa yang lebih imaginatif, walaupun disertai dengan kekerapan kesilapan tipografi yang lebih besar.
Model bahasa berfungsi dengan meramalkan perkataan yang secara semula jadi akan datang seterusnya dalam ayat dan memasukkannya. Anda boleh lihat contoh di bawah.
| Contoh sambungan | Kesempurnaan |
| Saya tidak dapat menyelesaikan projek terakhir malam. | Rendah: Mungkin sambungan yang paling mungkin |
| Saya tidak dapat menyelesaikan projek terakhir masa saya tidak minum kopi pada waktu petang. | Rendah hingga sederhana: Kurang berkemungkinan, tetapi ia masuk akal dari segi tatabahasa dan logik |
| Saya tidak dapat menyiapkan projek semester lepas banyak kali kerana saya tidak bersemangat pada masa itu. | sederhana: Ayatnya koheren tetapi agak luar biasa strukturnya dan berjela-jela |
| Saya tidak dapat menyelesaikan projek terakhir gembira dapat berjumpa dengan anda. | Tinggi: Dari segi tatabahasa tidak betul dan tidak logik |
Kekeliruan rendah diambil sebagai bukti bahawa teks dijana AI.
Keterlaluan
"Burstiness" ialah satu cara untuk melihat cara ayat berbeza dalam cara ia disatukan dan tempohnya. Ia agak seperti kebingungan tetapi untuk keseluruhan ayat dan bukannya hanya perkataan.
Apabila teks kebanyakannya mempunyai ayat yang serupa dengan cara ia dibuat dan tempohnya, ia mempunyai keterpurukan yang rendah. Ini bermakna ia membaca dengan lebih lancar. Tetapi jika teks mempunyai ayat yang sangat berbeza antara satu sama lain dalam cara ia dibina dan berapa lama ia, ia mempunyai keterpurukan yang tinggi. Ini menjadikan teks berasa kurang mantap dan lebih pelbagai.
Teks yang dijana AI cenderung kurang berubah dalam pola ayatnya berbanding dengan teks tulisan manusia. Apabila model bahasa meneka perkataan yang mungkin seterusnya, mereka biasanya membuat ayat yang panjangnya kira-kira 10 hingga 20 patah perkataan dan mengikut pola biasa. Inilah sebab mengapa penulisan AI kadangkala kelihatan membosankan.
Burstiness rendah menunjukkan bahawa teks mungkin dijana AI.
Satu lagi Pilihan untuk Dipertimbangkan: Tera Air
OpenAI, pencipta ChatGPT, dilaporkan sedang membangunkan kaedah yang dipanggil "penanda air." Sistem ini melibatkan penambahan tanda ghaib pada teks yang dihasilkan oleh alat tersebut, yang kemudiannya boleh dikenal pasti oleh sistem lain untuk mengesahkan asal AI teks tersebut.
Walau bagaimanapun, sistem ini masih dibangunkan, dan butiran tepat tentang cara ia berfungsi masih belum didedahkan. Selain itu, tidak jelas sama ada sebarang tera air yang dicadangkan akan kekal utuh apabila pengeditan dibuat pada teks yang dijana.
| Walaupun idea menggunakan konsep ini untuk mengesan AI pada masa hadapan kelihatan penuh harapan, adalah penting untuk ambil perhatian bahawa butiran muktamad dan pengesahan tentang mempraktikkannya masih belum selesai. |
Apakah kebolehpercayaan pengesan AI?
- Pengesan AI biasanya berfungsi dengan berkesan, terutamanya dengan teks yang lebih panjang, tetapi mereka mungkin menghadapi masalah jika teks yang dicipta AI sengaja dibuat kurang dijangka atau diubah selepas ia dibuat.
- Pengesan AI mungkin tersalah anggap bahawa teks yang ditulis oleh manusia sebenarnya dibuat oleh AI, terutamanya jika ia memenuhi syarat yang mempunyai kebingungan dan keterpurukan yang rendah.
- Penyelidikan tentang pengesan AI menunjukkan bahawa tiada alat yang dapat memberikan ketepatan lengkap; ketepatan tertinggi ialah 84% dalam alat premium atau 68% dalam alat percuma terbaik.
- Alat ini menawarkan cerapan berharga tentang kemungkinan teks dijana AI, tetapi kami mengesyorkan agar tidak bergantung semata-mata padanya sebagai bukti. Dengan kemajuan berterusan model bahasa, alat yang mengesannya perlu bekerja lebih keras untuk mengikutinya.
- Pembekal yang lebih yakin biasanya mengakui bahawa alat mereka tidak boleh berfungsi sebagai bukti muktamad teks yang dijana AI.
- Universiti, buat masa ini, tidak mempunyai kepercayaan yang kuat terhadap alat ini.
| Cuba untuk menyembunyikan tulisan yang dijana AI sebenarnya boleh menjadikan teks kelihatan sangat pelik atau tidak sesuai untuk kegunaan yang dimaksudkan. Sebagai contoh, dengan sengaja memperkenalkan kesilapan ejaan atau menggunakan pilihan perkataan yang tidak logik dalam teks boleh mengurangkan peluang ia dikenal pasti oleh pengesan AI. Walau bagaimanapun, teks yang dipenuhi dengan ralat dan pilihan aneh ini mungkin tidak akan dilihat sebagai penulisan akademik yang baik. |
Untuk tujuan apakah pengesan AI digunakan?
Pengesan AI dimaksudkan untuk individu yang ingin mengesahkan sama ada teks boleh dibuat oleh kecerdasan buatan. Orang yang mungkin menggunakannya ialah:
- Pendidik dan guru. Memastikan keaslian hasil kerja pelajar dan mencegah plagiarisme.
- Pelajar menyemak tugasan mereka. Menyemak untuk memastikan kandungan mereka unik dan tidak secara tidak sengaja kelihatan seperti teks yang dihasilkan oleh AI.
- Penerbit dan editor menyemak penyerahan. Ingin memastikan bahawa mereka hanya menerbitkan kandungan tulisan manusia.
- Penyelidik. ingin mengesan sebarang kertas penyelidikan atau artikel yang dijana AI berpotensi.
- Blogger dan penulis: Ingin menerbitkan kandungan yang dijana AI tetapi bimbang ia mungkin berkedudukan lebih rendah dalam enjin carian jika diiktiraf sebagai penulisan AI.
- Profesional dalam penyederhanaan kandungan. Mengenal pasti spam yang dijana AI, ulasan palsu atau kandungan yang tidak sesuai.
- Perniagaan yang memastikan kandungan pemasaran asli. Mengesahkan bahawa bahan promosi tidak disalah anggap sebagai teks yang dijana AI, mengekalkan kredibiliti jenama.
| Disebabkan kebimbangan tentang kebolehpercayaan mereka, ramai pengguna teragak-agak untuk bergantung sepenuhnya pada pengesan AI pada masa ini. Walau bagaimanapun, pengesan ini sudah menjadi lebih popular sebagai tanda bahawa teks mungkin dijana AI, terutamanya apabila pengguna sudah mempunyai keraguan mereka. |
Pengesanan manual teks Dijana AI
Selain menggunakan pengesan AI, anda juga boleh belajar mengenal pasti ciri unik penulisan AI sendiri. Bukan selalu mudah untuk melakukan ini dengan pasti—tulisan manusia kadangkala boleh terdengar seperti robotik, dan tulisan AI menjadi manusia yang lebih meyakinkan—tetapi dengan latihan, anda boleh mengembangkan perasaan yang baik untuknya.
Peraturan khusus yang diikuti oleh pengesan AI, seperti kebingungan rendah dan keterlaluan, boleh kelihatan rumit. Walau bagaimanapun, anda boleh cuba mencari ciri-ciri ini sendiri dengan melihat teks untuk tanda-tanda tertentu:
- Itu dibaca secara monoton, dengan sedikit variasi dalam struktur atau panjang ayat
- Menggunakan perkataan yang dijangka dan tidak begitu unik, dan mempunyai sedikit unsur yang tidak dijangka
Anda juga boleh menggunakan kaedah yang tidak dilakukan oleh pengesan AI, dengan memerhatikan:
| Kaedah | penjelasan |
| Kesopanan yang berlebihan | Chatbots seperti ChatGPT dibuat untuk menjadi pembantu yang membantu, jadi mereka sering menggunakan bahasa yang sopan dan formal yang mungkin tidak terdengar sangat santai. |
| Ketidakkonsistenan dalam suara | Jika anda biasa dengan cara seseorang biasanya menulis (seperti pelajar), anda biasanya dapat melihat apabila sesuatu yang mereka tulis agak berbeza daripada gaya biasa mereka. |
| Bahasa lindung nilai | Beri perhatian kepada sama ada tidak terdapat banyak idea yang kukuh dan segar, dan juga perhatikan jika terdapat tabiat menggunakan frasa yang menunjukkan ketidakpastian terlalu banyak: “Adalah penting untuk ambil perhatian bahawa …” “X dianggap secara meluas sebagai …” “X dianggap … ” “Orang tertentu mungkin berpendapat bahawa …”. |
| Tuntutan yang tidak bersumber atau salah disebut | Apabila ia datang kepada penulisan akademik, adalah penting untuk menyebut dari mana anda mendapat maklumat anda. Walau bagaimanapun, alat penulisan AI selalunya tidak mematuhi peraturan ini atau membuat kesilapan (seperti memetik sumber yang tidak wujud atau tidak berkaitan). |
| Kesilapan logik | Walaupun tulisan AI semakin baik untuk berbunyi semula jadi, kadangkala idea di dalamnya tidak sesuai bersama. Beri perhatian kepada tempat di mana teks menyatakan perkara yang tidak sepadan, kedengaran tidak mungkin atau mengemukakan idea yang tidak bersambung dengan lancar. |
| Secara keseluruhan, bereksperimen dengan pelbagai alat penulisan AI, menonton jenis teks yang boleh mereka hasilkan dan membiasakan diri dengan cara mereka menulis boleh membantu anda menjadi lebih baik dalam mengesan teks yang mungkin telah dicipta oleh AI. |
Pengesan untuk imej dan video AI
Imej AI dan penjana video, terutamanya yang popular seperti DALL-E dan Synthesia, boleh mencipta visual yang realistik dan diubah. Ini menjadikannya penting untuk mengenal pasti imej dan video "deepfakes" atau buatan AI untuk mengelakkan penyebaran maklumat palsu.
Pada masa ini, banyak tanda boleh mendedahkan imej dan video yang dijana AI, seperti:
- Tangan dengan terlalu banyak jari
- Pergerakan pelik
- Teks mengarut dalam imej
- Ciri muka yang tidak realistik
Namun, mengesan tanda-tanda ini mungkin menjadi lebih sukar apabila AI menjadi lebih baik.
Terdapat alat yang direka untuk mengesan visual yang dijana AI ini, termasuk:
- Perisian dalam
- FakeCatcher Intel
- pencahayaan
Masih tidak jelas sejauh mana alat ini berkesan dan boleh dipercayai, jadi lebih banyak ujian diperlukan.
Evolusi berterusan penjanaan dan pengesanan imej dan video AI mewujudkan keperluan berterusan untuk membangunkan kaedah pengesanan yang lebih kukuh dan tepat untuk menangani potensi risiko yang berkaitan dengan deepfakes dan visual yang dijana AI.
Kesimpulan
| Pengesan AI membantu mengenal pasti teks yang dihasilkan oleh alatan seperti ChatGPT. Mereka terutamanya mencari "kebingungan" dan "kecerobohan" untuk melihat kandungan yang dicipta AI. Ketepatan mereka tetap menjadi kebimbangan, walaupun yang terbaik menunjukkan ralat. Apabila teknologi AI berkembang, membezakan manusia daripada kandungan yang dihasilkan AI, termasuk imej dan video, menjadi semakin sukar, menonjolkan keperluan untuk sentiasa berhati-hati dalam talian. |
Soalan lazim
| 1. Apakah perbezaan antara Pengesan AI and Plagiarisme Checkers? A: Pengesan AI dan penyemak plagiarisme didapati digunakan di universiti untuk menghalang ketidakjujuran akademik, namun kaedah dan objektifnya berbeza-beza: • Pengesan AI bertujuan untuk mengenal pasti teks yang menyerupai output daripada alat penulisan AI. Ini melibatkan menganalisis ciri teks seperti kebingungan dan keterlaluan, dan bukannya membandingkannya dengan pangkalan data. • Penyemak plagiarisme bertujuan untuk mengesan teks yang disalin daripada sumber lain. Mereka mencapai ini dengan membandingkan teks dengan pangkalan data luas kandungan yang diterbitkan sebelum ini dan tesis pelajar, mengenal pasti persamaan—tanpa bergantung pada menganalisis ciri teks tertentu. 2. Bagaimanakah saya boleh menggunakan ChatGPT? A: Untuk menggunakan ChatGPT, hanya buat akaun percuma: • Ikut pautan ini ke laman web ChatGPT. • Pilih "Daftar" dan berikan maklumat yang diperlukan (atau gunakan akaun Google anda). Mendaftar dan menggunakan alat ini adalah percuma. • Taip gesaan ke dalam kotak sembang untuk bermula! Versi iOS apl ChatGPT boleh diakses pada masa ini dan terdapat rancangan untuk apl Android dalam perancangan. Apl berfungsi sama dengan tapak web, dan anda boleh menggunakan akaun yang sama untuk log masuk pada kedua-dua platform. 3. Sampai bila ChatGPT akan kekal percuma? A: Ketersediaan ChatGPT pada masa hadapan secara percuma masih tidak pasti, tanpa garis masa khusus diumumkan. Alat ini pada mulanya diperkenalkan pada November 2022 sebagai "pratonton penyelidikan" untuk diuji oleh pangkalan pengguna yang luas tanpa sebarang kos. Istilah "pratonton" mencadangkan caj masa depan yang berpotensi, tetapi tiada pengesahan rasmi untuk menamatkan akses percuma wujud. Pilihan yang dipertingkatkan, ChatGPT Plus, berharga $20/bulan dan termasuk ciri lanjutan seperti GPT-4. Tidak jelas sama ada versi premium ini akan menggantikan versi percuma atau jika versi premium akan diteruskan. Faktor seperti perbelanjaan pelayan boleh mempengaruhi keputusan ini. Kursus masa depan masih tidak pasti. 4. Adakah boleh memasukkan ChatGPT dalam petikan saya? A: Dalam konteks tertentu, adalah wajar untuk merujuk ChatGPT dalam kerja anda, terutamanya apabila ia berfungsi sebagai sumber penting untuk mengkaji model bahasa AI. Universiti tertentu mungkin memerlukan petikan atau pengakuan jika ChatGPT membantu penyelidikan atau proses penulisan anda, seperti dalam membangunkan soalan penyelidikan; adalah dinasihatkan untuk merujuk garis panduan institusi anda. Walau bagaimanapun, disebabkan oleh kebolehpercayaan ChatGPT yang berbeza-beza dan kekurangan kredibiliti sebagai sumber, sebaiknya jangan memetiknya untuk maklumat fakta. Dalam Gaya APA, anda boleh menganggap respons ChatGPT sebagai komunikasi peribadi kerana jawapannya tidak boleh diakses oleh orang lain. Dalam teks, sebutkannya seperti berikut: (ChatGPT, komunikasi peribadi, 11 Februari 2023). |
