Gervigreindarskynjarar, stundum nefndir gervigreindarrit eða gervigreindarefnisskynjarar, þjóna þeim tilgangi að bera kennsl á hvort texti hafi að hluta eða öllu leyti verið saminn af gervigreindarverkfærum eins og SpjallGPT.
Þessir skynjarar eru gagnlegir til að bera kennsl á tilvik þar sem skrifað er líklega búið til af gervigreind. Umsókn er gagnleg á eftirfarandi hátt:
- Staðfesta verk nemenda. Kennarar geta notað það til að sannreyna áreiðanleika upprunalegra verkefna nemenda og ritunarverkefna.
- Vinna gegn fölsuðum vöruumsögnum. Stjórnendur geta notað það til að bera kennsl á og takast á við umsagnir um falsaðar vörur sem miða að því að hagræða skynjun neytenda.
- Að takast á við ruslefni. Það hjálpar til við að greina og fjarlægja ýmis konar ruslpóstefni sem gæti raskað gæðum og trúverðugleika netkerfa.
Þessi verkfæri eru enn ný og verið að prófa, svo við erum ekki alveg viss um hversu áreiðanleg þau eru núna. Í eftirfarandi köflum kafarum við í virkni þeirra, athugum hversu vel er hægt að treysta þeim og skoðum margvísleg hagnýt forrit sem þeir bjóða upp á.
| Menntastofnanir, þar á meðal háskólar, eru að móta afstöðu sína varðandi viðeigandi nýtingu ChatGPT og sambærilegra tækja. Það er nauðsynlegt að forgangsraða leiðbeiningum stofnunarinnar umfram allar ráðleggingar sem þú rekst á á netinu. |
Hvernig virka gervigreindarskynjarar?
Gervigreindarskynjarar nota venjulega tungumálalíkön sem eru eins og þau í gervigreindarverkfærum sem þeir eru að reyna að finna. Í grundvallaratriðum lítur tungumálalíkanið á inntakið og spyr: „Lítur þetta út eins og eitthvað sem ég gæti hafa búið til? Ef það segir já, giskar líkanið á að textinn sé líklega búinn til af gervigreind.
Sérstaklega leita þessi líkön að tveimur einkennum innan texta: „vandræða“ og „sprunga“. Þegar þessir tveir þættir eru lægri eru meiri líkur á að textinn hafi verið búinn til af gervigreind.
Hins vegar, hvað nákvæmlega tákna þessi óalgengu hugtök?
Ráðleysi
Ráðvilla er mikilvægur mælikvarði sem notaður er til að meta færni tungumálalíkana. Það vísar til þess hversu vel líkanið er fær um að spá fyrir um næsta orð í orðaröð.
Gervigreind tungumálalíkön vinna að því að búa til texta með litlum tortryggni, sem leiðir til aukins samræmis, slétts flæðis og fyrirsjáanleika. Aftur á móti sýna mannleg skrif oft meiri ráðvillu vegna nýtingar þeirra á hugmyndaríkari tungumálamöguleikum, þó þeim fylgi meiri tíðni prentvillna.
Mállíkön virka með því að spá fyrir um hvaða orð myndi koma næst í setningu og setja það inn. Þú getur séð dæmi hér að neðan.
| Dæmi um framhald | Ráðleysi |
| Ég gat ekki klárað verkefnið síðast nótt. | Lágt: Líklegast er það framhaldið |
| Ég gat ekki klárað verkefnið síðast tími sem ég drekk ekki kaffi á kvöldin. | Lágt til miðlungs: Minni líkur, en það er málfræðilegt og rökrétt vit |
| Ég gat ekki klárað verkefnið á síðustu önn oft vegna þess hve áhugalaus ég var á þessum tíma. | Medium: Setningin er samfelld en nokkuð óvenjulega uppbyggð og langdregin |
| Ég gat ekki klárað verkefnið síðast gaman að kynnast þér. | High: Málfræðilega rangt og órökrétt |
Lítil ráðvilla er tekin sem sönnun þess að texti sé gervigreind.
Bursti
„Burstiness“ er leið til að sjá hvernig setningar eru mismunandi í því hvernig þær eru settar saman og hversu langar þær eru. Það er svolítið eins og ráðaleysi en fyrir heilar setningar í stað orða.
Þegar texti hefur að mestu leyti setningar sem eru svipaðar að því er varðar hvernig þær eru búnar til og hversu langar þær eru, hefur hann lágan sprengi. Þetta þýðir að það les sléttari. En ef texti hefur setningar sem eru mjög frábrugðnar hver annarri í því hvernig þær eru byggðar upp og hversu langar þær eru, þá hefur hann mikla sprengingu. Þetta gerir textann minna stöðugan og fjölbreyttari.
AI-myndaður texti hefur tilhneigingu til að vera minna breytilegur í setningamynstri sínum samanborið við texta sem er skrifaður af mönnum. Þar sem tungumálalíkön giska á orðið sem er líklega næst, búa þau venjulega til setningar sem eru um 10 til 20 orð að lengd og fylgja reglulegu mynstri. Þess vegna getur gervigreind skrif stundum virst einhæf.
Lítil sprunga gefur til kynna að texti sé líklegur til að mynda gervigreind.
Annar möguleiki til að íhuga: Vatnsmerki
OpenAI, skapari ChatGPT, er að sögn að þróa aðferð sem kallast „vatnsmerki“. Þetta kerfi felur í sér að óséðu merki er bætt við textann sem tólið framleiðir, sem síðar er hægt að bera kennsl á með öðru kerfi til að staðfesta uppruna gervigreindar textans.
Hins vegar er þetta kerfi enn í þróun og nákvæmar upplýsingar um hvernig það mun virka eru ekki enn gefnar upp. Þar að auki er óljóst hvort tillögð vatnsmerki haldist ósnortin þegar breytingar eru gerðar á mynduðum texta.
| Þó að hugmyndin um að nota þetta hugtak til að greina gervigreind í framtíðinni lítur út fyrir að vera vongóð, þá er mikilvægt að hafa í huga að endanlegar upplýsingar og staðfestingar um að koma því í framkvæmd eru enn í bið. |
Hver er áreiðanleiki gervigreindarskynjara?
- Gervigreindarskynjarar virka venjulega á áhrifaríkan hátt, sérstaklega með lengri texta, en þeir gætu átt í vandræðum ef gervigreindartextinn er vísvitandi gerður minna væntanlegur eða er breytt eftir að hann er búinn til.
- Gervigreindarskynjarar gætu ranglega haldið að texti skrifaður af mönnum hafi í raun verið gerður af gervigreind, sérstaklega ef hann uppfyllir skilyrði um að vera með litla ráðvillu og sprengiefni.
- Rannsóknir á gervigreindarskynjara benda til þess að ekkert verkfæri geti veitt fullkomna nákvæmni; mesta nákvæmnin var 84% í úrvalsverkfærum eða 68% í besta ókeypis verkfærinu.
- Þessi verkfæri bjóða upp á dýrmæta innsýn í líkurnar á því að texti sé gervigreindur, en við mælum með því að treysta ekki eingöngu á þau sem sönnunargögn. Með áframhaldandi framförum tungumálalíkana þurfa verkfærin sem greina þau að vinna meira til að halda í við.
- Öruggari veitendur viðurkenna venjulega að verkfæri þeirra geta ekki þjónað sem óyggjandi sönnun fyrir gervigreindum texta.
- Háskólar, eins og er, hafa ekki sterkt traust á þessum verkfærum.
| Að reyna að fela skrif sem myndast af gervigreind getur í raun látið textann virðast mjög undarlegur eða ekki réttur fyrir fyrirhugaða notkun. Til dæmis getur það dregið úr líkum á því að AI skynjari auðkenni hann með viljandi stafsetningarvillum eða órökrétt orðaval í textanum. Hins vegar mun texti fullur af þessum villum og undarlegu vali líklega ekki líta á sem góð fræðileg skrif. |
Í hvaða tilgangi eru gervigreindarskynjarar notaðir?
Gervigreindarskynjarar eru ætlaðir einstaklingum sem vilja sannreyna hvort texti gæti hafa verið búinn til með gervigreind. Fólk sem gæti notað það eru:
- Kennarar og kennarar. Að tryggja áreiðanleika vinnu nemenda og koma í veg fyrir ritstuld.
- Nemendur skoða verkefni sín. Athugaðu til að tryggja að innihald þeirra sé einstakt og líti ekki óviljandi út eins og texti sem myndaður er af gervigreind.
- Útgefendur og ritstjórar fara yfir innsendingar. Vilja tryggja að þeir birti eingöngu mannlegt efni.
- Vísindamenn. vilja greina hugsanlegar rannsóknargreinar eða greinar sem mynda gervigreind.
- Bloggarar og rithöfundar: Langar að birta AI-myndað efni en hefur áhyggjur af því að það gæti verið lægra í leitarvélum ef það er viðurkennt sem AI skrif.
- Fagmenn í efnisstjórnun. Að bera kennsl á ruslpóst sem myndast af gervigreind, falsaðar umsagnir eða óviðeigandi efni.
- Fyrirtæki sem tryggja frumlegt markaðsefni. Staðfesta að kynningarefni sé ekki rangt fyrir gervigreindum texta, viðheldur trúverðugleika vörumerkisins.
| Vegna áhyggjur af áreiðanleika þeirra eru margir notendur hikandi við að treysta algjörlega á gervigreindarskynjara í augnablikinu. Hins vegar eru þessir skynjarar nú þegar að verða vinsælli sem merki um að texti gæti verið gervigreindur, sérstaklega þegar notandinn hafði þegar efasemdir sínar. |
Handvirk uppgötvun á gervigreindum texta
Auk þess að nota gervigreindarskynjara geturðu líka lært að bera kennsl á einstaka eiginleika gervigreindarritunar sjálfur. Það er ekki alltaf auðvelt að gera þetta á áreiðanlegan hátt - mannleg skrif geta stundum hljómað vélrænt og gervigreind skrif eru að verða manneskjulegri - en með æfingu geturðu þróað gott vit fyrir því.
Sértæku reglurnar sem gervigreindarskynjarar fylgja, eins og lítil ráðvilla og sprenging, geta virst flóknar. Hins vegar getur þú reynt að finna þessa eiginleika sjálfur með því að skoða textann fyrir ákveðin merki:
- Það les einhæft, með litlum breytingum á setningagerð eða lengd
- Nota orð sem eru væntanleg og ekki mjög einstök og hafa mjög fá óvænt atriði
Þú getur líka notað aðferðir sem gervigreindarskynjarar gera ekki, með því að passa upp á:
| aðferðir | Útskýring |
| Óhófleg kurteisi | Spjallbottar eins og ChatGPT eru gerðir til að vera hjálpsamir aðstoðarmenn, svo þeir nota oft kurteislegt og formlegt tungumál sem gæti ekki hljómað mjög frjálslegt. |
| Ósamræmi í rödd | Ef þú þekkir hvernig einhver skrifar venjulega (eins og nemandi) geturðu venjulega tekið eftir því þegar eitthvað sem þeir hafa skrifað er töluvert frábrugðið venjulegum stíl þeirra. |
| Varnarmál | Gefðu gaum að því hvort það séu ekki margar sterkar og ferskar hugmyndir og taktu líka eftir því hvort það sé vani að nota orðasambönd sem sýna of mikla óvissu: „Það er mikilvægt að hafa í huga að …“ „X er almennt litið á sem …“ „X er talið …“ " "Ákveðnir menn gætu haldið því fram að ...". |
| Fullyrðingar án heimilda eða rangt vitnað í | Þegar kemur að fræðilegum skrifum er mikilvægt að nefna hvaðan þú fékkst upplýsingarnar þínar. Hins vegar fylgja gervigreind ritverkfæri oft ekki þessari reglu eða gera mistök (eins og að vitna í heimildir sem eru ekki til eða eiga ekki við). |
| Rökfræðilegar villur | Jafnvel þó að skrif gervigreindar séu að verða betri í að hljóma eðlilega, þá passa stundum hugmyndirnar í þeim ekki vel saman. Gefðu gaum að stöðum þar sem textinn segir hluti sem passa ekki saman, hljóma ólíklega eða koma með hugmyndir sem tengjast ekki vel. |
| Á heildina litið, tilraunir með ýmis gervigreind ritverkfæri, horfa á textategundir sem þeir geta framleitt og kynnast því hvernig þeir skrifa geta hjálpað þér að verða betri í að koma auga á texta sem gæti hafa verið búinn til af gervigreind. |
Skynjarar fyrir gervigreindarmyndir og myndbönd
Gervigreindarmyndir og myndbandsframleiðendur, sérstaklega vinsælar eins og DALL-E og Synthesia, geta búið til raunhæft og breytt myndefni. Þetta gerir það mikilvægt að bera kennsl á „djúpfalsanir“ eða gervigreindarmyndir og myndbönd til að koma í veg fyrir útbreiðslu rangra upplýsinga.
Eins og er geta mörg merki leitt í ljós myndir og myndbönd sem mynda gervigreind, svo sem:
- Hendur með of marga fingur
- Furðulegar hreyfingar
- Ómálefnalegur texti í myndinni
- Óraunsæir andlitsdrættir
Samt gæti orðið erfiðara að koma auga á þessi merki eftir því sem gervigreind verður betri.
Það eru til verkfæri sem eru hönnuð til að greina þessar gervigreindarmyndir, þar á meðal:
- Djúpbúnaður
- FakeCatcher frá Intel
- lýsandi
Það er enn óljóst hversu áhrifarík og áreiðanleg þessi verkfæri eru, svo fleiri prófanir eru nauðsynlegar.
Stöðug þróun gervigreindarmynda- og myndbandsframleiðslu og uppgötvunar skapar viðvarandi þörf fyrir að þróa traustari og nákvæmari greiningaraðferðir til að takast á við hugsanlega áhættu sem tengist djúpfalsverkum og gervigreindum myndefni.
Niðurstaða
| Gervigreindarskynjarar hjálpa til við að bera kennsl á texta sem myndaður er með verkfærum eins og ChatGPT. Þeir leita aðallega að „vandræðum“ og „sprungum“ til að koma auga á efni sem búið er til gervigreind. Nákvæmni þeirra er enn áhyggjuefni, jafnvel þeir bestu sýna villur. Eftir því sem gervigreind tækni fleygir fram verður erfiðara að greina menn frá efni framleitt með gervigreind, þar á meðal myndir og myndbönd, sem undirstrikar nauðsyn þess að vera varkár á netinu. |
Algengar spurningar
| 1. Hver er munurinn á milli AI skynjarar og Ritstuldur afgreiðslumaður? A: Bæði gervigreindarskynjarar og ritstuldarprófanir eru notaðar í háskólum til að koma í veg fyrir fræðilegan óheiðarleika, en samt eru þeir mismunandi hvað varðar aðferðir og markmið: • Gervigreindarskynjarar miða að því að bera kennsl á texta sem líkist úttak frá gervigreindarverkfærum. Þetta felur í sér að greina textareiginleika eins og ráðaleysi og sprungu, frekar en að bera þá saman við gagnagrunn. • Ritstuldarpróf miðar að því að greina afritaðan texta úr öðrum heimildum. Þeir ná þessu með því að bera textann saman við umfangsmikinn gagnagrunn yfir áður birt efni og nemendaritgerðir, finna líkindi - án þess að treysta á að greina ákveðin textaeinkenni. 2. Hvernig get ég notað ChatGPT? A: Til að nota ChatGPT skaltu einfaldlega búa til ókeypis reikning: • Fylgja á þennan tengil á vefsíðu ChatGPT. • Veldu „Skráðu þig“ og gefðu upp nauðsynlegar upplýsingar (eða notaðu Google reikninginn þinn). Að skrá sig og nota tólið er ókeypis. • Sláðu inn boð í spjallboxið til að byrja! iOS útgáfa af ChatGPT appinu er aðgengileg eins og er, og það eru áætlanir um Android app í pípunum. Forritið virkar svipað og vefsíðan og þú getur notað sama reikninginn til að skrá þig inn á báðum kerfum. 3. Þangað til hvenær verður ChatGPT áfram ókeypis? A: Framtíðarframboð á ChatGPT ókeypis er enn í óvissu, engin sérstök tímalína tilkynnt. Tólið var upphaflega kynnt í nóvember 2022 sem „rannsóknarsýnishorn“ til að prófa af breiðum notendahópi án kostnaðar. Hugtakið „forskoðun“ gefur til kynna hugsanleg framtíðargjöld, en engin opinber staðfesting er fyrir hendi um að hætt sé við ókeypis aðgang. Aukinn valkostur, ChatGPT Plus, kostar $20 á mánuði og inniheldur háþróaða eiginleika eins og GPT-4. Það er óljóst hvort þessi úrvalsútgáfa kemur í stað ókeypis eða hvort sú síðarnefnda heldur áfram. Þættir eins og útgjöld netþjóna gætu haft áhrif á þessa ákvörðun. Framtíðarstefnan er enn í óvissu. 4. Er í lagi að hafa ChatGPT með í tilvitnunum mínum? A: Í ákveðnum samhengi er rétt að vísa til ChatGPT í vinnunni þinni, sérstaklega þegar það þjónar sem mikilvæg heimild til að rannsaka gervigreind tungumálalíkön. Ákveðnir háskólar gætu krafist tilvitnunar eða viðurkenningar ef ChatGPT aðstoðaði við rannsóknir eða ritunarferli, svo sem við að þróa rannsóknarspurningar; það er ráðlegt að skoða leiðbeiningar stofnunarinnar þinnar. Hins vegar, vegna mismunandi áreiðanleika ChatGPT og skorts á trúverðugleika sem heimildar, er best að vitna ekki í það til að fá staðreyndarupplýsingar. Í APA stíl geturðu meðhöndlað ChatGPT svar sem persónuleg samskipti þar sem svör þess eru ekki aðgengileg öðrum. Í texta, vitna í það sem hér segir: (ChatGPT, persónuleg samskipti, 11. febrúar 2023). |
