AI turinio detektoriai. Ar jie verti? | AI versle #38

Šiandien dirbtinio intelekto turinio detektorių kūrėjai juos pristato kaip įrankius, saugančius autentiškumą. Klausimas yra, ar jie verti pasitikėjimo ir investicijų? Šiame straipsnyje mes pažvelgsime, kaip veikia dirbtinio intelekto turinio detektoriai, kodėl jie gali išnykti, kokius iššūkius jie kelia ir kokios etinės dilemos kyla.

Dirbtinio intelekto turinio detektoriai

Dirbtinio intelekto turinio detektoriai remiasi kalbos modeliais, panašiais į tuos, kurie naudojami dirbtinio intelekto turiniui generuoti. Jie gali būti skirstomi į tuos, kurių užduotis yra patikrinti vaizdų, tekstų ir muzikos, sukurtos dirbtinio intelekto pagalba, kilmę. Kiekvienas “dirbtinio intelekto detektoriaus” tipas veikia šiek tiek skirtingai, tačiau nė vienas iš jų negali absoliučiai tiksliai atskirti žmogaus sukurtą turinį nuo dirbtinio intelekto generuoto turinio.

Dirbtinio intelekto generuotų vaizdų detektoriai atlieka vis svarbesnį vaidmenį dėl žiniasklaidos galios generuoti netikras naujienas. Jie analizuoja anomalijas, išskirtinius stilius ir raštus, ir ieško ženklų, kuriuos paliko tokie modeliai kaip DALL-E.

Žymus tarp vaizdų identifikavimui naudojamų detektorių yra “AI or Not” įrankis iš Optic, kuris naudoja vaizdų duomenų bazes, sukurtas Midjourney, DALL-E ir Stable Diffusion. Nors rezultatai yra neaiškūs, tai yra žingsnis link tikslesnių identifikavimo metodų kūrimo ateityje.

Šaltinis: AI or Not (https://www.aiornot.com/)

Už dirbtinio intelekto detektorių, atpažįstančių dirbtinio intelekto generuotus tekstus, veikimo slypi pažangūs algoritmai, kurie analizuoja teksto struktūrą ir žodžių pasirinkimą, o tada atpažįsta dirbtiniam intelektui būdingus raštus. Jie naudoja:

• klasifikatorius – algoritmas, kuris klasifikuoja tekstą ir tikrina stilių, toną ir gramatiką. Pavyzdžiui, produkto aprašymas, kuris galėtų tikti bet kuriam savo tipo produktui, gali būti klasifikuojamas kaip dirbtinio intelekto kūrinys,
• embeddingai (embeddingai) – skaitmeniniai žodžių atvaizdai leidžia mašinoms suprasti jų naudojimo kontekstą. Dėl jų programa “supranta”, kad tekstas su monotonišku žodžių pasirinkimu gali būti dirbtinio intelekto darbas,
• perpleksija – tai teksto nenuspėjamumo matas. Žmonių rašyti tekstai paprastai turi didesnę perpleksiją, nors tekstai, kurie iš esmės yra paprasti, utilitariniai tipiniu pavidalu, arba rašyti užsieniečių, gali būti klaidingai klasifikuojami kaip dirbtinio intelekto generuoti,
• įvairovė (burstiness) – šis faktorius apibūdina sakinių ilgio ir struktūros kintamumą. Žmonės paprastai rašo įvairesnius tekstus nei dirbtinis intelektas.

Aukščiau minėti elementai kartu naudojami dirbtinio intelekto turinio detektorių, kad įvertintų, ar mes turime reikalų su žmogaus sukurtu ar mašinos sukurtu tekstu.

Kodėl naudoti dirbtinio intelekto turinio detektorius?

Dirbtinio intelekto turinio detektoriai veikia įvairiose srityse – nuo švietimo iki rinkodaros ir įdarbinimo. Štai pagrindinės priežastys, kodėl juos naudoti kaip įrankį vertinimui, bet ne kaip galutinį įrodymą, ar turinys buvo generuotas:

• Dirbtinio intelekto modifikuotų nuotraukų, vaizduojančių žinomus žmones, identifikavimas – nustatyti, ar nuotrauka vaizduoja tikrą situaciją,
• Dezinformacijos prevencija – kovojant su dezinformacija, efektyvūs dirbtinio intelekto turinio detektoriai padeda socialinių tinklų moderatoriams aptikti platinamą klaidingą informaciją, kad būtų galima identifikuoti ir pašalinti pakartotinį turinį, generuojamą botų,
• Žemos vertės tekstų publikacijos ribojimas – dirbtinio intelekto turinio detektoriai gali padėti leidėjams atmesti tekstus, kuriuose yra bendros informacijos, generuotos ChatGPT, Bing ar Bard, po paprasto užklausos įvedimo.

Tačiau verta prisiminti, kad teksto kilmė nėra pagrindas, dėl kurio “Google” sumažina svetainės reitingą. “Google” Paieškos centro tinklaraštyje teigiama, kad “Google” yra svarbu “apdovanoti kokybišką turinį, nepriklausomai nuo to, kaip jis sukurtas […]. Automatizavimas jau seniai naudojamas naudingam turiniui generuoti, pavyzdžiui, sporto rezultatams, oro prognozėms ir transkripcijoms. Dirbtinis intelektas gali atverti naujas išraiškos ir kūrybiškumo lygius ir būti pagrindiniu įrankiu, palaikančiu puikaus interneto turinio kūrimą.”

Dirbtinio intelekto turinio detektorių patikimumas. Realybė ar mitas?

Nors dirbtinio intelekto turinio detektoriai yra visur, jų efektyvumas gali būti abejotinas. Pagrindinės problemos yra:

• mažas efektyvumas aptinkant dirbtinio intelekto turinį,
• klaidingų teigiamų rezultatų problemos, taip pat
• sunki adaptacija detektorių, kad jie atitiktų greitai besikeičiančius ir tobulėjančius naujus dirbtinio intelekto modelius.

OpenAI atlikti testai parodė, kad jų klasifikatorius atpažino GPT generuotą tekstą tik 26% atvejų. Įdomus dirbtinio intelekto generatorių patikimumo pavyzdys gali būti matomas eksperimente, kurį atliko TechCrunch, kuris parodė, kad GPTZero įrankis teisingai identifikavo penkis iš septynių dirbtinio intelekto generuotų tekstų. Tuo tarpu OpenAI klasifikatorius teisingai identifikavo tik vieną.

Šaltinis: GPTZero (https://gptzero.me/)

Be to, yra klaidingo teigiamo identifikavimo rizika, t. y. žmogaus rašyto teksto identifikavimas kaip dirbtinio intelekto generuoto. Pavyzdžiui, Miguel de Cervantes’ Don Kichotas antro skyriaus pradžia buvo pažymėta OpenAI detektoriaus kaip labiausiai tikėtina, kad ją parašė dirbtinis intelektas.

Nors klaidos analizuojant istorinius literatūrinius tekstus gali būti laikomos linksma smulkmena, situacija tampa sudėtingesnė, kai norime naudoti detektorius kaip įrankius tekstų vertinimui. JAV Konstitucija buvo pažymėta ZeroGPT kaip 92,15% parašyta dirbtinio intelekto. Ir, remiantis Stanfordo universiteto mokslininkų paskelbtu tyrimu, 61% TOEFL esė, parašytų ne gimtakalbių anglų kalbos studentų, buvo klasifikuotos kaip dirbtinio intelekto generuotos. Deja, nėra duomenų, kiek didelis procentas tekstų klaidingai klasifikuojamas kaip teigiamas kitomis kalbomis.

Dar viena problema yra klasifikacijos pasikeitimas atliekant vėlesnius detektoriaus bandymus. Tai atsitinka todėl, kad dažnai nutinka, jog detektorius, pavyzdžiui, ZeroGPT ar Scribbr, keičia tekstų fragmentų klasifikaciją, kuriuos kartą pažymi kaip dirbtinio intelekto generuotus, o kitą kartą kaip žmogaus rašytus.

Šaltinis: Scribbr (https://www.scribbr.com/ai-detector/)

Dirbtinio intelekto vaizdų ir vaizdo detektoriai pirmiausia naudojami giliųjų klastojimų ir kitų dirbtinio intelekto generuotų turinių identifikavimui, kurie gali būti naudojami dezinformacijai skleisti.

Šiuo metu naudojami detekcijos įrankiai, tokie kaip Deepware, Illuminarty ir FakeCatcher, nepateikia testavimo rezultatų apie savo patikimumą. Teisinėje kontekste, aptinkant dirbtinio intelekto generuotą vizualinę medžiagą, yra iniciatyvų pridėti vandens ženklus prie dirbtinio intelekto vaizdų. Tačiau tai yra labai nepatikimas būdas – galite lengvai atsisiųsti vaizdą be vandens ženklo. Midjourney taiko kitokį požiūrį į vandens ženklų pridėjimą, palikdama vartotojams spręsti, ar jie nori taip pažymėti vaizdą.

Vengimas dirbtinio intelekto detekcijos. Ar tai įmanoma ir kaip?

Verslininkai turėtų žinoti, kad dirbtinio intelekto turinio detektoriai nėra žmogaus kokybės vertinimo pakaitalas ir ne visada yra patikimi. Jų praktinės priežiūros problemos gali kelti didelių sunkumų, kaip ir bandymas išvengti, kad jūsų turinys būtų klasifikuotas kaip dirbtinio intelekto generuotas. Ypač kai dirbtinis intelektas yra tiesiog įrankis profesionalo rankose – tai nėra “dirbtinio intelekto generuotas turinys”, o labiau “turinys, sukurtas bendradarbiaujant su dirbtiniu intelektu.”

Relatyviai paprasta pridėti ką nors prie generuotų medžiagų, todėl jų kūrimo būdą tikrai sunku aptikti. Jei asmuo, naudojantis generatyvų dirbtinį intelektą, žino, kokio efekto siekti, gali tiesiog rankiniu būdu pakoreguoti rezultatus.

Pagrindinis klausimas kyla dėl priežasties, kodėl norime išvengti detekcijos, jei turinys buvo generuotas dirbtiniu intelektu.

• Jei tai etinė problema ir susijusi, pavyzdžiui, su paskelbtų mokslinių tyrimų autorystės klausimu – lieka pasikliauti mokslininko profesine etika ir atsakingu dirbtinio intelekto įrankių naudojimu.
• Jei darbdavys nori, kad darbuotojai atsisakytų naudoti dirbtinį intelektą – lieka sutartinė nuostata dėl generatyvaus dirbtinio intelekto naudojimo.

Taip pat kyla klausimas, ar norime skatinti atsakingą dirbtinio intelekto naudojimą per draudimus ir kritikus (ZeroGPT ir GPTZero!), ar per skaidrumo, pasitikėjimo kūrimo ir sąžiningo pažangių technologijų naudojimo vertinimą.

Šaltinis: ZeroGPT (https://www.zerogpt.com/)

Santrauka

Atsakymas į klausimą, ar verta naudoti dirbtinio intelekto turinio detektorius, yra toli gražu neaiškus. Dirbtinio intelekto turinio detektoriai vis dar yra plėtojami, o jų ateitį sunku numatyti. Viena yra aišku – jie vystysis kartu su dirbtinio intelekto technologijų plėtra. Dirbtinio intelekto pažanga, įskaitant vis didesnę kalbos modelių gebą imituoti žmogaus rašymo stilių, reiškia, kad dirbtinio intelekto turinio detekcija gali tapti dar sudėtingesnė. Verslui tai yra ženklas sekti šiuos pokyčius ir nesiremti vien tik įrankiais, bet ir savo turinio vertinimu bei jo tinkamumu tikslui, kuriam jis buvo sukurtas. Ir protingai naudoti sparčiai besivystantį dirbtinį intelektą.

Jei jums patinka mūsų turinys, prisijunkite prie mūsų užimtų bičių bendruomenės Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.