Home-theater-designers
Umjetna inteligencija (AI) transformirat će cijele segmente našeg društva htjeli mi to ili ne, a to uključuje i World Wide Web.
pronaći vlasnika broja mobitela
Sa softverom kao što je ChatGPT koji je dostupan svima s internetskom vezom, postaje sve teže odvojiti sadržaj generiran umjetnom inteligencijom od onoga koji je stvorilo ljudsko biće. Dobro je što imamo AI detektore sadržaja, zar ne?
MAKEUSEOF VIDEO DANA POMICI SE ZA NASTAVAK SA SADRŽAJEM
Rade li AI detektori sadržaja?
AI detektori sadržaja specijalizirani su alati koji utvrđuju je li nešto napisao računalni program ili čovjek. Ako samo proguglate riječi 'AI content detector,' vidjet ćete postoje deseci detektora vani, svi tvrde da mogu pouzdano razlikovati ljudski i neljudski tekst.
Način na koji rade prilično je jednostavan: zalijepite dio teksta, a alat vam govori je li ga generirala umjetna inteligencija ili ne. U više tehničkim terminima, koristeći kombinaciju tehnika obrade prirodnog jezika i algoritama strojnog učenja, AI detektori sadržaja traže uzorke i predvidljivost te upućuju pozive na temelju toga.
Ovo zvuči sjajno na papiru, ali ako ste ikada koristili alate za otkrivanje umjetne inteligencije, vrlo dobro znate da su pogodili i promašili, blago rečeno. Češće nego ne, oni detektiraju sadržaj koji su napisali ljudi kao umjetnu inteligenciju ili tekst koji su stvorila ljudska bića kao generiran umjetnom inteligencijom. Zapravo, neki su neugodno loši u onome što bi trebali raditi.
Koliko su točni AI detektori sadržaja?
Ako ste u Sjedinjenim Državama, prvi Google rezultat pretraživanja za 'AI content detector' je writer.com (ranije poznat kao Qordoba; ovo je AI content platforma koja također ima svoj vlastiti detektor). Ali kada zalijepite dio ovog slučajnog odabira Associated Press članak u alat, tvrdi da postoji velika vjerojatnost da ga je generirala umjetna inteligencija.
Dakle, writer.com je pogriješio.
Da budemo pošteni, ostali detektori sadržaja umjetne inteligencije jedva da su bolji. Ne samo da proizvode lažne rezultate, već i označavaju AI sadržaj kao ljudski. Čak i kada to ne učine, male izmjene teksta generiranog umjetnom inteligencijom dovoljne su da prođu s najboljim ocjenama.
U veljači 2023., predavač na Sveučilištu Wollongong Armin Alimardani i izvanredna profesorica na UNSW Sydneyu Emma A. Jane testirali su brojne popularne detektore sadržaja umjetne inteligencije, utvrdivši da nijedan od njih nije pouzdan. U njihovoj analizi, koja je objavljena u Razgovor , Alimardani i Jane zaključili su da će ova umjetna inteligencija 'utrka u naoružanju' između generatora teksta i detektora predstavljati značajan izazov u budućnosti, posebno za edukatore.
Ali nisu samo odgajatelji i učitelji ti koji imaju razloga za zabrinutost: svi imaju. Kako tekst generiran umjetnom inteligencijom postaje sveprisutan, mogućnost razlikovanja onoga što je 'stvarno' od onoga što nije, tj. zapravo uočavanje kada je nešto napisao AI , postat će teže. To će imati ogroman utjecaj na gotovo sve industrije i područja društva, čak i osobne odnose.
Implikacije umjetne inteligencije za kibernetičku sigurnost i privatnost
Činjenica da ne postoje pouzdani mehanizmi za utvrđivanje je li nešto kreirao softver ili ljudsko biće ima ozbiljne implikacije na kibernetičku sigurnost i privatnost.
Akteri prijetnje već jesu koristeći ChatGPT za pisanje zlonamjernog softvera , generirati phishing e-poštu, pisati neželjenu poštu, stvarati web stranice za prijevare i još mnogo toga. I dok postoje načini obrane od toga, svakako je zabrinjavajuće što ne postoji softver koji može pouzdano razlikovati organski i bot sadržaj.
Lažne vijesti također su već veliki problem. S generativnom umjetnom inteligencijom na slici, agenti dezinformacija mogu skalirati svoje operacije na način bez presedana. Obična osoba, u međuvremenu, nema načina da zna je li nešto što čitaju na internetu stvorio softver ili ljudsko biće.
Privatnost je sasvim druga stvar. Uzmimo ChatGPT, na primjer. Bilo je hrani više od 300 milijardi riječi prije njegovog lansiranja. Ovaj je sadržaj preuzet iz knjiga, postova na blogovima i forumima, članaka i društvenih medija. Prikupljena je bez ičijeg pristanka i uz naizgled potpunu nepoštivanje zaštite privatnosti i autorskih prava.
Tu je i problem lažno pozitivnih rezultata. Ako je sadržaj greškom označen kao generiran umjetnom inteligencijom, ne bi li to moglo dovesti do cenzure, što je ionako golemi problem? Da ne spominjemo štetu koju bi nečiju reputaciju mogla nanijeti optužba za korištenje teksta stvorenog umjetnom inteligencijom, kako na mreži tako iu stvarnom životu.
Ako doista postoji utrka u naoružanju između generativne umjetne inteligencije i detektora sadržaja, prvi pobjeđuje. Što je najgore, čini se da rješenja nema. Svi mi imamo svoje polupečene proizvode koji ni pola vremena ne rade, ili se mogu vrlo lako prevariti.
Kako otkriti AI sadržaj: potencijalna rješenja
To što se trenutno čini da nemamo prave odgovore na ovaj problem ne znači da ih nećemo imati ni u budućnosti. Zapravo, već postoji nekoliko ozbiljnih prijedloga koji bi mogli funkcionirati. Vodeni žig je jedan.
Kada su u pitanju AI i duboki jezični modeli, vodeni žig se odnosi na ugrađivanje svojevrsnog tajnog koda u tekst koji generira AI (npr. uzorak riječi, interpunkcijski stil). Takav vodeni žig bio bi nevidljiv golim okom i stoga bi ga bilo gotovo nemoguće ukloniti, ali bi ga specijalizirani softver mogao otkriti.
Zapravo, još 2022. Sveučilište Maryland istraživači su razvili novu metodu vodenog žiga za umjetne neuronske mreže. Voditelj istraživanja Tom Goldstein rekao je tada da je njegov tim uspio 'matematički dokazati' da se njihov vodeni žig ne može u potpunosti ukloniti.
Za sada, ono što obična osoba može učiniti je osloniti se na svoje instinkte i zdrav razum. Ako nešto nije u redu sa sadržajem koji čitate - ako se čini neprirodnim, ponavljajućim, nemaštovitim, banalnim - to je možda kreirao softver. Naravno, također biste trebali provjeriti sve informacije koje vidite na internetu, dobro provjeriti izvor i držati se podalje od sumnjivih web stranica.
AI revolucija je u tijeku
Neki tvrde da je peta industrijska revolucija već ovdje, budući da umjetna inteligencija zauzima središnje mjesto u onome što se opisuje kao konvergencija digitalnog i fizičkog. Bilo to doista tako ili ne, sve što možemo učiniti je prilagoditi se.
Dobra vijest je da se industrija kibernetičke sigurnosti prilagođava ovoj novoj stvarnosti i provodi nove obrambene strategije s umjetnom inteligencijom i strojnim učenjem na čelu.