OpenAI je otkrio i neutralizirao iransku dezinformacijsku operaciju “Storm-2035” identificirajući neuobičajene obrasce u upitima upućenim ChatGPT-u, posebice one koji su generirali politički nabijeni sadržaj na više jezika.
Dolazi vrijeme korištenja umjetne inteligencije i chatbotova za stvaranje dezinformacija u političke svrhe, što se posebno očituje u fazi priprema za američke predsjedničke izbore. Najnovije vijesti izazivaju ozbiljnu zabrinutost među stručnjacima i komentatorima vodećih novina.
Višeslojni upiti
Dezinformacijska operacija koju je otkrio OpenAI koristila je sofisticirane tehnike inženjeringa upita (prompt engineering) za zaobilaženje sigurnosnih mjera ChatGPT-a. Sumnja se da su iranski operativni centri pažljivo konstruirali upite koji su izgledali bezazleno, ali su rezultirali generiranjem pristranih političkih narativa. OpenAI-jevi inženjeri otkrili su da su operativci koristili višeslojne upite, gdje bi prvi sloj postavio kontekst, a drugi generirao ciljani sadržaj.
OpenAI-jev tim primijenio je napredne NLP algoritme za identifikaciju lingvističkih markera, uključujući neuobičajene kolokacije i sintaktičke strukture koje su odudarale od tipičnih engleskih jezičnih obrazaca. Analiza generiranog sadržaja otkrila je suptilne jezične značajke karakteristične za strojno prevedeni perzijski tekst.
Suradnja s Microsoftom
Infrastruktura kampanje oslanjala se na distribuiranu mrežu VPN-ova i proxy poslužitelja za prikrivanje stvarnog geografskog podrijetla upita. Međutim, OpenAI je implementirao sofisticirane metode praćenja IP adresa i analize mrežnog prometa kako bi mapirao ovu infrastrukturu i povezao naizgled nepovezane račune.
Za distribuciju sadržaja, operacija je koristila automatiziranu mrežu bot računa na društvenim medijima. Ovi botovi su primjenjivali algoritme za optimalno vrijeme objave i ciljanje specifičnih demografskih skupina. OpenAI je surađivao s platformama društvenih medija u identifikaciji i uklanjanju ovih računa. Također, suradnja s Microsoftom uključivala je razmjenu podataka te analizu potencijalno zlonamjernih aktivnosti u stvarnom vremenu.
Izvor: Bug.hr