Block, kompanija povezana sa Džekom Dorsijem, predstavila je istraživački glasovni model Dessa koji može da sluša i govori istovremeno. Razgovor uživo, sa pauzama, uzdasima i emocionalnim promenama u glasu, približava se prirodnijoj komunikaciji sa računarom. Ipak, najvažnija ograda je da model trenutno nije javno dostupan: kompanija ga je ponudila bezbednosnim istraživačima na ispitivanje, a ne svim korisnicima.
Razgovor bez čekanja na završetak rečenice
Dessa je opisan kao „ful-dupleks“ sistem, što znači da može istovremeno da prima govor i da odgovara. Kod uobičajenog glasovnog asistenta korisnik često mora da završi pitanje, sačeka obradu, pa tek onda čuje odgovor. Model koji prati razgovor u realnom vremenu mogao bi da omogući prirodnije prekidanje, dodatna pitanja i promenu teme, nalik razgovoru sa čovekom.
Model je treniran na ljudskom govoru, a prikazani primeri naglašavaju izražajniji glas, uključujući smeh i pauзе. To može da učini interakciju uverljivijom, ali uverljivost nosi i rizik: slušaocu može biti teže da prepozna da razgovara sa softverom. Zbog toga je važno da ovakvi sistemi jasno označe da je glas generisan veštačkom inteligencijom, posebno u telefonskim razgovorima i korisničkoj podršci.
Lokalni rad menja pitanje privatnosti
Prema navodima kompanije, Dessa može da radi na računaru za krajnje korisnike, a kao primer je pomenut MacBook M4 Max ili snažniji sistem. Lokalno izvršavanje može da smanji potrebu za slanjem svakog glasovnog isečka na udaljeni server, što je potencijalno korisno za privatnost i odziv. Međutim, to samo po sebi nije dokaz da se svi podaci obrađuju i čuvaju isključivo na uređaju; način rada moraće da bude jasno objašnjen kada proizvod bude dostupan.
Za lokalni rad potreban je dovoljno snažan računar, pa ova mogućnost ne znači da će model raditi na svakom laptopu ili telefonu. Kompanija nije objavila javno izdanje za instalaciju, pa korisnici ne mogu nezavisno da provere zahtevе, kvalitet zvuka ili ponašanje u različitim jezicima.
Bezbednosno testiranje nije sporedan detalj
Block je pozvao istraživače da ispituju bezbednost modela, uključujući mogućnost zloupotrebe u razgovorima. To je važan korak jer glasovna veštačka inteligencija može da se koristi za imitiranje sagovornika, obmanu ili automatizovane pozive koji deluju lično. Čak i kada je model napravljen za legitimnu podršku, napadači mogu pokušati da ga upotrebe u prevari ili da iskoriste njegovu sposobnost da održava razgovor.
Zaštita zato ne bi smela da se svede na pitanje da li glas zvuči prirodno. Potrebni su jasni signali da je u pitanju AI, ograničenja za osetljive radnje, pravila za beleženje poziva i provera identiteta kroz nezavisne kanale. Korisnik koji dobije neočekivan poziv sa zahtevom za uplatu, šifru ili podatke kartice treba da prekine razgovor i samostalno pozove zvaničan broj organizacije.
Šta to znači za korisnike u Srbiji
Za sada je Dessa istraživački projekat, bez potvrđene javne dostupnosti, lokalizacije na srpski ili podrške za domaće servise. Nema razloga da ga posmatramo kao alat koji je već spreman za svakodnevnu upotrebu. Ipak, pravac razvoja je važan: kada govor postane uverljiv i sistem odgovara bez pauze, glasovna prevara može delovati znatno ubedljivije nego automatizovani poziv kakav poznajemo danas.
Praktičan zaključak je jednostavan: ne tretirajte poznat glas kao dokaz identiteta. Dogovorite sa porodicom način provere u hitnim situacijama i ne saopštavajte osetljive podatke na osnovu poziva. Pre nego što se ovakvi modeli pojave u širokoj upotrebi, transparentnost i bezbednosne provere biće bar jednako važne kao kvalitet samog govora.