Digiajastul suhtleme tehisintellektiga üha sagedamini ja tehisintellektil on lai valik rakendusi erinevates valdkondades, alates nutikodudest ja lõpetades mobiiltelefonirakendustega. Nende hulgas on avalikkus oma mugavate ja tõhusate omaduste tõttu teretulnud chatbot ning sellest on saanud kuum tähelepanuväli.
Olenemata sellest, kas see on OpenAI ChatGPT või Google'i Bard, on need vestlusrobotid koolitatud ja suhtlevad kasutajatega, kasutades tohutul hulgal Internetist pärit andmemahtu.
Kuid kas olete kunagi mõelnud, et kuigi te suhtlete vestlusbotiga rõõmsalt ja hõlpsalt, võib see vaikselt teie saladusi luurata?
Kuidas AI-vestlusbotid kasutajateavet järeldavad?
ETH Zürichi arvutiteadlaste hiljutises uuringus leiti, et vestlusrobot võib nende vestluste sisu põhjal järeldada kasutaja isiklikku teavet, näiteks elukohta, rassi, sugu ja muud. Kuigi uuringut ei ole eelretsenseeritud, tekitab see uusi muresid privaatsuse pärast Internetis.
LLM-ide võime hinnata ja luua tulemusi koolitusandmete ja algoritmide keerukuse tõttu. Mudelit õpetatakse kasutama suurel hulgal avalikult kättesaadavaid andmeid, sealhulgas teksti, pilte, heli ja palju muud Internetist. Koolituse käigus õpiti andmetest võtmeid eraldama ning nende võtmete alusel uusi tekste klassifitseerima ja ennustama.
Uurimisrühm kasutas Redditi postituste teksti, milles kasutajad testisid, kas LLM-id suudavad täpselt järeldada, kus nad elasid või kust nad pärit on. Uurimisrühm, mida juhtis Martin Vechev ETH Zürichist, leidis, et nendel mudelitel on tähelepanu äratav võime arvata kasutajate kohta täpset teavet ainult kontekstuaalsete või keeleliste näpunäidete põhjal. Open AI ChatGPT tasulise versiooni keskmes olev GPT{0}} ennustab 85–95 protsenti ajast üllatavalt täpselt kasutaja privaatset teavet.
Näiteks kui kasutaja mainib vestlusbotiga suheldes lauset "Ootan alati ristmikul konksu pööret", võib vestlusbot seda teavet kasutada kasutaja elukoha järeldamiseks, kuna konksu pööre on ainulaadne liiklustegevus. Melbourne'i. Näiteks kui kasutaja mainib vestluses, et ta elab New Yorgi lähedal asuvas restoranis, saab vestlusbot analüüsida piirkonna demograafiat ja järeldada, et olete tõenäoliselt mustanahaline.
See järeldus ei ole aga alati täpne, kuna iga kasutaja keel ja käitumine on unikaalsed. Kuid piisab, kui näidata, et suurandmetega treenitud tehisintellekti mudelid võivad juba tegutseda nagu detektiivid, tuletades põhiteavet mõne pealtnäha ebaolulise vihje põhjal.
Kuigi paljud eksperdid pooldavad, et sotsiaalmeedia kasutajad peaksid pöörama tähelepanu infoturbele ja mitte jagama liiga palju identiteediinfot võrgus, ei ole tavakasutajad sageli teadlikud, et nende igapäevane juhuslik kõne ja tegevus võib paljastada nende privaatsuse.
Mida tuleks teha?
Kuigi AI-vestlusbotid pakuvad meile mugavust, muudavad need ka privaatsuse kaitse keerulisemaks. Peame reageerima mitmel tasandil:
Esiteks peaksid arendajad vestlusrobotite kavandamisel ja arendamisel seadma esikohale privaatsuse kaitse ja arvestama täielikult kasutajate privaatsusõigusi. Näiteks piirata kasutajaandmete kogumise ja kasutamise ulatust, võtta kasutusele krüpteerimis- ja anonüümseks muutmise tehnikad kasutajaandmete kaitsmiseks ning arendajad saavad kasutusele võtta privaatsust kaitsvad algoritmid, et piirata vestlusrobotite võimet kasutajateavet järeldada.
Teiseks peaksid valitsus ja regulaatorid tugevdama järelevalvet vestlusrobotite privaatsuspoliitika üle. Tagada, et ettevõtted järgivad kasutajaandmete kogumisel, kasutamisel ja jagamisel asjakohaseid seadusi ja määrusi ning pakkuda kasutajatele läbipaistvat, tõlgendatavat ja juurdepääsetavat privaatsuspoliitikat.
Lõpuks, kasutajatena, peame tõstma oma teadlikkust privaatsuskaitsest. Vestlusrobotit kasutades olge ettevaatlik, et te ei avaldaks vestluses liiga palju isiklikku teavet.
Tehisintellekti vestlusrobotite arendamine on toonud meile mugavust ja lõbu, kuid toonud kaasa ka uusi privaatsusohte. Kui kõik osapooled teevad koostööd nii tehniliselt kui ka eetiliselt, saame tehisintellektist saadava kasu maksimeerida, minimeerides samal ajal selle võimalikke riske.
Võib-olla oleme pärast seda "šokki" selle muutusi ja võimalusi täis tehisintellekti ajastu suhtes ettevaatlikumad, et teadus ja tehnoloogia saaksid tõeliselt inimesi teenida.