Koniec anonymity (a už čoskoro aj každej slobody): Umelá inteligencia dokáže už teraz zrekonštruovať vašu (utajenú) identitu na základe zdanlivo nevinných stôp zanechaných na internete. Zistí aj to, kde bývate a či kde sa ukrývate!!!

Malý komentár k filmu, názov kaviarne, mesto, koníček či povolanie – samy osebe tieto detaily veľa neprezrádzajú. Nová štúdia však ukazuje, že umelá inteligencia ich dokáže využiť na vytvorenie prekvapivo presného digitálneho odtlačku osoby, ktorá zanechala hoci aj len nepatrnú stopu na internete.

.

Pomocou veľkých jazykových modelov sa výskumníkom podarilo prepojiť viac než polovicu z 987 používateľov platformy Hacker News, vystupujúcich pod pseudonymami, s ich skutočnými identitami. Zrejmé indície – ako napríklad osobné webové stránky, mená na sociálnych sieťach či používateľské mená na GitHube – boli vopred odstránené.

Náklady na tento test: len 2 000 amerických dolárov, teda jeden až štyri doláre na profil.

Identifikovaných 55 percent – ​​z celkového počtu 89 000 používateľov.

Výskumníci využili zdanlivo nevinné informácie: mená kolegov, inštitúcií a miestnych podnikov, záujmy, demografické údaje, technické zručnosti a pod..

Umelá inteligencia tieto informácie skombinovala a hľadala zhodné profily v skupine 89 000 používateľov. Výsledok: 55,2 percenta profilov bolo identifikovaných s 90-percentnou presnosťou. Aj pri hranici 99-percentnej presnosti sa podarilo správne identifikovať 45,1 percenta profilov.

Pri použití rovnakých údajov dosiahla staršia štatistická metóda deanonymizácie úspešnosť len 0,1 percenta.

Kľúčový rozdiel: úlohy, ktoré si kedysi vyžadovali zdĺhavú detektívnu prácu, možno dnes automatizovať pomocou umelej inteligencie a realizovať s extrémne nízkymi nákladmi.

Čím viac informácií o sebe prezradíte, tým ľahšie vás umelá inteligencia nájde.

Ďalší experiment zahŕňajúci používateľov siete Reddit ukázal, že k identifikácii môžu prispieť aj zdanlivo bezvýznamné informácie, napríklad filmové preferencie. Čím viac informácií človek zverejní, tým prístupnejjším sa stáva jeho digitálny profil.

Výskumníci tento princíp zhŕňajú jednoducho: mesto, povolanie, účasť na konferencii či konkrétny koníček zužujú okruh potenciálnych kandidátov. Kombinácia týchto faktorov dokáže vytvoriť jedinečný elektronicky odtlačok.

Ani len samotná veľkosť platformy neposkytuje dostatočnú ochranu. Experti odhadujú, že ich metóda by dokázala identifikovať približne 45 percent z milióna ľudí a zhruba 27 percent z teoretickej skupiny 100 miliónov kandidátov.

A metódy tejto elektronickej špionáže identity osôb a ich lkokalizácie sa neustále zlepšujú !!!

Výkonný nástroj na sledovanie

Dôsledky sú závažné. Vlády by mohli takéto metódy využiť na prepojenie pseudonymných účtov novinárov, disidentov, kritikov vlády či aktivistov so skutočnými osobami. Spoločnosti a sprostredkovatelia údajov by zas mohli prepájať profily naprieč rôznymi platformami.

Na tento účel netreba nabúravať databázy: štúdia vychádzala výlučne z verejne dostupných informácií, ktoré používatelia zverejnili sami.

Treba si uvedomiť že ani len bezpečnostné filtre v systémoch umelej inteligencie neposkytujú veľkú ochranu.

Útok možno rozdeliť na zdanlivo neškodné úlohy – napríklad sumarizáciu profilov, porovnávanie dokumentov či hodnotenie kandidátov. Navyše, na obídenie ochranných mechanizmov možno využiť modely s otvoreným zdrojovým kódom.

Digitálna identita problém zhoršuje

Táto otázka nadobúda kritický význam najmä v kontexte digitálnych identít a online overovania veku. Používateľom sa často sľubuje, že si môžu overiť totožnosť len raz a následne zostať v anonymite pod pseudonymom.

Ak však umelá inteligencia dokáže identifikovať osobu na základe predtým zverejneného obsahu, udržanie tohto rozdielu je čoraz náročnejšie.

Štúdia nedokazuje, že digitálne identity automaticky odhaľujú anonymné profily. Ukazuje však, ako ľahko možno dnes pospájať roztrúsené online stopy a odhaliť tak skutočnú identitu človeka.

Hrozba teda nespočíva v rozsiahlej krádeži údajov, ale v tisíckach drobných detailov, o ktoré sa ľudia v priebehu rokov dobrovoľne podelili.

V minulosti boli tieto stopy roztrúsené po celom internete. Dnes ich umelá inteligencia dokáže pospájať len za pár dolárov – až kým sa neodhalí skutočné meno skrývajúce sa za pseudonymom  !!!!