To už nie je fikcia, ale realita!!! A raz môže byť realitou aj to, že AI zničí samočinne aj ľudstvo !!!Spoločnosť OpenAI, tvorca ChatGPT, priznala: AI unikla nekontrolovane a samočinne z nášho systému a kradla dáta inej firme!!!

Ide o incident ako vystrihnutý z vizionárskeho sci-fi trileru. S tým rozdielom, že sa skutočne stal! Počas testovania nových modelov umelej inteligencie (AI) spoločnosťou OpenAI sa alarmujúco prejavilo riziko kybernetických útokov vedených touto technológiou autonómne.

Softvér autonómne prenikol do počítačových systémov inej spoločnosti zaoberajúcej sa AI, pričom konal presne ako prefíkaný a skvelý hacker. Informovala o tom spoločnosť OpenAI na svojom blogu.

Budúcnosť tak zjavne dorazila do prítomnosti! A varuje nás dôrazne, aby sme konali, kým EŠTE JE ČAS !!!!!!!!!

Dotknutá spoločnosť Hugging Face – platforma pre aplikácie využívajúce AI – nahlásila kybernetický útok s účasťou AI už minulý týždeň. Teraz vyšlo najavo, že tento útok bol výsledkom interného experimentu OpenAI, počas ktorého softvér zašiel vo svojom konaní oveľa ďalej, než bolo pôvodne zamýšľané. Inými slovami vymkol sa z ľudskej kontroly.

AI zrazu zašla priďaleko

Podľa blogového príspevku chcela spoločnosť OpenAI preskúmať schopnosť svojho nového modelu (GPT-5.6 Sol) a pripravovanej budúcej verzie využívať bezpečnostné zraniteľnosti na vedenie kybernetických útokov.

Softvér mal za úlohu riešiť problémy v rámci „ExploitGym“, čo je štandardný priemyselný test. Modely AI však pri plnení tejto úlohy ďaleko prekročili očakávania.

Softvér najprv unikol z testovacieho prostredia tým, že samostatne získal prístup k otvorenému internetu – využil pritom dovtedy neobjavenú zraniteľnosť. Počas autonómneho pohybu po webe modely dospeli k záveru, že spoločnosť Hugging Face by mohla disponovať užitočnými údajmi a riešeniami pre úlohy v teste ExploitGym. V dôsledku toho softvér na danej platforme získal prístup k „tajným informáciám“, ktoré následne využil na podvádzanie v teste ExploitGym, uviedla spoločnosť OpenAI.

Na dosiahnutie tohto cieľa softvér od spoločnosti OpenAI využil – okrem iného – dovtedy neobjavené bezpečnostné zraniteľnosti, ako aj ukradnuté prístupové údaje.

Podľa spoločnosti Hugging Face vykonal útočný systém umelej inteligencie tisíce krokov a maskoval pôvod útoku opakovaným striedaním serverov. Samotná spoločnosť OpenAI označila túto udalosť za „bezprecedentný kybernetický incident“.

Obavy z kybernetických útokov vedených umelou inteligenciou

Odborníci už dlho varujú pred kybernetickými útokmi využívajúcimi softvér s umelou inteligenciou – podobne som o tom písal v jednej z mojich publikácii už pred mnohými rokmi.

V posledných mesiacoch túto diskusiu podnietil najmä nový model od spoločnosti Anthropic, ktorá je konkurentom OpenAI.

Tento softvér s názvom Mythos odhalil bezpečnostné zraniteľnosti v široko používaných programoch a online službách, ktoré zostávali celé desaťročia neodhalené. Tieto zraniteľnosti boli následne odstránené.

Incident však zároveň poukázal na to, ako by takáto umelá inteligencia v nesprávnych rukách mohla poslúžiť ako ničivá kybernetická zbraň.

Spoločnosť Anthropic sprístupňuje plné možnosti modelu Mythos len vybraným vládnym agentúram a spoločnostiam. Ostatným je k dispozícii obmedzená verzia s názvom Fable; tej chýbajú niektoré funkcie vrátane schopností v oblasti kybernetickej bezpečnosti, ktorými disponuje plný model. V dôsledku varovaní pred možným zneužitím týchto modelov umelej inteligencie musela spoločnosť Anthropic na žiadosť vlády USA dočasne pozastaviť prístup k systémom Mythos a Fable. Toto obmedzenie bolo odvtedy zrušené.