4 500 betörési kísérlet: biztonságos az AI-val írt szoftver?
Esettanulmány
Szombaton késő este valaki nekiállt feltörni egy alkalmazást, amelyet AI-val építettünk az egyik ügyfelünknek, egy digitális marketingügynökségnek. Négy napon át próbálkozott, több mint 4 500 jelszót próbált ki, minden kitiltás után új álarcot vett fel, és a végén üres kézzel távozott.
Azt, hogy valaki próbálkozzon, senki nem tudja megakadályozni: az interneten bárki bármelyik ajtón kopogtathat. Egy alkalmazás attól biztonságos, hogy a próbálkozás hiábavaló, és ez az alkalmazás az első naptól így épült.
Elmesélem, hogyan telt ez a négy nap, és közben válaszolok arra is, amit gyakran kérdeznek tőlünk: tényleg biztonságos az AI-val írt szoftver?
Szombat este: idegen az ajtó előtt
Az alkalmazás belső eszköz. Benne van az ügynökség összes ügyfelének hirdetési adata, és néhány gombja valódi pénzt mozgat: büdzsét emel, licitet módosít, hirdetést állít le.
Budapesti idő szerint 21:38-kor egy tengerentúlon bérelt szerver kezdett adatokat kérni az alkalmazásból, méghozzá nem a weboldalon keresztül, hanem közvetlenül az adatbázisból. Ez kevésbé ijesztő, mint amilyennek hangzik: a legtöbb mai alkalmazásnál a böngésződ közvetlenül az adatbázisból kér adatokat, ahogy egy irodaház kapuján is bárki becsengethet. Az számít, mi történik, amikor egy idegen csenget.
Vasárnap írt nekem az ügynökség tulajdonosa: a munkatársak olyan bejelentkezési és jelszó-visszaállító e-maileket kaptak, amelyeket senki nem kért. Lehet, hogy valahol lyukas a rendszer?
Nem volt lyukas. Jelszó-visszaállítást bárki kérhet bármelyik weboldalon, ha ismeri az e-mail-címedet, bejutni viszont ettől még nem tud. Az e-mailek csak azt jelezték, hogy valaki kívülről próbálkozik, a rendszer pedig szombat este óta magától verte vissza minden kísérletét.
Mivel próbálkozott a támadó
A rendszer naplója alapján a támadó mintha egy betörő teendőlistáját követte volna.
- Feltérképezte az épületet. Nem létező helyiségekre kérdezett rá, az adatbázis pedig válaszul megadta a valódi helyiségek nevét. Ezek a nevek nem titkosak: olyanok, mint egy irodaház előcsarnokában a névtábla, amely megmutatja, melyik iroda hol van, de azt nem, mi van a fiókokban.
- Minden kilincset lenyomott, és még vagy száz kitalált ajtóét is, „titkok” és „fizetési kulcsok” néven. Mindenhol üres listát kapott válaszul.
- Jelszavakat tippelt, már az első éjszaka több százat.
- Átveréssel is próbálkozott, amikor hamis jelszó-visszaállítási kérést küldött, hogy a link az ő weboldalára mutasson. A rendszer nem vett róla tudomást.
- Álarcot váltott, amint a rendszer beépített korlátja megfogta a sorozatos próbálkozásait: névtelenséget biztosító hálózatról próbálkozott tovább, és szinte minden tipphez új címet használt.
Ez nem egy találomra próbálkozó robot volt: a próbálkozásaiban használt szavak között másodperceken belül felbukkant az ügynökség egyik saját ügyfelének, egy fizetési szolgáltatónak a neve. Valószínűleg annak a fizetési kulcsait kereste, egy olyan beszállítón keresztül, amelyről azt remélte, hogy kevésbé védett. Tévedett, a kulcsokat pedig az alkalmazás soha nem is tárolta.
Miért nem jutott ki semmi
Az alkalmazás bejelentkezését és jogosultsági rendszerét AI-val építettem (itt írtam le, hogyan dolgozunk vele). Mielőtt egyetlen sor kód elkészült volna, leírtunk két szabályt, és meghoztunk egy döntést: a fizetési kulcsok nem kerülnek az alkalmazásba.
Az első, hogy az adatbázis minden egyes adatnál megnézi, ki kérdez: nemcsak azt, hogy beléphetsz-e az épületbe, hanem azt is, hogy pont ezt az adatot láthatod-e. Egy idegenhez egyetlen adat sem tartozik, úgyhogy egy idegen üres listát kap.
A második, hogy a képernyők önmagukban nem védik meg az adatokat. Attól, hogy egy gomb nincs a képernyőn, a mögötte lévő műveletet még bárki elindíthatja egy egyszerű programmal, ezért minden lényeges szabályt magába az adatbázisba építettünk.
Négy nap alatt a támadó egyetlen adatot sem tudott elolvasni, módosítani vagy törölni, és egyetlen fiókba sem jutott be. Ezt a két szabály és ez az egy döntés érte el, még mielőtt bármin változtattunk volna.
Vasárnap: még egy zár minden ajtóra
Addigra semmi nem jutott ki. Mégis ráerősítettünk a védelemre, hogy a támadónak próbálkozni se legyen mivel.
Az AI három rendszer naplóit olvasta végig, és minden változtatást biztonságos környezetben próbált ki, a döntéseket pedig én hoztam meg, és minden lépést én hagytam jóvá (itt írtam arról, miért számít ez). Egy nap alatt négy új réteget tettünk a meglévő védelemre:
- szigorúbb jelszószabályt vezettünk be, a jelszavakat pedig a kiszivárgott jelszavak listáival is összevetjük;
- a bejelentkező oldalra kitettünk egy „bizonyítsd be, hogy nem vagy robot” ellenőrzést;
- az idegenek üres lista helyett már semmilyen választ nem kapnak;
- minden olyan fiókból töröltük a tárolt jelszót, amelynek nem volt rá szüksége. Ezek a felhasználók azóta e-mailben kapott linkkel lépnek be, olyan jelszót pedig senki nem tud kitalálni, amely nem létezik.
Közben a saját szabályainkat is próbára tettük: minden felhasználótípussal megpróbáltuk mindazt, ami az adott felhasználónak tilos. Egy helyen szigorítottunk, ahol egy bejelentkezett ügyfél a saját fiókja néhány beállítását a képernyőkön kívül is át tudta állítani. Ennek a támadáshoz nem volt köze, hiszen a támadó egyszer sem tudott bejelentkezni, és más adatához így sem fért volna hozzá senki. Ez a próba azóta minden élesítés előtt automatikusan lefut.
A robotellenőrzést 16:49-kor kapcsoltuk be, és a támadás öt percen belül elcsendesedett.
Egy ponton az AI jelentette, hogy a támadás leállt. Megkérdeztem, honnan tudja, és amikor a naplók hosszabb szakaszát is átnéztük, kiderült, hogy a támadó még mindig próbálkozik. Ezt a kérdést neked kell feltenned, mert egyetlen AI sem teszi meg helyetted.
Vasárnap éjjel és hétfő: a visszatérés
Három órával később a támadó visszatért, és az éjszaka folyamán 3 629 alkalommal próbált jelszóval bejutni. Egyik próbálkozása sem járt sikerrel, mert már nem volt jelszó, amelyet ki lehetett volna találni.
Ezúttal egy robotot használt, amely egy valódi böngészőt irányított, így a próbálkozások nagyjából 80%-a a robotellenőrzésen is átjutott. Az ilyen ellenőrzés, amilyet a legtöbb weboldalon látsz, az egyszerű programokat szűri ki, egy valódi böngészőt irányító robot viszont bárhol át tud menni rajta, ezért nálunk nem ez volt az egyetlen zár.
Hétfőn a naplókból kiderült, hogyan csinálta. Aki átmegy a robotellenőrzésen, rövid időre szóló igazolást kap arról, hogy ember, és jelszót csak ezzel lehet kipróbálni. A robot újra és újra megnyitotta a bejelentkező oldalt, hogy friss igazoláshoz jusson. A kitiltás önmagában nem védelem, mert a kitiltott támadó egyszerűen bérel egy másik címet, ezért addig nem is erre építettünk. Most viszont volt értelme: a tárhelyszolgáltatója teljes hálózatát kitiltottuk a weboldalunkról, így a robot nem tudta többé megnyitni az oldalt, és nem jutott új igazoláshoz. A szolgáltatójának pedig jeleztük, hogy a szerverről támadás érkezik.
Kedd, 04:25: az utolsó próbálkozás
Hajnal előtt két irányból jött vissza: az eredeti szerveréről és egy újról, egy fizetős VPN-szolgáltatás mögül. Mind a 168 kérését, amelyet a szombaton megismert nevekkel küldött, azonnal elutasította a rendszer, és a 25 jelszótippből egy sem jutott át a robotellenőrzésen. Az oldalunkat már nem tudta megnyitni, így igazolást sem kapott.
Szóval biztonságos az AI-val írt szoftver?
Nem ez a jó kérdés. Sok AI-val épített app olyan adatbázis-szolgáltatásra épül, amely évekig alapbeállításban nyitva hagyta az új adatokat a névtelen látogatók előtt, amíg az alkalmazás készítője be nem kapcsolta az adatonkénti ellenőrzést. Mi az első naptól minden adatra bekapcsoltuk.
Ezért azokban az ismert esetekben, amikor egy AI-val épített app teljes adatbázisa kiszivárog, ritkán a rossz kód a hibás, sokkal inkább egy nyitva hagyott ajtó, mert az alkalmazás készítőjének senki nem szólt, hogy be kell zárnia. Az AI gyönyörű alkalmazást épít neked nyitott hátsó ajtóval, ha a hátsó ajtót soha nem hozod szóba, és lehet, hogy ugyanezt tenné egy kezdő fejlesztő is.
| Szempont | A kiszivárgott appok | Ez az alkalmazás |
|---|---|---|
| Adatonkénti ellenőrzés | Kikapcsolva maradt | Az első naptól minden adatra él |
| Mit kap egy idegen? | A teljes adatbázist | Semmit |
| Ki próbálja ki, hogy tart-e a védelem? | Először a támadó | Mi magunk, minden élesítés előtt |
Ezt az alkalmazást az tartotta biztonságban, amit még az első sor kód előtt eldöntöttünk:
- Minden adatnál nézd meg, ki kérdez, kivétel nélkül.
- Ne hidd, hogy a képernyők megvédik az adataidat. Lesz, aki közvetlenül az adatbázisodból próbál adatokat kérni.
- A legértékesebb kulcsokat ne az alkalmazásban tartsd. A fizetési kulcsok itt soha nem voltak az adatbázisban, így nem volt mit megtalálni.
A négy nap alatt ezekkel egészítettük ki őket:
- Az idegen ne kapjon semmit, még egy üres szobát sem.
- Ne tárolj jelszót, ha nem muszáj. Ha nincs jelszó, nincs mit kitalálni.
- Tesztelj úgy, hogy megpróbálod kijátszani a szabályokat. Lépj be minden felhasználótípussal, és próbáld megtenni mindazt, ami az adott felhasználónak tilos.
- Soha ne bízz egyetlen zárban. A robotellenőrzést bármelyik weboldalon ki lehet játszani, ezért nálunk csak egy a zárak közül.
- Olvasd a naplókat, mert megmutatják, melyik lépés ér valamit.
Az AI-val gyorsabban épült meg az alkalmazás, és a támadás idején is gyorsabban tudtunk ráerősíteni: hetek helyett órák alatt. De az alkalmazás attól maradt biztonságos, hogy tudtuk, mit kérjünk az AI-tól. Az AI-val írt szoftver biztonsága azon múlik, hogy a készítője tudja-e, milyen védelmet kérjen tőle.
Ha AI-val építesz, vagy építtettél valamit, és nem vagy biztos benne, mi van a bejárati ajtó mögött, szívesen megnézzük. Szolgáltatásainkról itt olvashatsz.
Ez a cikk az Andronia blogján jelent meg. Az Andronia magyar vállalkozásoknak segít AI-automatizálással növekedni. Szolgáltatásainkról itt olvashatsz.