← Blog

4 500 betörési kísérlet: biztonságos az AI-val írt szoftver?

4 500 betörési kísérlet: biztonságos az AI-val írt szoftver?

Esettanulmány

Szombaton késő este valaki nekiállt feltörni egy alkalmazást, amelyet AI-val építettünk az egyik ügyfelünknek, egy digitális marketingügynökségnek. Négy napon át próbálkozott, több mint 4 500 jelszót próbált ki, minden kitiltás után új álarcot vett fel, és a végén üres kézzel távozott.

Azt, hogy valaki próbálkozzon, senki nem tudja megakadályozni: az interneten bárki bármelyik ajtón kopogtathat. Egy alkalmazás attól biztonságos, hogy a próbálkozás hiábavaló, és ez az alkalmazás az első naptól így épült.

Elmesélem, hogyan telt ez a négy nap, és közben válaszolok arra is, amit gyakran kérdeznek tőlünk: tényleg biztonságos az AI-val írt szoftver?

4
napig tartó támadás
4 500+
kipróbált jelszó
0
ellopott adat
0
feltört fiók

Szombat este: idegen az ajtó előtt

Az alkalmazás belső eszköz. Benne van az ügynökség összes ügyfelének hirdetési adata, és néhány gombja valódi pénzt mozgat: büdzsét emel, licitet módosít, hirdetést állít le.

Budapesti idő szerint 21:38-kor egy tengerentúlon bérelt szerver kezdett adatokat kérni az alkalmazásból, méghozzá nem a weboldalon keresztül, hanem közvetlenül az adatbázisból. Ez kevésbé ijesztő, mint amilyennek hangzik: a legtöbb mai alkalmazásnál a böngésződ közvetlenül az adatbázisból kér adatokat, ahogy egy irodaház kapuján is bárki becsengethet. Az számít, mi történik, amikor egy idegen csenget.

Vasárnap írt nekem az ügynökség tulajdonosa: a munkatársak olyan bejelentkezési és jelszó-visszaállító e-maileket kaptak, amelyeket senki nem kért. Lehet, hogy valahol lyukas a rendszer?

Nem volt lyukas. Jelszó-visszaállítást bárki kérhet bármelyik weboldalon, ha ismeri az e-mail-címedet, bejutni viszont ettől még nem tud. Az e-mailek csak azt jelezték, hogy valaki kívülről próbálkozik, a rendszer pedig szombat este óta magától verte vissza minden kísérletét.

Mivel próbálkozott a támadó

A rendszer naplója alapján a támadó mintha egy betörő teendőlistáját követte volna.

Ez nem egy találomra próbálkozó robot volt: a próbálkozásaiban használt szavak között másodperceken belül felbukkant az ügynökség egyik saját ügyfelének, egy fizetési szolgáltatónak a neve. Valószínűleg annak a fizetési kulcsait kereste, egy olyan beszállítón keresztül, amelyről azt remélte, hogy kevésbé védett. Tévedett, a kulcsokat pedig az alkalmazás soha nem is tárolta.

Miért nem jutott ki semmi

Az alkalmazás bejelentkezését és jogosultsági rendszerét AI-val építettem (itt írtam le, hogyan dolgozunk vele). Mielőtt egyetlen sor kód elkészült volna, leírtunk két szabályt, és meghoztunk egy döntést: a fizetési kulcsok nem kerülnek az alkalmazásba.

Az első, hogy az adatbázis minden egyes adatnál megnézi, ki kérdez: nemcsak azt, hogy beléphetsz-e az épületbe, hanem azt is, hogy pont ezt az adatot láthatod-e. Egy idegenhez egyetlen adat sem tartozik, úgyhogy egy idegen üres listát kap.

A második, hogy a képernyők önmagukban nem védik meg az adatokat. Attól, hogy egy gomb nincs a képernyőn, a mögötte lévő műveletet még bárki elindíthatja egy egyszerű programmal, ezért minden lényeges szabályt magába az adatbázisba építettünk.

Négy nap alatt a támadó egyetlen adatot sem tudott elolvasni, módosítani vagy törölni, és egyetlen fiókba sem jutott be. Ezt a két szabály és ez az egy döntés érte el, még mielőtt bármin változtattunk volna.

Vasárnap: még egy zár minden ajtóra

Addigra semmi nem jutott ki. Mégis ráerősítettünk a védelemre, hogy a támadónak próbálkozni se legyen mivel.

Az AI három rendszer naplóit olvasta végig, és minden változtatást biztonságos környezetben próbált ki, a döntéseket pedig én hoztam meg, és minden lépést én hagytam jóvá (itt írtam arról, miért számít ez). Egy nap alatt négy új réteget tettünk a meglévő védelemre:

Közben a saját szabályainkat is próbára tettük: minden felhasználótípussal megpróbáltuk mindazt, ami az adott felhasználónak tilos. Egy helyen szigorítottunk, ahol egy bejelentkezett ügyfél a saját fiókja néhány beállítását a képernyőkön kívül is át tudta állítani. Ennek a támadáshoz nem volt köze, hiszen a támadó egyszer sem tudott bejelentkezni, és más adatához így sem fért volna hozzá senki. Ez a próba azóta minden élesítés előtt automatikusan lefut.

A robotellenőrzést 16:49-kor kapcsoltuk be, és a támadás öt percen belül elcsendesedett.

Egy ponton az AI jelentette, hogy a támadás leállt. Megkérdeztem, honnan tudja, és amikor a naplók hosszabb szakaszát is átnéztük, kiderült, hogy a támadó még mindig próbálkozik. Ezt a kérdést neked kell feltenned, mert egyetlen AI sem teszi meg helyetted.

Vasárnap éjjel és hétfő: a visszatérés

Három órával később a támadó visszatért, és az éjszaka folyamán 3 629 alkalommal próbált jelszóval bejutni. Egyik próbálkozása sem járt sikerrel, mert már nem volt jelszó, amelyet ki lehetett volna találni.

Ezúttal egy robotot használt, amely egy valódi böngészőt irányított, így a próbálkozások nagyjából 80%-a a robotellenőrzésen is átjutott. Az ilyen ellenőrzés, amilyet a legtöbb weboldalon látsz, az egyszerű programokat szűri ki, egy valódi böngészőt irányító robot viszont bárhol át tud menni rajta, ezért nálunk nem ez volt az egyetlen zár.

Hétfőn a naplókból kiderült, hogyan csinálta. Aki átmegy a robotellenőrzésen, rövid időre szóló igazolást kap arról, hogy ember, és jelszót csak ezzel lehet kipróbálni. A robot újra és újra megnyitotta a bejelentkező oldalt, hogy friss igazoláshoz jusson. A kitiltás önmagában nem védelem, mert a kitiltott támadó egyszerűen bérel egy másik címet, ezért addig nem is erre építettünk. Most viszont volt értelme: a tárhelyszolgáltatója teljes hálózatát kitiltottuk a weboldalunkról, így a robot nem tudta többé megnyitni az oldalt, és nem jutott új igazoláshoz. A szolgáltatójának pedig jeleztük, hogy a szerverről támadás érkezik.

Kedd, 04:25: az utolsó próbálkozás

Hajnal előtt két irányból jött vissza: az eredeti szerveréről és egy újról, egy fizetős VPN-szolgáltatás mögül. Mind a 168 kérését, amelyet a szombaton megismert nevekkel küldött, azonnal elutasította a rendszer, és a 25 jelszótippből egy sem jutott át a robotellenőrzésen. Az oldalunkat már nem tudta megnyitni, így igazolást sem kapott.

Szóval biztonságos az AI-val írt szoftver?

Nem ez a jó kérdés. Sok AI-val épített app olyan adatbázis-szolgáltatásra épül, amely évekig alapbeállításban nyitva hagyta az új adatokat a névtelen látogatók előtt, amíg az alkalmazás készítője be nem kapcsolta az adatonkénti ellenőrzést. Mi az első naptól minden adatra bekapcsoltuk.

Ezért azokban az ismert esetekben, amikor egy AI-val épített app teljes adatbázisa kiszivárog, ritkán a rossz kód a hibás, sokkal inkább egy nyitva hagyott ajtó, mert az alkalmazás készítőjének senki nem szólt, hogy be kell zárnia. Az AI gyönyörű alkalmazást épít neked nyitott hátsó ajtóval, ha a hátsó ajtót soha nem hozod szóba, és lehet, hogy ugyanezt tenné egy kezdő fejlesztő is.

SzempontA kiszivárgott appokEz az alkalmazás
Adatonkénti ellenőrzésKikapcsolva maradtAz első naptól minden adatra él
Mit kap egy idegen?A teljes adatbázistSemmit
Ki próbálja ki, hogy tart-e a védelem?Először a támadóMi magunk, minden élesítés előtt

Ezt az alkalmazást az tartotta biztonságban, amit még az első sor kód előtt eldöntöttünk:

  1. Minden adatnál nézd meg, ki kérdez, kivétel nélkül.
  2. Ne hidd, hogy a képernyők megvédik az adataidat. Lesz, aki közvetlenül az adatbázisodból próbál adatokat kérni.
  3. A legértékesebb kulcsokat ne az alkalmazásban tartsd. A fizetési kulcsok itt soha nem voltak az adatbázisban, így nem volt mit megtalálni.

A négy nap alatt ezekkel egészítettük ki őket:

  1. Az idegen ne kapjon semmit, még egy üres szobát sem.
  2. Ne tárolj jelszót, ha nem muszáj. Ha nincs jelszó, nincs mit kitalálni.
  3. Tesztelj úgy, hogy megpróbálod kijátszani a szabályokat. Lépj be minden felhasználótípussal, és próbáld megtenni mindazt, ami az adott felhasználónak tilos.
  4. Soha ne bízz egyetlen zárban. A robotellenőrzést bármelyik weboldalon ki lehet játszani, ezért nálunk csak egy a zárak közül.
  5. Olvasd a naplókat, mert megmutatják, melyik lépés ér valamit.

Az AI-val gyorsabban épült meg az alkalmazás, és a támadás idején is gyorsabban tudtunk ráerősíteni: hetek helyett órák alatt. De az alkalmazás attól maradt biztonságos, hogy tudtuk, mit kérjünk az AI-tól. Az AI-val írt szoftver biztonsága azon múlik, hogy a készítője tudja-e, milyen védelmet kérjen tőle.

Ha AI-val építesz, vagy építtettél valamit, és nem vagy biztos benne, mi van a bejárati ajtó mögött, szívesen megnézzük. Szolgáltatásainkról itt olvashatsz.


Ez a cikk az Andronia blogján jelent meg. Az Andronia magyar vállalkozásoknak segít AI-automatizálással növekedni. Szolgáltatásainkról itt olvashatsz.

↑ tetejére