A mesterséges intelligencia veszélyei: mi valós, és mi túlzás?
Ha mostanában olvastál a mesterséges intelligenciáról, jó eséllyel ijesztő címekbe is belefutottál: az AI kicsúszik az irányításunk alól, öntudatra ébred, elveszi a munkánkat, vagy valami még rosszabb történik.
Az aggodalom jogos, és komoly szakemberek is foglalkoznak vele. A hírfolyamban viszont a legdrámaibb forgatókönyvek kapják a legtöbb figyelmet, a hétköznapi kockázatok pedig a legkevesebbet. Ebben a cikkben szétválogatjuk, mi valós, mi túlzás, és mire érdemes tényleg figyelni.
Mi mindennap AI-val dolgozunk: ügyfeleinknek építünk vele rendszereket, és a saját munkánk nagy részét is vele végezzük. Ezt a cikket is ebből a tapasztalatból írtuk.
Miért hallunk annyi ijesztő jóslatot?
A figyelemért folyó versenyben a drámai történet mindig előnyben van. Egy „minden rendben lesz” cím ritkán terjed el, egy „két évünk maradt” cím sokkal gyakrabban.
Ráadásul a téma valóban vitatott. 2023-ban több száz kutató és technológiai vezető, köztük a legnagyobb AI-fejlesztő cégek vezetői, közös nyilatkozatban szögezte le, hogy az AI-hoz kapcsolódó legsúlyosabb, akár civilizációs szintű kockázatok csökkentése legyen globális prioritás. Más elismert kutatók szerint ezek a forgatókönyvek erősen túlzók. Valódi szakmai vita folyik tehát, csak a hírekbe többnyire a legélesebb mondatok kerülnek be belőle.
Ahhoz, hogy eligazodj, érdemes megérteni, mi történik valójában egy AI-rendszer belsejében.
Hogyan működik valójában egy nyelvi modell?
A modell egy fájl. Egy nyelvi modell, akár a ChatGPT, a Claude vagy a Gemini mögött dolgozik, lényegében egy hatalmas számhalmaz: számok milliárdjai (paraméterek), amelyeket a betanítás során rengeteg szöveg alapján állítottak be. Egyetlen feladata van: megjósolni, milyen szövegdarab folytatja a legnagyobb valószínűséggel azt, amit kapott. Ezt elképesztően jól csinálja, de amit csinál, az válasz, nem szándék.
Csak akkor fut, amikor kérdezel. A modell nem egy folyamatosan működő gondolkodó. Minden kérés egy különálló számítás: bemegy egy szöveg, kijön egy válasz, és a számítás véget ér. Két kérdés között nem csinál semmit, számára az idő sem telik, és nem gondolja tovább, amit mondtál. Ha senki nem kérdez semmit, nem történik semmi.
Nem emlékszik, és menet közben sem tanul. Amikor egy chat „emlékszik” arra, amit korábban írtál, valójában a program minden újabb üzenetnél újra odaadja a modellnek a teljes beszélgetést. A memóriafunkciók is így működnek: a program jegyzeteket ment szövegként, és később visszaadja őket. Maga a modell használat közben nem változik, a számai rögzítettek. Új tudást csak egy új betanítás ad neki, azt pedig emberek indítják el, hetekig vagy hónapokig tart, és rengeteg pénzbe kerül.
Az agent is ember alkotta keret. Ma már vannak agentek, amelyek órákig dolgoznak önállóan (itt írtunk róluk részletesen). Az agent mögött azonban nem a modell saját akarata áll, hanem egy program, amelyet emberek írtak: újra és újra hívja a modellt, és csak azokat az eszközöket adja a kezébe, amelyeket valaki engedélyezett. Minden ilyen munkamenetet valaki elindít, valaki kijelöli a feladatát, és valaki fizet érte, tokenenként. Egy agent éjjel háromkor sem kezd bele semmibe, amit előtte nem bíztak rá. Az önállósága pontosan akkora, amekkorát egy ember megenged neki.
Öntudatra ébredhet a mesterséges intelligencia?
Ez az egyik leggyakoribb kérdés, és a filmek nem sokat segítenek a megválaszolásában.
A kutatók többsége szerint a mai modelleknek nincs tudatuk: szöveget jósolnak, nem élnek át semmit. Hogy egy jövőbeli rendszernek lehet-e tudata, az nyitott kérdés, legalább annyira filozófiai, mint technikai. Abban sincs egyetértés, mi is pontosan a tudat.
Gyakorlati szempontból azonban van egy fontosabb kérdés: mit tud megtenni egy rendszer, és ki dönt erről. A mai AI-rendszerek azon a kereten belül működnek, amelyet emberek jelölnek ki nekik. Ez a keret a valódi biztonsági kérdés.
Mitől tartanak a kutatók?
A komolyabb szakmai aggodalmak nem is a tudatról szólnak. Nick Bostrom filozófus híres gondolatkísérletében egy AI-nak egyetlen célja van: minél több gemkapcsot gyártani. Se nem gonosz, se nem tudatos, csak következetes, és a végén mindent ennek a célnak rendel alá. A tanulság: egy rendszer öntudat nélkül is okozhat kárt, ha rosszul megadott célt kap, túl sok mindenhez fér hozzá, és senki nem felügyeli.
Ez komoly szempont. A jó hír, hogy mindhárom elem emberi döntésen múlik: ki milyen célt ad egy rendszernek, mihez enged hozzáférést, és hogyan ellenőrzi. Ez mérnöki és felelősségi kérdés, amilyennel a hidak, a repülők vagy az atomerőművek esetében is foglalkozunk. Az EU AI Act is részben erről szól: a magas kockázatú alkalmazásoknál emberi felügyeletet és dokumentációt ír elő.
A mesterséges intelligencia valódi veszélyei ma
A legkézzelfoghatóbb kockázatok nem a távoli jövőben várnak ránk, hanem már itt vannak, és emberek okozzák őket, AI-val.
- Csalások. A Magyar Nemzeti Bank 2025 decemberében arra figyelmeztetett, hogy a csalók már AI-val készített üzeneteket és webshopokat használnak, amelyeket „szinte lehetetlen felismerni”. Az ESET már 2024-ben jelezte, hogy a bűnözők rokonok klónozott hangjával telefonálnak.
- Hanyag bevezetés. Egy rosszul beállított AI-rendszer kiszivárogtathat ügyféladatokat, vagy magabiztosan adhat téves választ. Erről itt és itt írtunk bővebben.
- Adatvédelem. Amit egy nyilvános chatbotba bemásolsz, az kikerül a kezedből. Céges adatot és ügyféladatot csak olyan eszközzel érdemes megosztani, amelynek ismered az adatkezelési feltételeit.
- A munka átalakulása. Egyes feladatokat az AI átvesz, és ez bizonyos munkaköröket jobban érint, mint másokat. Erről őszintén kell beszélni, rémisztgetés és elhallgatás nélkül.
Mit tehetsz?
Magánemberként:
- Beszéljetek meg a családban egy jelszót, amelyet csak ti ismertek. Ha egy „rokon” telefonon sürgősen pénzt kér, kérdezd meg tőle.
- Ha egy üzenet vagy webshop gyanúsan jó ajánlatot tesz, vagy sürget, ellenőrizd független forrásból, mielőtt fizetnél.
Cégvezetőként:
- Tartsd számon, milyen AI-eszközöket használnak a munkatársaid, és milyen adatokkal.
- Egy AI-rendszer csak ahhoz férjen hozzá, amire a feladatához tényleg szüksége van.
- Ahol egy hiba ügyfelet vagy pénzt érint, ott egy ember hagyja jóvá a lépéseket.
A mesterséges intelligencia veszélyei valósak, de többségük ismert, hétköznapi és kezelhető. A legjobb ellenszer nem a pánik, hanem a tájékozottság: ha érted, hogyan működik az AI, sokkal könnyebb eldönteni, mikor érdemes óvatosnak lenni.
Ha szeretnéd, hogy a cégednél biztonságosan, átlátható keretek között működjön az AI, beszélgessünk.
Ez a cikk az Andronia blogján jelent meg. Az Andronia magyar vállalkozásoknak segít AI-automatizálással növekedni. Szolgáltatásainkról itt olvashatsz.
