Kezdőlap Informatika A mesterséges intelligencia használatának is vannak kockázatai
No menu items!

A mesterséges intelligencia használatának is vannak kockázatai

Gerd Altmann képe a Pixabay -en.

Miközben a mesterséges intelligenciát alkalmazó eszközök elősegítik az ötletek kidolgozását, szövegek és tartalmak összefoglalását, az üzleti stratégia alapjainak megalkotását, az AI használatakor figyelembe kell venni azt is, hogy minden alkalommal, amikor kapcsolatba lép a felhasználó a chatbottal és információt kér tőle, fennáll a veszélye, hogy érzékeny adatokat oszt meg magáról vagy a vállalatról.

Az ESET közleménye szerint ezért mielőtt valaki megpróbálja alkalmazni az AI eszközöket, meg kell tanulnia biztonságosan, az adatok veszélyeztetése nélkül használni.

Az üzleti és otthoni biztonságtechnikai szoftvermegoldások nemzetközi szállítójának kutatói a közleményben arra hívják fel a figyelmet, hogy a nagy nyelvi modellek (LLM), például a ChatGPT használatakor érzékeny adatokat oszthatnak meg a felhasználók a nemzetközi nagyvállalatokkal. Ezek a rendszerek ugyanis az online szövegek felhasználásával hatékonyan képesek értelmezni és megválaszolni a felhasználók kérdéseit, és ezért lehet, hogy míg az egyik cég kifejezetten támogatja, a másik megtiltja a Chat GPT használatát a munkahelyi eszközökön.

Amikor egy chatbotnak kérdést tesznek fel, a beírt adatok nyilvánossá válnak. Ez nem jelenti azt, hogy a rendszerek azonnal felhasználnák a megszerzett információt a másoknak adott válaszokhoz, de az LLM szolgáltató vagy partnerei hozzáférhetnek az adatokhoz, és beépíthetik azokat a technológia következő verzióiba.

Ugyanakkor az OpenAI, a ChatGPT mögött álló vállalat például már bevezette a csevegési előzmények kikapcsolásának lehetőségét, ami megakadályozza, hogy a felhasználói adatokat az OpenAI mesterséges intelligencia modelljeinek tanítására és fejlesztésére használják fel, s így a felhasználók nagyobb kontrollal rendelkeznek az adataik felett. Az szakértők szerint ezért az első lépés mindig legyen a csevegési előzmények kikapcsolása, amikor alkalmazottként olyan eszközöket használ valaki, mint a ChatGPT.

Ha még ki is kapcsolja a felhasználó a csevegési előzményeket, a chatbot külső szerverei minden prompt adatot tárolnak, ezáltal fennáll a veszélye annak, hogy hackerek jogosulatlanul érik el az információkat. Technikai hibák esetén pedig lehetséges, hogy illetéktelenek hozzáférhetnek a chatbot felhasználók adataihoz, ahogyan az például 2023 márciusában is történt, amikor a ChatGPT elismerte: pár óráig egyes felhasználók láthatták más aktív felhasználók kereszt- és vezetéknevét, e-mail címét, fizetési címét, a bankkártya utolsó négy számjegyét és lejárati dátumát, a teljes kártyaszámok azonban egyetlen pillanatban sem voltak nyilvánosak.

A közlemény idézi Csizmazia-Darab Istvánt, az ESET termékeit forgalmazó Sicontact Kft. kiberbiztonsági szakértőjét, aki elmondta: gyakori hiba, hogy a munkavállalók akaratlanul is érzékeny információkat osztanak meg a vállalati ügyfelekről. Éppen ezért mindig érdemes a legnagyobb mértékben anonimizálni a lekérdezéseket, mielőtt beírják azokat a chatbotokba. Az ügyféladatok védelme érdekében ellenőrizni és törölni kell minden érzékeny információt, például nevet, címet, számlaszámot a bevitt szövegekből. A lehető legjobb, ha eleve elkerüljük a személyes adatok használatát, és inkább általános kérdéseket teszünk fel – mondta.

Mivel a chatbotok hasznos megoldást jelenthetnek nagy mennyiségű adat gyors összegzésére, vázlatok, prezentációk vagy jelentések létrehozására, kockázatos az is, ha átmásolják a dokumentumokat az intelligens rendszerekbe. Az ESET szakértői ezért az ajánlják a vállalatoknak, hogy szigorúan szabályozzák a bizalmas dokumentumok kezelését és korlátozzák a hozzáférést az iratokhoz.

 

0Kövesse AzÜzletet a facebookon is!Tetszik

Friss

Késnek az MVM Next elszámoló számlái – Informatikai átállás az oka

Az E.ON Hungária Csoport informatikai átállása miatt az MVM Next elszámoló számlái akár 3 hetet is késhetnek - közölte az E.ON és az MVM Next pénteken az MTI-vel.

Nyitnak a porták – Közelebb kerülnek egymáshoz a termelők és a fogyasztók

A rövid ellátási lánc megerősítésével közelebb kell hozni egymáshoz a termelőket és a fogyasztókat, hogy az élelmiszer előállító kistermelők versenyképesebbek lehessenek

Felülettisztító drónok szállták meg a Müpát

Környezetbarát, magyar fejlesztésű drónnal tisztították meg a Müpa homlokzatát. A drón 30 méteres magasságig, 200 bar nyomású vízsugárral dolgozik, teljesen vegyszermentesen, megfelelve a légügyi előírásoknak.

A kormány meghosszabbítja a kamatstopot 

A kormány folyamatosan azon dolgozik, hogy megvédje a magyar családokat és hosszútávon biztosítsa számukra a kiszámítható, fenntartható lakhatást.
Hirdetés

Hírek

Késnek az MVM Next elszámoló számlái – Informatikai átállás az oka

Az E.ON Hungária Csoport informatikai átállása miatt az MVM Next elszámoló számlái akár 3 hetet is késhetnek - közölte az E.ON és az MVM Next pénteken az MTI-vel.

Nyitnak a porták – Közelebb kerülnek egymáshoz a termelők és a fogyasztók

A rövid ellátási lánc megerősítésével közelebb kell hozni egymáshoz a termelőket és a fogyasztókat, hogy az élelmiszer előállító kistermelők versenyképesebbek lehessenek

A Magyar Termék védjegy a cégeknek közösséget, a vevőknek megbízható minőséget ad

 A kölcsönös előnyökön alapuló szakmai együttműködések képessé teszik a vállalkozásokat arra, hogy leküzdjék az időről időre megjelenő gazdasági és egyéb kihívásokat.

Elfogadta az Országgyűlés az új adószabályokat: változások nem csak 2026-ra, de már az idei évre is!

A magyar gazdaság szereplői és a lakosság számára is jelentős változásokat hoz a napokban kihirdetett, új adócsomag.

A szülők is használhatják a KRÉTA idegen nyelvi felkészítő modulját

A lehetőség a webes felületen már csütörtökön elérhető, míg a mobilalkalmazásban egy frissítés után hétfőtől.

Bécs is versenyben az európai MI-Gigagyárért

Bécs hivatalosan is pályázik az Európai Unió által tervezett öt MI-Gigagyár egyikének otthont adni, hogy a kontinens mesterséges intelligencia-központjává váljon az adatvédelem, fenntarthatóság és digitális humanizmus elvei mentén.

MVM és Mol – Megérkezett az első közös kőolajszállítmány Omišalj kikötőjébe

Megérkezett az első közös azeri kőolajszállítmány az MVM-csoport és a Mol-csoport együttműködésének eredményeként a horvátországi Omišalj kikötőjébe

11 balatoni állomáson a peronokat szektorokra osztják az utasok segítése érdekében

Egyelőre 11 balatoni állomáson indul el az a Nyugat-Európából ellesett gyakorlat, amelynek lényege, hogy a peronokat szektorokra osztották, ezeket táblák jelzik a peron mellett, és mindenhol elhelyeztek egy ábrát, ahol mindenki leolvashatja, hogy a vonatában az a kocsi, amivel ő utazik, melyik szektornál áll meg
Hirdetés

Gazdaság

Elfogadta az Országgyűlés az új adószabályokat: változások nem csak 2026-ra, de már az idei évre is!

A magyar gazdaság szereplői és a lakosság számára is jelentős változásokat hoz a napokban kihirdetett, új adócsomag.

Itt a kormány új készpénzes szabálya

A Magyar Közlönyben megjelentek a a részletszabályok arról, hogy hogyan kell a vállalkozásoknak készpénzhasználatot biztosítani.,

Többlettel zárt a központi költségvetés májusban

Májusban többlettel zárt a központi költségvetés: ebben a hónapban 213,5 milliárd forint összegű MVM osztalék-befizetés érkezett a költségvetésbe.

4,5 milliárd forint gyermektartásdíjat előlegezett meg az állam az elmúlt években

Az elmúlt három évben több mint 20 ezer gyermek részére összesen 4,5 milliárd forint értékben előlegezte meg az állam azokat a tartásdíjakat, amelyeket a különélő szülő nem fizetett meg