Hirdetés
Kezdőlap Informatika A mesterséges intelligencia használatának is vannak kockázatai
No menu items!

A mesterséges intelligencia használatának is vannak kockázatai

Gerd Altmann képe a Pixabay -en.

Miközben a mesterséges intelligenciát alkalmazó eszközök elősegítik az ötletek kidolgozását, szövegek és tartalmak összefoglalását, az üzleti stratégia alapjainak megalkotását, az AI használatakor figyelembe kell venni azt is, hogy minden alkalommal, amikor kapcsolatba lép a felhasználó a chatbottal és információt kér tőle, fennáll a veszélye, hogy érzékeny adatokat oszt meg magáról vagy a vállalatról.

Az ESET közleménye szerint ezért mielőtt valaki megpróbálja alkalmazni az AI eszközöket, meg kell tanulnia biztonságosan, az adatok veszélyeztetése nélkül használni.

Az üzleti és otthoni biztonságtechnikai szoftvermegoldások nemzetközi szállítójának kutatói a közleményben arra hívják fel a figyelmet, hogy a nagy nyelvi modellek (LLM), például a ChatGPT használatakor érzékeny adatokat oszthatnak meg a felhasználók a nemzetközi nagyvállalatokkal. Ezek a rendszerek ugyanis az online szövegek felhasználásával hatékonyan képesek értelmezni és megválaszolni a felhasználók kérdéseit, és ezért lehet, hogy míg az egyik cég kifejezetten támogatja, a másik megtiltja a Chat GPT használatát a munkahelyi eszközökön.

Amikor egy chatbotnak kérdést tesznek fel, a beírt adatok nyilvánossá válnak. Ez nem jelenti azt, hogy a rendszerek azonnal felhasználnák a megszerzett információt a másoknak adott válaszokhoz, de az LLM szolgáltató vagy partnerei hozzáférhetnek az adatokhoz, és beépíthetik azokat a technológia következő verzióiba.

Ugyanakkor az OpenAI, a ChatGPT mögött álló vállalat például már bevezette a csevegési előzmények kikapcsolásának lehetőségét, ami megakadályozza, hogy a felhasználói adatokat az OpenAI mesterséges intelligencia modelljeinek tanítására és fejlesztésére használják fel, s így a felhasználók nagyobb kontrollal rendelkeznek az adataik felett. Az szakértők szerint ezért az első lépés mindig legyen a csevegési előzmények kikapcsolása, amikor alkalmazottként olyan eszközöket használ valaki, mint a ChatGPT.

Ha még ki is kapcsolja a felhasználó a csevegési előzményeket, a chatbot külső szerverei minden prompt adatot tárolnak, ezáltal fennáll a veszélye annak, hogy hackerek jogosulatlanul érik el az információkat. Technikai hibák esetén pedig lehetséges, hogy illetéktelenek hozzáférhetnek a chatbot felhasználók adataihoz, ahogyan az például 2023 márciusában is történt, amikor a ChatGPT elismerte: pár óráig egyes felhasználók láthatták más aktív felhasználók kereszt- és vezetéknevét, e-mail címét, fizetési címét, a bankkártya utolsó négy számjegyét és lejárati dátumát, a teljes kártyaszámok azonban egyetlen pillanatban sem voltak nyilvánosak.

A közlemény idézi Csizmazia-Darab Istvánt, az ESET termékeit forgalmazó Sicontact Kft. kiberbiztonsági szakértőjét, aki elmondta: gyakori hiba, hogy a munkavállalók akaratlanul is érzékeny információkat osztanak meg a vállalati ügyfelekről. Éppen ezért mindig érdemes a legnagyobb mértékben anonimizálni a lekérdezéseket, mielőtt beírják azokat a chatbotokba. Az ügyféladatok védelme érdekében ellenőrizni és törölni kell minden érzékeny információt, például nevet, címet, számlaszámot a bevitt szövegekből. A lehető legjobb, ha eleve elkerüljük a személyes adatok használatát, és inkább általános kérdéseket teszünk fel – mondta.

Mivel a chatbotok hasznos megoldást jelenthetnek nagy mennyiségű adat gyors összegzésére, vázlatok, prezentációk vagy jelentések létrehozására, kockázatos az is, ha átmásolják a dokumentumokat az intelligens rendszerekbe. Az ESET szakértői ezért az ajánlják a vállalatoknak, hogy szigorúan szabályozzák a bizalmas dokumentumok kezelését és korlátozzák a hozzáférést az iratokhoz.

 

Kövesse AzÜzletet a facebookon is!Tetszik

Friss

A jövő évtől a Tesla humanoid robotokat használ

Az emberi alakot mintázó humanoid robotok fejlesztése már évek óta folyik több vállalatnál is, például a japán Honda autógyárnál és a robotikában úttörőnek tekintett Boston Dynamics cégnél, amely egyébként a Hyundai Motor érdekeltsége.

Milyen jogok illetik meg a légi utasokat? -az EU iránymutatásai

Az iránymutatások szerint az uniós szinten meghatározott utasjogokat a közlekedési szolgáltatóknak kell biztosítaniuk, és a nemzeti szerveknek kell érvényre juttatniuk.

A1 besorolással látta el a Moody’s az MBH Jelzálogbank jelzáloglevél-programját

A jelzáloglevelek kibocsátásával szerzett forrásokból az MBH Jelzálogbank refinanszírozási hitelt nyújt partnerbankjainak, ezáltal támogatva a főként a lakosság körében végzett jelzáloghitelezési tevékenységüket.

Zöldként született újjá a tornádó pusztította város

Emellett a város a felére tudta csökkenteni szénlábnyomát azáltal, hogy a várostól délre lévő 10 turbinás szélerőmű 100 százalékos szélenergiájára tért át.
Hirdetés

Hírek

Kína drámai kamatlábcsökkentéssel pörgetné fel a gazdaságot

AKínai Kommunista Párt Központi Bizottságának közelmúltbeli ülése után komoly szándék mutatkozik, hogy a világ második legnagyobb gazdasága ismét növekedési pályára álljon.

Mi várható a héten? Adatok az államháztartásról és a fogyasztói árakról

Hétfőn teszi közzé a Pénzügyminisztérium (PM) az államháztartás központi alrendszerének június végi helyzetéről a gyorstájékoztatóját.

Tőzsde – Veszteséges zárás az európai tőzsdéken

Az európai kereskedési idő végén a WTI nyersolaj 1,50 százalékkal drágult a nemzetközi kereskedelemben, hordónként 79,99 dollárra, a Brent ára pedig 1,28 százalékkal nőtt, 80,64 dollárra.

Csökkenő forgalom mellett csúcsra emelkedett a BUX a héten

Szijjártó Péter külügyminiszter szerdán Bakuban jelentette be a Shah Deniz gázmező 5 százalékos részesedésének megvásárlását, a tranzakciót a harmadik negyedévben fogják lezárni.

Vegyesen alakult csütörtök reggelre a forint árfolyama

Vegyesen alakult a forint árfolyama csütörtök reggelre az előző esti jegyzéshez képest.

Iránykereséssel, illetve kis pozitív korrekcióval indulhat a kereskedés a tőzsdén

Kedden a BÉT részvényindexe, a BUX 1073,29 pontos, 1,55 százalékos csökkenéssel 68 385,55 ponton zárt.

Devizapiac – Vegyesen alakult hétfő reggelre a forint árfolyama

A péntek esti jegyzése alapján májust pozitív mérleggel zárta a forint, 0,3 százalékkal erősödött az euróval és a svájci frankkal szemben, és 2,0 százalékkal erősödött a dollár ellenében.

Devizapiac – Vegyes forintmozgás csütörtök reggel

Reggel hétkor az euró árfolyama 388,20 forintra gyengült a szerda kora esti 388,30 forintról. A svájci frank jegyzése 392,93 forintról 393,75 forintra emelkedett, a dollár pedig 359,02 forintról 359,57 forintra drágult.

Gazdaság

A1 besorolással látta el a Moody’s az MBH Jelzálogbank jelzáloglevél-programját

A jelzáloglevelek kibocsátásával szerzett forrásokból az MBH Jelzálogbank refinanszírozási hitelt nyújt partnerbankjainak, ezáltal támogatva a főként a lakosság körében végzett jelzáloghitelezési tevékenységüket.

Hazánk az iBanFirst legdinamikusabban fejlődő európai piaca lett

A magyarországi eredmények, amelyeket kevesebb mint két évvel a helyi iroda megalapítása után értek el, minden várakozásukat felülmúlták.

Ezért menekülnek külföldre a privátbanki pénzek

A Blochamps Capital privátbanki tanácsadó cég ügyvezetője szerint a magyar privátbanki és affluens ügyfelek 95 százalékának van devizaszámlája vagy devizában denominált befektetése,

Kamatdöntés – Ellenszavazat nélkül döntött a monetáris tanács júniusban

A monetáris tanács hónapról-hónapra értékeli a beérkező makrogazdasági adatokat, az inflációs kilátásokat, valamint a kockázati környezet alakulását, amelyek alapján körültekintően és adatvezérelten dönt az alapkamat mértékéről.