Kezdőlap Informatika A mesterséges intelligencia használatának is vannak kockázatai
No menu items!

A mesterséges intelligencia használatának is vannak kockázatai

Gerd Altmann képe a Pixabay -en.

Miközben a mesterséges intelligenciát alkalmazó eszközök elősegítik az ötletek kidolgozását, szövegek és tartalmak összefoglalását, az üzleti stratégia alapjainak megalkotását, az AI használatakor figyelembe kell venni azt is, hogy minden alkalommal, amikor kapcsolatba lép a felhasználó a chatbottal és információt kér tőle, fennáll a veszélye, hogy érzékeny adatokat oszt meg magáról vagy a vállalatról.

Az ESET közleménye szerint ezért mielőtt valaki megpróbálja alkalmazni az AI eszközöket, meg kell tanulnia biztonságosan, az adatok veszélyeztetése nélkül használni.

Az üzleti és otthoni biztonságtechnikai szoftvermegoldások nemzetközi szállítójának kutatói a közleményben arra hívják fel a figyelmet, hogy a nagy nyelvi modellek (LLM), például a ChatGPT használatakor érzékeny adatokat oszthatnak meg a felhasználók a nemzetközi nagyvállalatokkal. Ezek a rendszerek ugyanis az online szövegek felhasználásával hatékonyan képesek értelmezni és megválaszolni a felhasználók kérdéseit, és ezért lehet, hogy míg az egyik cég kifejezetten támogatja, a másik megtiltja a Chat GPT használatát a munkahelyi eszközökön.

Amikor egy chatbotnak kérdést tesznek fel, a beírt adatok nyilvánossá válnak. Ez nem jelenti azt, hogy a rendszerek azonnal felhasználnák a megszerzett információt a másoknak adott válaszokhoz, de az LLM szolgáltató vagy partnerei hozzáférhetnek az adatokhoz, és beépíthetik azokat a technológia következő verzióiba.

Ugyanakkor az OpenAI, a ChatGPT mögött álló vállalat például már bevezette a csevegési előzmények kikapcsolásának lehetőségét, ami megakadályozza, hogy a felhasználói adatokat az OpenAI mesterséges intelligencia modelljeinek tanítására és fejlesztésére használják fel, s így a felhasználók nagyobb kontrollal rendelkeznek az adataik felett. Az szakértők szerint ezért az első lépés mindig legyen a csevegési előzmények kikapcsolása, amikor alkalmazottként olyan eszközöket használ valaki, mint a ChatGPT.

Ha még ki is kapcsolja a felhasználó a csevegési előzményeket, a chatbot külső szerverei minden prompt adatot tárolnak, ezáltal fennáll a veszélye annak, hogy hackerek jogosulatlanul érik el az információkat. Technikai hibák esetén pedig lehetséges, hogy illetéktelenek hozzáférhetnek a chatbot felhasználók adataihoz, ahogyan az például 2023 márciusában is történt, amikor a ChatGPT elismerte: pár óráig egyes felhasználók láthatták más aktív felhasználók kereszt- és vezetéknevét, e-mail címét, fizetési címét, a bankkártya utolsó négy számjegyét és lejárati dátumát, a teljes kártyaszámok azonban egyetlen pillanatban sem voltak nyilvánosak.

A közlemény idézi Csizmazia-Darab Istvánt, az ESET termékeit forgalmazó Sicontact Kft. kiberbiztonsági szakértőjét, aki elmondta: gyakori hiba, hogy a munkavállalók akaratlanul is érzékeny információkat osztanak meg a vállalati ügyfelekről. Éppen ezért mindig érdemes a legnagyobb mértékben anonimizálni a lekérdezéseket, mielőtt beírják azokat a chatbotokba. Az ügyféladatok védelme érdekében ellenőrizni és törölni kell minden érzékeny információt, például nevet, címet, számlaszámot a bevitt szövegekből. A lehető legjobb, ha eleve elkerüljük a személyes adatok használatát, és inkább általános kérdéseket teszünk fel – mondta.

Mivel a chatbotok hasznos megoldást jelenthetnek nagy mennyiségű adat gyors összegzésére, vázlatok, prezentációk vagy jelentések létrehozására, kockázatos az is, ha átmásolják a dokumentumokat az intelligens rendszerekbe. Az ESET szakértői ezért az ajánlják a vállalatoknak, hogy szigorúan szabályozzák a bizalmas dokumentumok kezelését és korlátozzák a hozzáférést az iratokhoz.

 

Igazi HR kihívás: hogyan tartsuk meg és motiváljuk a fiatal generációt. AzÜzlet november 17.-i HR konferenciája azt is megmutatja, hogyan építhetünk jól működő, többgenerációs munkahelyet. Jelentkezés: azuzletkonferenciakozpont.hu/hr-konferencia-2025
0Kövesse AzÜzletet a facebookon is!Tetszik

Friss

Már több tízezren használják az MVM mesterséges intelligencia alapú rezsiasszisztensét

Alig több mint egy hónapja indult el és már több tízezren használják az MVM Csoport új, mesterséges intelligencia alapú ügyféltámogató megoldását, az úgynevezett REZSIŐR az ügyfeleknek segít a rezsicsökkentéssel, valamint az áram- és földgázszámlákkal összefüggő kérdésekben.

Varga Mihály: a 2024-es év a magyar gazdaságban az infláció leszorításának éve volt

Az MNB az elmúlt fél évben folytatott, kiszámítható monetáris politikája elősegítette az infláció fokozatos közeledését a 2-4 százalékos jegybanki toleranciasávhoz.

DH Groupként folytatja tevékenységét a Duna House Group

Jelenleg a DH Group konszolidált árbevételének több mint 70 százaléka külföldi piacokról származik, és a tisztított EBITDA több mint 80 százalékát a pénzügyi közvetítési szegmens adja.

Újabb nemzetközi elismerés Máltának!

A VisitMalta Incentives & Meetings, Málta  kongresszusi irodája elnyerte a „Destination Marketing Leader” díjat a rangos Cvent Excellence Awards Europe gálán.
Hirdetés

Hírek

Már több tízezren használják az MVM mesterséges intelligencia alapú rezsiasszisztensét

Alig több mint egy hónapja indult el és már több tízezren használják az MVM Csoport új, mesterséges intelligencia alapú ügyféltámogató megoldását, az úgynevezett REZSIŐR az ügyfeleknek segít a rezsicsökkentéssel, valamint az áram- és földgázszámlákkal összefüggő kérdésekben.

Varga Mihály: a 2024-es év a magyar gazdaságban az infláció leszorításának éve volt

Az MNB az elmúlt fél évben folytatott, kiszámítható monetáris politikája elősegítette az infláció fokozatos közeledését a 2-4 százalékos jegybanki toleranciasávhoz.

DH Groupként folytatja tevékenységét a Duna House Group

Jelenleg a DH Group konszolidált árbevételének több mint 70 százaléka külföldi piacokról származik, és a tisztított EBITDA több mint 80 százalékát a pénzügyi közvetítési szegmens adja.

Stratégiai partner lett a WING és az Accent Hotel Management

A partnerség révén közösen együttműködve is képesek a jövőben harmadik felek számára megbízható, professzionális üzemeltetési és projektmenedzsment szolgáltatásokat nyújtani.

Országszerte védekezünk a szőlőkabócával szemben

Már 21 borvidéken van jelen a szőlő aranyszínű sárgaság betegsége; országszerte védekeznek a szőlőkabócával szemben. A gazdák számíthatnak a kormányra.

Az államháztartásról jelennek meg adatok és kamatdöntő ülést tart a jegybank a jövő héten

A jövő héten jelenik meg az államháztartás szeptember végi helyzetéről szóló részletes tájékoztató, kamatdöntő ülést tart a monetáris tanács, valamint munkaerőpiaci adatokat közöl a Központi Statisztikai Hivatal (KSH).

A globális PC-piac 6,8 százalékkal nőtt a harmadik negyedévben

Az asztali számítógépek, notebookok és munkaállomások teljes kiszállítása éves összevetésben 6,8 százalékkal, 72,4 millióra nőtt az idei harmadik negyedévében - áll a Canalys szingapúri elemző cég honlapján.
Hirdetés

Gazdaság

Tisztázzuk a vagyonadó terveket: ma egymilliárdosnak lenni már nem akkora szó, mint tíz éve

Ma már nagyjából 7000-10.000 magyar rendelkezik legalább 1 milliárd forintos klasszikus pénzügyi vagyonnal, 30.000 fő rendelkezik egymilliárdot meghaladó teljes vagyonnal, számuk pedig 2030-ra ötödével nőhet.

Oda az MBH kapcsolat, de marad a régi gondoskodás

Megújul a Gondoskodás Egészség- és Nyugdíjpénztár – megszűnik az MBH-val való együttműködés A mai nap első híre az volt, hogy az MBH Bank felülvizsgálta és...

Csodánkra jár a világ: a vagyonosodás tempójában világcsúcs ütemet diktálunk, a Blochamps prognózisa már 2019-ben előre látta

A Blochamps Capital szakembere arra figyelmeztet, hogy a hazai vagyonosodás üteme nemzetközi összevetésben is kiemelkedő

Fiatalok tízezrei adósodtak el 2025 első felében – több százan máris bajba kerültek

A munkáshitelek rövid időn belül megugró aránya a késedelmes állományon belül azt sejteti, hogy a konstrukció sérülékeny ügyfélkört vonz, így a gyors felfutás mellett gyorsan a törlesztési nehézségek válhatnak a legfőbb problémává.