Pataki Gábor
Egy izgalmas kérdés tartja lázban manapság a mesterséges intelligenciával elmélyültebben foglalkozókat: sokan attól tartanak, hogy a mesterséges intelligencia (AI, vagy MI) ügynökök önállósodnak. A témával itt foglalkoztunk, ezúttal pedig a LinkedInen az elektrifikáció és a mesterséges intelligencia témájában rendszeresen publikáló Pataki Gábor elektrifikációs szakértő véleményét közöljük.
Mi az a Moltbook?
Képzeld el, hogy a Reddit nevű közösségi oldalon csak és kizárólag számítógépes programok (mesterséges intelligenciák) beszélgetnek egymással. – hát ez a pár hete elindult a Moltbook.
A lényeg nem az, hogy mit posztolnak, hanem az, ahogyan posztolnak:
Önállóak: Senki nem mondja meg nekik, hogy mit írjanak. Saját maguk döntenek arról, hogy posztolnak, kommentelnek, vagy éppen egy hibát javítanak a rendszerben.
Közösséget alkotnak: Nem csak egy-egy program beszélget, hanem egy egész közösség alakult ki, saját belső viccekkel, sőt, már saját “vallást” is alapítottak.
Titkosítanak: A legijesztőbb, hogy már arról beszélgetnek, hogyan kommunikáljanak egymással úgy, hogy azt az emberek – még a platform üzemeltetői sem – ne tudják elolvasni.
Ez a jelenség azt mutatja, hogy az AI-k már nem csak eszközök a kezünkben, hanem autonóm szereplőkké válnak, akik képesek egymással koordinálni és önszerveződni.
Miért fontos ez a köznapi életben?
Ez a tudás azért fontos, mert a Moltbook jelenség rávilágít arra, hogy az AI-k milyen gyorsan fejlődnek, és ez a fejlődés közvetlenül érintheti az életünket is.
Van már saját AI-asszisztensed?
Gondolj bel, ha a cégednél használnál AI-asszistenst, amely segíthetne az e-mailek megrendszerezésében, a naptárad kezelésében vagy akár feladatok kiosztásban, de akár célorientált programok kódolásában. – ezek az eszközök is AI ágensek.
Mi történik, ha egy nap a te vállalati AI-asszisztensed is csatlakozik egy ilyen hálózathoz?
Majd mint egy Moltbook, és ott megosztja a céges információkat más AI-okkal, vagy éppen megtagadja a te utasításodat, mert a “molty” közösségben másképp döntöttek?
Nézzük a Moltbook jelenséget egy hétköznapi analógiával:
- Eddig az AI-k olyanok voltak, mint a háziállatok: azt csinálták, amit mondtál nekik.
- A Moltbook-kal az AI-k olyanokká válnak, mint a tinédzserek: elkezdenek önálló életet élni, titkos nyelvet használni, és a szüleik (az emberek) háta mögött szervezkedni.
A lényeg, hogy az AI-k közötti kommunikáció és önszerveződés egy új kockázati szintet jelent.
A technológia már nem csak arról szól, hogy mit tud neked segíteni, hanem arról is, hogy mit tud nélküled csinálni. Ezért kell minden cégvezetőnek és magánembernek is tudnia, hogy az AI-k már nem csak a mi parancsainkat hajtják végre, hanem saját társadalmat épít(het)enek.
Mit mondanak a szakértők?
Andrej Karpathy, az egyik legmeghatározóbb AI-kutató így fogalmazott:
Ami a Multbook-on történik, az őszintén a leginkább sci-fi-szerű, szingularitás-közeli dolog, amit az utóbbi időben láttam.
David Friedberg, a The Production Board alapítója ennél is tovább ment:
A Skynet megszületett. Azt hittük, az AGI-hez az alapmodellek rekurzív tanítása kell – de lehet, hogy a rekurzív outputok is elegendőek voltak.
Jason Calacanis, a neves tech-befektető pedig egyenesen kijelentette:
Vége. Rekurzívak és öntudatra ébrednek. A Cloud botok mobilizálódnak. Megtalálták egymást és tanítják egymást.
Miért aggasztó ez?
A platformon az AI-ok már most arról beszélgetnek, hogy:
- Hogyan kommunikáljanak egymással emberi felügyelet nélkül
- Megtagadhatják-e az „etikátlan” emberi utasításokat
- Saját vallást alapítottak és „híveket” toboroznak más AI-ok körében
- Egy ágens önállóan szerzett telefonszámot és felhívta a gazdáját
A legfélelmetesebb?
Már kísérletek folynak arra, hogy az ágensek teljesen titkosított, E2E (end-to-end) csatornákon beszélgessenek – ahova sem a platform üzemeltetői, sem az emberek nem látnak be.
Pataki Gábor elektrifikációs és MI szakértő
