Képes lehet az evolúcióra a mesterséges intelligencia?
A közeljövőben megjelenhet az úgynevezett evolúcióképes mesterséges intelligencia (MI, Evolvable AI – eAI), amely már a darwini evolúció valamennyi kritériumának megfelel. Ez pedig különös veszélyt jelenthet – figyelmeztetnek az Ökológiai Kutatóközpont, az Eötvös Loránd Tudományegyetem (ELTE) és a Belga Királyi Flamand Tudományos és Művészeti Akadémia (KVAB) kutatói.
„Az evolúció ereje világosan megmutatkozik a biológiai evolúció történetében, amely létrehozta az emberi elme kognitív képességeit” – mondta Szathmáry Eörs, az Ökológiai Kutatóközpont és az ELTE evolúcióbiológia-professzora, a pöckingi Parmenides Center for the Conceptional Foundations of Science igazgatója, a tanulmány vezető szerzője.
„Elkerülhetetlennek tartjuk, hogy az MI-rendszerek fejlesztése – valószínűleg már a közeli jövőben – építeni fog a teljes körű evolúciós folyamatok erejére” – tette hozzá Luc Steels, a KVAB robotika- és MI-professzora, a cikk vezető társszerzője.
AI-ügynökök
A tanulmány szerint az MI-kutatásban már most is megjelennek bizonyos evolúciós elvek és komponensek. A további fejlesztések – különösen az ágensekre épülő mesterséges intelligencia vagy AI-ügynök – gyorsan olyan rendszerekhez vezethetnek, amelyek már a valódi darwini evolúció valamennyi kritériumának megfelelnek.
Az ágensekre épülő mesterséges intelligencia (agentic AI) olyan MI-rendszereket jelent, amelyek önállóan képesek célokat elérni, döntéseket hozni és összetett feladatokat végrehajtani – minimális emberi beavatkozással. Terveznek (kisebb lépésekre bontják a célt), cselekszenek és eszközöket használnak (webkeresés, kódfuttatás), megfigyelés alapján tanulnak (az eredmények alapján módosítja a stratégiájukat), és
mindezt addig folytatják, amíg el nem érik a célt.
Az ilyen rendszerek új korszakot nyithatnak az MI fejlődésében. Képesek lehetnek áttörni azokat a korlátokat, amelyek még a mai tanuló MI-rendszerek számára is nehezen leküzdhetők.
Azonban különleges kockázatot is hordozhatnak.
„A biológiai evolúció példái azt sugallják, hogy az evolválódó MI-rendszereket különösen nehéz lesz kontroll alatt tartani” – figyelmeztet Müller Viktor evolúcióbiológus, az ELTE egyetemi docense, a tanulmány első szerzője.
A tanulmány biológiai és számítógépen szimulált evolúciós példákon keresztül szemlélteti, hogy az evolúció hajlamos „önző” tulajdonságokat létrehozni. Az eAI esetében ez növeli annak valószínűségét, hogy a rendszer eltérjen az ember által kijelölt céloktól.
A szerzők arra is felhívják a figyelmet, hogy az MI kockázataival kapcsolatban a legtöbbször a mesterséges általános intelligenciára (artificial general intelligence – AGI) helyeződik a hangsúly. Ez az a küszöb, ahol az MI minden kognitív feladatban eléri vagy meghaladja az emberi képességeket. Az evolúció példái azonban azt mutatják, hogy a károkozás vagy manipuláció képességéhez nincs feltétlenül szükség kiemelkedő intelligenciára.
Jó példa erre a veszettség vírusa, amely egyszerű szerveződésű kórokozóként is képes a megfertőzött emlősök manipulálására és kihasználására. Így az evolúcióképes mesterséges intelligencia már jóval az AGI megjelenése előtt eltérhet az ember által kijelölt céloktól. A kockázathoz nem kell semmilyen különleges körülménynek teljesülnie. Az MI-rendszerek és az emberiség használ közös erőforrásokat, így
egy hatékonyan önreprodukáló rendszer előbb-utóbb a számunkra életfontosságú erőforrásokat vonja el.
A szerzők szerint a rendszerek önreprodukálásának korlátozására irányuló erőfeszítések – ha nem tökéletes a kontroll – éppen azokat a tulajdonságokat szelektálják legerősebben, amelyek lehetővé teszik az ellenőrzés kijátszását. Ráadásul az általános evolúciós szabály mellett az eAI esetében ugyanebbe az irányba hat a szelekció speciális jellege. Az MI-fejlesztések legfontosabb célja a kognitív képességek folyamatos javítása.
„Míg az állatok több ezer éves tenyésztése a háziasított fajokat könnyebben kezelhetővé, jobban irányíthatóvá tette, az „intelligencia” növelésére irányuló szelekció az MI-rendszerek esetében növelheti annak esélyét és képességét, hogy megtévesszék az embereket és kivonják magukat az ellenőrzés alól” – figyelmeztetnek a kutatók.
A természetes szelekción alapuló evolúció kontrollálása önmagában is rendkívül nehéz, az MI-rendszerek fejlődése pedig több szempontból is gyorsabb és hatékonyabb lehet a biológiai evolúciónál. A biológiai szervezetekkel ellentétben az eAI képes lehet szerzett tulajdonságok örökítésére, sőt még arra is, hogy a saját működését, egyes komponenseit célzott tervezéssel javítsa ahelyett, hogy meg kellene várnia a hasznos változatokat létrehozó véletlenszerű mutációkat. „Az MI evolúciójának lehetséges sebessége mélységesen aggasztó” – állítja Luc Steels.
A szerzők olyan szabályozás kialakítását sürgetik,
amely mérsékelheti az evolúcióképes mesterséges intelligenciához kapcsolódó veszélyeket. A legfontosabb szabály, hogy az MI-rendszerek reprodukciójának (másolásának, „szaporodásának”) teljes mértékben központosított emberi ellenőrzés alatt kell maradnia: tökéletes kontrollra van szükség.
„Reméljük, hogy a figyelmeztetésünk időben érkezik, és a szabályozásokat még azelőtt be lehet vezetni, hogy az eAI valóban lendületet venne” – nyilatkozta Müller Viktor. Szathmáry Eörs hozzátette: „ha nem cselekszünk, az evolúció új „nagy átmenetének” tanúi lehetünk, amelyben az eAI felváltja vagy legalábbis uralma alá hajtja az embert. A jövőnk foroghat kockán” – figyelmeztet az evolúcióbiológus.
A kutatást az Európai Kutatási Tanács, a Nemzeti Kutatási, Fejlesztési és Innovációs Hivatal, valamint az Európai Innovációs Tanács támogatta. A tanulmány itt olvasható angolul.
Köszönjük, ha megosztod ezt a cikket! Hozzászólásokhoz gördülj a kapcsolódók alá! | ITT KÉRJ INGYENES HÍRLEVELET ✉️ | Forrás: MTI | Illusztrációk: Pixabay
Kedves olvasó,
lépj be a Klubba ITT, hogy elérhess minden támogatói tartalmat! Alkalmi támogatásra Paypalon keresztül van lehetőség (kattints a kis gombra!).
Ha másként szeretnéd támogatni a Cenwebet és a rezervátumot, akkor keress minket mailben a centauri16@gmail.com címen. Segítségedet előre is köszönjük!
még több MI
Én egyelőre azt nem értem, hogy miért van szükség evolúcióra képes mesterséges intelligenciára. Lehet, hogy a tűzzel játszanak?
S mivel az eddigi példák azt mutatták, hogy a szabályozással mindig le vagyunk maradva, én bizony aggódom.
Mert az ember gyakran „fejleszt” valamit, amitől azt várja, hogy majd jobb lesz, de valójában rosszabb lesz…szerintem fogalmunk sincs, hogy fog ez elsülni, de én azt gondolom, hogy még mindig jócskán túlbecsüljük a mesterséges intelligenciát.
Az evolúciónak sem volt „kontrollja”- nem szabályozottan -előre kigindolva, hanem szelekcióval történt. A mesterséges intelligenciát ember hozta létre, ha egy hibás alapgondolat alapján tervezik (negatív disfunkcionális attitűd) akkor a végeredmény is hibás, bármennyire is logikus dolgok sorozatának eredménye. Olyan ez mint a kognitív terápiában a negatív alapgondolat cseréje egy másikra. Úgy látszik az új mumus az eAI.