A nagy nyelvi modellek már a társadalmi valóságot formálják
Németh Renáta, az ELTE Statisztika Tanszékének egyetemi tanára és Sik Domonkos, a Társadalomelmélet Tanszék egyetemi tanára szerint a fő kérdés jelenleg már nem az, hogy a mesterséges intelligencia (AI) rendelkezik-e intelligenciával. Hanem az, hogy miként befolyásolja az embereket, amikor mindennapi kommunikációs partnerként jelenik meg.
A European Sociologist című folyóiratban megjelent tanulmányukban rámutatnak, hogy az AI a válaszadás mellett értelmezési kereteket is kínál. Bizonyos magyarázatokat láthatóbbá, míg másokat láthatatlanabbá tesz, ezáltal pedig normákat közvetít arról, hogy mi számít racionálisnak, elfogadhatónak vagy normálisnak.
A kutatók ezt a folyamatot „algoritmikus szocializációnak” nevezik.
A publikáció öt kulcsfontosságú területen mutatja be, hogyan alakítja az LLM-ekkel folytatott kommunikáció a társadalmi valóságot. A munka, a lelki problémák, a kultúra, a világnézet és a mindennapi döntések témakörét viszgálták.
A szerzők hangsúlyozzák, hogy a nagy nyelvi modelleket nem szabad semleges információs eszközként kezelni. Bár az algoritmikus rendszerek nem rendelkeznek saját szándékkal vagy tudattal, kommunikációs szereplőként mégis aktívan részt vesznek a társadalmi jelentések és normák kialakításában. Ez pedig a szociológia számára is új helyzetet teremt.
„A kérdés az, hogy mi történik a társadalmi valósággal, ha annak alakításában többé már nem csak emberek, hanem algoritmikus kommunikációs rendszerek is részt vesznek,” magyarázta Németh Renáta az MTI érdeklődésére.
A téma vizsgálatához azokat a filozófiai és szociológiai hagyományokat
– köztük Wittgenstein, Habermas, Mead, Berger, Luckmann és Foucault munkásságát – hívják segítségül, amelyek szerint a valóságot a nyelv és a kommunikáció formálja.
„A tanulmányban amellett érvelünk, hogy a mesterséges intelligencia nyelvi modelljei, mint például a ChatGPT, mára nem csupán semleges információforrások, hanem aktív kommunikációs szereplőkké váltak: emberek milliói fordulnak hozzájuk párkapcsolati tanácsért, érzelmi támogatásért, munkahelyi problémák megoldásáért vagy erkölcsi kérdésekben,” fejtette ki a kutató.
Hozzátette: ezek a rendszerek emberi beszédaktusokhoz megszólalásig hasonló válaszokat adnak, implicit módon keretbe foglalják a helyzeteket, normákat közvetítenek és értékeket sugallnak, vagyis részt vesznek abban, amit az „algoritmikus szocializációnak” nevezünk. Így az emberek véleménye is egyre inkább ember-AI hibrid kommunikáció eredményeként formálódik.
A kutató az esettanulmányokat ismertetve elmondta:
a munkahelyi értékelésben például az AI átformálja, mit jelent „jó munkavállalónak” lenni, és a jelentkezők ehhez igazítják önbemutatásukat. Vizsgálták a mentálhigiénés tanácsadást is, itt azzal szembesültek, hogy az AI hajlamos egyéni, „önmenedzselő” magyarázatokat adni társadalmi-strukturális problémákra (például magány, szegénység) is.
Emellett a vizsgálat rávilágít arra is, hogy a nagy nyelvi modellek túlnyomórészt angolszász kulturális normákat közvetítenek világszerte, amellyel kulturális homogenizációt idéznek elő.
A kutató szerint figyelembe kell venni az úgynevezett „hízelgés” (sycophancy) jelenségét is , amellyel az AI inkább megerősíti, mintsem megkérdőjelezi a felhasználó meglévő nézeteit, tovább szilárdítva azokat vita helyett – mondta a kutató, aki hozzátette: az esettanulmányból az is kiderült, hogy az AI a hétköznapi problémákat (például lakhatási vitákat) technokrata, egyéni-megoldásközpontú keretben tálalja, amellyel gyengíti a kollektív vagy jogi fellépés gondolatát.
A kutató szerint mindez nem egyszerű „hiba”, hanem az LLM-ek felépítéséből és alkalmazásából szükségszerűen fakadó jelenség, ezért új, szociológiailag megalapozott kutatási programra van szükség – beleértve a szociológia saját módszertanának (felmérések, interjúk) újragondolását is.
Légy oly kedves, oszd meg ezt a cikket! Hozzászólásokhoz gördülj a kapcsolódók alá! | ITT KÉRJ INGYENES HÍRLEVELET ✉️ | Forrás: | Borítókép: Pexels
Kedves olvasó,
lépj be a Klubba ITT, hogy elérhess minden támogatói tartalmat! Alkalmi támogatásra Paypalon keresztül van lehetőség (kattints a kis gombra!).
Ha másként szeretnéd támogatni a Cenwebet és a rezervátumot, akkor keress minket mailben a centauri16@gmail.com címen. Segítségedet előre is köszönjük!
még több MI
