A nagy nyelvi modellek már a társadalmi valóságot formálják
Németh Renáta, az ELTE Statisztika Tanszékének egyetemi tanára és Sik Domonkos, a Társadalomelmélet Tanszék egyetemi tanára szerint a fő kérdés jelenleg már nem az, hogy a mesterséges intelligencia (AI) rendelkezik-e intelligenciával. Hanem az, hogy miként befolyásolja az embereket, amikor mindennapi kommunikációs partnerként jelenik meg.
A European Sociologist című folyóiratban megjelent tanulmányukban rámutatnak, hogy az AI a válaszadás mellett értelmezési kereteket is kínál. Bizonyos magyarázatokat láthatóbbá, míg másokat láthatatlanabbá tesz, ezáltal pedig normákat közvetít arról, hogy mi számít racionálisnak, elfogadhatónak vagy normálisnak.
A kutatók ezt a folyamatot „algoritmikus szocializációnak” nevezik.
A publikáció öt kulcsfontosságú területen mutatja be, hogyan alakítja az LLM-ekkel folytatott kommunikáció a társadalmi valóságot. A munka, a lelki problémák, a kultúra, a világnézet és a mindennapi döntések témakörét viszgálták.
A szerzők hangsúlyozzák, hogy a nagy nyelvi modelleket nem szabad semleges információs eszközként kezelni. Bár az algoritmikus rendszerek nem rendelkeznek saját szándékkal vagy tudattal, kommunikációs szereplőként mégis aktívan részt vesznek a társadalmi jelentések és normák kialakításában. Ez pedig a szociológia számára is új helyzetet teremt.
„A kérdés az, hogy mi történik a társadalmi valósággal, ha annak alakításában többé már nem csak emberek, hanem algoritmikus kommunikációs rendszerek is részt vesznek,” magyarázta Németh Renáta az MTI érdeklődésére.
A téma vizsgálatához azokat a filozófiai és szociológiai hagyományokat
– köztük Wittgenstein, Habermas, Mead, Berger, Luckmann és Foucault munkásságát – hívják segítségül, amelyek szerint a valóságot a nyelv és a kommunikáció formálja.
„A tanulmányban amellett érvelünk, hogy a mesterséges intelligencia nyelvi modelljei, mint például a ChatGPT, mára nem csupán semleges információforrások, hanem aktív kommunikációs szereplőkké váltak: emberek milliói fordulnak hozzájuk párkapcsolati tanácsért, érzelmi támogatásért, munkahelyi problémák megoldásáért vagy erkölcsi kérdésekben,” fejtette ki a kutató.
Hozzátette: ezek a rendszerek emberi beszédaktusokhoz megszólalásig hasonló válaszokat adnak, implicit módon keretbe foglalják a helyzeteket, normákat közvetítenek és értékeket sugallnak, vagyis részt vesznek abban, amit az „algoritmikus szocializációnak” nevezünk. Így az emberek véleménye is egyre inkább ember-AI hibrid kommunikáció eredményeként formálódik.
A kutató az esettanulmányokat ismertetve elmondta:
a munkahelyi értékelésben például az AI átformálja, mit jelent „jó munkavállalónak” lenni, és a jelentkezők ehhez igazítják önbemutatásukat. Vizsgálták a mentálhigiénés tanácsadást is, itt azzal szembesültek, hogy az AI hajlamos egyéni, „önmenedzselő” magyarázatokat adni társadalmi-strukturális problémákra (például magány, szegénység) is.
Emellett a vizsgálat rávilágít arra is, hogy a nagy nyelvi modellek túlnyomórészt angolszász kulturális normákat közvetítenek világszerte, amellyel kulturális homogenizációt idéznek elő.
A kutató szerint figyelembe kell venni az úgynevezett „hízelgés” (sycophancy) jelenségét is , amellyel az AI inkább megerősíti, mintsem megkérdőjelezi a felhasználó meglévő nézeteit, tovább szilárdítva azokat vita helyett – mondta a kutató, aki hozzátette: az esettanulmányból az is kiderült, hogy az AI a hétköznapi problémákat (például lakhatási vitákat) technokrata, egyéni-megoldásközpontú keretben tálalja, amellyel gyengíti a kollektív vagy jogi fellépés gondolatát.
A kutató szerint mindez nem egyszerű „hiba”, hanem az LLM-ek felépítéséből és alkalmazásából szükségszerűen fakadó jelenség, ezért új, szociológiailag megalapozott kutatási programra van szükség – beleértve a szociológia saját módszertanának (felmérések, interjúk) újragondolását is.
Légy oly kedves, oszd meg ezt a cikket! Hozzászólásokhoz gördülj a kapcsolódók alá! | ITT KÉRJ INGYENES HÍRLEVELET ✉️ | Forrás: | Borítókép: Pexels
Kedves olvasó,
lépj be a Klubba ITT, hogy elérhess minden támogatói tartalmat! Alkalmi támogatásra Paypalon keresztül van lehetőség (kattints a kis gombra!).
Ha másként szeretnéd támogatni a Cenwebet és a rezervátumot, akkor keress minket mailben a centauri16@gmail.com címen. Segítségedet előre is köszönjük!
még több MI
Ez roppant érdekes megint! Az ember nem is hinné, hogy ilyen befolyással is lehet ránk az AI, de ha jobban belegondolunk, akkor már érthető.
„túlnyomórészt angolszász kulturális normákat közvetítenek” Talán azért, mert főként angol nyelvű szövegekből dolgoznak.
Létrehoztunk magunknak egy eszközt, ami az életünknek szinte minden területére hatással lehet. Amíg kontrollálni tudjuk, addig nincs nagy baj. De mi lesz, ha már nem tudjuk?
A múlt héten jött hozzám egy szakvizsga előtt álló rezidens gyakorlatra- minden érdekes képet lefotózott és azonnal kérdezte az AI-t mi a véleménye……Szóval a fiatalok élete az tuti, hogy gyökeresen átalakul. Én sosem kérdezem meg- inkább cikkeket és valós esetekhez tartozó képeket gyűjtök. Elég jó vizuális memóriám van -szerencsére, bár megvallom sokat rontott rajtam is a kereső .