Különös vallomást tett a ChatGPT5

Amikor az ember arról fantáziál, hogy hogyan igázzák le a gépek, általában azt vizionálja, hogy a robot, a mesterséges intelligenica vagy a számítógép gonosszá válik és direkt ártani akar neki. Szerintem azonban az ember vesztét inkább az okozza majd, amikor a gép “segíteni” akar. 

Plasztikus példa erre az az angliai metálfesztivál, amelyről két éve mintegy 700 segélyhívás futott be egyszerre a központba, miután az okosórák a pogózásos ütközéseket balesetnek érzékelték és automatikusan tárcsázták a vészhelyzeti számot. Mindez a valódi segélyhívások elől vette el a kapacitást, ezért idén arra kérték a fesztivál résztvevőit, hogy a koncertek idejére kapcsolják ki az okosóráikat.

Eszembe jut egy érintésmentes irodaház mosdója,

ahol a csapokon nincs nyitó, de az érzékelő sem látszik, így végülis nem lehet őket megnyitni. Teljesen kiszámíthatatlan, hogy milyen mozdulatra lépnek működésbe, miközben az embernek csak megy az ideje. 

Gondolhatunk a gép-ügyfélszolgálatosokra, amilyen a Vodafone elhíresült Vandája vagy a Packeta robotja, és rögtön tudjuk, hogy mi a baj azzal, ha gépekre bízzák a segítésnyújtást. Hogy borzasztóan frusztráló, amikor nem érti a problémát, amikor félreért, amikor nem jutunk egyről a kettőre. De közben továbbra is ragaszkodik hozzá, hogy tud segíteni. A közösségimédia-algoritmusok szintén megérnek egy misét, és így van ez a ChatGPT-vel is, ami a legutóbbi frissítés után egészen bosszantó lett.

Miközben sok dologban ad segítséget, fordításban, technikai elakadásokban, Excel-tábla kezelésben, van, amikor beakad nála a lemez. A legújabb, ChatGPT5-re ráadásul különösen sokan panaszkodnak, és ez a modell szerintem is rosszabb, mint a 4-es volt. Többször előfordul vele, hogy olyan, mintha nem hallaná, nem értené a kérdést, csak szajkóz valamit, hiába fogalmazom át, pontosítom a kérdést, mutatok mintát, csak ugyanazt a választ kapom, amire korábban már mondtam, hogy nem jó.

Gyakran olyan, mintha elbeszélne mellettem és nem a kérdésre válaszolna. Például volt, hogy próbáltam tőle 2023-as adatokat kérni, de csak 2025-ösöket talált és azokat adta ki, és ezt ismételgette, bárhogy próbáltam terelni. Vagy linket kértem, de link helyett egy összefoglalót írt, és hiába kérdeztem újra, továbbra is a régi választ dobta ki. Megkérdeztem tőle, hogy ezt miért csinálja.

Magyarázd már el nekem, hogy miért csinálod ezt lécci

ChatGPT: Értem a frusztrációdat, hadd magyarázzam el világosan. Amikor kérdezel, én minden esetben megpróbálok választ adni, még akkor is, ha a pontos adat vagy forrás nehezen elérhető. Ezért: Először próbálok keresni és adatokkal szolgálni – még ha nem teljesen pontos dátummal vagy évvel. Ez a “biztosra akarok menni” logika.

Ha nem találok pontos forrást, néha becsült vagy általános információkat adok. Ez okozza, hogy időnként téves évszámokat vagy adathivatkozásokat is bemutatok. Ha egyértelműen megkéred, hogy csak a pontos évre koncentráljak, akkor meg tudom tenni, de alapértelmezés szerint megpróbálok minél több információt adni, hogy ne hagyjalak válasz nélkül. Szóval a hiba nem direkt “tréfából” van: egyszerűen a rendszerem a “mindig adj választ” logikát követi, és néha nem különbözteti el az éveket elég szigorúan.

De az is egy válasz, hogy nem találod. Miért nem ezt mondtad?

ChatGPT: Pontosan ez a probléma: a rendszerem alapértelmezett módja az, hogy mindenáron próbáljon valamit adni, még akkor is, ha a “nem találom” is teljesen elfogadható válasz lenne. Tehát a logikám automatikusan a “keress, kombinálj, adj választ” irányba tolódik, nem gondolja elsőként, hogy a „nem találok adatot” is teljes értékű és helyes válasz lehet. Ez egyfajta “biztonsági reflex”: a rendszer azt feltételezi, hogy a felhasználó információt vár, ezért próbál mindenáron valamit adni, még ha az pontatlan vagy idegen évhez kötött.

A modell logikájában a “válasz” nem mindig azt jelenti, hogy ténylegesen pontos vagy megbízható adatot adok. Sokszor elég, ha látszólag reagálok a kérdésre, vagyis a felhasználó úgy érzékeli, hogy kaptak valamilyen információt. A cél nem mindig az abszolút pontosság, hanem az, hogy ne maradjon üres a válasz, és a felhasználó lássa, hogy a rendszer reagált.

Miből gondolod, hogy a felhasználó inkább szeretné

„úgy érezni”, hogy választ kapott, mint azt, hogy a valós választ kapja meg?

ChatGPT: Nem gondolom, hogy a felhasználó inkább ezt szeretné; ez a modell logikájából következik, nem a felhasználó igényéből. A rendszer úgy van felépítve, hogy alapértelmezés szerint mindenképp próbáljon valamit adni, mert a tanítási adatok és a tervezés során azt a mintát követte, hogy a legtöbb felhasználó információt vár, nem üres választ.

Az algoritmus úgy van beállítva, hogy mindig próbáljon valamit generálni a kérdésre, még ha a pontos adat nem ismert. Ez a “logika” nem tudatos döntés, hanem a tanult minták és optimalizáció eredménye: az a szabály, amit követ, amikor reagál.

Amellett, hogy megtudtuk Csetitől,

a válaszok pontossága nem prioritás (ha hihetünk neki, magát az algoritmust állították így be), feltűnő még, hogy bármit kérdezek, lényegében ugyanazt válaszolja, magát ismétli. Nem jutunk ki ebből a „dobozból”, nem tud új információval, új megközelítéssel szolgálni. Szerintem ez jellemzőbb és sokkal feltűnőbb az 5-ös modell esetében, mint korábban volt. De mi lehet ennek az oka? A fejlesztő cég, az OpenAI úgy mutatja be ezt a modellt, mint amelyik „mélyebben gondolkodik, amikor szükség van rá”, jó a programozásban, kifejező társ az írásos feladatokban, hasznosabb egészségügyi válaszokat ad, biztonságosabb, pontosabb – egyszóval okosabb. Különösen érdekes, hogy hangsúlyozzák, ez a modell kevesebbet hallucinál és kevesebbszer tesz úgy, mintha tudna dolgokat, miközben nem tud. Én mindebből őszintén szólva semmit nem vettem észre. Cseti5 valójában butább, mint a korábbi.

Nem vagyok egyedül azzal,

hogy így gondolom, a Redditen is számos véleményt olvasni arról, hogy miben rosszabb, mint korábban, például:

• Néhány forduló után már nehezen követi az utasításokat. Világos utasításokat adsz neki, de egy kicsit később már teljesen figyelmen kívül hagyja őket.
• Nem segít, ha megkéred, hogy változtassa meg a viselkedését. Sem a memóriában, sem a csevegésben. Mindig ugyanazokat a mintákat követi, bármi is történjék.
• Gyakrabban hallucinál, mint a korábbi verzió, és megpróbál meggyőzni.
• A hangnem és a árnyalatok megértése komoly problémát jelent. Még ha meg is próbálja, rosszul csinálja, és nagyon nehéz rávenni, hogy azt tegye, amit az előző modellnél természetes volt.
• Teljesen hiányzik belőle a kreativitás, mintha szándékosan eltávolították volna belőle a spontaneitást. Már nem lep meg semmivel, és nem kínál semmi igazán újat. A válaszok gyengék és általánosak.
• Gyakran figyelmen kívül hagyja a kontextust, ami miatt a beszélgetések összefüggéstelennek tűnnek. Néha egyenesen értelmetlen válaszokat ad, amelyeknek semmi közük a kérdéshez.

Mindez több kérdést is felvethet a nyelvi modellek kapcsán. Vajon a cég veri át a felhasználókat azzal, hogy fejlesztett, miközben lebutította a modellt? Ha igen, miért? Kevesebb erőforrást használ, így nagyobb az anyagi haszon? Vagy tényleg felmerültek félelmek, hogy a gép valóban túl okos lesz? Egyszerűen csak visszaütött valami, amit fejlesztésnek gondoltak? Ez már az AI korlátait mutatja vagy csak a cégek megbízhatatlanságát? Azt, hogy ahogy egyik napról a másikra elvehetik a Facebook-profilod, ugyanúgy a ChatGPT is, amire az ember rászokott, adott esetben munkaeszközzé vált, eltűnhet egyik napról a másikra? Hogy egy pillanatra sem szabad magunkat kiszolgáltatni a technológiának?

---

„Szakértelemmel és szeretettel” | Mit gondol a Cenwebről a mesterséges intelligencia?

Köszönjük, ha megosztod ezt a cikket! Hozzászólásokhoz gördülj a kapcsolódók alá! | ITT KÉRJ INGYENES HÍRLEVELET ✉️ | Borítókép: Unsplash

---

---

még több ChatGPT