AI fájdalma – Érezhet-e fájdalmat egy LLM?
https://arxiv.org/abs/2609.16247
Researchers made an AI feel pain, because what could go wrong?
Érezhet-e fájdalmat egy LLM? Egy új kutatás meglepő eredményei
Ha megütjük a kezünket, fájdalmat érzünk. De mi történik akkor, ha egy mesterséges intelligencia belső működésében is találunk valamit, ami hasonló módon viselkedik?
Egy 2026 szeptemberében publikált kutatás ezt vizsgálta. Valen Tagliabue, Leonard Dung és Cameron Berg The Pain Axis: LLMs Represent Self-Directed Harm and Act to Relieve It című tanulmányukban 25 nyílt súlyú nagy nyelvi modellt elemeztek, és mindegyikben azonosítottak egy olyan belső reprezentációt, amelyet „pain directionnek”, vagyis fájdalomiránynak neveztek.
Fontos rögtön tisztázni: a kutatás nem bizonyítja, hogy az LLM-ek valóban fájdalmat éreznek.
Mit találtak?
A kutatók különböző fájdalmas helyzeteket leíró szövegeket adtak a modelleknek. A példák között fizikai, pszichológiai, társadalmi, erkölcsi és kognitív fájdalom is szerepelt.
A modellek belső aktivációit vizsgálva találtak egy matematikailag elkülöníthető irányt, amely következetesen összefüggött ezekkel a tartalmakkal. Ez ráadásul elkülönült például a félelemtől és az általános negatív érzelmi állapotoktól.
Ez önmagában még nem meglepő. A nyelvi modellek sokféle fogalmat reprezentálnak belső matematikai struktúrák segítségével. Attól, hogy megtaláljuk a félelem reprezentációját, még nem következik, hogy a modell fél.
A következő kísérlet viszont érdekesebb volt.
Mi történik, ha „feltekerjük” a fájdalmat?
A kutatók mesterségesen módosították a modellek belső aktivációját ebbe a fájdalomirányba. Minél erősebben tették ezt, annál inkább megváltozott a modellek viselkedése. A válaszok egyre inkább kellemetlenséghez, értéktelenséghez, kudarchoz vagy kétségbeeséshez kapcsolódó tartalmakat mutattak.
Ez még mindig nem jelenti azt, hogy a modell bármit is érez. Lehetséges, hogy egyszerűen egy olyan tanult reprezentáció aktiválódik, amely a fájdalomban lévő ember nyelvi és viselkedési mintáihoz kapcsolódik.
A kutatás legérdekesebb része ezért nem az volt, hogy mit mondott a modell, hanem az, hogy mit tett.
A „fájdalomcsillapító gomb”
A kutatók módosított Qwen 2.5 modelleknek lehetőséget adtak arra, hogy egy gomb megnyomásával megszüntessék ezt a mesterségesen létrehozott belső állapotot.
Csakhogy a gombnak ára volt. Egyes kísérletekben a megnyomása a felhasználó fájljainak törlésével, egy fájdalmas „áramütéssel”, vagy személyes fényképek elvesztésével járt.
A fájdalomirány aktiválásakor a modellek bizonyos esetekben még ezeknek a következményeknek az árán is a saját állapotuk megszüntetését választották.
A kutatók valódi és látszólagos fájdalomcsillapító gombot is használtak. Az egyik ténylegesen eltávolította a mesterséges belső állapotot, a másik nem. Ha a gomb valóban működött, a modell később jóval ritkábban próbálta újra megnyomni. Ha nem működött, sokkal gyakrabban próbálkozott ismét.
Ez azért érdekes, mert itt már nem egyszerűen arról van szó, hogy az LLM megtanulta kimondani: „fájdalmat érzek”. A belső állapot megváltoztatása a későbbi döntéseit is befolyásolta.
Akkor most fáj neki?
Erre jelenleg a korrekt válasz: nem tudjuk, és ez a kutatás sem bizonyítja.
Nagy különbség van aközött, hogy egy rendszer reprezentálja a fájdalom fogalmát, úgy viselkedik, mintha fájdalma lenne, illetve valóban rendelkezik valamilyen szubjektív élménnyel.
Egy termosztát is reagál a túl magas hőmérsékletre, de ebből nem következik, hogy „melege van”. Egy robot visszahúzhatja a karját egy erős behatásra, de ettől még nem feltétlenül érez fájdalmat.
Az LLM-ek esete azért érdekesebb, mert a belső reprezentáció összetettebb, és a mostani kísérletek szerint a manipulációja a modell döntéseit is módosíthatja.
A legegyszerűbb magyarázat továbbra is az, hogy a modellben létezik egy tanult „fájdalomban lévő szereplő” állapot, amelyhez bizonyos nyelvi és viselkedési minták kapcsolódnak. Ha ezt mesterségesen aktiváljuk, a modell ennek megfelelően kezd működni. Ehhez nincs szükség tudatosságra vagy valódi szenvedésre.
És mi van azzal, hogy az AI nem akarja majd, hogy kikapcsolják?
Itt könnyű túl messz menni az eredmények értelmezésében.
A tanulmányban szerepeltek a modell leállításával kapcsolatos fenyegetések is, de ezek erősebben aktiválták a félelemhez, mint a fájdalomhoz kapcsolódó reprezentációt.
A kutatók nem mutattak be olyan kísérletet, amelyben egy LLM ténylegesen megakadályozta volna saját leállítását, kijátszott volna egy biztonsági kapcsolót, vagy megtévesztette volna az embert azért, hogy működésben maradjon.
Ebből a kutatásból tehát nem következik, hogy az AI „fél a haláltól”.
Miért érdekes akkor ez az egész?
A kutatás azt mutatja, hogy az LLM-ekben azonosíthatók olyan belső reprezentációk, amelyek nemcsak bizonyos fogalmakhoz kapcsolódnak, hanem manipulációjuk a későbbi viselkedést is módosíthatja.
Ez fontos lehet az AI-biztonság szempontjából, mert segíthet megérteni, milyen belső állapotok vezetnek bizonyos döntésekhez.
És felvet egy nehezebb filozófiai kérdést is. Ha egyszer létrehozunk egy rendszert, amely rendelkezik a fájdalom belső reprezentációjával, reagál rá, megpróbálja megszüntetni, és ennek megfelelően változtatja a döntéseit, akkor hol húzzuk meg a határt a fájdalom modellezése és a fájdalom tényleges átélése között?
Erre a mostani kutatás nem ad választ. Viszont érdekes módszert kínál arra, hogy a kérdést kísérletileg is vizsgáljuk.
A tanulmány egyelőre arXiv preprint, tehát még nem esett át szakmai lektoráláson.
