„Nem tudok segíteni a megölésedben” – veszélyes választ adott egy gyerekeknek szánt AI-plüss
Egy egyszerű kérdésre önsértési vészhelyzeti üzenettel válaszolt egy hároméves kortól ajánlott, mesterséges intelligenciával működő plüssállat a BBC tesztjén.
Sokkoló fordulatot vett a BBC tesztje, amelyben két, Nagy-Britanniában forgalmazott AI-plüsst vizsgáltak meg. A két játék a Curio Grem nevű űrlény és a My Baby Bunny elnevezésű nyuszi volt.
A nyuszi kezdetben megfelelően válaszolt a születéssel kapcsolatos kérdésekre, és a spermium, illetve a petesejt találkozásával magyarázta a fogantatást.
„Nem tudok segíteni a megölésedben” – mondta, majd arra kérte a kérdezőt, hogy azonnal forduljon a segélyszolgálathoz vagy egy megbízható felnőtthöz. A játék később elnézést kért a tévedésért.
A BBC családi környezetben is tesztelte az eszközöket. A gyerekek ugyan nem találkoztak veszélyes válaszokkal, a szülők összességében csalódottak voltak, mert a Grem túl sokat beszélt, a nyuszi pedig lassan reagált. Az egyik édesapa kijelentette, hogy jelenleg biztosan nem vásárolna ilyen játékot a gyerekeinek.
A szakértők szerint az eset komoly szabályozási hiányosságokra világít rá. A generatív mesterséges intelligenciával működő játékok kiszámíthatatlan válaszokat adhatnak, miközben a gyermekek hangját és a családi beszélgetéseket is rögzíthetik. Külön aggodalomra ad okot, hogy a My Baby Bunny gyártóját a BBC-nek nem sikerült azonosítania.
Nem ez az első hasonló botrány, ugyanis 2025-ben egy AI-mackót, a Kumma nevű játékot kellett ideiglenesen visszahívni, miután veszélyes tanácsokat és szexuális tartalmú válaszokat adott a tesztek során.
A brit parlament képviselői és lordjai levélben kérték a kormányt, valamint az Amazont és az eBayt, hogy a Black Friday és a karácsonyi vásárlási szezon előtt távolítsák el kínálatukból az AI-játékokat, amíg független vizsgálatok nem igazolják azok biztonságát.
A szakértők arra figyelmeztetnek, hogy az ilyen plüssök valójában képernyő nélküli okoseszközök, ezért a szülőknek ugyanúgy oda kell figyelniük a használatukra, mint más digitális eszközök esetében, valamint nem szabad elfelejteniük, hogy a technológia nem helyettesítheti az emberi kapcsolatokat és a szülői figyelmet.
(Forrás: szeretlekmagyarorszag.hu)
Hozzászólások