NMHH: a mesterséges intelligencia dönti el, mi a tiltott, tűrt és támogatott
Már félmillió magyart korlátozhatott a Facebook, miközben az online óriásplatformok tartalom- és fiókmoderálási szabályai gyakorlatilag átláthatatlanok - egyebek mellett erre mutatott rá egy a Nemzeti Média- és Hírközlési Hatóság (NMHH) megbízásából készült friss tanulmány, amelynek megállapításait a hatóság kommunikációs igazgatósága kedden közölte az MTI-vel.
A kutatás a Facebook és a YouTube gyakorlatát és szabályzatait elemezve azt vizsgálta, hogyan korlátozzák a nagy platformszolgáltatók a felhasználókat. A szerző, Ződi Zsolt rávilágít, hogy az online platformok havi szinten több millió szankcionáló döntést hoznak mesterséges intelligencia segítségével, amelyeknek aztán általában a felülvizsgálatát sem valós emberek végzik.
A tanulmány szerint az Európai Unió digitális szolgáltatásokról szóló rendelete (DSA) értelmében ma már minden online óriásplatformnak számot kell adnia a moderációs döntéseiről: ennek nyomán kiderült, hogy naponta százezres nagyságrendű, havi szinten pedig több millió korlátozó döntést hoznak, jellemzően mesterséges intelligencia segítségével.
A döntésekre a felhasználók általában nem kapnak érdemi magyarázatot vagy indoklást, így a korlátozó algoritmusok működése átláthatatlan marad számukra. Az érintetteknek ugyan rendre lehetőségük van kifogásolni a platformszolgáltatók lépéseit, sérelmükről azonban általában szintén mesterséges intelligencia határoz, amelytől nehezen várható, hogy felülbírálja az eredeti döntést.
Az érdemi panaszkezelés, illetve a korlátozott tartalmak vagy fiókok helyreállítása így ma már egyre ritkább - tették hozzá. Úgy folytatták, hogy megnehezíti a felhasználók eligazodását a platformok szabályzatainak rendezetlensége is: ezeket a szolgáltatók nem foglalják egyetlen, jól átlátható dokumentumba, a kisebb részterületeket érintő szabályzataik pedig sokszor logikátlanul csoportosítják az egyes szabálysértéseket.
Gyakoriak a rendkívül tágan értelmezhető megfogalmazások is: a YouTube például az általános szerződési feltételeiben lefekteti, hogy nemcsak a kifejezetten jogellenes vagy szabályzatellenes tartalmakat távolíthatja el, hanem bármit, ami "kárt okozhat" a platformnak.
A szolgáltatók legnagyobbrészt a spamként azonosított tartalmakat, illetve a hamisnak vélt fiókokat moderálják, azonban százezres nagyságrendben hoznak korlátozó döntéseket két, a szólásszabadságot érdemben érintő kategóriában, a gyűlöletbeszéd és a dezinformáció fogalomkörében is.
A tanulmány vizsgálta az érintett platformszolgáltatók magyar felhasználókkal szembeni korlátozó gyakorlatát is, külön vizsgálva a tiltásokat és az árnyéktiltásokat. Előbbi esetekben a szolgáltató értesítést küld a moderációról, utóbbiakban azonban a felhasználó tudta nélkül alkalmaz korlátozást, például nem jeleníti meg egy-egy bejegyzését más felhasználók hírfolyamában.
Az óriásplatformok nem közölnek országokra lebontott adatokat a moderálási gyakorlatukról, a Nemzeti Közszolgálati Egyetem reprezentatív kérdőíves felmérése szerint azonban a 2024-ben megkérdezett magyar lakosság csaknem 15 százaléka - a teljes népességre vetítve nagyjából félmillió ember - tapasztalta már, hogy a szolgáltató törölte vagy korlátozta valamilyen tartalmát, esetleg tiltotta a fiókját, s ez ötszázalékos emelkedést jelent a korábbi évek eredményeihez képest.
Az érintett felhasználók felét ráadásul már többször is elérte korlátozó intézkedés, negyedüknek pedig volt, hogy a fiókját is felfüggesztette a szolgáltató. Harmaduk kifejezetten kérte már korlátozó intézkedés feloldását, de 2024-ben a korlátozott tartalmak csupán egytizedét állította helyre a platform.
A 2020-ban publikált felmérésben ez az arány jóval nagyobb volt, a szolgáltató ekkor még a felfüggesztett tartalmak mintegy egyötödét helyreállította, aminek oka elsősorban az lehet, hogy a platformszolgáltatók már a panaszok kezelését is egyre inkább mesterséges intelligenciákra bízzák - írták.
A tanulmány rámutatott, hogy áldásos lenne, ha a jövőben a felhasználók valóban érdemi magyarázatot kaphatnának a platformoktól, amennyiben korlátozás éri őket. Kiemelte azt is, hogy a digitalizált világban ma már megkerülhetetlen óriásplatformoknak a jelenleginél jóval szélesebb körben kellene biztosítaniuk az emberi ügyintézőhöz fordulás lehetőségét, ehhez pedig nagyságrendekkel több munkatársat kellene alkalmazniuk.
A kutatás részletes eredményeiről a https://onlineplatformok.hu/cikk/az-oriasplatformok-tartalomtorlesi-fiokfelfuggesztesi-fioktorlesi-es-shadow-banning-gyakorlata linken lehet olvasni. A https://youtu.be/YjcUizUQC1w linken elérhető videóban pedig Németh Gábor Sándor, az NMHH online platformok főosztályának jogi szakértője beszél a témáról.
(Forrás: MTI)
A kutatás a Facebook és a YouTube gyakorlatát és szabályzatait elemezve azt vizsgálta, hogyan korlátozzák a nagy platformszolgáltatók a felhasználókat. A szerző, Ződi Zsolt rávilágít, hogy az online platformok havi szinten több millió szankcionáló döntést hoznak mesterséges intelligencia segítségével, amelyeknek aztán általában a felülvizsgálatát sem valós emberek végzik.A tanulmány szerint az Európai Unió digitális szolgáltatásokról szóló rendelete (DSA) értelmében ma már minden online óriásplatformnak számot kell adnia a moderációs döntéseiről: ennek nyomán kiderült, hogy naponta százezres nagyságrendű, havi szinten pedig több millió korlátozó döntést hoznak, jellemzően mesterséges intelligencia segítségével.
A döntésekre a felhasználók általában nem kapnak érdemi magyarázatot vagy indoklást, így a korlátozó algoritmusok működése átláthatatlan marad számukra. Az érintetteknek ugyan rendre lehetőségük van kifogásolni a platformszolgáltatók lépéseit, sérelmükről azonban általában szintén mesterséges intelligencia határoz, amelytől nehezen várható, hogy felülbírálja az eredeti döntést.
Az érdemi panaszkezelés, illetve a korlátozott tartalmak vagy fiókok helyreállítása így ma már egyre ritkább - tették hozzá. Úgy folytatták, hogy megnehezíti a felhasználók eligazodását a platformok szabályzatainak rendezetlensége is: ezeket a szolgáltatók nem foglalják egyetlen, jól átlátható dokumentumba, a kisebb részterületeket érintő szabályzataik pedig sokszor logikátlanul csoportosítják az egyes szabálysértéseket.
Gyakoriak a rendkívül tágan értelmezhető megfogalmazások is: a YouTube például az általános szerződési feltételeiben lefekteti, hogy nemcsak a kifejezetten jogellenes vagy szabályzatellenes tartalmakat távolíthatja el, hanem bármit, ami "kárt okozhat" a platformnak.
A szolgáltatók legnagyobbrészt a spamként azonosított tartalmakat, illetve a hamisnak vélt fiókokat moderálják, azonban százezres nagyságrendben hoznak korlátozó döntéseket két, a szólásszabadságot érdemben érintő kategóriában, a gyűlöletbeszéd és a dezinformáció fogalomkörében is.
A tanulmány vizsgálta az érintett platformszolgáltatók magyar felhasználókkal szembeni korlátozó gyakorlatát is, külön vizsgálva a tiltásokat és az árnyéktiltásokat. Előbbi esetekben a szolgáltató értesítést küld a moderációról, utóbbiakban azonban a felhasználó tudta nélkül alkalmaz korlátozást, például nem jeleníti meg egy-egy bejegyzését más felhasználók hírfolyamában.
Az óriásplatformok nem közölnek országokra lebontott adatokat a moderálási gyakorlatukról, a Nemzeti Közszolgálati Egyetem reprezentatív kérdőíves felmérése szerint azonban a 2024-ben megkérdezett magyar lakosság csaknem 15 százaléka - a teljes népességre vetítve nagyjából félmillió ember - tapasztalta már, hogy a szolgáltató törölte vagy korlátozta valamilyen tartalmát, esetleg tiltotta a fiókját, s ez ötszázalékos emelkedést jelent a korábbi évek eredményeihez képest.
Az érintett felhasználók felét ráadásul már többször is elérte korlátozó intézkedés, negyedüknek pedig volt, hogy a fiókját is felfüggesztette a szolgáltató. Harmaduk kifejezetten kérte már korlátozó intézkedés feloldását, de 2024-ben a korlátozott tartalmak csupán egytizedét állította helyre a platform.
A 2020-ban publikált felmérésben ez az arány jóval nagyobb volt, a szolgáltató ekkor még a felfüggesztett tartalmak mintegy egyötödét helyreállította, aminek oka elsősorban az lehet, hogy a platformszolgáltatók már a panaszok kezelését is egyre inkább mesterséges intelligenciákra bízzák - írták.
A tanulmány rámutatott, hogy áldásos lenne, ha a jövőben a felhasználók valóban érdemi magyarázatot kaphatnának a platformoktól, amennyiben korlátozás éri őket. Kiemelte azt is, hogy a digitalizált világban ma már megkerülhetetlen óriásplatformoknak a jelenleginél jóval szélesebb körben kellene biztosítaniuk az emberi ügyintézőhöz fordulás lehetőségét, ehhez pedig nagyságrendekkel több munkatársat kellene alkalmazniuk.
A kutatás részletes eredményeiről a https://onlineplatformok.hu/cikk/az-oriasplatformok-tartalomtorlesi-fiokfelfuggesztesi-fioktorlesi-es-shadow-banning-gyakorlata linken lehet olvasni. A https://youtu.be/YjcUizUQC1w linken elérhető videóban pedig Németh Gábor Sándor, az NMHH online platformok főosztályának jogi szakértője beszél a témáról.
(Forrás: MTI)
Hozzászólások