Meggyőzhet-e egy intelligens #AI stratégia az EU-t arról, hogy a #Facebook tartalmak moderálása csak a parfüm?

Február 17-én, a brüsszeli európai politikai döntéshozókkal való találkozás közben, a Facebook vezérigazgatója, Mark Zuckerberg (a képen) kiadott egy fehér könyvet, amely felvázolja stratégiáját a káros tartalmak kezelésére a közösségi média platformon. Válaszul az Európai Unió azon kívánságára, hogy ragaszkodjon a technológiai ágazat felügyeletéhez, a milliárdos azt állította, hogy az ipart globális, nem pedig helyi szinten kell szabályozni.

Azt is állította, hogy korlátozni kell a technológiai társaságok elszámoltathatóságát a platformon lévő káros tartalmakért - mindaddig, amíg hatékony tartalom moderáló rendszerek működnek. Zuckerberg javaslatai azonban határozottan fagyos fogadást kapott Brüsszelben. Az EU még a Zuckerbergrel való találkozás után fenntartotta, hogy a Facebook új, a tartalom moderálására irányuló javaslata számos fronton elmaradt, különösképp nem határozta meg a platform konkrét lépéseit az illegális online tartalom elleni küzdelem érdekében. "Nem elég. Túl lassú, túl alacsony a felelősség és a szabályozás szempontjából ”- választotta az adatstratégiai biztos Thierry Breton, miután a Facebook vezetőjével ült.

Hol hiányzik a Facebook jelenlegi rendszere?

A technikai óriásoknak elég szűk lehetősége van arra, hogy meggyőzzék az európai politikai döntéshozókat arról, hogy a problémás tartalom megfékezésére irányuló erőfeszítéseik elegendőek. A Bizottság digitális szolgáltatásokról szóló törvényét, az EU 20 éves e-kereskedelemről szóló irányelv régóta várt felülvizsgálatát az év későbbi szakaszában tervezik bevezetni. Mint Breton megjegyezte: "Ha látjuk, hogy a [Facebook saját tartalom moderálási folyamata] nem a saját szabványainkhoz szükséges, akkor ezt a [digitális szolgáltatásokról szóló törvényben] szabályoznunk kell és be kell illesztenünk".

A Facebook elhatározta, hogy képes maga a tartalom moderálás problémáját megoldani - a mesterséges intelligencia (AI) fejlesztéseinek és a gépi tanulásnak a segítségével javíthatja jelenlegi rendszerét. A problémás anyag azonosításának és eltávolításának nehézkes feladatát jelenleg harmadik fél szakembereinek adják ki, akik mérlegelési jogkörüket használják annak meghatározására, hogy egy kép vagy videó miért kifogásolható.

Az ilyen emberi felügyeletre való támaszkodás problematikus, mivel néhány tartalomszabályozó szomorú jellege kénytelen átváltani - az a tény, hogy a Facebook-ot Lisszabonban, Dublinban és Varsóban moderáló alkalmazottak tanúsították, hogy munkájuk adta nekik a PTSD minden bizonnyal vörös zászlókat emel. az európai intézményekben. Ezenkívül az emberi moderálás hatékonyságát megkérdőjelezték, miután a Facebook többször nem sikerült gyorsan eltávolítani a káros tartalmakat, például a Christchurch-mecset 2019. évi élő közvetítését.

AI csatlakoztathat néhány Facebook vakpontot

Hirdetés

A mesterséges intelligencia jelentősen csökkenti az emberi mérsékléstől való ilyen függőséget. A gépi tanulással képzett algoritmusok támogathatják a moderátorokat azáltal, hogy nemcsak csökkentik a káros online tartalomnak való kitettségüket, hanem javítják termelékenységüket és pontosságukat is. A Facebook azt állítja, hogy eddig ígéretes eredményeket ért el az AI-vel végzett kísérleteiben - a platform szerint 2019 második felében a platformnak sikerült megjelölnie a grafikai tartalom 99.8% -át, a meztelenség és a gyermekek kizsákmányolásának 99.5% -át, még mielőtt a felhasználók jelezték őket. . Természetesen a technológiának továbbra is finomításra van szüksége - az AI-n alapuló tartalom moderáló algoritmusok különösen küzdenek például a gyűlöletbeszéd árnyalatainak felismerésével - egy olyan kérdés, amelyet az Európai Unió különösen aggaszt.

Sőt, az Európai Unió attól tart, hogy megengedi a Facebook számára a szabad uralmat az olyan érzékeny technológiák, mint az AI kiaknázása során. Ezek az aggodalmak elsősorban a Facebook gyenge eredményei miatt vannak az európai átláthatósági előírások teljesítésében - felvetették a gondolatot, hogy a társaság „fekete doboz algoritmusokat” dolgozhat ki, amelyek megakadályozzák a harmadik felek vagy az állami ellenőrzéseket a platformon.

A digitális politika középpontjában - amelyet az EU digitális cára és versenyfőnöke, Margrethe Vestager a múlt héten kiadott - annak szabályozása, hogy a vállalatok hogyan használják a mesterséges intelligenciát. Miközben az EU azt akarja, hogy a kormányok figyelemmel kísérjék annak kockázatosabb aspektusait, például az arcfelismerési technológia használatát, Európa saját kertjében számos alkalmazás demonstrálja, hogyan lehet biztonságosan és hatékonyan használni. Lehetséges, hogy a Facebook bevon egy támadást tőlük?

A következő generációs közösségi média alkalmazások az AI innovatív felhasználásával teszik jelemet

Különösen egy európai alkalmazás kreatív módon hasznosította a mesterséges intelligenciát, hogy biztonságosabb és kellemesebb élményt nyújtson fiatal felhasználói számára. A Yubo, a 13-25 éves korosztály számára élő, élő streaming alkalmazás, az összetett algoritmusok közötti egyensúlyra és a fiatalok online károkkal kapcsolatos oktatására támaszkodik, hogy 20 millió felhasználóját biztonságban lehessen tartani a platformon. Egy alaposan képzett algoritmus észlel olyan problematikus tartalmakat, mint a meztelenség vagy valaki csak az alsóneműjében, élő közvetítés során - amikor a Yubo valósidejű intervenciós rendszere bekapcsol, figyelmeztető üzenetet küld a felhasználóknak, elmagyarázva, miért van ilyen viselkedés kifogásolható. Ha a felhasználó nem helyesbíti viselkedését, az adatfolyam távolról leállítható.

Annak érdekében, hogy megbizonyosodjon arról, hogy az alkalmazás a tizenévesek és a fiatal felnőttek számára van-e fenntartva, eközben a Yubo együttműködött a népszerű brit székhelyű digitális személyazonosító szolgáltatóval, Yoti-val, amely az arcfelismerő szoftver segítségével a feltöltött azonosító dokumentumokat a felhasználói szelfikhez illeszti. A Yoti technológiáját - amelyet a szupermarketekben is alkalmaznak annak biztosítása érdekében, hogy a 18 év alatti személyek nem vásárolnak korlátozott árukat, például cigarettát vagy alkoholt - más szociális média alkalmazásokkal is felhasználhatják, hogy „öregedjék” közösségüket, vagy hogy biztosítsák a felhasználók akik azt mondják, hogy vannak.

Yubo kísérletei a problémás online tartalom rágcsálására a bimbóban - a számítógéppel támogatott moderálás ötvözésével és a fiatal felhasználók érzékenyítésével a jó online protokoll csinálásának és megtapasztalásának szempontjából - robbantottak a technológiai ágazatban. Bátorító példát kell mutatniuk mind a technológiai óriások számára, mint például a Facebook, mind a szabályozók számára, mint például az Európai Unió, hogy a közösségi média platformjai egészséges egyensúlyt teremthetnek az AI-k túlzott mértékű támaszkodása vagy az emberi felügyelet között.

A mesterséges intelligencia nem gyógyít a társadalmi média platformjai előtt álló kihívásokra. Mivel a Facebook arra törekszik, hogy meggyőzze az EU-t, hogy képes saját tartalmának moderálására, ugyanakkor hasznos lenne, ha vett egy figyelmeztetést az új generációs alkalmazásokból, amelyeknek sikerült egy átfogó stratégiát kidolgozni, amely magában foglalja az AI-t a felhasználók biztonságának megőrzése érdekében. .

Ossza meg ezt a cikket: