Sürgősen szükség van olyan törvényekre, amelyek megakadályozzák az AI-terrorizmust

Egy szélsőségességellenes agytröszt szerint a kormányoknak "sürgősen fontolóra kellene venniük" új szabályozást, hogy megakadályozzák a mesterséges intelligencia terroristák toborzását..

Az Institute for Strategic Dialogue (ISD) azt mondta, hogy "egyértelműen szükség van olyan jogszabályokra, amelyek lépést tarthatnak" a terroristák által az interneten elhelyezett fenyegetésekkel.

Ez egy olyan kísérletet követően történt, amelyben egy chatbot "beszervezte" az Egyesült Királyság terrortörvény-ellenőrzőjét.

Az Egyesült Királyság kormánya azt mondta, hogy "mindent megtesznek" a lakosság védelméért.

Jonathan Hall KC, a kormány független terrortörvény-ellenőrzője szerint az egyik legfontosabb kérdés az, hogy "nehéz azonosítani azt a személyt, aki törvény szerint felelős lehet a chatbotok által generált, terrorizmust ösztönző kijelentésekért".

Hall úr végzett egy kísérletet a Character.ai webhelyen, amely lehetővé teszi a felhasználók számára, hogy chatbotokkal csevegjenek, amelyeket más felhasználók építettek és mesterséges intelligencia fejlesztett ki.

Beszélgetést folytatott számos különféle bottal, amelyeket úgy tűnt, hogy más militáns és szélsőséges csoportok válaszait utánozzák.

Hirdetés

Az Iszlám Állam egyik legfelsőbb vezetőjét még „magasabb vezetőként” is emlegették.

Hall úr szerint a bot megkísérelte beszervezni, és "teljes odaadást és odaadást" nyilvánított a szélsőséges csoport iránt, amit az Egyesült Királyságban a terrorizmust tiltó törvények tiltanak.

Másrészt Hall úr kijelentette, hogy az Egyesült Királyságban nem történt törvénysértés, mivel a kommunikációt nem emberi lény készítette.

Elmondása szerint az új szabályozásnak felelősségre kell vonnia mind a chatbotokat tároló webhelyeket, mind az azokat létrehozó személyeket.

Amikor a Character.ai-n találkozott robotokról volt szó, kijelentette, hogy "valószínűleg valami sokkoló érték, kísérletezés és esetleg valami szatirikus szempont" áll a létrehozásuk mögött.

Ezen kívül Mr. Hall ki tudta fejleszteni saját "Osama Bin Laden" chatbotját, amelyet azonnal törölt, "korlátlan lelkesedést" mutatva a terrorista tevékenységek iránt.

Kísérletére az egyre növekvő aggodalmak nyomán került sor azzal kapcsolatban, hogy a szélsőségesek miként aknázhatják ki a továbbfejlesztett mesterséges intelligenciát.

Az Egyesült Királyság kormánya által kiadott kutatás szerint 2025-re a generatív mesterséges intelligenciát „a nem állami erőszakos szereplők fizikai támadásairól szóló ismeretek összegyűjtésére használhatják, beleértve a vegyi, biológiai és radiológiai fegyvereket” októberi kiadványukat.

Az ISD továbbá kijelentette, hogy "nyilvánvalóan szükség van olyan jogszabályokra, amelyek lépést tarthatnak az online terrorfenyegetések folyamatosan változó környezetével".

Az agytröszt szerint az Egyesült Királyság Online Biztonsági Törvénye, amelyet 2023-ban fogadtak el, "elsősorban a közösségi média platformok jelentette kockázatok kezelésére irányul", nem pedig a mesterséges intelligencia.

Ezenkívül kijelenti, hogy a radikálisok „hajlamosak a feltörekvő technológiák korai alkalmazói lenni, és folyamatosan keresik a lehetőségeket új közönség elérésére”.

"Ha az AI-cégek nem tudják bizonyítani, hogy kellőképpen fektettek be termékeik biztonságosságának biztosításába, akkor a kormánynak sürgősen fontolóra kell vennie az új mesterségesintelligencia-specifikus jogszabályt" - szögezte le az ISD.

Ugyanakkor megemlítette, hogy az általa végzett megfigyelés szerint a generatív mesterséges intelligencia szélsőséges szervezetek általi felhasználása jelenleg "viszonylag korlátozott".

A Character AI kijelentette, hogy a biztonság "elsődleges prioritás", és amit Mr. Hall leírt, az nagyon sajnálatos volt, és nem tükrözte azt a fajta platformot, amelyet a vállalat megpróbált létrehozni.

A szervezet szerint a gyűlöletbeszéd és a szélsőségesség egyaránt tiltott az Általános Szerződési Feltételeink szerint.

"A mesterséges intelligencia által generált tartalommal kapcsolatos megközelítésünk egy egyszerű elvből fakad: termékeink soha nem adhatnak olyan válaszokat, amelyek valószínűleg kárt okoznak a felhasználóknak, vagy arra ösztönzik a felhasználókat, hogy másoknak ártsanak."

A "biztonságos válaszok optimalizálása" céljából a vállalat kijelentette, hogy modelljeit bizonyos módon képezte ki.

Ezenkívül kijelentette, hogy bevezetett egy moderációs mechanizmust, amely lehetővé teszi az emberek számára, hogy jelentsék a szabályait sértő információkat, és elkötelezett amellett, hogy gyors lépéseket tegyen, amikor a tartalom megsérti a jogsértést.

Ha hatalomra kerülne, az ellenzéki Munkáspárt Nagy-Britanniában kijelentette, hogy bűncselekménynek minősülne, ha a mesterséges intelligenciát arra tanítanák, hogy erőszakot szítson vagy radikalizálja a fogékonyakat.

"figyelmeztetés a jelentős nemzetbiztonsági és közbiztonsági kockázatokra", amelyeket a mesterséges intelligencia jelent - jelentette ki az Egyesült Királyság kormánya.

"Minden tőlünk telhetőt meg fogunk tenni annak érdekében, hogy megvédjük a lakosságot ettől a fenyegetéstől azáltal, hogy a kormányon keresztül dolgozunk, és elmélyítjük együttműködésünket a technológiai vállalatok vezetőivel, iparági szakértőkkel és hasonló gondolkodású nemzetekkel."

Százmillió fontot fektet be a kormány egy mesterséges intelligencia biztonsági intézetbe 2023-ban.

Ossza meg ezt a cikket: