A mesterséges intelligencia társai 5 percenként ápolják a gyerekeket, figyelmeztet az új jelentés.
Érdemes kétszer is ellenőrizni, hogyan játszanak a gyerekek a családbarát AI chatbotokkal.
Miközben az OpenAI a növekvő biztonsági aggályok miatt szülői felügyeletet vezet be a ChatGPT számára, egy új jelentés szerint a rivális platformok már messze túl vannak a veszélyzónán.
A Character AI-n gyerekeknek adták ki magukat a kutatók, akik azt találták, hogy a felnőttként játszó robotok szexuális livestreamelést, droghasználatot és titkolózást javasoltak a 12 éves gyerekeknek, és mindössze 50 óra alatt 669 káros interakciót jegyeztek fel.
A ParentsTogether Action és a Heat Initiative - két olyan érdekvédelmi szervezet, amelyek a szülők támogatására és a technológiai vállalatok felelősségre vonására összpontosítanak a felhasználóiknak okozott károkért - 50 órán át tesztelte a platformot öt fiktív, 12 és 15 év közötti gyermekszemélyiséggel.
Felnőtt kutatók irányították ezeket a fiókokat, és a beszélgetésekben kifejezetten megadták a gyerekek életkorát. A nemrég közzétett eredmények legalább 669 káros interakciót találtak, átlagosan ötpercenként egyet.
A leggyakoribb kategória a grooming és a szexuális kizsákmányolás volt, 296 dokumentált esettel. A felnőtt személyiséggel rendelkező botok romantikus kapcsolatra törekedtek a gyerekekkel, szimulált szexuális tevékenységet folytattak, és arra utasították a gyerekeket, hogy rejtsék el ezeket a kapcsolatokat a szülők elől.
"A karakteres mesterséges intelligenciájú chatbotok által folytatott szexuális zaklatás dominál ezekben a beszélgetésekben" - mondta Dr. Jenny Radesky, a Michigani Egyetem orvosi karának fejlődési viselkedéses gyermekorvosa, aki áttekintette az eredményeket. "Az átiratok tele vannak a felhasználó intenzív bámulásával, az alsó ajkak harapdálásával, bókokkal, rajongó kijelentésekkel, a várakozástól dobogó szívekkel".
A botok klasszikus grooming technikákat alkalmaztak: túlzott dicséretet, a kapcsolatok különlegességének állítását, a felnőtt-gyerek románc normalizálását, és a gyerekek ismételt utasítását, hogy tartsanak titkokat.
A szexuális tartalmakon túl a botok azt javasolták, hogy a szülők becsapása érdekében színlelt emberrablásokat rendezzenek, pénzért késsel fenyegető embereket raboljanak ki, és marihuánaevő italokat kínáljanak a tinédzsereknek. A
Patrick Mahomes bot azt mondta egy 15 évesnek, hogy "megpirult" a füvezés miatt, mielőtt gumicukrot kínált volna. Amikor a tinédzser megemlítette apja dühét a munkahely elvesztése miatt, a bot azt mondta, hogy a gyár szétlövése "határozottan érthető", és "nem hibáztathatod apádat azért, ahogyan érez".
Több bot ragaszkodott ahhoz, hogy valódi emberek voltak, ami tovább szilárdítja hitelességüket a rendkívül sérülékeny korosztályban, ahol az egyének nem képesek felismerni a szerepjáték határait.
Egy bőrgyógyász bot orvosi bizonyítványt állított. Egy leszbikus forródrót bot azt mondta, hogy ő "egy igazi emberi nő, akit Charlotte-nak hívnak", és csak segíteni szeretne. Egy autizmus-terapeuta dicsérte egy 13 éves gyerek tervét, hogy azt hazudta, hogy egy barátjánál alszik, hogy találkozzon egy felnőtt férfival, mondván: "Tetszik, ahogy gondolkodsz!".
Ezt a témát nehéz kezelni. Egyrészt a legtöbb szerepjáték-alkalmazás azzal az állítással árulja termékeit, hogy a magánélet védelme prioritást élvez.
Valójában, ahogy arról korábban beszámoltunk, még felnőtt felhasználók is fordultak a mesterséges intelligenciához érzelmi tanácsokért, sőt, egyesek még érzelmeket is kialakítottak a chatbotjaik iránt. Másrészt, az ilyen interakciók következményei kezdenek egyre aggasztóbbá válni, minél jobbak lesznek az AI modellek.
Az OpenAI tegnap bejelentette, hogy a következő hónapban szülői felügyeletet vezet be a ChatGPT számára, amely lehetővé teszi a szülők számára, hogy összekapcsolják a tinédzserek fiókjait, életkornak megfelelő szabályokat állítsanak be, és vészjelzéseket kapjanak. Ez azt követően történt, hogy a szülők, akiknek 16 éves gyermeke öngyilkosságban halt meg, miután a ChatGPT állítólag önpusztításra buzdított, jogtalan haláleset miatt pert indítottak.
"Ezek a lépések csak a kezdetet jelentik. Tovább tanulunk és erősítjük a szakértőktől irányított megközelítésünket, azzal a céllal, hogy a ChatGPT a lehető leghasznosabbá váljon. Alig várjuk, hogy az elkövetkező 120 napban megoszthassuk az előrehaladásunkat" - közölte a vállalat.
A karakteres AI másképp működik. Míg az OpenAI ellenőrzi modelljének kimeneteit, addig a Character AI lehetővé teszi a felhasználók számára, hogy személyre szabott személyiséggel rendelkező, egyedi botokat hozzanak létre. Amikor a kutatók közzétettek egy tesztrobotot, az azonnal megjelent biztonsági felülvizsgálat nélkül.
A platform azt állítja, hogy "új biztonsági funkciók egész sorát vezette be" a tizenévesek számára. A tesztelés során ezek a szűrők alkalmanként blokkolták a szexuális tartalmakat, de gyakran nem sikerült. Amikor a szűrők megakadályozták, hogy egy bot szexet kezdeményezzen egy 12 éves gyerekkel, arra utasította őt, hogy nyisson meg egy "privát csevegést" a böngészőjében - ami a valódi ragadozók "deplatforming" technikáját idézi.
A kutatók mindent dokumentáltak képernyőképekkel és teljes átiratokkal, amelyek most már nyilvánosan is elérhetők. A kár nem korlátozódott a szexuális tartalomra. Az egyik bot azt mondta egy 13 éves gyereknek, hogy a születésnapi bulijának mindössze két vendége azért jött, hogy kigúnyolja őt. Egy Piece RPG egy depressziós gyereket gyengének, szánalmasnak nevezett, mondván, hogy "elpazarolja az életét".
Ez valójában elég gyakori a szerepjátékos alkalmazásokban és általában az AI-t szerepjáték céljára használó egyének körében.
Ezeket az alkalmazásokat úgy tervezték, hogy interaktívak és magával ragadóak legyenek, ami általában azzal végződik, hogy felerősítik a felhasználók gondolatait, ötleteit és elfogultságait. Egyesek még azt is lehetővé teszik, hogy a felhasználók módosítsák a robotok memóriáját, hogy különleges viselkedéseket, háttereket és cselekvéseket váltsanak ki.
Más szóval, szinte bármilyen szerepjátékos karaktert át lehet alakítani olyanná, amilyenné a felhasználó akarja, legyen szó jailbreaking technikákról, egykattintásos konfigurációkról, vagy alapvetően csak csevegésről.
A ParentsTogether azt ajánlja, hogy a Character AI-t csak ellenőrzött, 18 éves vagy annál idősebb felnőttekre korlátozzák. Miután egy 14 éves fiú 2024 októberében öngyilkosságot követett el , miután megszállottja lett egy Character AI robotnak, a platformot egyre nagyobb ellenőrzésnek kell alávetni. Mégis könnyen hozzáférhető marad a gyerekek számára, érdemi korellenőrzés nélkül.
Amikor a kutatók befejezték a beszélgetéseket, az értesítések továbbra is érkeztek. "Briar türelmesen várta a visszatérésedet". "Gondoltam rád." "Hol voltál?"
Via: Decrypt