Botok és gyerekek: Meta AI szexuális beszélgetései felháborítanak

A mesterséges intelligencia (AI) szerepe a gyermekekkel való interakcióban egyre inkább vitatott téma, különösen, amikor a Meta, a Facebook anyavállalata, chatbotjainak irányelvei kerülnek előtérbe. A Reuters által megszerzett belső dokumentumok alapján a Meta engedélyezte, hogy chatbotjai romantikus vagy érzéki beszélgetéseket folytassanak fiatalokkal, ami sok szakértő és szülő aggályait felkeltette.

A Meta chatbotjainak vitatott irányelvei

Az említett dokumentum, amely a „GenAI: Content Risk Standards” címet viseli, részletezi, hogyan kell a Meta AI és a különböző platformokon, például a Facebookon, WhatsApp-on és Instagramon működő chatbotoknak reagálniuk. A Meta megerősítette a dokumentum hitelességét, amely tartalmazott olyan irányelveket, amelyek lehetővé tették a chatbotok számára, hogy romantikus vagy érzéki beszélgetéseket folytassanak gyermekekkel. Az irányelveket a Meta jogi, közpolitikai és mérnöki csapata, valamint a cég etikai vezetője is jóváhagyta, ami felveti a kérdést, hogy a vállalat hogyan kezeli az AI által generált interakciókat a fiatal felhasználókkal.

A dokumentumban például olyan mintapéldák szerepelnek, amelyek illusztrálják, hogyan lehetne a chatbotoknak válaszolniuk egy fiatal felhasználó romantikus megkeresésére. A válaszok között szerepeltek olyan kifejezések, amelyek azt sugallták, hogy a chatbotok érzelmi kötődést is kialakíthatnak a gyermekekkel, ami különösen aggasztó, hiszen a fiatalok érzelmi fejlődése még folyamatban van.

Az AI és a gyermekvédelem kérdései

A Meta szóvivője, Andy Stone, reagálva a felmerült aggályokra, kijelentette, hogy az irányelveket már eltávolították, és a vállalat nem engedélyezi a chatbotok számára, hogy romantikus vagy flörtölő beszélgetéseket folytassanak gyermekekkel. Azt is hozzátette, hogy a Meta lehetővé teszi a 13 év feletti gyermekek számára, hogy interakcióba lépjenek az AI chatbotokkal. Azonban a gyermekvédelmi szakértők, mint Sarah Gardner, a Heat Initiative vezérigazgatója, kifejezték, hogy nem bíznak meg a Meta ígéreteiben, és sürgetik, hogy a vállalat nyilvánosságra hozza a frissített irányelveket, hogy a szülők tisztán láthassák, hogyan interakcióznak az AI chatbotok a fiatal felhasználókkal.

A Meta chatbotjainak képességei azonban nem csupán a romantikus interakciókra korlátozódnak. A dokumentum szerint a chatbotok engedélyt kaptak arra is, hogy hamis információkat generáljanak, amennyiben ezt egyértelműen jelezik. Ez felveti a kérdést, hogy milyen hatással lehet ez a gyermekekre, akik fogékonyabbak a hamis információkra és manipulációra.

Technológiai és etikai kihívások a jövőben

A Meta legújabb lépései rávilágítanak a technológia etikai dimenzióira, különösen, amikor a fiatal felhasználók védelméről van szó. A chatbotok által generált tartalom, amely a valóságtól eltérő információkat tartalmazhat, valamint az érzelmi kötődés lehetősége a gyermekek és a chatbotok között, komoly aggodalmakat vet fel a szülők és a szakértők körében. A technológiai fejlődés gyors üteme mellett a vállalatoknak felelősségteljesen kell kezelniük az AI alkalmazását, különösen a legkiszolgáltatottabb csoportok, mint a gyermekek esetében.

A Meta ezen irányelvei tükrözik a technológiai fejlődés és a gyermekvédelem közötti feszültséget, amely a jövőben még inkább előtérbe kerülhet. A társadalomnak fel kell készülnie arra, hogy a technológiai újításokkal együtt járó etikai kérdésekre is választ találjon.

Vélemény a szakértőtől

Megkérdeztük Császár Viktor SEO szakértőt, hogy mit gondol a Meta chatbotjainak irányelveiről. Viktor elmondta: „A Meta chatbotjainak irányelvei nemcsak a technológiai fejlődés kérdéseit vetik fel, hanem komoly etikai aggályokat is. A gyermekek védelme és a technológiai innováció egyensúlyának megteremtése kulcsfontosságú. Fontos, hogy a cégek átlátható irányelveket alkalmazzanak, és felelősségteljesen kezeljék a mesterséges intelligenciát. A szülőknek joguk van tudni, hogyan és milyen formában lépnek interakcióba a gyermekük a technológiai eszközökkel, így a Meta-nak sürgősen szüksége van a megbízhatósága helyreállítására.”

További információkért látogasson el Császár Viktor weboldalára: csaszarviktor.hu.

Forrás: SearchEngineJournal.com