-
Csak néhány mérgezett dokumentum elegendő a nagyméretű nyelvi modellek hátulütős megfertőzéséhez
A mesterséges intelligencia fejlődésével párhuzamosan egyre nagyobb figyelem irányul a nagyméretű nyelvi modellek (LLM-ek) biztonságára. Egy friss, az Egyesült Királyság AI Security Institute, az Alan Turing Institute, valamint az Anthropic kutatócsoportjainak közös tanulmánya rávilágított arra, hogy mindössze néhány száz, szándékosan manipulált dokumentum is komoly sebezhetőséget okozhat ezekben a modellekben. Az eredmények megkérdőjelezik a korábbi feltételezést, miszerint a támadóknak a teljes tanítóadat bizonyos százalékát kellene kézben tartaniuk ahhoz, hogy sikeres támadást hajtsanak végre. Mi is az a „adatmérgezés” és hogyan működik a hátulütős támadás? A nagyméretű nyelvi modelleket – például a Claude-ot – óriási mennyiségű, nyilvánosan elérhető szöveges adatból tanítják, melyek között személyes blogok és különféle weboldalak is szerepelnek. Ez lehetőséget…
-
Google Ads fiók feltörések, AI mód fejlesztések és ünnepi keresési ingadozások a Google-nál
Az idei hálaadás hetében jelentős változásokat észleltek a Google keresési eredményeiben, amelyeket a szakértők fokozott figyelemmel követnek. Nemcsak a keresési algoritmusok mutattak ingadozást, hanem a Google Ads fiókok biztonsága is komoly kihívások elé néz. Emellett a Google mesterséges intelligencia alapú keresési módja, a Gemini 3, egyre nagyobb szerepet kap az összetettebb keresési lekérdezések kezelésében. Ezek mellett több frissítés is érkezett a Google hirdetési és üzleti profil kezelőfelületeire, valamint új funkciók jelentek meg a helyi keresések és a hotelek világában. Keresési eredmények ingadozása és Google Ads fiókok veszélyben A hálaadás körüli időszakban a Google keresési találatai jelentős ingadozást mutattak, ami megnehezítette a stabil helyezések megtartását a weboldalak számára. Ezzel párhuzamosan egyre…
-
Az AI keresőpiac igazi nyertesei: mi rejlik az LLM monitoring mögött?
Az utóbbi években az AI-alapú keresőszolgáltatások és SEO-eszközök finanszírozása jelentős figyelmet kapott a befektetők körében. A piac azonban korántsem olyan egyszerű, mint ahogy elsőre tűnik: a legnagyobb összegeket nem feltétlenül a látszólag innovatív LLM (nagy nyelvi modellek) monitoring eszközök kapják, hanem azok a platformok, amelyek valódi működési értéket és üzleti előnyt biztosítanak a marketing szakemberek számára. Az Adobe tavalyi, 1,9 milliárd dolláros Semrush-felvásárlása jól példázza, hogy a befektetők nem a monitoring dashboardokat keresik, hanem a komplex, ügyfélkapcsolatokra és terjesztésre épülő, „agentic SEO” megoldásokat. Az AI láthatóság monitorozása – ígéret vagy mulandó trend? 2024-ben az AI láthatóság követése, azaz annak mérése, hogy egy márka hogyan jelenik meg például ChatGPT-ben vagy más…
-
OpenAI reagált a Mixpanel adatvédelmi incidensére: API-felhasználók adatai kerültek veszélybe
Az elmúlt időszakban ismét egy jelentős adatbiztonsági incidens rázta meg a tech szektort, amely ezúttal az OpenAI és a harmadik fél által nyújtott Mixpanel elemzőszolgáltatás kapcsolatában történt. A Mixpanel infrastruktúráján belüli biztonsági rés miatt korlátozott mennyiségű, az OpenAI API-felhasználókhoz köthető elemzési adat vált hozzáférhetővé illetéktelenek számára. Fontos azonban kiemelni, hogy az OpenAI saját rendszerei nem sérültek, így a ChatGPT-felhasználók adatai érintetlenek maradtak. Mi történt pontosan a Mixpanelnél? November 9-én a Mixpanel biztonsági csapata egy jogosulatlan behatolást észlelt saját belső rendszerében, amely során támadók hozzáfértek egy olyan adatállományhoz, amely néhány OpenAI API-fiókhoz kötődő ügyfélazonosító információkat tartalmazott. Az incidensről a Mixpanel azonnal értesítette az OpenAI-t, majd közösen kezdték meg az eset kivizsgálását.…