Vulnerabilitate în Securitatea Chatbot-urilor AI pe Site-ul Eurostar
O problemă de securitate a fost descoperită pe site-ul Eurostar
O plăcere a acoperirii comunității europene a hackerilor este oportunitatea de a călători cu trenul pe întreaga continent folosind mereu eficientul abonament Interrail. Un călător britanic pornește inevitabil o astfel de călătorie cu trenul Eurostar, care te duce confortabil prin tunelul Canalului. Recent, un raport referitor la o vulnerabilitate a inteligenței artificiale pe site-ul Eurostar, realizat de [Ross Donald], a captat atenția noastră.
Informațiile dezvăluite depășesc compania de trenuri și oferă detalii interesante despre cum măsurile de siguranță în chatbot-urile AI pot fi ocolite. Botul se află pe site-ul Eurostar și este un client simplu HTML și JavaScript care comunică cu un backend LLM printr-un API. Interogările API conțin întreaga conversație, deoarece, după cum ne spun producătorii de jucării AI, modelele lingvistice mari (LLM) implementate nu au o memorie a contextului conversațional actual.
Dezvoltatorii Eurostar nu au creat un bot fără măsuri de protecție, dar vulnerabilitatea a constat în faptul că aceste măsuri erau aplicate doar mesajului cel mai recent. Astfel, un mesaj inofensiv sau gol putea fi trimis, având un conținut ascuns într-un mesaj anterior din conversație. Ross a demonstrat că botul returnează informații sistemice despre sine, introducând HTML și JavaScript în răspunsurile sale. El a subliniat că ținta rezultatului putea fi doar el însuși și că nu a reușit să acceseze date ale altor clienți, așa că, din acest punct de vedere, operatorul de tren a fost, din fericire, scutit de riscul unei breșe. Totuși, din descrierea sa, suntem de acord că ar fi putut răspunde la dezvăluire într-un mod mai bun.
