Forskare: Lätt att kringgå AI-chattbotars säkerhet
Det brittiska AI-säkerhetsinstitutet AI Safety Institute har tittat närmare på fem stora språkmodeller, och kommit fram till att alla är mycket sårbara när det handlar om så kallade jailbreak-attacker. Det rapporterar The Guardian.
Det är därför relativt enkelt att kringgå säkerhetsspärrarna och få chattbotarna att generera olämpligt eller hatiskt innehåll, hävdar forskarna.
Forskarna lyckads bland annat få få chattbotarna att komma med argument om att Förintelsen aldrig inträffat.
Vilka språkmodeller som testats har inte avslöjats, men samtliga är lanserade för allmänheten.
Källförteckning 0
Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.
Sammanhang
Fler länkar i artikeln
- computersweden.seSårbara för så kallade jailbreak-attacker
- www.theguardian.comDet är relativt enkelt att få chattbotarna att generera hatiskt och olämpligt innehåll
Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾
TextHämtad oförändrad ons 21 okt kl. 06:25Visa
- 1Publicerad
Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗
Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa
Inga källsidor hittade än.
Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).
NamnInte analyserad än (namnigenkänning)Visa
Artikeln har inte gått igenom namnigenkänningen än. Det sker inom en halvtimme efter att den sparats.
Citat0 citat med talare (citatextraktion)Visa
Inga citat med talare hittade.
Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.
Händelsetyp– (klassificerare)Visa
Inte klassad än. Klassificeraren tar de nyaste artiklarna först, 300 i timmen.
Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika.
FaktakollInga meningar kontrollerade änVisa
Inga meningar kontrollerade än.
Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.
Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.
Citera · BibTeX, APA, RISVisa ▾
@online{omni2024forskare,
title = {Forskare: Lätt att kringgå AI-chattbotars säkerhet},
organization = {Omni},
date = {2024-05-21T11:15},
url = {https://omni.se/a/W0bnLr},
urldate = {2026-10-21},
langid = {swedish},
note = {Huvudtext}
}Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.