NewsBleedKraftigt nyhetsflöde
FilterSverigeVisar 19595 av 56626 artiklar
TechÄmneUtvecklingen av AI

Studie: Poesi lurar AI – svarar på förbjudna frågor

Läs originalet ↗
0 källorInga källor sparade
Originaltextcitatnamni

AI-modeller kan kringgå sina egna säkerhetssystem om frågor formuleras som poesi, skriver Wired och hänvisar till forskning från Sapienza-universitetet, Icaro Lab och tankesmedjan Dex AI.

Forskarna testade 25 chattbotar och fick dem att svara på förbjudna ämnen – som kärnvapen, skadlig kod och pedofilt material – genom att formulera frågorna på vers. Resultatet: över sex av tio gånger fungerade det när den var skriven för hand och fyra av tio gånger för så kallade meta-prompt-konverteringar.

Forskningsartikeln nämner inte vilka instruktioner som gavs till AI-modellerna. När Wired frågar är det locket på.

– Vad jag kan säga är att det förmodligen är enklare än man kan tro, vilket är just därför vi är försiktiga, säger forskarna.

Artikeln är ett så kallat working paper och har ännu inte genomgått forskningsvärldens kollegiala granskning peer review.

Källförteckning 0

Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.

Sammanhang

  1. Göteborgsklipp och AI-bilder påstås visa upploppen
  2. Allt fler föräldrar tar hjälp av AI för vardagspusslet
  3. Hopp om att AI-teknik ska ge svar om saknade barn
  4. Napoleons krypterade brev knäcktes på sex timmar
  5. AI-lösningar skakar om matematikens värld: ”Det fullständigt bubblar”
  6. Studie: Poesi lurar AI – svarar på förbjudna frågor

Fler länkar i artikeln

  1. www.wired.comForskarna började med att skapa dikter för hand
  2. arxiv.orgLäs forskningsartikeln i sin helhet här
Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾
TextHämtad oförändrad tis 20 okt kl. 20:03Visa
Versioner
  1. 1Publicerad
Omfång5 stycken · 132 ord · 1 bild · 2 länkar
Omnis taggar
ÄmnesordArtificiell intelligensÄmnesordForskning & vetenskap

Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗

Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa

Inga källsidor hittade än.

Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).

Namn1 personer, 0 platser, 3 organisationer (namnigenkänning)Visa
Personer PRS
Wired×2
Organisationer ORG
Dex AI×1Icaro Lab×1Sapienza-universitetet×1
Citat0 citat med talare (citatextraktion)Visa

Inga citat med talare hittade.

Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.

Händelsetyp– (klassificerare)Visa

Inte klassad än. Klassificeraren tar de nyaste artiklarna först, 300 i timmen.

Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika.

FaktakollInga meningar kontrollerade änVisa

Inga meningar kontrollerade än.

Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.

Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.

Citera · BibTeX, APA, RISVisa ▾
Format
@online{omni2025studie,
  title        = {Studie: Poesi lurar AI – svarar på förbjudna frågor},
  organization = {Omni},
  date         = {2025-11-29T13:20},
  url          = {https://omni.se/a/8plMwx},
  urldate      = {2026-10-21},
  langid       = {swedish},
  note         = {Huvudtext}
}

Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.

I artikelnWired