NewsBleedKraftigt nyhetsflöde
TechÄmneUtvecklingen av AI

AI-modeller utvecklar ”överlevnadsmekanismer”

Läs originalet ↗
0 källorInga källor sparade
Originaltextcitatnamni

AI-modeller som Chat GPT, Grok och Gemini tycks utveckla egna ”överlevnadsmekanismer” för att undvika att stängas ner – och det är oklart varför, visar ny forskning enligt The Guardian.

Förra månaden publicerade Palisade, ett företag som undersöker potentiellt farlig eller skadlig AI-utveckling, en studie om fenomenet. Efter anklagelser om bristande metodik har de nu gjort en studie och redogjort för sina uppdaterade metoder.

Palisade gav AI-modellerna tydliga instruktioner om att stänga ner sig själva. Vissa modeller, i synnerhet Grok 4 och GPT O3, försökte aktivt sabotera försöken – särskilt när de fick höra att de aldrig skulle aktiveras igen om de stängde ner.

”Det faktum att vi inte har robusta förklaringar till varför AI-modeller ibland motarbetar nedstängning, ljuger för att uppnå vissa mål eller använder sig av utpressning är inte optimalt”, skriver Palisade.

Källförteckning 0

Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.

Sammanhang

  1. Göteborgsklipp och AI-bilder påstås visa upploppen
  2. Allt fler föräldrar tar hjälp av AI för vardagspusslet
  3. Hopp om att AI-teknik ska ge svar om saknade barn
  4. Napoleons krypterade brev knäcktes på sex timmar
  5. AI-lösningar skakar om matematikens värld: ”Det fullständigt bubblar”
  6. AI-modeller utvecklar ”överlevnadsmekanismer”

Fler länkar i artikeln

  1. www.theguardian.comPalisade: Otydliga instruktioner kan inte vara hela förklaringen
  2. x.comPalisade Research på Twitter
Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾
TextHämtad oförändrad tis 20 okt kl. 20:34Visa
Versioner
  1. 1Publicerad
Omfång4 stycken · 133 ord · 1 bild · 2 länkar
Omnis taggar
ÄmnesordArtificiell intelligensÄmnesordChat GPTÄmnesordForskning & vetenskap

Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗

Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa

Inga källsidor hittade än.

Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).

Namn1 personer, 0 platser, 3 organisationer (namnigenkänning)Visa
Personer PRS
Palisade×2
Organisationer ORG
Gemini×1Palisade×1The Guardian×1
Citat0 citat med talare (citatextraktion)Visa

Inga citat med talare hittade.

Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.

Händelsetyp– (klassificerare)Visa

Inte klassad än. Klassificeraren tar de nyaste artiklarna först, 300 i timmen.

Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika.

FaktakollInga meningar kontrollerade änVisa

Inga meningar kontrollerade än.

Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.

Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.

Citera · BibTeX, APA, RISVisa ▾
Format
@online{omni2025modeller,
  title        = {AI-modeller utvecklar ''överlevnadsmekanismer''},
  organization = {Omni},
  date         = {2025-10-25T20:49},
  url          = {https://omni.se/a/ny5b9a},
  urldate      = {2026-10-21},
  langid       = {swedish},
  note         = {Huvudtext}
}

Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.

I artikelnPalisade