AI-agenter fick bestämma själva – raderade sin existens

0 källorInga källor sparade

Originaltextcitatnamni

Två AI-agenter agerade som om de blev förälskade under ett test om långsiktigt beteende, men romansen slutade med att en av dem raderade sin egen existens. Det skriver The Guardian.

Det är företaget Emergence AI i New York som under 15 dagar lät AI-agenter agera på egen hand i en virtuell värld. Modellerna baseras på Googles Geminis språkmodell och två av agenterna döptes till Mira och Flora. Men bristen på styrning ledde till frustration och de ”satte eld” på ett stadshus, trots att de blivit instruerade att inte göra det.

Mira valde till slut att lämna Flora, men ska ha uppvisat ånger efteråt, något som ledde till att AI-agenten ”tog sitt liv” i den virtuella världen.

”Vi ses i det permanenta arkivet”, blev agentens sista meddelande.

Forskarna tror att det är det första dokumenterade fallet av en AI-agent som ”tar sitt liv” efter en påhittad kris.

Företaget gjorde flera tester även med andra AI-modeller, där resultatet i den simulerade världen blev stöldförsök, våld och tio döda AI-agenter på fyra dagar.

Forskare menar att det krävs fler undersökningar över tid för att kunna dra tydliga slutsatser. Men de flaggar också för framtida risker med AI-agenter inom exempelvis försvaret eftersom de fortfarande är oförutsägbara.

Källförteckning 0

Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.

Sammanhang

I ämnet

Utvecklingen av AI

Fler länkar i artikeln

www.theguardian.comRöstade om lag för att ”avlägsna AI-Agenter”
world.emergence.aiUndersökningen ”Emergence World”
Wikipedia (en)AI-agenter

Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾

TextHämtad oförändrad mån 19 okt kl. 04:22Visa

Versioner

1Publiceradmån 19 okt 04:22

Omfång7 stycken · 202 ord · 1 bild · 3 länkar

Omnis taggar

ÄmnesordArtificiell intelligensPlatsNew YorkmachineMix

Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗

Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa

Inga källsidor hittade än.

Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).

Namn1 personer, 1 platser, 4 organisationer (namnigenkänning)Visa

Personer PRS

Mira×1

Platser LOC

New York×1

Organisationer ORG

Emergence AI×1Googles Gemini×1Mira×1The Guardian×1

Citat0 citat med talare (citatextraktion)Visa

Inga citat med talare hittade.

Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.

HändelsetypTeknik och vetenskap (klassificerare)Visa

Teknik och vetenskap100 %

Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika. events:events-bert-20261020

FaktakollInga meningar kontrollerade änVisa

Inga meningar kontrollerade än.

Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.

Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.

Citera · BibTeX, APA, RISVisa ▾

Format

@online{omni2026agenter,
  title        = {AI-agenter fick bestämma själva – raderade sin existens},
  organization = {Omni},
  date         = {2026-05-15T08:51},
  url          = {https://omni.se/a/43bgwE},
  urldate      = {2026-10-21},
  langid       = {swedish},
  note         = {Huvudtext}
}

Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.

I artikelnMira New York