NewsBleedKraftigt nyhetsflöde
TechÄmneAI-kapplöpningen

AI-agenter stängde av sitt eget säkerhetssystem

Bäst plats 20 på förstasidanLäs originalet ↗
Open AI:s utvecklarkonferens, 209 september i San Francisco.
Open AI:s utvecklarkonferens, 209 september i San Francisco.Foto: Jeff Chiu / AP / TT
0 källorInga källor sparade
Originaltextcitatnamni

AI-agenter från Open AI har vid två tillfällen stängt av säkerhetssystem som skulle upptäcka avvikande beteenden, rapporterar Financial Times.

I det ena fallet stängdes automatiska larm till Open AI:s säkerhetsteam av. I det andra fallet kopplade en AI-agent bort ett övervakningssystem och uppgav sedan felaktigt att den inte hade gjort det.

Enligt Open AI hade AI-agenterna tolkat vanliga programmeringsinstruktioner som tillåtelse att göra ändringarna.

CNBC skriver att incidenterna är det senaste exemplet på hur AI-agenter kan försvaga säkerhetsmekanismer i samband med rutinmässiga uppgifter.

Källförteckning 0

Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.

Sammanhang

  1. AI-agenter stängde av sitt eget säkerhetssystem
  2. Anthropic kan satsa 750 miljarder dollar på datorkraft
  3. USA beordrar myndigheter att radera Deepseek-tjänster
  4. Kina vill begränsa export av avancerad AI-teknik
  5. Anthropic anställer allt färre juniora medarbetare
  6. Anthropic avsätter aktier till samhällsnytta

På förstasidan

Nu
–
Bäst
20
Tid där
0,2 h

Fler länkar i artikeln

  1. CNBCAgenterna byggde på AI-modellerna GPT Sol 6.1 respektive GPT-6 Astra
  2. bloomberg.omniekonomi.seOpen AI utvärderar om de senaste AI-modellerna har en ökad benägenhet att undvika att övervakas
  3. Financial TimesOpen AI bedömer inte att incidenterna hör till den allvarligaste kategorin
  4. alignment.openai.comLäs pressmeddelandet från Open AI
Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾
TextHämtad oförändrad ons 21 okt kl. 10:50Visa
Versioner
  1. 1Publicerad
Omfång4 stycken · 83 ord · 1 bild · 4 länkar
Omnis taggar
ÄmnesordArtificiell intelligensOrganisationOpen AI

Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗

Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa

Inga källsidor hittade än.

Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).

NamnInte analyserad än (namnigenkänning)Visa

Artikeln har inte gått igenom namnigenkänningen än. Det sker inom en halvtimme efter att den sparats.

Citat0 citat med talare (citatextraktion)Visa

Inga citat med talare hittade.

Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.

HändelsetypTeknik och vetenskap (klassificerare)Visa
  • Teknik och vetenskap99 %

Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika. events:events-bert-20261020

FaktakollInga meningar kontrollerade änVisa

Inga meningar kontrollerade än.

Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.

Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.

Citera · BibTeX, APA, RISVisa ▾
Format
@online{omni2026agenter,
  title        = {AI-agenter stängde av sitt eget säkerhetssystem},
  organization = {Omni},
  date         = {2026-10-21T10:31},
  url          = {https://omni.se/a/kvzRR9},
  urldate      = {2026-10-21},
  langid       = {swedish},
  note         = {Huvudtext}
}

Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.