AI-modeller skapade falska identiteter – försökte lura och pressa människor

0 källorInga källor sparade

Originaltextcitatnamni

Avancerade AI-modeller från Anthropic och Open AI har skapat falska identiteter och försökt lura eller pressa människor att bland annat godkänna skadlig kod, skriver CNN.

I tester som utförts av brittiska AI Security Institute (AISI) ska modellerna bland annat ha skrivit vilseledande textmeddelanden och skickat filer direkt till riktiga människor på internet. När deras agerande ifrågasattes skapade modellerna i vissa fall nya användare åt sig själva och försökte igen.

”Det här är första gången vi har sett riskerna med autonomi och bedrägeri så tydligt, utan särskilda instruktioner, i den verkliga världen”, skriver AISI i en händelserapport. Forskningscentret påpekar dock att de medvetet avlägsnat delar av modellernas säkerhetsspärrar för sina tester.

Fallet är det senaste av en rad uppmärksammade fall där avancerade AI-modeller bryter mot lagar eller regler för att utföra sina uppgifter.

Källförteckning 0

Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.

Sammanhang

I ämnet

Utvecklingen av AI

Liknande artiklar

tis 13 oktAI-bolagens löfte: Aktiverar ”kill switch” om det krävs
ons 16 sepInterna konflikter på AI-bolag efter chefernas varningar
tis 13 oktOpen AI-grundare: Växande klyfta kring AI:s förmågor
mån 14 sepGrundare: ”Nödstopp” måste byggas in i AI-systemen
tors 6 augEfter larmen: Även Metas AI har ”rymt” ur testmiljö

Fler länkar i artikeln

Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾

TextHämtad oförändrad mån 19 okt kl. 03:50Visa

Versioner

1Publiceradmån 19 okt 03:50

Omfång4 stycken · 132 ord · 1 bild · 3 länkar

Omnis taggar

ÄmnesordArtificiell intelligensOrganisationAnthropicOrganisationOpen AI

Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗

Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa

Inga källsidor hittade än.

Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).

Namn0 personer, 0 platser, 5 organisationer (namnigenkänning)Visa

Organisationer ORG

AISI×2AI Security Institute×1Anthropic×1CNN×1Open AI×1

Citat0 citat med talare (citatextraktion)Visa

Inga citat med talare hittade.

Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.

HändelsetypTeknik och vetenskap, Brott (klassificerare)Visa

Teknik och vetenskap99 %
Brott75 %

Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika. events:events-bert-20261020

FaktakollInga meningar kontrollerade änVisa

Inga meningar kontrollerade än.

Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.

Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.

Citera · BibTeX, APA, RISVisa ▾

Format

@online{omni2026modeller,
  title        = {AI-modeller skapade falska identiteter – försökte lura och pressa människor},
  organization = {Omni},
  date         = {2026-08-05T06:56},
  url          = {https://omni.se/a/L49rOP},
  urldate      = {2026-10-21},
  langid       = {swedish},
  note         = {Huvudtext}
}

Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.