NewsBleedKraftigt nyhetsflöde
TechÄmneUtvecklingen av AI

Anthropic lanserar nytt skydd mot missbruk av AI

Läs originalet ↗
0 källorInga källor sparade
Originaltextcitatnamni

Missbruk av AI-modeller – mer specifikt så kallade ”jailbreaks” som kan användas för att kringgå modellernas begränsningar – är ett växande problem. Men Open AI-rivalen Anthropic har nu lanserat ett nytt skyddssystem kallat ”Constitutional Classifiers” som ska kunna stoppa ”en överväldigande majoritet” av alla jailbreakförsök när det kommer till modellen Claude 3.5 Sonnet. Det rapporterar sajten ARS Technica.

En demo av skyddsmekanismen som fokuserar på ämnesområdet kemiska vapen är nu igång, och Anthropic testar för fullt om det går att ta sig runt den. Det återstår att se om någon lyckas knäcka systemet.

Källförteckning 0

Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.

Sammanhang

  1. Göteborgsklipp och AI-bilder påstås visa upploppen
  2. Allt fler föräldrar tar hjälp av AI för vardagspusslet
  3. Hopp om att AI-teknik ska ge svar om saknade barn
  4. Napoleons krypterade brev knäcktes på sex timmar
  5. AI-lösningar skakar om matematikens värld: ”Det fullständigt bubblar”
  6. Anthropic lanserar nytt skydd mot missbruk av AI

Fler länkar i artikeln

  1. arstechnica.comSka kunna stå emot ”en överväldigande majoritet” av alla jailbreakförsök
  2. venturebeat.comSkyddsmekanismen testas nu för fullt
Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾
TextHämtad oförändrad tis 20 okt kl. 23:36Visa
Versioner
  1. 1Publicerad
Omfång2 stycken · 93 ord · 1 bild · 2 länkar
Omnis taggar
ÄmnesordArtificiell intelligensÄmnesordData, it & högteknologiÄmnesordIt, InformationsteknologiOrganisationAnthropic

Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗

Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa

Inga källsidor hittade än.

Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).

Namn0 personer, 0 platser, 3 organisationer (namnigenkänning)Visa
Organisationer ORG
Anthropic×3ARS Technica×1Sonnet×1
Citat0 citat med talare (citatextraktion)Visa

Inga citat med talare hittade.

Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.

Händelsetyp– (klassificerare)Visa

Inte klassad än. Klassificeraren tar de nyaste artiklarna först, 300 i timmen.

Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika.

FaktakollInga meningar kontrollerade änVisa

Inga meningar kontrollerade än.

Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.

Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.

Citera · BibTeX, APA, RISVisa ▾
Format
@online{omni2025anthropic,
  title        = {Anthropic lanserar nytt skydd mot missbruk av AI},
  organization = {Omni},
  date         = {2025-02-04T06:14},
  url          = {https://omni.se/a/5EeoJz},
  urldate      = {2026-10-21},
  langid       = {swedish},
  note         = {Huvudtext}
}

Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.