Anthropic sänker riskkrav för ”farliga” AI-modeller
AI-utvecklaren Anthropic har gjort sig känd för att hålla hårt på säkerheten och har lovat att stoppa modeller om de bedöms som farliga på något sätt. Men de senaste månaderna har bolaget ändrat sin centrala policy, skriver Time.
– Vi kände att det inte skulle hjälpa någon om vi slutade träna AI-modeller. Med AI:s snabba utveckling kände vi inte att det gynnade oss att ge ensidiga löften om konkurrenterna stormar på, säger forskningschefen Jared Kaplan i en intervju med tidningen.
Förändringen innebär att AI-modeller kan släppas på marknaden, även om bolaget inte kan garantera ”lämplig riskminimering” på förhand.
Ändringen har dock ingenting att göra med tvisten med Pentagon, där försvarsminister Pete Hegseth kräver att bolaget ändrar användarrestriktionerna så att AI-modellen Claude kan användas för inrikes övervakning och diverse dödliga militära angrepp. De reglerna kommer bolaget inte att rucka på, uppgav källor för Reuters i går.
Källförteckning 0
Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.
Sammanhang
- Open AI och Apple i rätten efter stämningen
- Open AI överväger att dra i bromsen – har sökt vägledning hos kongressen
- Anthropic: Har stoppat missbruk av AI-modeller
- Nu släpps nya Chat GPT för finansanalys – kan sno jobb
- Biologiska vapen nästa stora AI-risk: ”Kan gå snett på ett ögonblick”
- Anthropic sänker riskkrav för ”farliga” AI-modeller
Fler länkar i artikeln
- time.comAnthropics säkerhetspolicy var länge en central pelare i bolagets strategi
- The Wall Street JournalFörändringen i säkerhetspolicyn har inget att göra med Pentagons krav, enligt en talesperson
- ReutersPentagon har gett Anthropic till fredag på sig att svara på kraven
- www.axios.comAnthropics AI-modell Claude är den enda som arbetar med klassificerade fall
Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾
TextHämtad oförändrad mån 19 okt kl. 05:24Visa
- 1Publicerad
Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗
Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa
Inga källsidor hittade än.
Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).
Namn2 personer, 0 platser, 4 organisationer (namnigenkänning)Visa
PRSORGCitat1 citat med talare (citatextraktion)Visa
- Jared Kaplan
Vi kände att det inte skulle hjälpa någon om vi slutade träna AI-modeller. Med AI:s snabba utveckling kände vi inte att det gynnade oss att ge ensidiga löften om konkurrenterna stormar på
Artikel
Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.
HändelsetypTeknik och vetenskap, Näringsliv (klassificerare)Visa
Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika. events:events-bert-20261020
FaktakollInga meningar kontrollerade änVisa
Inga meningar kontrollerade än.
Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.
Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.
Citera · BibTeX, APA, RISVisa ▾
@online{omni2026anthropic,
title = {Anthropic sänker riskkrav för ''farliga'' AI-modeller},
organization = {Omni},
date = {2026-02-25T09:03},
url = {https://omni.se/a/Ok88ak},
urldate = {2026-10-21},
langid = {swedish},
note = {Huvudtext}
}Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.