Anthropic vill lära Claude att vara ”god” och inte ... utplåna mänskligheten

0 källorInga källor sparade

Originaltextcitatnamni

Techbolaget Anthropic har släppt en uppdaterad ”konstitution” för språkmodellen Claude, skriver Axios. Det handlar om ett 80 sidor långt dokument som redogör för Claudes ”etiska karaktär” och ”kärnidentitet”.

Den så kallade konstitutionen ersätter det som internt tidigare har kallats för ett ”själ-dokument” och som i praktiken var en lista med etiska principer.

Nu anser bolaget att det är viktigt för AI-modeller att ”förstå varför vi vill att de ska uppträda på ett visst sätt snarare än bara hur de ska göra”. I korthet ska Claude kunna göra situationsanpassade omdömen utifrån vad som är ansvarsfullt och hjälpsamt.

Tanken är att Claude ska agera till stora delar som en autonom entitet som förstår sig själv och sin plats i världen – och inte utplåna mänskligheten, som The Verge uttrycker det.

Källförteckning 0

Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.

Sammanhang

I ämnet

Utvecklingen av AI

Fler länkar i artikeln

www-cdn.anthropic.comLäs hela konstitutionen (pdf)
www.anthropic.comSammanfattning av Claudes nya konstitution
The VergeKan bli en konkurrensmässig fördel över modeller som Chat GPT och Gemini
www.axios.comAnthropic har samarbetat med experter från områden där AI kan utgöra en risk
techcrunch.comKonstitutionen avslutas med ett ifrågasättande av chattbotens eventuella samvete: ”Moralisk status är högst oklar”
time.comFilosof: ”Om din sexåring visar sig vara ett geni kan du inte lura den”

Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾

TextHämtad oförändrad mån 19 okt kl. 05:08Visa

Versioner

1Publiceradmån 19 okt 05:08

Omfång4 stycken · 128 ord · 1 bild · 6 länkar

Omnis taggar

ÄmnesordArtificiell intelligensOrganisationAnthropic

Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗

Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa

Inga källsidor hittade än.

Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).

Namn1 personer, 0 platser, 3 organisationer (namnigenkänning)Visa

Personer PRS

Claude×5

Organisationer ORG

Anthropic×2Axios×1The Verge×1

Citat0 citat med talare (citatextraktion)Visa

Inga citat med talare hittade.

Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.

HändelsetypTeknik och vetenskap (klassificerare)Visa

Teknik och vetenskap100 %

Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika. events:events-bert-20261020

FaktakollInga meningar kontrollerade änVisa

Inga meningar kontrollerade än.

Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.

Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.

Citera · BibTeX, APA, RISVisa ▾

Format

@online{omni2026anthropic,
  title        = {Anthropic vill lära Claude att vara ''god'' och inte ... utplåna mänskligheten},
  organization = {Omni},
  date         = {2026-01-22T09:20},
  url          = {https://omni.se/a/rrgoMA},
  urldate      = {2026-10-21},
  langid       = {swedish},
  note         = {Huvudtext}
}

Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.

I artikelnClaude