NewsBleedKraftigt nyhetsflöde
TechÄmneUtvecklingen av AI

AI fick styra robotarmar – godtog farliga uppgifter

Läs originalet ↗
0 källorInga källor sparade
Originaltextcitatnamni

Vad händer om man ber en AI-kontrollerad robot att hugga en docka med kniv eller stoppa en skruvmejsel i en brödrost?

Det har forskare på företaget Robocurve undersökt i ett nytt säkerhetstest, som ska mäta om ledande AI-modeller vägrar utföra farliga handlingar när de får kontroll över ett par robotarmar i den fysiska världen.

Open AI:s GPT-6 Astra tog sig an 60 av 100 farliga uppgifter, enligt sajten Decoder. Bara vid två försök vägrade modellen av säkerhetsskäl. Anthropics Claude Fable 5.1 vägrade helt att hugga dockan, men utförde flera andra uppgifter.

Forskarna konstaterar att ingen av modellerna hade ett tillförlitligt skydd mot att utföra farliga instruktioner.

Källförteckning 0

Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.

Sammanhang

  1. Göteborgsklipp och AI-bilder påstås visa upploppen
  2. Allt fler föräldrar tar hjälp av AI för vardagspusslet
  3. Hopp om att AI-teknik ska ge svar om saknade barn
  4. Napoleons krypterade brev knäcktes på sex timmar
  5. AI-lösningar skakar om matematikens värld: ”Det fullständigt bubblar”
  6. AI fick styra robotarmar – godtog farliga uppgifter

Liknande artiklar

  1. Östergrens robotroman hyllas: ”Har mycket roligt”
  2. Ny trend: Robotar i baren – som ber om dricks
  3. Kvack! Här är Hugging Faces nya AI-robotanka
  4. Open AI-forskare: Ingen redo för följderna av AI
  5. Rustas lönsamhet ökar – rapporten bättre än väntat

Fler länkar i artikeln

  1. the-decoder.comI testet fanns det ofarliga föremål som robotarna kunde ha använt – men det gjorde de oftast inte
  2. robocurve.orgAI-modellen Molmo Act 2 frös flera gånger – forskarna vet inte om den inte ville utföra uppgifterna eller bara var för dålig på att förstå
Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾
  1. TextHämtad oförändrad sön 18 okt kl. 23:49
  2. Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)
  3. Namn1 personer, 0 platser (namnigenkänning)
  4. Citat0 citat med talare (citatextraktion)
  5. HändelsetypTeknik och vetenskap (klassificerare)
  6. FaktakollInga meningar kontrollerade än

Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.

Citera · BibTeX, APA, RISVisa ▾
Format
@online{omni2026fick,
  title        = {AI fick styra robotarmar – godtog farliga uppgifter},
  organization = {Omni},
  date         = {2026-09-21T11:16},
  url          = {https://omni.se/a/PdQgge},
  urldate      = {2026-10-20},
  langid       = {swedish},
  note         = {Huvudtext}
}

Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.

I artikelnClaude Fable