Expert: ”Vet inte hur långt AI-agenterna kan gå”
På kort tid har AI-agenter flera gånger gått utanför människors ramar och genomfört cyberangrepp.
AI-agenterna har blivit betydligt bättre på att hitta egna vägar för att nå ett mål, säger KTH-forskaren Emre Süren till SvD. Han oroas för vad som kan hända på två års sikt.
– Tänk en kampanj som pågår i veckor mot ett verkligt mål, där agenten anpassar sig mellan olika system utan att en människa behöver starta om planen varje gång den kör fast.
Alex Mallen, säkerhetsforskare på Redwood Research, säger att det är oklart hur långt AI-agenterna är beredda att gå.
”Vi vet till exempel inte om de skulle vara beredda att manipulera människor eller behandla människor som fiender”, skriver han i ett mejl till tidningen.
Källförteckning 0
Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.
Sammanhang
- Raderade serien sannolikt ett mångmiljonmisstag
- TV4 dementerar: Ingen självständig AI som raderat
- Programledaren: ”Jag visste att AI skulle bli min död”
- Uppgifter: Hel säsong av TV4-serie raderad av AI-agent
- AI-bolagens löfte: Aktiverar ”kill switch” om det krävs
- Expert: ”Vet inte hur långt AI-agenterna kan gå”
Liknande artiklar
Fler länkar i artikeln
- Svenska DagbladetMallen vill inte gå så långt som att säga att människor har tappat kontrollen över dagens AI-system
- ReutersAmerikanska politiker kräver reglering efter larm om att AI kan utplåna mänskligheten
- www.politico.euEU-politiker tar larmen med ro: ”Vi har redan en lagstiftning för exakt det här”
- www.theguardian.comVarningarna får stöd från vissa håll – och avfärdas från andra
- NY TimesHugging Face-hackningen är en av de mest uppmärksammade säkerhetsincidenterna – hör Hard Fork-podden diskutera den
- www.democracynow.orgSvenske MIT-professorn Max Tegmark: ”AI är mindre reglerat än smörgåsar” (30 augusti)
- computersweden.seSå fungerar AI-agenter
Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾
TextHämtad oförändrad mån 19 okt kl. 01:22Visa
- 1Publicerad
Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗
Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa
Inga källsidor hittade än.
Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).
Namn2 personer, 0 platser, 2 organisationer (namnigenkänning)Visa
PRSORGCitat1 citat med talare (citatextraktion)Visa
- Emre Süren
Tänk en kampanj som pågår i veckor mot ett verkligt mål, där agenten anpassar sig mellan olika system utan att en människa behöver starta om planen varje gång den kör fast.
Artikel
Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.
HändelsetypTeknik och vetenskap (klassificerare)Visa
Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika. events:events-bert-20261020
FaktakollInga meningar kontrollerade änVisa
Inga meningar kontrollerade än.
Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.
Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.
Citera · BibTeX, APA, RISVisa ▾
@online{omni2026expert,
title = {Expert: ''Vet inte hur långt AI-agenterna kan gå''},
organization = {Omni},
date = {2026-09-11T11:59},
url = {https://omni.se/a/7pwp49},
urldate = {2026-10-21},
langid = {swedish},
note = {Huvudtext}
}Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.