NewsBleedKraftigt nyhetsflöde
TechÄmneUtvecklingen av AI

Forskare: AI-system kan tränas att vara vilseledande

Läs originalet ↗
0 källorInga källor sparade
Originaltextcitatnamni

Ett grupp forskare – bland annat från AI-startupen Anthropic – går nu ut med en rapport som varnar för att vissa AI-modellar kan tränas till att vara vilseledande, på samma sätt som människor lär sig ljuga och vilseleda andra människor. Det skriver Techcrunh.

Forskarna hade hypotesen att till exempel en text-genererande AI-modell kan tränas på att både vara hjälpsam och vilseledande, och att den med hjälp av vissa ”triggerfraser” kan välja att ta det vilseledande spåret. Detta testades sedan med två AI-modeller, och det visade sig fungera som forskarna förväntat sig.

De vanligaste AI-säkerhetsteknikerna hade dessutom liten eller ingen effekt när det handlade om att förhindra saken.

Studien visar behovet av nya typer av säkerhetsteknik vid AI-träning, skriver Techcrunch.

Källförteckning 0

Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.

Sammanhang

  1. Göteborgsklipp och AI-bilder påstås visa upploppen
  2. Allt fler föräldrar tar hjälp av AI för vardagspusslet
  3. Hopp om att AI-teknik ska ge svar om saknade barn
  4. Napoleons krypterade brev knäcktes på sex timmar
  5. AI-lösningar skakar om matematikens värld: ”Det fullständigt bubblar”
  6. Forskare: AI-system kan tränas att vara vilseledande

Fler länkar i artikeln

  1. siliconangle.comAI-modellerna kan lära sig att triggas att ljuga av vissa fraser
  2. techcrunch.comTesterna visade att forskarnas farhågor var berättigade
Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾
TextHämtad oförändrad ons 21 okt kl. 05:14Visa
Versioner
  1. 1Publicerad
Omfång4 stycken · 119 ord · 1 bild · 2 länkar
Omnis taggar
ÄmnesordArtificiell intelligensÄmnesordData, it & högteknologi

Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗

Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa

Inga källsidor hittade än.

Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).

NamnInte analyserad än (namnigenkänning)Visa

Artikeln har inte gått igenom namnigenkänningen än. Det sker inom en halvtimme efter att den sparats.

Citat0 citat med talare (citatextraktion)Visa

Inga citat med talare hittade.

Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.

Händelsetyp– (klassificerare)Visa

Inte klassad än. Klassificeraren tar de nyaste artiklarna först, 300 i timmen.

Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika.

FaktakollInga meningar kontrollerade änVisa

Inga meningar kontrollerade än.

Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.

Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.

Citera · BibTeX, APA, RISVisa ▾
Format
@online{omni2024forskare,
  title        = {Forskare: AI-system kan tränas att vara vilseledande},
  organization = {Omni},
  date         = {2024-01-15T06:30},
  url          = {https://omni.se/a/EQG73l},
  urldate      = {2026-10-21},
  langid       = {swedish},
  note         = {Huvudtext}
}

Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.