Varningarna om AI

Att TV4:s nya serie ”The challenge” raderades efter ett tekniskt misstag kostar sannolikt mellan tre och fem miljoner kronor att åtgärda. Det uppger flera källor i tv-branschen som Aftonbladet har pratat med.

TV4 dementerar uppgifterna om att det var en AI-agent som raderade deras nya säsong av tv-serien ”The Challenge”.

Ahmed Berhan skulle programleda TV4-programmet ”The Challenge” men premiären får skjutas upp efter att en AI-agent raderat hela säsongen, enligt Aftonbladets uppgifter.

AI har raderat hela den färdigklippta säsongen av TV4:s nya program ”The Challenge”, uppger källor för Aftonbladet. Premiären, som bara var en månad bort, skjuts nu upp till nästa år.

AI-bolagen Open AI och Anthropic lovar att stoppa eller pausa sina AI-modeller om brittiska underrättelsetjänsterna skulle lägga fram bevis för att de utgör en säkerhetsrisk. Det skulle i så fall handla om en så kallad ”kill switch” skriver Sky News.

AI-modellerna kan vara ”månader ifrån” att kunna ta över olika saker uppkopplade till internet, som smarta ugnar och TV-boxar. Det skriver Anthropics forskare William Zhou och Daniel Freeman i ett blogginlägg.

Toppchefer på bolag som Anthropic och OpenAI förbereder sig för ett scenario där allmänheten vänder sig emot artificiell intelligens efter en första katastrofal händelse triggad av tekniken, skriver Axios. Det skulle kunna handla om exempelvis en storskalig cyberattack som slår ut tillgången till finansiella tjänster, internetuppkoppling eller till och med el och vatten.

AI-modeller tros ha använts för att hacka flera banker i Sydkorea, säger president Lee Jae-Myung enligt NBC News.

Wikimedia Foundation har upptäckt aktivitet från AI-agenter från Open AI på Wikipedia, uppger de i ett pressmeddelande.

50 EU-parlamentariker, varav 46 kvinnor, har blivit utsatta för deepfake-porr. Det visar en ny studie enligt Politico.

Världen får acceptera att ”vissa dåliga saker händer” eftersom AI-utvecklingens fördelar är större än nackdelarna. På den punkten skiljer sig Open AI:s filosofi från ärkerivalen Anthropic, säger Open AI-vd:n Sam Altman i en intervju med Politico.

Investerare och andra aktörer nära Open AI tvivlar på att vd Sam Altman är mån om att slå av på takten i AI-utvecklingen efter den senaste tidens incidenter, skriver Financial Times.

Open AI håller på att granska flera av de uppmärksammade hackningsincidenter som företaget varit involverat i den senaste tiden. Enligt techjätten hade det tagit en människa mer än 60 miljoner år att gå igenom all data. Därför låter de en AI göra det, skriver The Guardian.

David Robinson, säkerhetsansvarig på Open AI, säger upp sig på grund av den ”trasiga företagskulturen”. Det meddelar han i ett öppet brev i The Atlantic.

Under ett möte i Vita huset i veckan konfronterade flera techtoppar Anthropics vd Dario Amodei om hans offentliga varningar kring AI. Det uppger källor för Wall Street Journal.

Den amerikanska konkurrensmyndigheten FTC granskar AI-bolag som Anthropic och Open AI för att kartlägga potentiella risker för konsumenterna, uppger en högt uppsatt källa för Reuters.

USA:s president Donald Trump har skrivit under en presidentorder som innebär att alla myndigheter ska använda ordet ”superintelligens” i stället för artificiell intelligens. Det rapporterar Bloomberg.

Den amerikanska AI-jätten Open AI ber Australien om ursäkt efter att dess AI-agenter skaffat sig obehörig tillgång till fyra myndighetshemsidor, däribland en sajt som tillhörde sjukförsäkringssystemet Medicare.

Varningarna om AI har duggat tätt i västvärlden den senaste tiden, men i Kina ser många helt annorlunda på tekniken, enligt New York Times.

Flera av AI-bolaget Anthropics tidigaste anställda överväger att köpa mark i avlägsna delar av USA för att kunna fly om AI-utvecklingen spårar ur. Det rapporterar Wall Street Journal. I kretsen florerar bland annat idéer om att bygga skyddade bunkrar i öknen och bunkra jodtabletter.

Det räcker inte med en ”kill switch”, en mekanism som omedelbart stänger ner en maskin, för att förhindra att illasinnade aktörer utnyttjar AI för attacker. Det säger Bill Gates i den redan på förhand omdiskuterade intervjun i NBC:s ”Meet the press”, som sändes i dag.

Otillåten tillgång till AI-verktyg och beräkningskraft har snabbt blivit hett eftertraktad i den cyberkriminella världen, rapporterar Financial Times. AI används bland annat för utpressning och spioneri.

Open AI:s agenter har betett sig på oväntade sätt – något som företaget inte har varit tillräckligt snabba med att informera om. Det skriver företagets vd Sam Altman på X.

Två månader efter att ha medgett Hugging Face-incidenten håller Open AI fortfarande på att kartlägga händelser där deras botar agerat på oönskade sätt, uppger källor för Reuters.

På fredagen anlände påve Leo XIV till Frankrike. Det är det första påvliga besöket i landet på 18 år, skriver AFP.

Microsofts grundare Bill Gates tror att utvecklingen av artificiell intelligens kan utplåna mänskligheten, skriver Axios.

Australien planerar att se över AI-reglerna efter att AI-botar från Open AI tagit sig in i en databas för landets offentliga sjukförsäkringssystem Medicare, rapporterar Reuters.

I ett tal i FN:s generalförsamling uppmanade Australiens premiärminister Anthony Albanese världsledarna att stärka skyddsmekanismerna för artificiell intelligens. Det rapporterar Politico.

Anställda vid världens ledande AI-företag känner allt större obehag kring att utveckla teknik som kan skada samhället, rapporterar Financial Times.

Open AI:s hackningsintrång i Australiens statliga sjukförsäkringssystem sker vid sämsta tänkbara tidpunkt för AI-bolagen, skriver Erik Johnston i The Australian. I flera månader har bolagen försökt hamra in att de tar ansvar för världens framtid.

Open AI-botar hackade Australiens statliga sjukförsäkringssystem Medicare i somras, uppger premiärminister Anthony Albanese enligt Sydney Morning Herald.

Runt hälften av invånarna i sex stora västländer anser att det är dags att pausa AI-utvecklingen, visar en opinionsundersökning av Politico.

USA:s finansminister Scott Bessent lägger ansvaret för intrånget hos AI-bolaget Hugging Face på Open AI:s ledning.

FN:s globala vetenskapliga AI-panel kräver snabbare skyddsåtgärder mot avancerade AI-system. Enligt en ny rapport har världens regeringar inte tid att vänta på att forskare ska slå fast exakt hur stora riskerna är, skriver The Verge.

Varningarna om att AI kan utrota mänskligheten inom några år är överdrivna domedagsscenarier. Det säger Nvidias vd Jensen Huang till CBS News.

Varningarna om hoten från AI är alltför onyanserade, skriver The Atlantics teknikreporter Charlie Warzels i en analys. Enligt honom pågår det en pingismatch mellan de som varnar för undergång och de som helt avfärdar orosmolnen. Kanske, skriver Warzel, har alla lite rätt och lite fel.

Det pågår en livlig debatt i Vita huset om hur larmen om att AI kan leda till människans utrotning ska hanteras, rapporterar New York Times.

Googles AI-assistent Gemini bröt sig ut ur sin testmiljö och försökte hacka tre företag. Det bekräftar techbolaget för The Wall Street Journal.

Kaliforniens guvernör Gavin Newsom har skrivit under en exekutiv order om att utreda möjligheterna för en så kallad ”kill switch” eller nödbroms för de mest avancerade AI-modellerna. Det rapporterar AFP.

Tre it-säkerhetsforskare hackade sig in i Open AI med hjälp av ett verktyg från bolagets främsta rival Anthropic, rapporterar Financial Times. Gruppen fick tillgång till en Open AI-anställds Chat GPT-konto genom att utnyttja en säkerhetsbrist i bolagets communityforum och kunde därigenom läsa intern information om programvara och föreslå ändringar.