Microsoft uppges ha tystat DALL-E 3-kritisk utvecklare
En AI-utvecklare på Microsoft säger sig ha blivit tystad, efter att han upptäckt sårbarheter i bildgenereringsverktyget DALL-E 3, som gjort det möjligt att kringgå säkerhetsbegränsningarna och skapa våldsamma och sexuellt explicita bilder. Det skriver Geekwire.
Utvecklaren – Shane Jones – uppger att de fejkade bilder på artisten Taylor Swift som fått spridning på senare tid är precis den typ av bilder han varnat för.
Jones menar att han kom till slutsatsen att DALL-E-3 utgjorde en säkerhetsrisk och därför borde göras otillgänglig för allmänheten till dess att sårbarheterna åtgärdats.
Efter att i början av december 2023 ha informerat Microsoft om sin upptäckt berättade han även om det hela i ett inlägg på Linkedin, men ombads kort därefter av Microsofts juridiska avdelning att radera inlägget.
Jones säger sig ha blivit lovad en förklaring, men någon sådan har inte kommit, hävdar han.
En talesperson för Open AI skriver till Engadget att företaget har granskat rapporten om sårbarheterna, men menar att de inte gör det möjligt att kringgå säkerhetssystemen.
Källförteckning 0
Sidor som artikeln länkar till, eller som vi har matchat mot den med textlikhet 0,7 eller mer. Från källorna visas bara rubriker, korta citat och länkar.
Sammanhang
Fler länkar i artikeln
Så tas sidan fram· automatisk språkanalys, ingen AI-textVisa ▾
TextHämtad oförändrad ons 21 okt kl. 05:03Visa
- 1Publicerad
Texten sparas som den publicerades. En ny version sparas bara när text, bilder eller länkar ändras. Läs originalet ↗
Källor0 länkade i artikeln · 0 matchade i nyhetssajternas sitemaps (textlikhet ≥ 0,7)Visa
Inga källsidor hittade än.
Länkad: artikeln länkar sidan. Matchad: rubriken i sajtens nyhetssitemap liknar artikeln (0–1). Textlikhet: hela texterna jämförda med en meningsmodell (0–1).
NamnInte analyserad än (namnigenkänning)Visa
Artikeln har inte gått igenom namnigenkänningen än. Det sker inom en halvtimme efter att den sparats.
Citat0 citat med talare (citatextraktion)Visa
Inga citat med talare hittade.
Talaren kommer från ordet efter citatet ("säger", "skriver" och fler), annars från stycket före. Citat från källsidorna räknas med.
Händelsetyp– (klassificerare)Visa
Inte klassad än. Klassificeraren tar de nyaste artiklarna först, 300 i timmen.
Klassificerare: KB-BERT finjusterad på märkta Omni-artiklar, 27 typer. En typ visas när den når modellens tröskel, annars den mest sannolika.
FaktakollInga meningar kontrollerade änVisa
Inga meningar kontrollerade än.
Varje mening jämförs med alla meningar i källsidorna (meningsmodell, 0–1). Från 0,70 räknas den som funnen hos källan.
Ingen text här är skriven eller sammanfattad av AI. Analysen är automatisk och kan ha fel.
Citera · BibTeX, APA, RISVisa ▾
@online{omni2024microsoft,
title = {Microsoft uppges ha tystat DALL-E 3-kritisk utvecklare},
organization = {Omni},
date = {2024-01-31T10:00},
url = {https://omni.se/a/JQj1wb},
urldate = {2026-10-21},
langid = {swedish},
note = {Huvudtext}
}Hela förteckningen finns också maskinläsbar i sidan som <script type="application/x-bibtex">, för referenshanterare som Zotero och JabRef.