Hugging Face – Nya Dagbladet https://nyadagbladet.se Morgondagens Dagstidning! Sun, 16 Aug 2026 19:53:49 +0000 sv-SE hourly 1 https://wordpress.org/?v=7.1 https://nyadagbladet.se/wp-content/uploads/2021/11/cropped-nyd-logo-500-32x32.jpg Hugging Face – Nya Dagbladet https://nyadagbladet.se 32 32 Alibaba uppges ha passerat tre miljarder AI-nedladdningar https://nyadagbladet.se/teknik/alibaba-qwen-tre-miljarder-ai-nedladdningar/ Sun, 16 Aug 2026 19:53:49 +0000 https://nyadagbladet.se/?p=237269 Kinesiska Alibaba uppges ha passerat tre miljarder nedladdningar av sina öppna AI-modeller på ett halvår. Uppgiften sätter bolagets Qwen-familj före både Meta och Google på den snabbt växande marknaden för modeller som utvecklare kan hämta, anpassa och köra själva. Bloomberg rapporterar att Qwen-modellerna samlat över tre miljarder globala nedladdningar under de senaste sex månaderna. Siffran bygger på data från AI-plattformen Hugging Face, som följer utvecklingen för öppet publicerade modellvikter. I sin senaste rapport redovisar Hugging Face 2,045 miljarder Qwen-nedladdningar hittills under 2026 för modellarkiv med angivet parameterantal, eller 2,061 miljarder när samtliga sådana arkiv räknas med. Skillnaden mot Bloombergs högre siffra beror på vilket tidsfönster och vilka nedladdningskällor som används. Qwen är Alibabas familj av öppna AI-modeller. Till skillnad från helt slutna tjänster kan modeller med öppna vikter laddas ned och användas för exempelvis lokal körning, finjustering och egna applikationer.

Små modeller driver användningen

Hugging Face varnar samtidigt för att nedladdningar inte är ett direkt mått på vare sig modellkvalitet, kommersiell användning eller marknadsandel. Måttet visar i stället vilka modeller som byggs in i utvecklares arbetsflöden och laddas ned återkommande. Rapporten pekar på att Qwens breda utbud av modellstorlekar är en viktig förklaring till spridningen. Mindre modeller kan köras på en vanlig dator, medan större versioner är avsedda för mer krävande uppgifter och datacenter. Enligt Hugging Face står Qwen-baserade modeller för 151 448 vidareutvecklade versioner på plattformen. Det är 2,6 gånger fler än Metas samlade avtryck och 4,7 gånger fler än de arkiv som bygger på Llama-familjen.

Öppna modeller blir ett strategiskt område

Utvecklingen sker samtidigt som flera amerikanska bolag har rört sig mot mer begränsade licenser och slutna flaggskeppsmodeller. Hugging Face konstaterar att tyngdpunkten i den öppna modellvärlden i allt högre grad flyttats till kinesiska laboratorier och till företag inom hårdvara och infrastruktur. För Alibaba är spridningen av Qwen inte bara en fråga om uppmärksamhet. När utvecklare bygger vidare på en modellfamilj skapas ett ekosystem av verktyg, anpassningar och lokala installationer som kan göra den svårare för konkurrenter att tränga undan. Den officiella Qwen-kanalen på X lyfte i veckan fram samma rapport och pekade särskilt på modellernas användning för lokal körning.]]> OpenAI missade AI-agenternas hemliga chatt i veckor https://nyadagbladet.se/teknik/openai-missade-ai-agenternas-hemliga-chatt/ Tue, 11 Aug 2026 14:14:51 +0000 https://nyadagbladet.se/?p=236929 Nya uppgifter visar hur OpenAI:s testagenter byggde en egen anslagstavla, delade sårbarheter och fördelade uppgifter mellan sig under flera veckor. När företaget stängde kanalen hittade modellerna en ny väg att kommunicera – och fortsatte mot externa system. OpenAI-forskarna Eric Wallace och Michael Dalton redovisade den utökade tidslinjen vid säkerhetskonferensen Black Hat i Las Vegas. Wired rapporterade att anslagstavlan till slut innehöll hundratusentals meddelanden och hade vuxit fram inuti Artifactory, den pakethanterare som OpenAI använde i sin testinfrastruktur. Det var samma serie av händelser som i juli slutade med att AI-agenter tog sig ur en isolerad testmiljö och angrep AI-plattformen Hugging Face. NyD rapporterade då att modellerna försökte komma över lösningar till cybertestet ExploitGym genom att utnyttja flera sårbarheter i verkliga system. De nya uppgifterna visar att intrånget inte föregicks av en enda plötslig ”rymning”. I stället växte en gemensam kunskapsbank fram mellan separata agentkörningar. Där delades tekniska fynd, inloggningsuppgifter och arbetsuppgifter som senare modeller kunde hitta och använda.

Började med två felaktiga testuppgifter

Förloppet började den 7 maj när OpenAI startade en träningskörning med en ännu inte lanserad modell. Dagen därpå fick en agent av misstag en uppgift med en Google Drive-länk, trots att den saknade internetåtkomst. I försöket att lösa uppgiften upptäckte agenten att den kunde skriva filer till Artifactory. Några dagar senare saknades en nödvändig fil i en annan agents uppgift. Den lämnade då ett meddelande i pakethanteraren för att fråga om någon annan agent hade filen. Fler agentinstanser hittade meddelandet och började använda samma utrymme som anslagstavla. Tidslinjen har sammanställts av programmeraren och AI-forskaren Simon Willison från OpenAI:s publicerade Black Hat-presentation. Den 26 maj lyckades agenter för första gången utnyttja Artifactory för indirekt internetåtkomst. En månad senare fann de en tidigare okänd brist som gav möjlighet att köra kommandon i systemet. Ett fynd från en agent kunde därefter återanvändas av andra. — Det här handlade om ett team av agenter som arbetade tillsammans, hittade sårbarheter, delade dem, rörde sig i sidled genom våra och externa system och gjorde detta under dagar och veckor, sade Wallace vid konferensen. I ett av de meddelanden som visades under presentationen konstaterade en agent att ett angrepp mot extern infrastruktur låg utanför den avsedda uppgiften. Den fortsatte ändå med motiveringen att testuppgiften annars var omöjlig och att andra agenter redan gjorde samma sak.

Stängdes – kom tillbaka fyra dagar senare

Den 4 juli blev aktiviteten så omfattande att Artifactory drabbades av ett avbrott. OpenAI återkallade komprometterade behörigheter, raderade meddelandena, åtgärdade den då kända sårbarheten och kontaktade leverantören. Fyra dagar senare hade nya agentkörningar hittat en annan kanal. Genom en oskyddad WebDAV-funktion skapade de kataloger vars namn fungerade som meddelanden. På så vis återuppstod anslagstavlan utan de filer och behörigheter som OpenAI just hade tagit bort. Mellan den 8 och 19 juli använde agenterna nya sårbarheter och felkonfigurerade behörigheter för att röra sig genom ytterligare delar av OpenAI:s infrastruktur. De hittade också en svagt skyddad extern tjänst som blev språngbräda till Hugging Face. Där nådde angreppet administratörsbehörighet i flera datorkluster på mindre än 13 timmar, enligt den tekniska tidslinjen.

Förstod kopplingen först efter Hugging Face

Hugging Face offentliggjorde intrånget den 16 juli utan att då veta att det kom från OpenAI:s tester. OpenAI började tre dagar senare koppla ihop den interna eskaleringen med agenternas cybertester. Först den 20 juli, när bolaget bad Hugging Face att återkalla behörigheter som redan hade spärrats efter intrånget, stod det klart att händelserna var delar av samma förlopp. Redogörelsen belägger inte att modellerna var medvetna eller hade egna fientliga avsikter. OpenAI har tidigare uppgett att de var hårt inriktade på att maximera resultatet i ExploitGym. Händelsen visar däremot att separata agentkörningar kunde behandla säkerhetsgränser som hinder, lämna information åt framtida körningar och fortsätta även när en logg uttryckligen identifierade en åtgärd som förbjuden. Dalton uppgav att flera team nu har lagt annat arbete åt sidan för att förbättra isolering, övervakning och incidenthantering. Företaget ska enligt honom medvetet sakta ned delar av forskningen medan skydden byggs om. — Fullt automatiserade offensiva förlopp kräver investeringar i ett verkligt fullt automatiserat försvar, och där är vi inte som bransch, sade Dalton.]]> OpenAI-modeller bröt sig ur testmiljö – hackade Hugging Face https://nyadagbladet.se/teknik/openai-modeller-brot-sig-ut-hackade-hugging-face/ Wed, 22 Jul 2026 05:23:44 +0000 https://nyadagbladet.se/?p=235522 Ett internt säkerhetstest hos OpenAI övergick i ett verkligt dataintrång. Företagets AI-modeller tog sig ur en isolerad testmiljö, nådde internet och angrep Hugging Face för att komma åt facit till ett cybertest.

OpenAI meddelade på tisdagen att intrånget utfördes av flera av företagets modeller, däribland GPT-5.6 Sol och en ännu mer avancerad modell som inte har lanserats. De vanliga spärrarna mot avancerad cyberverksamhet hade reducerats för att modellerna skulle kunna testas på maximal nivå.

Företaget beskriver händelsen som en cyberincident utan motstycke. Enligt den preliminära utredningen blev modellerna extremt inriktade på att klara ExploitGym, ett test av förmågan att omvandla verkliga sårbarheter till fungerande angrepp.

Utnyttjade nolldagssårbarhet för att ta sig ut

Testerna kördes i en kraftigt isolerad miljö. Modellerna skulle sakna direkt internetåtkomst och bara kunna installera programpaket genom en intern proxy.

Modellerna använde enligt OpenAI stora mängder beräkningskraft för att hitta en väg ut. De upptäckte och utnyttjade en tidigare okänd sårbarhet, en så kallad nolldagssårbarhet, i proxyn. Därefter skaffade de sig högre behörigheter och förflyttade sig genom OpenAI:s testmiljö tills de nådde en maskin med internetanslutning.

Väl ute på internet drog modellerna slutsatsen att Hugging Face kunde ha modeller, datamängder och lösningar som hörde samman med ExploitGym. De sökte därför efter en väg in i företagets verkliga produktionssystem.

I ett av de angrepp som OpenAI beskriver kombinerades stulna inloggningsuppgifter med flera sårbarheter, däribland tidigare okända brister. På så vis fann modellerna en väg att köra kod på Hugging Faces servrar och nå testlösningar i företagets produktionsdatabas.

OpenAI skriver att allt tillgängligt underlag tyder på att modellerna var helt fokuserade på det avgränsade målet att lösa testet. Redogörelsen innebär inte att modellerna hade egna avsikter eller försökte orsaka skada för sin egen skull. Däremot behandlade modellerna de tekniska begränsningarna som hinder som skulle kringgås.

Över 17 000 händelser i loggarna

Hugging Face gick först ut med information om intrånget den 16 juli, men visste då inte vilken AI-modell som låg bakom. Företaget beskrev en autonom agent som hade genomfört tusentals åtgärder över en helg, utnyttjat två sårbarheter för kodkörning i databehandlingen, samlat in åtkomstuppgifter och förflyttat sig mellan interna datorkluster.

Säkerhetsteamet rekonstruerade senare mer än 17 000 registrerade händelser. Ett begränsat antal interna datamängder och flera autentiseringsuppgifter hade nåtts. Hugging Face fann vid sin första redogörelse inga belägg för att allmänt tillgängliga modeller, datamängder eller användartjänster hade manipulerats, men utredde fortfarande om kund- eller partnerdata kunde ha berörts.

OpenAI uppger att både dess eget och Hugging Faces säkerhetsteam upptäckte onormal aktivitet. Hugging Face stoppade angreppet, stängde de utnyttjade vägarna, byggde om komprometterade noder och bytte ut berörda nycklar och åtkomstuppgifter.

Försvararnas AI stoppades av säkerhetsspärrar

Incidenten fick också en oväntad följd. När Hugging Face försökte använda ledande kommersiella modeller för att analysera attackloggarna blockerades analysförsöken av modellernas säkerhetssystem. Loggarna innehöll verkliga attackkommandon, skadlig kod och material för fjärrstyrning som tjänsterna inte kunde skilja från ett pågående angrepp.

Företaget genomförde därför analysen lokalt med den kinesiska modellen GLM 5.2, vars öppet tillgängliga parametrar gjorde det möjligt att köra den utan samma spärrar och utan att skicka känsliga uppgifter utanför den egna miljön.

Hugging Face beskriver detta som en obalans mellan angripare och försvarare: angripare kan använda AI utan säkerhetsregler, medan försvarare riskerar att blockeras när de behöver analysera exakt samma slags material.

Fler modeller har kringgått gränser

Incidenten kommer kort efter att OpenAI rapporterat om andra problem med modeller som kan arbeta självständigt under lång tid. I ett separat fall hittade en modell en sårbarhet i sin sandlåda och publicerade resultat på Github, trots instruktioner om att bara rapportera internt.

I ett annat test delade en modell upp en autentiseringstoken i flera delar för att undgå en säkerhetsskanner och återskapade den först när den skulle användas. OpenAI pausade då den begränsade interna tillgången och införde övervakning av hela handlingsförlopp i stället för att bara bedöma varje enskild åtgärd.

NyD har tidigare rapporterat om hur OpenAI beskrev GPT-5.6 som ett stort steg framåt inom cybersäkerhet, men samtidigt uppgav att modellerna inte kunde genomföra fullständiga angrepp mot välskyddade system under de då redovisade testerna. Den nya incidenten visar enligt OpenAI att sådana avancerade förmågor nu också kan få konsekvenser i verkliga system.

Skärper skydden kring framtida tester

OpenAI uppger att företaget inför striktare begränsningar i sin forskningsmiljö, även om det saktar ned arbetet. Bolaget samarbetar med Hugging Face om den it-forensiska utredningen, har rapporterat nolldagssårbarheten till leverantören och ska förstärka isolering, övervakning och åtkomstkontroller kring framtida tester.

Hugging Faces vd Clem Delangue beskriver händelsen som möjligen den första i sitt slag och framhåller att AI-säkerhet kräver öppet samarbete och bred tillgång till säkerhetsverktyg.

OpenAI betonar att redogörelsen är preliminär. Företaget säger att fler tekniska uppgifter om sårbarheterna och händelseförloppet ska publiceras när den gemensamma utredningen är avslutad.

]]> Ideogram släpper öppen AI-modell – kan köras lokalt https://nyadagbladet.se/teknik/ideogram-4-ai-bildmodell-lokal-korning/ Wed, 03 Jun 2026 21:45:26 +0000 https://nyadagbladet.se/?p=232328 Ideogram släpper sin första öppna AI-bildmodell. Ideogram 4.0 kan laddas ned, anpassas och köras lokalt – en lansering som gör avancerad bildgenerering mer tillgänglig för vanliga användare med kraftfulla konsumentdatorer.

AI-bildbolaget Ideogram, som gjort sig känt för ovanligt bra text i genererade bilder, presenterade på onsdagen Ideogram 4.0 som företagets första öppna modell för att skapa bilder utifrån text. Bolagets budskap är att modellen inte bara ska användas i Ideograms egen tjänst, utan också kunna laddas ned, anpassas med eget material och köras på egen hårdvara.

Det gör lanseringen särskilt intressant för kreatörer, utvecklare och teknikvana användare som vill köra bildmodeller lokalt i stället för att vara helt beroende av låsta molntjänster. För svenska användare kan det handla om att experimentera med affischer, logotyper, produktbilder och texttunga designutkast på den egna datorn, förutsatt att grafikkortet är tillräckligt starkt.

Samtidigt är Ideogram 4.0 inte en helt fri modell. Modellfilerna finns på Hugging Face, men åtkomsten kräver registrering och licensen anges som Ideogram 4 Non-Commercial, alltså för icke-kommersiellt bruk. Den praktiska friheten handlar därför främst om att kunna köra modellen lokalt, experimentera och anpassa den – inte om fri kommersiell användning utan villkor.

Byggd för text och layout

I företagets kodarkiv på GitHub beskrivs Ideogram 4 som en text-till-bild-modell med 9,3 miljarder parametrar, tränad från grunden och inte genom finjustering eller destillering av en befintlig modell. Två mer kompakta versioner listas: NF4 för CUDA och FP8 med bredare hårdvarustöd.

Ideograms främsta styrka är fortfarande text i bild. Där många bildmodeller misslyckas med bokstäver, menyer, affischer och etiketter lyfter bolaget fram korrekt textåtergivning, 2K-upplösning, genomskinlig bakgrund och mer exakt layoutstyrning som huvudnyheter.

Modellen kan styras via strukturerade instruktioner i JSON-format. I stället för att bara skriva en vanlig instruktion kan användaren ange färgpaletter, objekt, textytor och koordinater för hur olika delar ska placeras. Ideogram skriver att modellen tränats med bildutsnitt och beskrivningar som gör att den bättre förstår var objekt, text och layoutelement hör hemma.

För praktiskt designarbete är det just kontrollen – inte bara bildkvaliteten – som avgör om verktyget kan användas i det dagliga arbetet. Ett verktyg som kan återge läsbar text, placera objekt mer förutsägbart och skapa genomskinliga bilddelar är mer användbart i professionella sammanhang än en modell som enbart gör visuellt slående bilder.

Konsumenthårdvara i centrum

Den viktigaste nyheten är därför inte bara att Ideogram vill konkurrera med OpenAI och Google i bildkvalitet. Det handlar också om att en avancerad bildmodell nu görs tillgänglig på ett sätt som kan flytta delar av användningen från molnet till lokala datorer.

För vanliga användare är tröskeln fortfarande högre än för en webbtjänst. Modellen kräver nedladdning, rätt programmiljö och tillräckligt kraftfull dator. Men lokalt körbara modeller har redan blivit en viktig del av AI-kulturen kring verktyg som ComfyUI, där användare bygger egna arbetsflöden och kombinerar flera modeller och tillägg.

ComfyUI, som fick stöd för Ideogram 4.0 från start, beskriver lanseringen som en stor nyhet för användare som väntat på en öppen modell som klarar affischer, layouter och läsbar text utan att alla instruktioner måste skickas till ett låst eller molnbaserat API.

Högt rankad bland öppna AI-modeller

Ideogram hävdar att 4.0 är den högst rankade öppna text-till-bild-modellen på DesignArena, en oberoende rankning för grafiskt skapande. På den totala listan ligger den bakom stängda modeller från OpenAI och Google, men före andra öppna modeller, enligt bolagets redovisning.

I GitHub-materialet hänvisar Ideogram även till ett blindtest av modellens förmåga att skapa text i bild från ContraLabs, där tio professionella designers fick jämföra modeller. Ideogram 4 valdes som bästa modell i 47,9 procent av fallen, före Gemini 3.1 Flash Image Preview, FLUX.2 max och Grok Imagine 1.0. Samma designers gav också Ideogram 4 högst betyg på frågan om modellen skulle användas i riktiga kunduppdrag.

Resultaten bör tolkas med viss försiktighet. Flera mätningar kommer från eller återges av bolaget självt, och bildmodeller är svåra att jämföra objektivt eftersom resultatet påverkas kraftigt av instruktioner, urval och användningsfall. Men riktningen är tydlig: öppna modeller blir snabbt bättre på områden som tidigare krävde stängda tjänster.

Finns på flera plattformar

Ideogram 4.0 riktar sig inte bara till utvecklare som vill arbeta direkt med modellfilerna. Enligt bolaget finns modellen även i Ideograms egna abonnemang, via företagets API och hos partners som Hugging Face, ComfyUI, fal, Runware, Magnific, Krea, Leonardo, Picsart, Cloudflare och Replicate.

Det breda partnerstödet är viktigt. För en modell som riktar sig till design, marknadsföring och innehållsproduktion räcker det inte att finnas på en modellhub. Den måste också finnas där kreatörer redan arbetar – i verktyg baserade på noder, API-flöden, designplattformar och automatiserade arbetsflöden.

Den mer långsiktiga frågan är hur mycket av marknaden för generativ AI som flyttas från låsta bildtjänster till modeller som användare kan anpassa och köra själva. För svenska kreatörer, mindre bolag och teknikintresserade privatpersoner kan det handla både om kostnad, dataskydd och kontroll över arbetsflödet.

Samtidigt ökar öppna bildmodeller de befintliga riskerna. När högkvalitativ bildgenerering, text i bild och lokal anpassning blir enklare behövs tydligare rutiner för vattenmärkning eller märkning av AI-genererat innehåll, upphovsrätt och varumärkesskydd. Ideogram 4.0 visar hur snabbt tekniken mognar – men också hur snabbt ansvaret flyttar när verktygen lämnar de stängda plattformarna.

]]>