deepfake – Nya Dagbladet https://nyadagbladet.se Morgondagens Dagstidning! Sun, 02 Aug 2026 17:51:36 +0000 sv-SE hourly 1 https://wordpress.org/?v=7.1 https://nyadagbladet.se/wp-content/uploads/2021/11/cropped-nyd-logo-500-32x32.jpg deepfake – Nya Dagbladet https://nyadagbladet.se 32 32 Nya EU-regler ska göra AI-innehåll spårbart https://nyadagbladet.se/teknik/nya-eu-regler-ska-gora-ai-innehall-sparbart/ Sun, 02 Aug 2026 17:50:23 +0000 https://nyadagbladet.se/?p=236273 Från och med den 2 augusti gäller nya EU-regler som ska göra det tydligare när människor möter artificiell intelligens eller AI-skapat innehåll på nätet. Reglerna riktar sig både till företagen bakom systemen och till verksamheter som använder dem. Bestämmelserna finns i artikel 50 i EU:s AI-förordning. De ska bland annat minska risken för bedrägerier, vilseledande manipulation och desinformation när text, bilder, ljud och video kan framställas eller förändras digitalt i stor skala. Enligt Europeiska kommissionen ska leverantörer av system som interagerar direkt med människor göra klart att användaren talar med en AI, om det inte redan är uppenbart. Det gäller exempelvis vissa chattbotar, AI-agenter och digitala avatarer. Företag som tillhandahåller generativa AI-system ska dessutom se till att material som systemen skapar eller manipulerar kan identifieras i ett maskinläsbart format. Kravet omfattar syntetisk text, bild, ljud och video, men har undantag för bland annat vanlig redigering som inte väsentligt förändrar innehållet.

Djupförfalskningar ska märkas

För den som använder systemen professionellt – en så kallad användare i förordningens mening – finns särskilda regler för så kallade djupförfalskningar. Bild, ljud eller video som framställts eller förändrats med AI och framstår som verklig ska tydligt märkas som artificiellt genererad eller manipulerad. Samma princip gäller AI-genererad text som publiceras för att informera allmänheten i frågor av allmänintresse. Här finns dock ett betydelsefullt undantag: märkning krävs inte när texten har genomgått verklig mänsklig granskning eller redaktionell kontroll och någon också bär redaktionellt ansvar för publiceringen. Enbart språkgranskning eller formell kontroll räcker däremot inte, enligt kommissionens vägledning. Reglerna omfattar även system för känsloigenkänning och biometrisk kategorisering, där människor som exponeras för systemen som huvudregel ska informeras. AI-förordningen har införts stegvis sedan 2024, men artikel 50 börjar tillämpas den 2 augusti 2026. Den som bryter mot bestämmelserna kan i vissa fall få böter på upp till 15 miljoner euro eller 3 procent av den globala omsättningen från föregående räkenskapsår. Tillsynen ska huvudsakligen ligga hos nationella marknadskontrollmyndigheter, medan EU:s AI-kontor har en mer avgränsad roll. Den nya regleringen betyder alltså inte att varje text som har berörts av ett AI-verktyg måste förses med en varningsetikett. Men den skärper kraven på dem som bygger systemen och på dem som publicerar syntetiskt material utan en ansvarig mänsklig redaktion i kedjan.]]> Forskare: Snart omöjligt att upptäcka AI-deepfakes https://nyadagbladet.se/it-overvakning/forskare-snart-omojligt-att-upptacka-ai-deepfakes/ Thu, 01 May 2025 13:19:48 +0000 https://nyadagbladet.se/?p=205237 De mest avancerade AI-genererade deepfake-filmerna kan nu förfalska människors pulsslag på ett så övertygande sätt att även specialutvecklade detektorer luras, enligt en ny studie från Humboldt-Universität i Berlin. Forskarnas resultat väcker oro för att den tekniska utvecklingen snart kan göra manipulerat material omöjligt att särskilja från autentiska bilder och filmer. Tidigare har detektorer använt en särskild metod (fjärrphotopletysmografi, eller rPPG) som analyserar små färgförändringar i huden för att upptäcka puls – som en relativt pålitlig indikator på om ett filmklipp är äkta eller inte. Men i den nya studien skapade forskarna 32 deepfake-filmer som inte bara såg verkliga ut för mänskliga ögon, utan även imiterade pulsslag. När dessa videor testades mot en rPPG-baserad detektor, klassificerades de felaktigt som äkta. ”Här visar vi för första gången att nyare högkvalitativa deepfake-videor kan uppvisa en realistisk hjärtrytm och små förändringar i ansiktsfärgen, vilket gör dem mycket svårare att upptäcka”, säger professor Peter Eisert, studiens huvudförfattare, i ett uttalande.

Ökar risken för bedrägerier

Enligt studien kan pulssignaler från originalfilmer ”ärvas” av deepfakes genom att AI-modeller replikerar små variationer i hudton och blodflöde och värmekartor i studien visade nära identiska ljusförändringar i både äkta och manipulerade videor. ”De små skillnaderna i ansiktsfärg hos den verkliga personen överförs till djupförfalskningen tillsammans med ansiktsrörelser, så att den ursprungliga pulsen replikeras”, förklarar Eisert vidare, Dessa framsteg ökar riskerna för deepfakes användning vid bland annat ekonomiska bedrägerier, desinformation och pornografi utan samtycke. En oberoende forskare uppskattade 2023 att över 244 000 manipulerade videor laddades upp på de 35 största deepfake-pornografisajterna under en enda vecka.

Teknisk kapprustning

Trots studiens oroande resultat finns det hopp om att kunna vända trenden. Forskarna noterar att dagens deepfakes fortfarande misslyckas med att återskapa naturliga variationer i blodflöde över tid. Dessutom utvecklar techjättar som Adobe och Google vattenstämplar för att markera AI-genererat material. Samtidigt har USA:s kongress nyligen antagit Take It Down Act, som kriminaliserar spridning av icke konsensuella sexuella bilder – inklusive AI-genererade sådana. Men experter varnar för att den tekniska kapprustningen mellan skapare och detektorer kräver ständig anpassning. ”Resultaten understryker hur den snabba utvecklingen av deepfake-teknik gör att de som arbetar med att upptäcka den inte kan förlita sig på en enda metod särskilt länge till” framhåller studien, och slår fast att i takt med att AI-utvecklingen accelererar blir kampen mot digital bedräglighet också alltmer brådskande. Andra har lyft fram en helt annan sorts oro - nämligen att den omfattande spridningen av AI-manipulerat material riskerar att användas som förevändning för hårdare censur och lagar som på olika sätt begränsar människornas frihet på internet.]]> EU tvingar techjättarna flagga AI-genererat innehåll https://nyadagbladet.se/it-overvakning/eu-tvingar-techjattarna-flagga-ai-genererat-innehall/ https://nyadagbladet.se/it-overvakning/eu-tvingar-techjattarna-flagga-ai-genererat-innehall/#respond Tue, 12 Mar 2024 09:57:56 +0000 https://nyadagbladet.se/?p=175308 Techbolag som TikTok, X och Facebook kommer snart att vara skyldiga att tydligt identifiera AI-genererat innehåll på sina plattformar. Det uttalade syftet är att skydda det kommande EU-valet från "desinformation" och "manipulation". – Vi vet att den valperiod som nu inleds i Europeiska unionen kommer att utsättas för hybridattacker eller utländsk inblandning av alla slag. Vi kan inte ha halvdana åtgärder, förkunnade Thierry Breton, EU:s kommissionär för den inre marknaden i februari. Enligt Breton är det ännu inte helt klart när techbolagen kommer att tvingas införa särskilda märkningar på manipulerat innehåll enligt EU:s lag om innehållsmoderering, men regelverket förväntas gälla på bland annat TikTok, X, Facebook, Instagram och YouTube. Deepfakes har redan dykt upp i olika sammanhang runtom i världen och skapat oro bland lagstiftare – bland annat en ljudförfalskning som utgavs för att vara USA:s president Joe Biden. 2024 påstås dessutom vara särskilt känsligt då européerna håller val till EU-parlamentet i juni – samtidigt som amerikanerna har presidentval i november.

"Snabb reaktionsmekanism"

OpenAI som ligger bakom tjänsten ChatGPT har redan låtit meddela att man kommer att börja märka falska bilder, och även Meta som äger Facebook, Instagram och Threads har sagt att de har för avsikt att snart införa liknande åtgärder. I EU har lagstiftare länge krävt att de sociala medieföretagen enklare kan hållas juridiskt ansvariga för det som publiceras på deras plattformar – bland annat just ”desinformation”. Stora onlineplattformar har redan nu en skyldighet att begränsa och motverka vad som beskrivs som ”samordnade manipulationskampanjer” och andra ”systemrisker” som bedöms ha potentiella negativa effekter på valprocesserna. Enligt Breton är det viktigt att plattformarna också inrättar ”en snabb reaktionsmekanism för alla typer av incidenter” och att EU kommer att genomföra simuleringar för att säkerställa att deras system fungerar.]]> https://nyadagbladet.se/it-overvakning/eu-tvingar-techjattarna-flagga-ai-genererat-innehall/feed/ 0 Deepfake-teknik lurade politiker under videomöte https://nyadagbladet.se/it-overvakning/deepfake-teknik-lurade-politiker-under-videomote/ https://nyadagbladet.se/it-overvakning/deepfake-teknik-lurade-politiker-under-videomote/#comments Mon, 26 Apr 2021 19:13:41 +0000 https://nyadagbladet.se/?p=100215 Ett antal politiker i Nederländerna har blivit lurade med hjälp av deepfake-teknik i samband med ett videomöte. Politikerna trodde att de genomförde ett videosamtal med Aleksej Navalnyjs stabschef Leonid Volkov, så var det däremot inte. Det är oklart vem som har utfört deepfake-mötet, men det verkar vara samma person som tidigare har lurat politiker i Ukraina, Lettland och även Storbritannien. Företrädare från nederländska representanthuset tittar nu på olika lösningar för att förhindra incidenter som detta ska kunna inträffa igen.]]> https://nyadagbladet.se/it-overvakning/deepfake-teknik-lurade-politiker-under-videomote/feed/ 2 Kina vill förbjuda falska nyheter och deepfakes https://nyadagbladet.se/it-overvakning/kina-vill-forbjuda-falska-nyheter-och-deepfakes/ https://nyadagbladet.se/it-overvakning/kina-vill-forbjuda-falska-nyheter-och-deepfakes/#respond Wed, 04 Dec 2019 06:04:11 +0000 https://nyadagbladet.se/?p=70550 Kinas myndigheter meddelar att det från och med 1 januari 2020 är förbjudet att publicera fejkat innehåll, sådant som kan skapas med teknologier och artificiell intelligens, så länge man inte märker materialet tydligt. Framför allt vill Kina komma åt "deepfakes", som med hjälp av artificiell intelligens skapar fejkade klipp där människor säger och gör saker som de i själva verket aldrig gjort eller sagt. Myndigheterna menar att deepfakes är ett potentiellt hot och ej får missbrukas. All användning av AI eller virtuell verklighet måste också tydligt markeras på ett framträdande sätt, och underlåtelse av detta kommer att betraktas som ett brott. Anledningen till att Kina inte vill att deepfakes ska användas i fel syfte är på grund av att med hjälp av teknologin kan störa den sociala stabiliteten, den sociala ordningen och kränka andras rättigheter och intressen, heter det.]]> https://nyadagbladet.se/it-overvakning/kina-vill-forbjuda-falska-nyheter-och-deepfakes/feed/ 0 Ny video visar hur deepfake-tekniken kan utnyttjas https://nyadagbladet.se/it-overvakning/ny-video-visar-hur-deepfake-tekniken-kan-utnyttjas/ https://nyadagbladet.se/it-overvakning/ny-video-visar-hur-deepfake-tekniken-kan-utnyttjas/#comments Mon, 25 Nov 2019 10:08:00 +0000 https://nyadagbladet.se/?p=70200 Vid ett bord sitter programledaren Mark Ellis och samtalar med Tom Cruise, George Lucas, Robert Downey Jr och Ewan McGregor. Åtminstone ser det ut så. I verkligheten är dock ingen av gästerna på plats utan det är skådespelare som med hjälp av AI-teknik ser ut som kändisarna. Så kallad deepfake-teknik har utvecklats de senaste åren och manipulerade videoklipp av satirisk karaktär sprids idag där det ser ut som att Barack Obama, Vladimir Putin, Mark Zuckerberg eller någon annan figurerar i en film och säger eller gör saker som de aldrig har sagt eller gjort. Oftast handlar det om satir, men tekniken riskerar också att missbrukas i politiska syften. I det här klippet är det alltså imitatörer och inte de verkliga kändisarna som är på plats vid bordet och klippet är till för att visa hur avancerad tekniken har blivit, och hur trovärdigt intryck en manipulerad film kan ge om skådespelaren är skicklig på att härma kroppsspråk och röster. Cornucopia skriver på sin blogg att det svåraste idag är att återskapa kändisarnas frisyrer och att detta med fördel görs med riktiga peruker eller att imitatören har en frisyr som är väldigt lik den som denne försöker härma. I bloggen pekar man också på att det är amerikanskt presidentval nästa år och ställer sig frågan när tekniken kommer användas ”avsiktligt fientligt” för första gången.]]> https://nyadagbladet.se/it-overvakning/ny-video-visar-hur-deepfake-tekniken-kan-utnyttjas/feed/ 1