För dig som använder generativ AI i kommunikation och marknadsföring är det framför allt två saker att hålla koll på: deepfakes i bild, video och ljud samt AI-genererad text om frågor av allmänt intresse. Allt AI-genererat innehåll behöver inte märkas och det blir inte förbjudet att använda AI, men i vissa situationer har märkning blivit ett lagkrav.

En deepfake är AI-genererat eller AI-manipulerat bild-, ljud- eller videoinnehåll som liknar verkliga personer, föremål, platser eller händelser och felaktigt kan uppfattas som autentiskt. Men det gäller inte saker som är fysiskt omöjliga eller helt påhittade – exempelvis människor med vingar eller fotorealistiska enhörningar.

Det handlar alltså inte bara om realism. Se det som en kombination av tre saker: användning av AI, påtaglig realism och fejkad autenticitet. Om AI får något som inte har hänt att se ut som om det faktiskt har hänt, bör varningsklockorna ringa. Då ska märkpennan fram.

Gör märkningen tydlig
Mottagaren ska få informationen senast vid den första exponeringen. Man ska alltså intebehöva leta på en undangömd undersida för att förstå att innehållet är en deepfake.

Använd ett begripligt språk
Vanliga människor ska förstå märkningen utan tekniska förkunskaper. ”AI-genererad bild” eller ”AI-manipulerad bild” är betydligt bättre än en egen kryptisk symbol.

Gör märkningen synlig eller hörbar
Storlek, kontrast, placering och ljudvolym behöver vara tillräcklig. Tänk också på saker som tillgänglighet, exempelvis alt-texter och ARIA-märkning.

Låt märkningen följa med innehållet
Om någon laddar ner en bild från din sajt, så ska märkningen följa med bilden. Märkningen ska alltså bakas in i själva innehållet, inte ligga i en bildtext. Eller så kan du använda en teknisk lösning. Det är upp till dig, men märkningen måste följa med.

Skilj på genererat och manipulerat
Om du skapar en bild helt med AI är den AI-genererad. Om du utgår från ett verkligt foto och väsentligt förändrar det med AI är det AI-manipulerat. Det är därför EU har flera olika märkningar. Använd sunt förnuft och utgå från hur du faktiskt har använt AI.

Undvik felaktigt språk och jargong
EU kräver att du skriver ut ”AI” i versaler. Du får inte skriva ”Ai” eller ”ai”. Undantag finnsi exempelvis Tyskland. Så om dina deepfakes ska synas där bör du använda ”KI” som i Künstliche Intelligenz. EU vill inte att man använder jargong. Du ska därmed undvika att skriva saker som ”Bilden är gjord med AI för vår kollega ville inte vara med på bild”.

Låt säga att du ska göra en reklamkampanj med hjälp av AI. Kanske vill du visa upp en medarbetare, skapa en radiospot eller lansera en ny produkt. När kan märkning krävas?

• Du använder en gammal bild på en kollega, men får personen att posera på ett helt nytt sätt i en helt ny miljö. Personen har aldrig gjort detta. Om resultatet ser autentiskt ut är det troligtvis en deepfake.

• Du använder en röstklon i en radiospot. Rösten tillhör en AI och ”personen” sägersaker som hen aldrig har sagt. Det är en deepfake och du måste upplysa om det.

• Du byter ansikte på en verklig person. Mest för att du gillar en bild på en tidigare kollega och byter därför ut ansiktet mot en ny kollegas ansikte. Resultatet kan framstå som ett autentiskt fotografi trots att situationen aldrig har inträffat.

• Du fejkar en verklig produktlansering och genererar exempelvis en välfylld mässmonter och får det att se ut som om att företaget, besökarna och produktenvarit där. Om bilden kan uppfattas som autentisk är det en deepfake.

• Du blandar verkliga och realistiska AI-genererade klipp i en företagsfilm. Om AI-klippen visar personer, platser, händelser eller produkter på ett sätt som kan uppfattas som autentiskt behöver materialet med största sannolikhet märkas.

• Du lanserar en AI-chatt. Då ska det framgå klart och tydligt att användaren interagerar med ett AI-system. Förklä den alltså inte som en verklig person.

• Du fotar av en produkt med mobilen och ber en AI generera perfekta produktfoton i alla tänkbara vinklar. Resultat är syntetiskt och genererat, vilket gör att en person kan tro att det är på riktigt. Det faktum att den avbildade produkten faktiskt finns gör inte automatiskt bilderna säkra från deepfake-regeln.

• Du vill lyfta fram att din produkt i andra färger och material. En AI matas med bilder på din produkt och resultatet blir något som ser verkligt ut, men som inte finns på riktigt. Då ska du märka, även om du har själva grundprodukten.

Det paradoxala är att du kan göra det här ”manuellt” i exempelvis Photoshop och då behöver du inte märka slutresultatet. Det är deepfakes med AI som är grejen.

Om AI bara används som hjälpmedel för vanlig redigering eller postproduktion behöver slutresultatet normalt inte märkas enligt reglerna om deepfakes. Så du kan andas ut. Skapar du exempelvis mönster, illustrationer och annan grafik med AI påverkas du inte av transparensekraven överhuvudtaget. Det avgörande är alltså inte bara om AI har använts, utan vad AI har använts till och vad mottagaren kan tro om resultatet.

Exempel på användning där AI-märkning inte krävs:

• Ta bort brus i bilder, film och ljud

• Förbättra skärpa och skala upp upplösningen

• Färgkorrigering och grading

• Stabilisering av skakig film

• Förbättra ljudkvalitet

• Enklare retusch jämförbar med traditionell retusch

• Maskning, friläggning och rotoscoping

• VFX i tydligt fiktiva reklamfilmer

• Mindre tekniska eller visuella justeringar som inte förändrar innebörden

• Grafik, mönster och illustrationer

Uppenbart satiriskt och konstnärligt innehåll kan vara realistiskt och påminna om deepfakes, men där är EU inte lika hårda med sina krav på märkning. Men det ska ”framgå på lämpligt sätt” i anslutning till verket. Exempelvis i en bildtext.

Både ja och nej, men för de flesta svenska företag är svaret oftast nej. AI Act kräver inte att all text som har skapats med generativ AI märks. Märkningskravet gäller AI-genererad eller AI-manipulerad text som publiceras i syfte att informera allmänheten om frågor av allmänt intresse. Det kan handla om politik, myndigheter, rättsväsende, säkerhet, folkhälsa och andra samhällsfrågor. Men det finns ett viktigt undantag. Märkning krävs inte om texten har genomgått mänsklig granskning eller redaktionell kontroll och en fysisk eller juridisk person har redaktionellt ansvar för publiceringen.Använder du AI för att skriva eller bearbeta vanlig reklamtext, produkttexter eller annat kommersiellt innehåll som inte handlar om frågor av allmänt intresse behöver texten normalt inte AI-märkas enligt artikel 50. Du kan alltså använda AI för korrektur, översättning, sammanfattning och språklig förbättring utan att texten behöver märkas. Och även på Linkedin, men vem vill förmedla sina tankar och perspektiv som AI slop?

Det korta svaret är att överträdelser kan bli dyra. Feta böter helt enkelt. Brott mot transparenskraven kan leda till sanktionsavgifter på upp till 15 miljoner euro eller 3 procent av företagets totala globala årsomsättning under föregående räkenskapsår. Men sitt ner i båten. Det betyder inte att en överträdelse automatiskt leder till maxböter. I Sverige delar flera myndigheter på tillsynsansvaret för AI-förordningen. För transparenskraven i artikel 50 har Post- och Telestyrelsen, PTS, en central roll. Under den svenska övergångslösningen fram till den 31 december 2026 är PTS behörig myndighet och marknadskontrollmyndighet för vissa delar av AI-förordningen samt gemensam kontaktpunkt. Förenklat kan en tillsynsprocess se ut så här:

1. Misstanke

2. Anmälan eller klagomål

3. Bedömning

4. Utredning vid överträdelse

5. Företaget får yttra sig

6. Beslut

7. Eventuella böter

8. Betala eller överklaga

9. Vägra och see you in court

Läs mer om transparensreglerna på pts.se

Egentligen är det ganska enkelt att avgöra om en deepfake måste märkas eller inte. Om du har använt AI-system för att i huvudsak generera eller kraftigt manipulera bilder, video och ljud så kan du ställa några viktiga kontrollfrågor till dig själv:

Skulle detta kunna hända på riktigt?
Kan någon tro att det är verkligt?
Ser det äkta ut trots att det är fejkat?

Om ja, märk slutresultatet. Eller chansa, bli upptäckt och få böter. Transparenskraven i AI Act finns till för skydda invånare inom EU, så att folk ska kunna se när något är AI och när verkligheten inte riktigt är verklig. Det är ju en bra sak. Att medvetet vilseleda och använda system för att fejka en verklighet som inte finns har helt enkelt blivit olagligt.