Generativ AI – tekniken, nya beteenden, upphovsrätten och kreatörernas oro

Trots att de nya AI-botarna blivit så omtalade är det inte självklart att alla användare förstår hur de faktiskt fungerar, en förståelse som är viktig för en nyanserad syn på verktygens fördelar och nackdelar. Erik Ylipää, som forskar på AI på RISE (Research institutes of Sweden), förklarar generativ AI så här:

– Fråge-svarssystem som ChatGPT är språkmodeller som tränas för att skatta sannolikheten för texter. De hittar de mest sannolika ordföljderna baserat på sin träningsdata men har ingen direkt koppling till “fakta” eller “sanning”. Korrekta svar genereras om faktabaserad text finns i träningsdatan annars fabulerar modellen fram sannolika ordföljder. Det krävs mycket stora datamängder för att träna algoritmer i bild- och textgenerering.

Att språkmodeller som ChatGPT kan ”hitta på” är ett fenomen som många uppmärksammat, Erik Ylipää tror dock inte att en lösning på det problemet ligger så långt bort.

– Det är ett aktivt forskningsfält, och jag tror produkter av samma kaliber som ChatGPT för detta kommer väldigt snart, detta eller nästa år. Vi ser redan att hundratals företag skapas som arbetar med att renodla teknikerna för användningar som behöver faktabaserade svar.

Det är dock inte bara trovärdigheten när det gäller fakta som kan utgöra ett problem, Erik Ylipää pekar också på en annan svaghet – de enorma datamängder som krävs för att träna modellerna och de skevheter som kan uppstå.

– Det behövs så enorma mängder att utvecklarna i stort sett dammsuger det publika internet på exempel. Det betyder att den data som används har ett fundamentalt urvalsproblem. Den är inte representativ för alla typer av data vi skulle kunna vilja generera utan har vissa snedvridningar baserat på vilket typ av bild och text som finns på internet. Dessa snedvridningar kan vara oerhört subtila, kanske i hur väl modellen kan skapa bilder med vissa teman eller hur väl den kan formulera svar på vissa frågor. Det i sin tur, kompletterat med olika urvalsfilter, kan göra att verktyget drar användaren åt vissa håll, vilket i sin tur kan få en självförstärkande effekt.

AI som kreatörskompis och konkurrent

AI kommer att påverka statusen, möjligheterna att ta betalt och försämra upphovsrätten. Det tror en majoritet av de visuella kreatörer som svarat på organisationens Svenska Tecknares nyligen genomförda enkätundersökning. Men det finns även de som ser möjligheter med den nya tekniken; som menar att det kan bli ett bollplank, ett skissverktyg eller ett sätt att effektivisera delar av den kreativa processen.

Sandra Nolgren, verksamhetsledare på Svenska Tecknare, har stor förståelse för att visuella kreatörer kan känna sig oroliga och menar att det inte bara handlar om att det blir mycket lättare för folk i allmänhet att skapa bilder.

– Det finns också farhågor om att det kommer att finnas en förväntan om att allt nu ska gå mycket snabbare. Att det ska ställas orimliga krav på korta leveranstider och att det ska bli svårare att motivera varför jag som mänsklig kreatör ska ha betalt för 10 timmar för att göra något när AI-programmet kan göra det på en timme. Det är ett perspektiv som kan leda till prisdumpning.

Möjligen kan en parallell dras till den första vågen av digitalisering när ny programvara, digitalkameror och kraftfull fri distribution på webben gjorde bilden till en stapelvara. Sandra Nolgren tycker att det är bra att bilden fått ett större utrymme i samhället och blivit mer lättillgänglig men menar också att det uppfattade värdet på den enskilda bilden har minskat.

– Jag tittade på 20 år gamla arvodesundersökningar och arvodena då var lika höga eller högre än vad folk får idag. På det sättet har det ju faktiskt skett en stagnation inom arvoderingen, och det kan man ju delvis koppla till digitaliseringen. Förutom inflation och andra faktorer har inte ersättningen höjts i takt med det merarbete som digitaliseringen fört med sig för kreatörer – exempelvis att du kanske måste leverera många fler format och att det blir mycket större spridning av ditt material.

Hon tror också att förhållningssättet till den nya tekniken till viss del beror på hur ens verksamhet och arbetsprocess ser ut.

– En animatör med flera tidsödande ”mekaniska” delar i processen kanske ser mer möjligheter med AI än en barnboksillustratör med en mer traditionellt konstnärlig process, till exempel. Det finns även de som i undersökningen påpekade att det så småningom kan komma en allmän motreaktion, att det som är skapat av människor kan bli mer exklusivt och få en ökad status.

Idag, innan vi får se en eventuell tydlig motreaktion mot AI-utvecklingen, ser vi dock att många som livnär sig på visuell kreation är oroliga och menar att marknaden kommer att förändras. Håller forskaren Erik Ylipää med om den bedömningen?

– Ja, jag tror bildgenererande AI är det som för tillfället konkurrerar mest med människor, främst inom tidiga faser av större projekt. Exempelvis har stora spelutvecklare länge anställt konceptkonstnärer för att skissa fram en större värld, men nu kan en stor del av det arbetet outsourcas till generativa bildmodeller. Digitala bildkonstnärer som fått inkomst genom beställningsarbeten (till bokomslag, porträtt till rollpersoner etcetera) kommer nog också se en minskad efterfrågan, vilket påverkar en grupp som redan levt under otrygga arbetsförhållanden.

Men hur ser det då ut när det gäller text? Mycket av uppmärksamheten på sistone har ju gällt ChatGPT och dess förmåga att sätta ihop rimliga textsvar inom alla möjliga områden. Erik Ylipää tror att verktygen i nuläget mest kommer att användas av de som redan tar fram texter för att höja produktiviteten.

– Om den ökade produktiviteten kommer att leda till ett minskat behov av copywriters och andra skribenter, eller om det kommer leda till fler texter av högre kvalitet återstår att se. För att text skall passa bra i exempelvis annonser eller en produktbeskrivning tror jag fortfarande att en människa är central då textförfattandet bara är en del i vad det innebär att ta fram en bra annons. En möjlig utveckling är att det blir betydligt mer tillgängligt för “vem som helst” att skapa själva texten, vilket gör tjänsterna kring att se till att den når ut mer efterfrågade.

Ökad produktivitet, större effektivitet, snabbare processer och kraftfulla verktyg som blir tillgängliga för alla är något som både Erik Ylipää och Sandra Nolgren nämner i anslutning till AI. Kommer detta slutligen att förändra vår syn på kreativitet och originalitet i grunden? Niklas Laninge, psykolog och medgrundare av Nordic Behaviour Group, tror inte det:

– Jag tror att den klassiska definitionen av kreativitet kommer att stå pall för AI-revolutionen, det vill säga att det skapade är något nytt och användbart. Kraven lär dock öka på kvalitet och utförande. Lite på samma sätt som nya tekniker och genvägar alltid påverkat synen på var lägstanivån ligger i förhållande till det som skapats, och därmed också minskat värdet på dussinkreationer.

Niklas Laninge lyfter i stället ett annat perspektiv där han tror att generativ AI kan få strukturella konsekvenser – en ny situation där stora mängder originalverk endast utgör inspiration till en AI.

– Ser jag till risker för kreatörer så tänker jag att denna våg av generativ AI kan störa en central incitamentsstruktur. Man skapar ju för att bli läst, lyssnad på och så vidare. Det vill säga inte enbart för pengarnas skull, även om det är viktigt, utan även för att det är belönande i sig att uttrycka sig och att synlighet kan göra det lättare att ”bli upptäckt”. Hur blir det i en framtid där många som skapar originella idéer, texter och bilder främst når ut genom att en AI tuggar i sig ens verk och väver in det i sina svar utan att någonsin hänvisa till ursprungskällan?

Att skapa och vilja bli sedda är å andra sidan ett så grundläggande psykologiskt behov att vi sannolikt alltid kommer vilja fortsätta vara kreativa och uttrycka oss, menar Niklas Laninge.

– Jag är inte superorolig men jag tänker på att vi levt i en tid då väldigt många främst skriver innehåll vars enda läsare är Googles sökalgoritm, och den kan ju trots allt även leda mänskliga läsare till texten. Det känns smått dystopiskt att nästa steg blir att den enda läsaren blir OpenAI:s ChatGPT.

AI och kunskapsförmedling

I media är det just nu ett stort fokus på just de kreativa, konstnärliga konsekvenserna av AI-utvecklingen. Men AI används också alltmer för att sammanställa, processa och förmedla kunskap och data. Gabriella Stuart är beteendestrateg på Nordic Behaviour Group och forskningsassistent i ett internationellt projekt som integrerar datavetenskap, maskininlärning och beteendevetenskap. Syftet med projektet är att med hjälp av artificiell intelligens ta fram en databas som ska tillgängliggöra befintlig forskning inom beteendeförändring. Projektets första fas fokuserar på forskning kring rökning och fysisk aktivitet.

– Att överblicka och vara uppdaterad kring forskningen inom beteendeförändring är i vanliga fall svårt eftersom det kommer ny forskning hela tiden i en hög takt, men nu lär vi det här systemet att identifiera och samla in alla nya och relevanta studier. På så sätt kommer vi till slut att ha en stor databas som ständigt uppdateras med ny forskning allteftersom. Sedan är målet att man ska kunna ställa frågor till systemet, exempelvis vilka typer av interventioner som fungerar bäst när det gäller att hjälpa människor att sluta röka. Genom att forskningen blir mer tillgänglig på det här sättet blir det också enklare för yrkesprofessionella att fatta evidensbaserade beslut.

Gabriella Stuart tror inte att denna typ av smarta databaser kommer att göra alla beslutsfattare, oberoende av förkunskaper, helt självständiga. Det kommer fortfarande finnas ett behov av att kunna tolka och sätta de svar och rekommendationer man får i en kontext. Däremot kan andra yrkesgrupper, som journalister och författare av faktaböcker, få viss konkurrens, menar Niklas Laninge:

– Jag har exempelvis själv skrivit många populärvetenskapliga böcker, och en viktig funktion de fyller är att sammanfatta ett ofta komplext forskningsläge i mer lättillgängliga insikter: Vad har vi lärt oss? Vad funkar? Men nu blir ju de här böckerna väldigt snabbt daterade. Om en AI både kan ge oss rekommendationer om hur vi utifrån evidens kan lösa olika problem och samtidigt sammanfattar ett kunskapsområde i realtid blir det en stor konkurrent till författare av populärvetenskap och faktaböcker. Sedan läser man ju sådana böcker för nöjes skull också, så det personliga uttrycket kommer ju vara fortsatt viktigt för många.

Erik Ylipää är inne på samma nyanserade spår – att AI kommer att leda till förändringar, men inte nödvändigtvis i termer av olika yrkesrollers vara eller inte vara.

– Utvecklingen av AI kan visst leda till nya yrkesgrupper, som promptdesigner, men det är mer troligt att dessa färdigheter utvecklas inom befintliga, komplexa yrkesroller. En ny yrkesgrupp som faktiskt redan vuxit fram är “AI-tränare”, som arbetar med att förbättra träningsdata för algoritmer. Beroende på vilken typ av data som behövs kan specialister vara involverade i tillfälliga projekt för att sammanställa sådan data, till exempel inom medicin. Det är dock viktigt att notera att datadrivna metoder inte kommer att ersätta komplexa yrkesroller helt och hållet, utan snarare fungera som stöd för specifika arbetsuppgifter inom dessa roller.

Just rollen som stöd i samband med problemlösning, research och vissa kreativa processer poängteras av Niklas Laninge som ser att AI kan bli ett naturligt första bollplank för många.

– En teknologi som lyckats samla enorma mängder mänskliga idéer, tankar och formuleringar – det är helt enkelt en bra sparringpartner. Men, då får man inte glömma de svagheter de här systemen har och källkritik kommer att bli ännu mer komplext och viktigt. Att vara källkritisk till vad jag hittar via en Googlelänk är en helt annan sak än att förhålla mig till en språkmodell som genererat en sammanfattning av tusentals källor.

AI och upphovsrätten

Många menar att den snabba AI-utvecklingen har lett till ett upphovsrättsligt vakuum, en del skulle till och med säga kaos. Johan Axhamn, juris doktor och universitetslektor i handelsrätt på Ekonomihögskolan vid Lunds universitet, pekar på att vägledning i vissa delar ändå finns.

– Svensk och europeisk upphovsrätt har nyligen uppdaterats med avseende på en aspekt som aktualiseras i samband med artificiell intelligens. Det handlar om bestämmelser om så kallad text- och datautvinning. Text- och datautvinning aktualiseras exempelvis i samband med att befintliga verk och annat upphovsrättsligt skyddat material används som träningsdata för utveckling av artificiell intelligens. De nya reglerna innebär bland annat att det är möjligt att använda befintliga verk med mera som träningsdata, såvida inte upphovsmännen har motsatt sig sådan användning. Det finns också, enligt särskilda regler, möjlighet för forskningsorganisationer att genomföra sådan användning oavsett om upphovsmännen har motsatt sig sådan användning eller inte.

Johan Axhamn konstaterar dock att upphovsrätten däremot inte har uppdaterats ännu när det gäller AI-output i form av text och bilder. Det vill säga om AI:ns output kan eller bör kunna åtnjuta upphovsrätt eller ett upphovsrättsliknande skydd, exempelvis genom någon form av så kallad närstående rättighet. Med det senare avses rättigheter som påminner om upphovsrättsligt skydd, men som inte förutsätter en skapande, kreativ insats utan i stället är resultatet av en viss arbetsinsats eller en investering; det kan exempelvis handla om rättigheter för utövande konstnärer och skiv- och filmproducenter.

– Allmänt gäller förstås att om AI-output i det enskilda fallet är resultatet av tillräcklig mänsklig kreativitet i form av fria och kreativa val i samband med skapandet, så kan outputen uppfylla kraven för upphovsrättsligt skydd som verk. Men de AI-verktyg som har utvecklats på senare tid är så pass självständiga (autonoma) att utrymmet för mänsklig kreativitet, som påverkar slutresultatet, är mycket begränsat. Mänsklig input i form av en textpromt motsvarar i förhållande till slutresultatet närmast bakomliggande idéer och liknande som inte kan skyddas av upphovsrätt. Däremot skulle mänsklig input i form av feedback till AI:n, eller kreativ bearbetning av AI:ns output, möjligen kunna rendera upphovsrättsligt skydd för den som ger feedbacken eller genomför bearbetningen.

Om det skulle bli aktuellt att införa ett särskilt skydd för AI-output så uppstår frågan vem som blir ursprunglig rättighetshavare; den som utvecklat AI:n, den som äger AI:n eller den som använder AI:n i det enskilda fallet? Johan Axhamn menar att det i grunden är en rättspolitisk fråga om vilka insatser som ska främjas och belönas med ett upphovsrättsliknande skydd. Att det redan finns så kallade närstående rättigheter är exempel på att det upphovsrättsliga regelverket över tid har utvecklats och anpassats för att ge skydd också för insatser som inte förutsätter mänsklig kreativitet.

En ytterligare fråga som har aktualiserats i samband med användning av AI för generering av exempelvis bilder är att upphovsrätten inte skyddar stil och manér. Det upphovsrättsliga skyddet sträcker sig endast till konkreta uttryck; inte den stil eller det manér som flera bilder gemensamt ger uttryck för. Flera av de AI-verktyg som finns på marknaden kan generera texter och bilder som påminner om kända upphovsmäns ”stilar”. Men så länge det nya innehållet inte är tillräckligt likt ett konkret verk (som använts som input) så föreligger inte upphovsrättsintrång.

– Det är också ett potentiellt problem att det på marknaden förekommer bilder och annat som ser ut som upphovsrättsligt skyddade bilder; där det mänskliga ögat inte kan avgöra om det är en människa eller en AI som genererat bilden. Det kan också förekomma ”missbruk” av den så kallade presumtionsregeln i upphovsrättslagen. Denna regel innebär att ”såsom upphovsman anses, där ej annat visas, den vars namn eller ock allmänt kända pseudonym eller signatur på sedvanligt sätt utsättes på exemplar av verket eller angives då detta göres tillgängligt för allmänheten.” Det är exempelvis inte osannolikt att personer som har använt AI för att generera exempelvis bilder sätter sitt namn på bilden, eller på annat sätt anger eller uppger sig vara upphovsperson – trots att deras egen insats inte uppfyller kraven som krävs för upphovsmannaskap.

Kommer dessa potentiella problem och otydligheter vad gäller vardagspraktik kräva ändringar i det upphovsrättsliga regelverket? Johan Axhamn menar att det finns anledning att överväga kompletteringar.

– Jag tror att det kan behövas ett förtydligande i lagen om vad som gäller för AI-genererad output. Den nuvarande ordningen – där en bedömning behöver göras i varje enskilt fall om det finns tillräcklig mänsklig input – är sannolikt alltför osäker inom ett område som får allt mer praktisk och ekonomisk betydelse. Det gäller särskilt eftersom det endast är en av parterna – i praktiken den som har utvecklat eller använder AI:n i det enskilda fallet – som har information om hur skapandet eller genereringen gick till. Det är ett betydande så kallat informationsasymmetriskt problem. Den nuvarande presumtionsregeln kan alltså tyvärr bidra till alltför stor osäkerhet om huruvida ett visst innehåll faktiskt omfattas av upphovsrätt. I likhet med andra regler på upphovsrättsområdet så behövs det sannolikt gemensamma regler på EU- och eventuellt också internationell nivå i syfte att främja gränsöverskridande handel med mera.

Sandra Nolgren och Svenska Tecknare, som representerar många av de upphovsrättsinnehavare som berörs av både AI-utvecklingen och de nya reglerna på upphovsrättsområdet, säger att de just nu ser över hur situationen för kreatörerna kan stärkas.

– Vi tittar på om det går att ta fram effektiva rutiner för upphovsrättsinnehavare som vill begära opt-out, det vill säga förbjuda användning av deras verk i samband med träning av generativ AI. Vi undersöker även möjligheterna till någon form av system för licensiering av verk till AI.

Framtiden – möjligheter och risker

Ett antal forskare och techprofiler gick nyligen ut och varnade för riskerna med den snabba AI-utvecklingen. De menar att det är nödvändigt att pausa arbetet för att samhället ska få en chans att komma ifatt. Hur ser AI-forskaren Erik Ylipää på riskerna?

– De största riskerna jag ser med AI-utvecklingen är maktkoncentration, brist på tillgång till data, och snedvriden representation i träningsdata. Datadrivna metoder kräver stora mängder data, vilket innebär att de som kontrollerar dessa datamängder har större möjlighet att utveckla avancerad AI. Detta skapar en “first-mover advantage” och riskerar att ge upphov till monopol inom AI-tjänster, likt hur sökmotorer på internet dominerats av en enskild aktör.

Erik Ylipää menar också att generativ AI, trots riskerna, rymmer enorma möjligheter.

– Jag tror att den här typen av verktyg kommer vara en lika stor del av vår vardag som sökmotorer varit. Vi kommer se en plötslig explosion av nya verktyg för att interagera med text och det kommer skapa svallvågor genom alla de system som påverkas av text. System som beror på ansökningar skrivna i text kommer kanske överbelastas, sociala medier kommer späs ut av ännu fler botar. Det massmediala landskapet om fem år är oerhört svårt att sia om.

Han menar dock att det är viktigt att inte låta förväntningarna bli för höga.

– Det är lätt att övergå till science fiction-scenarier när man funderar över teknikens framtid. AI kommer troligen att ha störst positiv påverkan inom specialiserade tillämpningar, särskilt inom avancerade områden som Life Science och olika ingenjörsdiscipliner. Med AI:s hjälp kommer människor som arbetar inom dessa områden att kunna göra betydligt större framsteg.

Niklas Laninge ser också stora möjligheter med utvecklingen och beskriver det som att vi är mitt inne i ett stort paradigmskifte, ett tekniksprång. Han nämner dels den typ av projekt som hans kollega Gabriella Stuart är inne i och den allmänna känslan av att vara i början av en omvälvande utveckling. När det gäller risker pekar han på de osäkerhetsfaktorer som omger dagens språkmodeller.

– Det är tydligt att det krävs domänspecifik kunskap för att faktiskt kunna avgöra när exempelvis Chat GPT har rätt, skarvar eller är helt fel ute. Precis som vi redan nu lärt oss att vara skeptiska kring vissa avsändare och vara vaksamma på att olika röster är biased så måste vi snabbt som attan fatta att detsamma gäller för de dataset som AI-tränas på.

Ett annat medskick från Niklas Laninge är att vi måste hålla koll på vår tendens att i vår iver springa ifrån oss själva.

– Vi behöver vara försiktiga med var vi lägger vårt fokus. Ny teknologi är spännande och det kan vara lätt att bli lite för optimistisk när det gäller teknikens potential att driva beteendeförändringar. Oavsett om det gäller appar eller AI slarvas det ofta med grundläggande frågor som: Varför beter sig människor i målgruppen som de gör? Hur ser deras behov ut? Det blir verkligen ett problem när tjänster eller produkter inte är människocentrerade och man går direkt på lösningar. Resultatet kan då i slutändan bli något som ingen använder då det inte svarar mot något verkligt behov.

Kanske finns det ändå tröst att hämta i insikter från det teknikskifte som ägde rum för inte allt för länge sedan. Erik Ylipää menar att det finns en vinnande kombination som står sig:

– En viktig lärdom från digitaliseringen som jag tror fortsatt kommer att hålla är att samarbetet mellan maskin och människa är mycket kraftfullare än det mellan maskiner.

Förhoppningsvis har han rätt. Då finns det en strimma hopp för mänskligheten, även i en situation då maskiner kan göra mycket av det vi kan bättre, snabbare och effektivare.