I takt med at kunstig intelligens (AI) teknologien fortsætter med at udvikle sig, gør potentialet for misbrug det også. Et område af bekymring er brugen af AI-genererede billeder til at skabe deepfakes, som er manipulerede videoer eller billeder, der får det til at se ud som om nogen siger eller gør noget, de faktisk aldrig har gjort.
For at hjælpe med at bekæmpe misbrug af AI-genererede billeder har Google lanceret SynthID, et værktøj, der indlejrer et usynligt vandmærke i billeder skabt af AI.
Dette vandmærke kan derefter bruges til at identificere og verificere ægtheden af et billede.
Hvad er Google SynthID?
Google SynthID er et værktøj, der integrerer et usynligt vandmærke i billeder skabt af AI. Dette vandmærke kan derefter bruges til at identificere og verificere ægtheden af et billede.
SynthID fungerer ved at bruge en teknik kaldet “generative adversarial networks” (GAN’er). GAN’er er en type maskinlæringsalgoritme, der kan bruges til at skabe realistiske billeder ud fra tekstbeskrivelser.
For at oprette et SynthID vandmærke træner Google først et GAN på et stort datasæt af rigtige billeder. GAN’et lærer at identificere de unikke egenskaber ved disse billeder, såsom fordelingen af farver, genstandes teksturer og lysforholdene.
Når først GAN er trænet, kan det bruges til at skabe et vandmærke, der er specifikt for en bestemt AI-model. Vandmærket indlejres derefter i billedet på en måde, der er umærkelig for det menneskelige øje.
Se, hvordan Google SynthID identificerer AI-genereret indhold i Google Deepminds YouTube-video nedenfor.
Men hvorfor skulle nogen overveje at bruge Google SynthID?
Det er usynligt for det blotte øje , så det forstyrrer ikke billedets udseende
Det er meget svært at fjerne eller pille ved
Det kan bruges til at identificere og verificere ægtheden af et billede
Det kan bruges til at spore oprindelsen og brugen af et billede
Hvis du er interesseret i at lære mere om SynthID, kan du besøge Google DeepMind blogindlægget . Du kan også tilmelde dig SynthID beta-programmet for at få tidlig adgang til værktøjet.
