Ooit afgevraagd of die indrukwekkende foto op het web echt is of een AI-gegenereerd beeld? Of zorgen gemaakt over de veiligheid van je bedrijfsdata in het AI-tijdperk? Google DeepMind lanceert SynthID om een eind te maken aan deze onzekerheden. Deze watermerktool biedt een ongekende mate van bescherming tegen de valse voorstellingen en schendingen van auteursrecht die AI kan veroorzaken.
De snelle opkomst van generatieve AI heeft gezorgd voor tal van ethische en legale dilemma’s, variërend van deepfakes tot ongevraagde pornografie en inbreuk op auteursrecht. Watermerken zijn de nieuwste rage om deze problemen te bestrijden. SynthID, ontworpen om robuust te blijven zelfs na het bewerken van de afbeelding, speelt hier handig op in.
De focus ligt niet alleen bij kleinere spelers; grote technologieconglomeraten zijn ook betrokken. Afgelopen juli committeerden bedrijven als OpenAI, Google, en Meta zich aan het Witte Huis om te werken aan watermerktechnologieën ter bestrijding van misinformatie. Google DeepMind heeft nu de primeur door als eerste zo’n tool publiek te lanceren.
SynthID maakt gebruik van twee neurale netwerken om een bijna onzichtbaar watermerk te creëren en te detecteren. Dit verhoogt de weerstand tegen bewerking en manipulatie, hoewel het niet volledig onfeilbaar is, volgens Pushmeet Kohli van Google DeepMind.
De tool is momenteel nog in de “experimentele” fase. Google is van plan het gebruik en de prestaties te evalueren voordat het meer algemeen beschikbaar wordt gemaakt. Echter, omdat het een proprietary tool is, blijft de bruikbaarheid ervan beperkt, zo stelt AI-onderzoeker Sasha Luccioni.
Voor bedrijven en organisaties is dit een belangrijke ontwikkeling. SynthID kan een sleutelrol spelen in de beveiliging van digitale middelen en in het tegengaan van de schaduwzijden van AI. Hoewel het nog te vroeg is om de totale impact te meten, is het zeker een baanbrekende stap naar een veiligere digitale toekomst.