Vertrauen in digitale Inhalte wird im Zeitalter von KI zur Schlüsselfrage. Sogenannte Content Credentials könnten künftig Abhilfe schaffen. Das Berliner Startup Valid Technologies bietet mit Lumid eine Lösung rund um die digitalen Markierungen an, mit der Unternehmen und Creator:innen Herkunft, Bearbeitung und KI-Einsatz bei Medieninhalten transparent machen können. Ein erster Meilenstein wurde vor kurzem erreicht: Valid darf Inhalte offiziell mit Content Credentials nach dem C2PA-Standard kennzeichnen – als erstes Unternehmen in Deutschland.

Wir haben mit den Co-Gründern Hans und Jens Brorsen und Daniel Larena darüber gesprochen, was das für sie bedeutet und warum transparente Herkunftsnachweise im Netz immer wichtiger werden.

Hi Daniel, Hans und Jens! Zuerst einmal: Herzlichen Glückwunsch! Seit kurzem hat Valid offiziell die Genehmigung, Medien-Inhalte mit Content Credentials zu kennzeichnen. War der Weg bis dahin lang?

„Vielen Dank für die Glückwünsche! Wir sind sehr stolz auf das  Ergebnis und auch auf das entgegengebrachte Vertrauen der  Standardorganisation C2PA.  Schon vor der Konformitätsprüfung  – so wird der Genehmigungsprozess im C2PA-Jargon bezeichnet – hatten wir  Erfahrungen mit der Kennzeichnung von Content, insbesondere Bildern, gesammelt. Dennoch war der Weg mit einigen organisatorischen und technischen Hürden verbunden, was daran liegt, dass der Prüfungsprozess allgemein sehr ernst genommen wird. Diese Genauigkeit bedeutete  erstmal viel Arbeit für uns, ist andererseits aber auch ein großes Qualitätsmerkmal dieses Standards und macht ihn vertrauenswürdig.“

Für Leser:innen, die damit nicht vertraut sind: Was genau sind Content Credentials ?

„Content Credentials kann man sich als digitale Reisepässe vorstellen,  die direkt in Medieninhalte eingebettet sind . Sie enthalten maschinenlesbare Informationen darüber, woher  ein Inhalt ursprünglich kommt, wie er verändert wurde, ob KI genutzt wurde, wem die Rechte am Inhalt gehören und unter welchen Bedingungen der Inhalt weiterverwendet oder zum Training von KI genutzt werden darf. Der große Vorteil: Immer mehr Plattformen und Anwendungen machen diese Informationen für ihre Nutzer:innen sichtbar. Auf LinkedIn wird bei Bildern und Videos beispielsweise  ein CR-Logo angezeigt, wenn der Inhalt mit Content Credentials verknüpft ist. Klickt man darauf, erhält man weitere Informationen zur Herkunft und Bearbeitung des Inhalts. Auch  Tech-Giganten wie OpenAI, Google, Meta und ByteDance arbeiten daran, Content Credentials auf ihren Plattformen sichtbar zu machen. Bei ChatGPT, Gemini, Youtube  sind sie schon live.

Und worin unterscheiden sie sich von herkömmlichen Wasserzeichen?

Der große Unterschied zu anderen Kennzeichnungen ist die Interoperabilität: Während herkömmliche Wasserzeichen  zwar ein nützliches Indiz darstellen, fehlt hier die gemeinsame Sprache. Content Credentials gehen  einige Schritte weiter und ermöglichen Nutzer:innen  durch die Verwendung des gemeinsamen kryptografischen Standards seitens Plattformen, KI-Anbietern und Content Creator:innen eine sichere und plattformübergreifend Content-Verifizierung.

Ihr seid das erste Unternehmen in Deutschland, das den Prozess der C2PA erfolgreich durchlaufen hat – und dazu noch ein Startup. Was bedeutet das für euch: Ist das eher technischer Meilenstein, Marktsignal oder politisches Statement?

„Alle drei Aspekte stimmen! Für uns ist es zunächst ein technischer Meilenstein: Als Startup zeigen wir damit, dass wir die Anforderungen eines internationalen Standards wie C2PA erfüllen können. Technische Exzellenz war von Anfang an unser Anspruch. Umso wichtiger ist es für uns, diese Fähigkeit nun auch sichtbar nachweisen zu können. Gleichzeitig ist es ein klares Marktsignal: Medienkonsum und Medienproduktion haben sich spätestens durch KI weltweit weiterentwickelt. Inhalte lassen sich heute schneller erstellen, leichter verändern und schwerer einordnen. Deshalb müssen deutsche Unternehmen, Institutionen, Organisationen, Medienschaffende und Creators unbedingt Schritt halten. Content Credentials spielen hiereine wichtige Rolle – und wir raten unbedingt zur Adaption. Und ja, es ist auch ein politisches Statement. Transparenz ist in Zeiten von KI-generierten oder -manipulierten Medien ein Qualitätsmerkmal geworden. Und genau diese Transparenz kann durch Content Credentials sowohl Menschen als auch Maschinen gegenüber signalisiert werden.
 
Gehen wir einen Schritt zurück. Das Problem der digitalen Desinformation gibt es seit Jahrzehnten, hat sich aber durch KI deutlich verstärkt. Gleichzeitig sinkt das Vertrauen in seriöse Inhalte. Wann entstand die Idee für Lumid?

Die ursprüngliche Idee für Lumid entstand bereits vor dem KI-Zeitalter. Durch das Aufkommen von Plattformen und Social Media wurde plötzlich der Inhalt nicht mehr bei der Quelle, sondern an dritter Stelle konsumiert. Das öffnete Tür und Tor für Manipulationen und es entstand die erste große Welle digitaler Desinformation. Genau dieser Entwicklung wollten wir bereits damals entgegenwirken.

Habt ihr das Gefühl, das Bewusstsein für Deepfakes und Manipulation wächst aktuell? Oder ignorieren Medien und Gesellschaft diese Themen immer noch zu sehr?

Immer mehr Menschen sorgen sich über diese Entwicklung und digitale Desinformation wird Studien zufolge aktuell als einer der größten Bedrohungen angesehen. Das spiegelt sich auch in Gesetzen wie dem Digital Services Act und dem EU AI Act wider. Allerdings sehen wir klassische Medien, Behörden und die Politik in der Pflicht, mehr zu tun. Das Problem muss konkreter angesprochen und technische Mittel zur Bekämpfung müssen schnellstmöglich eingesetzt werden.

Mit Lumid verfolgt ihr nicht den Ansatz, manipulierte Inhalte nachträglich forensisch zu erkennen. Stattdessen markiert ihr aktiv echte Inhalte. Ist beides gleich sinnvoll?

Das stimmt, aber wichtig ist zunächst: Es geht nicht nur darum, „echte“ Inhalte zu markieren. Mit Content Credentials lassen sich auch KI-generierte oder KI-bearbeitete Inhalte transparent kennzeichnen. Es kann offengelegt werden, wenn ein Inhalt aus einer verlässlichen Quelle stammt und zugleich, ob KI bei der Erstellung eine Rolle gespielt hat. Beides schließt sich heutzutage nicht aus. Forensische Verfahren bleiben dennoch wichtig. Sie helfen vor allem dort, wo Inhalte nicht gekennzeichnet wurden,  zum Beispiel bei Betrugsfällen oder manipulierten Medieninhalten. Nachteile dieser sogenannten Detection-Techniken sind allerdings, dass sie teilweise ungenau sind und sich nicht immer zuverlässig skalieren lassen. Wir setzen hier an anderer Stelle an: Content Credentials liefern Herkunfts- und Bearbeitungsinformationen direkt mit dem Inhalt mit. Diese Informationen können von Menschen eingesehen und von Maschinen automatisiert ausgelesen werden. Das macht den Ansatz besonders skalierbar, vorausgesetzt möglichst viele Plattformen, Softwareanbieter, KI-Systeme und Medienhäuser unterstützen denselben Standard. Deshalb brauchen wir aus unserer Sicht unbedingt beides: aktive Kennzeichnung durch Standards wie C2PA und ergänzende forensische Verfahren für dedizierte Use Cases.

Ihr kombiniert den C2PA-Standard mit proprietärer Fingerprinting-Technologie. Wie muss man sich das vorstellen – und braucht es beides?

Doppelt hält besser! Beim C2PA-Standard werden relevante Informationen wie  Quellen, der Einsatz von KI, Bearbeitungen und Lizenzinformationen kryptografisch signiert und in den Datenträger selbst – also beispielsweise der JPEG-Bilddatei – geschrieben. Nun kann es sein, dass der Datenträger verändert wird, beispielsweise durch das Versenden des Bildes per WhatsApp oder durch einen Screenshot. In diesem Fall gehen dann leider die relevanten Informationen verloren . Hier bieten wir mit unserem Fingerprinting-Mechanismus eine Möglichkeit, das originale Bild samt aller relevanten Informationen wieder zu finden. Man kann also den Fingerprinting-Mechanismus als eine Art Sicherheitsnetz betrachten.

Wenn ihr mit potenziellen Kunden sprecht, also mit Unternehmen, Behörden oder Plattformen, wo spürt ihr derzeit den größten Druck?

Das ist ganz unterschiedlich. Der C2PA-Standard verbreitet sich rasend schnell und im Content Creator-Bereich besteht großes Interesse daran, bald über Plattformen hinweg mithilfe von Content Credentials Vertrauenswürdigkeit auszustrahlen und besser auffindbar zu sein. Das gilt auch für große Unternehmen und Behörden, die zusätzlich die Sorge haben, dass falsche Informationen über sie verbreitet werden – beispielsweise durch Fake-Profile oder Social Hacking.

Gleichzeitig sehen wir auch ein großes Interesse daran, mithilfe von Lumid den gesetzlichen Anforderungen des AI Acts nachzukommen. Ab 2. August 2026 müssen alle KI-generierten oder -manipulierten Inhalte, die im professionellen Kontext veröffentlich werden, entsprechend offengelegt werden. Das ist mithilfe von Content Credentials möglich. Ähnlich müssen KI-Anbieter ihre Inhalte in maschinenlesbarer Art kennzeichnen. Auch das kann Lumid bewerkstelligen.

Valid wurde 2023 gegründet und ist damit ein noch junges Unternehmen, das auf dem hart umkämpften Technologie-Markt agiert. Gab es Momente, in denen ihr an der Gründung gezweifelt habt?

Natürlich gab es solche Momente. Wer ein Unternehmen gründet, gerade in diesem Markt, , erlebt immer wieder Phasen, in denen Dinge unsicher sind oder nicht so schnell vorangehen, wie man es sich wünscht. Entscheidend ist für uns aber wie wir damit umgehen. Wir haben von Anfang daran geglaubt, dass Vertrauen, Transparenz und Herkunftsnachweise für digitale Inhalte massiv an Bedeutung gewinnen werden. Diese Überzeugung hat uns auch durch schwierige Phase getragen und rückblickend waren gerade diese Momente wichtig, weil sie uns gezwungen haben, unser Produkt, unsere Positionierung und unseren Anspruch immer wieder zu verbessern.

Inwiefern waren das regionale Ökosystem in Potsdam und der MTH Accelerator hilfreich beim Wachstum?

Das regionale Ökosystem mit dem MTH Accelerator, aber auch mit euren Nachbarn, dem Medieninnovationzentrum Babelsberg, waren für uns sehr wertvoll. Gerade als junges Unternehmen hilft es enorm, ein Umfeld zu haben, in dem Innovation und Medienpraxis sehr direkt zusammenkommen, man schnell Zugang zu relevanten Kontakten, fachlichem Sparring und Branchenwissen bekommt. Wir sind dankbar, Teil dieses Ökosystems zu sein und freuen uns, auch als Alumni weiterhin mit euch zusammenarbeiten zu dürfen!