Η Google ενισχύει σημαντικά το οικοσύστημα του Gemini, προσθέτοντας μια δυνατότητα που υπόσχεται να γίνει ιδιαίτερα σημαντική στην εποχή της παραπληροφόρησης: την ανίχνευση του αν μια εικόνα έχει δημιουργηθεί ή έχει υποστεί επεξεργασία από τεχνητή νοημοσύνη. Η νέα λειτουργία κάνει ήδη την εμφάνισή της στην εφαρμογή Gemini, αλλά προς το παρόν συνοδεύεται από έναν βασικό περιορισμό: μπορεί να αναγνωρίσει μόνο εικόνες που φέρουν το δικό της SynthID watermark, δηλαδή περιεχόμενο παραγόμενο από τα εργαλεία AI της Google.
Η τεχνολογία πίσω από αυτή τη δυνατότητα, το SynthID, παρουσιάστηκε το 2023 ως μια αόρατη ψηφιακή υδατογράφηση που ενσωματώνεται μέσα σε κάθε AI-generated εικόνα. Το SynthID αφήνει πίσω του ένα σήμα που δεν αλλοιώνεται ακόμη κι αν η εικόνα τροποποιηθεί, συμπιεστεί ή περάσει από editing. Αυτό επιτρέπει στο Gemini να αναγνωρίζει με ακρίβεια πότε μια εικόνα έχει δημιουργηθεί από εργαλεία της Google, προσφέροντας μια στρώση διαφάνειας σε ένα τοπίο που γίνεται όλο και πιο περίπλοκο.
Πριν ενσωματωθεί στην εφαρμογή, η Google δοκίμαζε το SynthID μέσω του SynthID Detector, ενός online verification portal προσβάσιμου σε δημοσιογράφους, ερευνητές και επαγγελματίες των media. Το εργαλείο αυτό μπορούσε να εντοπίσει AI-generated περιεχόμενο σε διαφορετικές μορφές και να επισημάνει τα τμήματα της εικόνας που ήταν πιο πιθανό να φέρουν το κρυμμένο watermark. Η ενσωμάτωσή του στο Gemini ουσιαστικά φέρνει την ίδια δυνατότητα ανίχνευσης απευθείας στον τελικό χρήστη.
Στο πρακτικό κομμάτι, η αναγνώριση γίνεται πολύ απλά: ο χρήστης μπορεί να ανεβάσει μια εικόνα στην εφαρμογή και να ρωτήσει «δημιουργήθηκε από το Google AI;». Το Gemini εξετάζει το SynthID watermark και απαντά όχι μόνο με ένα ναι ή όχι, αλλά και με πρόσθετο context γύρω από την εικόνα, αξιοποιώντας τις reasoning δυνατότητές του. Μέσα στους επόμενους μήνες, η Google σχεδιάζει να επεκτείνει τον ανιχνευτή και σε άλλους τύπους περιεχομένου, όπως ήχο και βίντεο, και να ενσωματώσει το SynthID σε περισσότερα προϊόντα, όπως το Google Search.
Η συζήτηση γύρω από την ανίχνευση AI-generated περιεχομένου, όμως, δεν περιορίζεται στην Google. Η αύξηση παραπλανητικών εικόνων και deepfakes έχει κινητοποιήσει πολλές μεγάλες εταιρείες τεχνολογίας. Η Google συμμετέχει στη C2PA, μια πολυμελή συμμαχία που περιλαμβάνει ονόματα όπως Adobe, OpenAI, Meta και Microsoft. Σε αντίθεση με το SynthID, το οποίο αποτελεί ιδιόκτητο σύστημα της Google, το C2PA λειτουργεί ως ανοιχτό πρότυπο, το οποίο ενσωματώνει ασφαλή metadata μέσα σε εικόνες, βίντεο ή ήχο, βοηθώντας στην ταυτοποίηση της πηγής τους.
Μάλιστα, η Adobe έχει ήδη αναπτύξει το δικό της watermarking εργαλείο βασισμένο στο C2PA, ενώ η Google ανακοίνωσε ότι το Nano Banana Pro, το νέο μοντέλο παραγωγής εικόνων της, θα ενσωματώνει C2PA metadata σε κάθε παραγόμενο αρχείο. Η υποστήριξη αυτή θα επεκταθεί και σε πλατφόρμες όπως το Vertex AI και το Google Ads, κάτι που δείχνει ότι η εταιρεία κινείται προς μια πιο ολιστική προσέγγιση στην ιχνηλασιμότητα του ψηφιακού περιεχομένου.
Παράλληλα, η Google έχει ήδη υλοποιήσει C2PA credentials σε υπηρεσίες όπως YouTube, Search, Pixel και Photos. Το επόμενο βήμα είναι να συνδυάσει τα SynthID και C2PA μέσα στα verification εργαλεία της, επιτρέποντας στους χρήστες να ελέγχουν την προέλευση περιεχομένου που δεν δημιουργείται απαραίτητα εντός του οικοσυστήματός της. Αν αυτό υλοποιηθεί όπως περιγράφεται, το Gemini και τα υπόλοιπα προϊόντα της Google θα μπορούν στο μέλλον να ανιχνεύουν όχι μόνο τη δική τους ψηφιακή σφραγίδα, αλλά και πιστοποιήσεις άλλων εταιρειών.
