Σύνοψη
- Χιονοστιβάδα παραπληροφόρησης στο X (πρώην Twitter) με εργαλεία Τεχνητής Νοημοσύνης σχετικά με τη σύγκρουση στο Ιράν.
- Επαληθευμένοι λογαριασμοί (Premium) εκμεταλλεύονται τον αλγόριθμο δημιουργίας εσόδων για να προωθήσουν ψευδείς εικόνες και βίντεο.
- Το σύστημα Community Notes αποδεικνύεται τεχνικά ανεπαρκές απέναντι στην ταχύτητα παραγωγής των AI deepfakes.
- Η αδυναμία ελέγχου προκαλεί σοβαρά προβλήματα εγκυρότητας και καθυστερήσεις στην ενημέρωση μέσω των αναλυτών OSINT στην Ελλάδα και διεθνώς.
Η έξαρση της Τεχνητής Νοημοσύνης στην παραπληροφόρηση πολεμικών συγκρούσεων
Η πλατφόρμα X κατακλύζεται από AI-generated εικόνες και βίντεο που απεικονίζουν ψευδή γεγονότα από τον πόλεμο στο Ιράν. Οι αλγόριθμοι δημιουργίας εσόδων επιβραβεύουν τα υψηλά επίπεδα αλληλεπίδρασης, δίνοντας κίνητρο σε λογαριασμούς Premium να διανέμουν φωτορεαλιστικά deepfakes, ενώ τα συστήματα ελέγχου όπως το Community Notes αδυνατούν να ανταποκριθούν στην ταχύτητα διάδοσης αυτών των αρχείων.
Το ψηφιακό τοπίο της ενημέρωσης αντιμετωπίζει τη μεγαλύτερη πρόκληση εγκυρότητας από την έναρξη της ευρείας διάθεσης των μοντέλων παραγωγικής Τεχνητής Νοημοσύνης. Η κλιμάκωση της πολεμικής σύγκρουσης στο Ιράν ανέδειξε ένα σοβαρό δομικό πρόβλημα στην πλατφόρμα κοινωνικής δικτύωσης X. Εκατοντάδες χιλιάδες αναρτήσεις περιλαμβάνουν οπτικοακουστικό υλικό που έχει δημιουργηθεί εξ ολοκλήρου από συστήματα AI, παρουσιάζοντας καταστροφές, στρατιωτικές κινήσεις και πολιτικές δηλώσεις που δεν συνέβησαν ποτέ.
Η παραγωγή αυτού του περιεχομένου δεν απαιτεί πλέον εξειδικευμένες γνώσεις προγραμματισμού ή γραφιστικής. Εργαλεία παραγωγής εικόνας όπως το Midjourney v6 και το DALL-E 3, καθώς και προηγμένες πλατφόρμες παραγωγής συνθετικού βίντεο, προσφέρουν τη δυνατότητα δημιουργίας φωτορεαλιστικών αποτελεσμάτων με απλές εντολές κειμένου. Η τεχνική αρτιότητα αυτών των παραγόμενων μέσων είναι τόσο υψηλή που υπερβαίνει την αντιληπτική ικανότητα των περισσότερων χρηστών, δημιουργώντας απόλυτα αληθοφανείς, αλλά κατασκευασμένες εντυπώσεις για την πραγματική εξέλιξη των πολεμικών επιχειρήσεων.
Το οικονομικό κίνητρο και ο αλγόριθμος του X
Η ρίζα της ανεξέλεγκτης διάδοσης εντοπίζεται στη δομή κινήτρων που έχει εγκαθιδρύσει το X. Το πρόγραμμα δημιουργίας εσόδων (Creator Ads Revenue Sharing) αποδίδει χρηματικά ποσά στους κατόχους λογαριασμών Premium βάσει των προβολών και των αλληλεπιδράσεων που συγκεντρώνουν οι αναρτήσεις τους. Το σύστημα αυτό λειτουργεί εκ των πραγμάτων ως πολλαπλασιαστής της παραπληροφόρησης. Οι δημιουργοί ψευδούς περιεχομένου γνωρίζουν ότι οι εντυπωσιακές σκηνές καταστροφής, έστω και κατασκευασμένες, προσελκύουν χιλιάδες αναδημοσιεύσεις, likes και σχόλια.
Η διαδικασία επαλήθευσης (το γνωστό μπλε τικ) δεν πιστοποιεί πλέον την αυθεντία, τον δημοσιογραφικό οργανισμό ή τη φερεγγυότητα του λογαριασμού, αλλά αποκλειστικά την πληρωμή της μηνιαίας συνδρομής. Ως άμεσο αποτέλεσμα, λογαριασμοί με “επαληθευμένο” προφίλ αποτελούν τους κύριους κόμβους διανομής AI deepfakes. Το αλγοριθμικό σύστημα της πλατφόρμας, στην προσπάθειά του να κρατήσει τους χρήστες συνδεδεμένους, προωθεί αυτές τις δημοφιλείς αναρτήσεις στη ροή “For You” εκατομμυρίων χρηστών παγκοσμίως, μεγιστοποιώντας την ορατότητά τους πριν προλάβει να παρέμβει οποιοσδήποτε ανθρώπινος ή μηχανικός έλεγχος.
Η αδυναμία των τεχνικών αντιμέτρων και του Community Notes
Η κύρια γραμμή άμυνας του X απέναντι στην παραπληροφόρηση βασίζεται στο σύστημα Community Notes. Οι χρήστες εθελοντές επισημαίνουν το ανακριβές περιεχόμενο και προσθέτουν απαραίτητο πλαίσιο με παραπομπές σε αξιόπιστες πηγές. Ωστόσο, η αρχιτεκτονική της παραγωγικής Τεχνητής Νοημοσύνης καθιστά αυτόν τον μηχανισμό ασύμμετρα αργό. Η δημιουργία και ανάρτηση ενός AI-generated βίντεο διαρκεί ελάχιστα λεπτά. Αντίθετα, η σύνταξη, η εσωτερική ψηφοφορία και η τελική έγκριση ενός Community Note απαιτεί πολλές ώρες. Μέχρι να εμφανιστεί η επισήμανση διάψευσης, το κατασκευασμένο υλικό έχει ήδη μεταδοθεί μαζικά. Επιπλέον, οι διανομείς αυτού του υλικού συχνά διαγράφουν την αρχική ανάρτηση μόλις λάβει Community Note και την ανεβάζουν εκ νέου, παρακάμπτοντας το φίλτρο ελέγχου.
Από καθαρά τεχνική άποψη, τα παραδοσιακά συστήματα ελέγχου αποτυγχάνουν. Στο παρελθόν, οι πλατφόρμες εφάρμοζαν την τεχνική του “hashing” δημιουργώντας ένα μόνιμο ψηφιακό αποτύπωμα για κάθε γνωστό αρχείο παραπληροφόρησης, ώστε να το μπλοκάρουν αυτόματα εάν γινόταν απόπειρα νέου ανεβάσματος. Η Τεχνητή Νοημοσύνη, όμως, παράγει ένα απολύτως μοναδικό αρχείο κάθε φορά. Ακόμα και αν η εικόνα δείχνει το ίδιο ακριβώς κατασκευασμένο γεγονός, η διάταξη των pixels διαφέρει, καθιστώντας το παραδοσιακό hashing άχρηστο.
Παράλληλα, η κατάργηση της δωρεάν πρόσβασης στο API του X αφαίρεσε από τους ακαδημαϊκούς ερευνητές και τους ανεξάρτητους οργανισμούς τα εργαλεία μαζικής σάρωσης. Παλαιότερα, εξειδικευμένοι αλγόριθμοι μπορούσαν να αναλύσουν εκατομμύρια αναρτήσεις σε πραγματικό χρόνο, εντοπίζοντας συστοιχίες λογαριασμών (bot networks) που λειτουργούσαν συντονισμένα. Σήμερα, αυτό το κενό επιτρέπει στα οργανωμένα δίκτυα παραπληροφόρησης να λειτουργούν απρόσκοπτα.
Ο αντίκτυπος στον ελληνικό ψηφιακό χώρο και το ευρωπαϊκό πλαίσιο
Η ροή αυτού του συνθετικού υλικού εισέρχεται άμεσα στον ελληνικό ψηφιακό χώρο. Δεδομένου του γεωπολιτικού ενδιαφέροντος για τις εξελίξεις στη Μέση Ανατολή και των επιπτώσεων στην Ανατολική Μεσόγειο, το ελληνικό κοινό εκτίθεται συνεχώς σε AI-generated ειδήσεις. Για τις ελληνικές αίθουσες σύνταξης και τους εγχώριους αναλυτές ανοικτών πηγών (OSINT), το X αποτελούσε τον πυρήνα πρωτογενούς ενημέρωσης. Πλέον, ο χρόνος που απαιτείται για την τεχνική επαλήθευση ενός βίντεο έχει αυξηθεί κατακόρυφα. Οι ερευνητές αναγκάζονται να χρησιμοποιούν λογισμικό ανάλυσης σκιών, αντίστροφης αναζήτησης και εξέτασης του οπτικού θορύβου για να διαχωρίσουν την πραγματικότητα από το AI. Αυτή η καθυστέρηση στερεί την άμεση ενημέρωση και επιτρέπει την αναπαραγωγή των fakes από λιγότερο προσεκτικά τοπικά δίκτυα.
Ταυτόχρονα, το νομικό πλαίσιο της Ευρωπαϊκής Ένωσης παρακολουθεί τις εξελίξεις στενά. Η Πράξη για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA) υποχρεώνει τις Πολύ Μεγάλες Διαδικτυακές Πλατφόρμες (VLOPs), όπως το X, να μειώνουν ενεργά τους συστημικούς κινδύνους που συνδέονται με τη δημόσια ασφάλεια και τον πολιτικό λόγο. Η συνεχιζόμενη ανεπάρκεια της πλατφόρμας να φιλτράρει την παραπληροφόρηση εγκυμονεί τον κίνδυνο αυστηρών ρυθμιστικών προστίμων.
Με τη ματιά του Techgear
Η αλληλεπίδραση μεταξύ των εργαλείων παραγωγικής Τεχνητής Νοημοσύνης και των αλγορίθμων δημιουργίας εσόδων του X διαμορφώνει ένα δυσλειτουργικό περιβάλλον ενημέρωσης. Η εξέλιξη αυτή υπερβαίνει τα όρια των απλών “fake news” και εισέρχεται στη βιομηχανοποίηση της παραπληροφόρησης. Η απόφαση της δομικής αποδυνάμωσης των εξειδικευμένων ομάδων ελέγχου περιεχομένου (Trust and Safety) και η ανάθεση της ευθύνης αποκλειστικά στο crowdsourcing (Community Notes), καθιστά την πλατφόρμα ευάλωτη απέναντι στον τεράστιο όγκο δεδομένων που παράγουν τα LLMs και τα συστήματα diffusion.
Η ουσιαστική αντιμετώπιση του προβλήματος προϋποθέτει ριζικές αλλαγές στον τρόπο διαχείρισης των πολυμέσων από τα κοινωνικά δίκτυα. Χωρίς την καθολική, υποχρεωτική υιοθέτηση κρυπτογραφικών προτύπων διαφάνειας (όπως το πρωτόκολλο C2PA) που θα πιστοποιούν την προέλευση κάθε εικόνας κατά τη στιγμή της μεταφόρτωσης, και χωρίς την αυστηρή επιβολή ποινών στους χρήστες Premium που εργαλειοποιούν ψευδές υλικό, το δίκτυο θα συνεχίσει να λειτουργεί ως πομπός κατασκευασμένων πραγματικοτήτων. Η αληθινή δημοσιογραφία και η κριτική ανάλυση απαιτούν ισχυρά εργαλεία διασταύρωσης, τα οποία οι τρέχουσες υποδομές αρνούνται να ενσωματώσουν στον πυρήνα τους.
