Τα “deepfakes” είναι πολυμεσικά αρχεία (εικόνες, βίντεο) στα οποία φαίνεται ή ακούγεται κάποιος να λέει ή να κάνει κάτι που δεν έχει πραγματικά πει ή κάνει. Η επιτυχία τους στηρίζεται στην τεχνολογία των “συνθετικών μέσων”, που δημιουργούν αρχεία με σχεδόν ισοδύναμες δόσεις αλήθειας και ψεύδους.
Με βάση τη σημερινή τεχνολογία και το ρυθμό με τον οποίο εξελίσσεται, μέσα από λογισμικά και μοντέλα τεχνητής νοημοσύνης που μπορούν να παράξουν σε λίγα δευτερόλεπτα μια εικόνα με βάση μερικές λέξεις, το ψεύτικο αναμένεται να γίνει μέρος της πραγματικότητάς μας. Μάλιστα, ενώ τα fake news και τα hoaxes έχουν ήδη παίξει κρίσιμο ρόλο σε εκλογικές αναμετρήσεις, και πλέον προσδιορίζονται ως απειλή για τη δημοκρατία1, ευαισθητοποιώντας όλους για την αντιμετώπισή τους, καθώς τα μεγάλα γλωσσικά μοντέλα και οι εφαρμογές τους όπως το ChatGPT εγείρουν θέματα αυθεντικότητας των περιεχομένων που δημοσιεύονται καθημερινά και αλλάζουν τον τρόπο που αντιμετωπίζουμε την παραγωγή λόγου, η εμφάνιση των deepfakes μπορεί να έχει ακόμη πιο σοβαρές συνέπειες.
Ας δούμε για παράδειγμα τι συνέβη αμέσως μετά την εισβολή της Ρωσίας στην Ουκρανία. Ο μεγαλύτερος προβληματισμός των μεγάλων τηλεοπτικών δικτύων ενημέρωσης, ήταν η επαλήθευση των πλάνων που έδειχναν γεγονότα του πολέμου και όχι μόνο. Τότε, κυκλοφόρησε στο διαδίκτυο βίντεο με τον πρόεδρο Ζελένσκι, να μιλά από το Προεδρικό Μέγαρο και να καλεί τους Ουκρανούς να παραδώσουν τα όπλα. Το βίντεο φυσικά ήταν ψεύτικο, κακοφτιαγμένο και έγινε αντικείμενο χλευασμού2. Μέχρι σήμερα όμως, εμφανίζονται συχνά ψεύτικα, αλλά άρτια δομημένα βίντεο, που λειτουργούν ως μέσα προπαγάνδας, αναγκάζοντας πολλά διεθνή Μέσα Ενημέρωσης να προχωρήσουν στη δημιουργία τμημάτων «fact checking»,χωρίς όμως ουσιαστικό αποτέλεσμα.
Πριν από λίγους μήνες, πάλι, η Δήμαρχος του Βερολίνου Φραντσίσκα Γκίφαϊ, δέχθηκε κλήση για τηλεδιάσκεψη με τον δήμαρχο του Κιέβου Βιτάλι Κλίτσκο. Στην αρχή της κλήσης, όλα έμοιαζαν φυσιολογικά και ο «δήμαρχος του Κιέβου», έδειχνε να ενδιαφέρεται για τους πρόσφυγες που εγκαταστάθηκαν στο Βερολίνο. Στη συνέχεια όμως οι ερωτήσεις του, έκαναν τη δήμαρχο του Βερολίνου να αναρωτηθεί, ποιος είναι ο άνθρωπος που της μιλά και της ζητά να ωθήσει τους Ουκρανούς πίσω στην πατρίδα τους για να πολεμήσουν. Ο άνθρωπος αυτός φυσικά δεν ήταν ο δήμαρχος του Κιέβου, αλλά κάποιος που εκμεταλλευόμενος την τεχνολογία deepfake, προσπάθησε να ξεγελάσει την κ. Γκίφαϊ3.
Φυσικά, πολύ πριν από αυτά, τα deepfakes είχαν την τιμητική τους σε σελίδες πορνογραφικού περιεχομένου και στόχευαν την σπίλωση επιλεγμένων προσωπικοτήτων, όπως για παράδειγμα ένα παγκοσμίως γνωστό ψευδές εκδικητικό βίντεο, με πρωταγωνίστρια την Ινδή δημοσιογράφο Rana Ayyub, επειδή εκείνη ερευνούσε την υπόθεση βιασμού και δολοφονίας ενός ανήλικου κοριτσιού από το Κασμίρ. Η λίστα είναι, βέβαια, ακόμα μεγαλύτερη και περιλαμβάνει πολιτικούς, επιχειρηματίες και άλλους.
Απειλές και κίνδυνοι
Σε ό,τι αφορά στα deepfakes, παρατηρείται η ίδια τακτική με τα fake news, που στην αρχή ξεκίνησαν ως χιουμοριστικά και στην πορεία εξελίχθηκαν σε κάτι πιο τρομακτικό, το οποίο μπορεί να χειραγωγεί την κοινή γνώμη και να επιφέρει κοινωνικές, πολιτικές και οικονομικές ανακατατάξεις.
Τι εννοούμε: Τα πλαστά, ή ψεύτικα βίντεο, πρωτοεμφανίστηκαν ως χιουμοριστικά βιντεάκια και απενοχοποιήθηκαν με την εφαρμογή Doublicat, με την οποία μπορεί οποιοσδήποτε να φτιάξει gifs, βάζοντας το πρόσωπό του ή ένα άλλο στο σώμα κάποιου ηθοποιού ή άλλης διασημότητας. Κάτι αντίστοιχο μα λίγο πιο χαμηλής ποιότητας είναι το γνωστό «FakeApp». Και αν, αρχικά, απαιτούνταν μεγάλη υπολογιστική υποδομή και χρόνος ούτως ώστε να προκύψει ένα αληθοφανές αποτέλεσμα, αυτό έχει, πλέον, αλλάξει και είναι ιδιαίτερα εύκολο, απλό και κυρίως φθηνό, ενώ είναι βέβαιο πως όσο περνάει ο καιρός θα εξελίσσεται ακόμα περισσότερο.
Διαδικτυακές πολυεθνικές, όπως το Facebook και η Google, δημιούργησαν λογισμικά σαν το «Deepfake Detection Challenge» για την εξακρίβωση των deepfake βίντεο. Εντούτοις, στην πράξη τα αποτελέσματα δεν ήταν τόσο καλά, αφού στην ουσία όλα τα σχετικά περιστατικά πλαστών βίντεο ερευνώνται μετά τις αντιδράσεις των προσώπων που έχουν πέσει θύματα αυτών. Ανάμεσα τους οι Ντόναλντ Τραμπ, Μπάρακ Ομπάμα, Νάνσυ Πελόζι, Ματέο Ρέντσι και Ρίσαρντ Νίξον, για τον οποίο στήθηκε ένα βίντεο που τον εμφάνισε να δηλώνει ότι η αποστολή του Apollo 11, απέτυχε και ότι οι αστροναύτες θα …παραμείνουν στο φεγγάρι. Η ομοιότητα του σε αυτό και η ουσία της δήλωσης, δείχνει τι πραγματικά μπορεί να προκαλέσει ένα πλαστό βίντεο. Για παράδειγμα, μερικοί από τους κινδύνους:
-
- Το Deepfake μπορεί να απεικονίσει ένα άτομο, ή μια ομάδα να επιδίδεται σε αντικοινωνικές συμπεριφορές και να δημιουργήσει έτσι κοινωνική διχόνοια, να αυξήσει την πόλωση και να επηρεάσει ακόμη και ένα εκλογικό αποτέλεσμα
-
- Τα Deepfakes μπορούν να επιταχύνουν το έλλειμμα εμπιστοσύνης στα παραδοσιακά μέσα και θα μπορούσαν να χρησιμοποιηθούν από φορείς των εθνικών κρατών για να δημιουργήσουν χάος στη χώρα-στόχο, υπονομεύοντας την εμπιστοσύνη στους θεσμούς.
-
- Επιπλέον, μη κρατικοί παράγοντες (όπως τρομοκρατικές οργανώσεις) μπορούν να καταχραστούν τα Deepfakes για να υποκινήσουν αντικρατικά αισθήματα μεταξύ των ανθρώπων.
-
- Κάποιοι οπλισμένοι με τη δύναμη των Deepfakes, μπορούν να χρησιμοποιήσουν ψεύτικες ειδήσεις και εναλλακτικές αφηγήσεις για να απορρίψουν ένα πραγματικό κομμάτι μέσων και της αλήθειας.
Πως μπορεί να εντοπιστεί ένα deepfake
Ο εντοπισμός των deepfake βίντεο, απαιτεί σύγχρονα λογισμικά ασφάλειας. Ήδη αναπτύσσεται μία κοινή προσπάθεια, από τις Adobe, Microsoft και Intel, με στόχο την επαλήθευση αυτών των βίντεο.
Γιατί οποιοσδήποτε έχει πρόσβαση στην τεχνολογία deepfake μπορεί να κάνει οποιονδήποτε άλλον να μοιάζει σαν να λέει ή να κάνει σχεδόν οτιδήποτε.
Και αυτό δεν είναι πλέον κάτι που στο διαδίκτυο, «πρέπει να ψάξεις πολύ για να το βρεις». Υπάρχουν πλέον δεκάδες εφαρμογές, επί πληρωμή και μη, που οποιοσδήποτε, μπορεί να δημιουργήσει ένα deepfake βίντεο. Άλλο όμως ένα χιουμοριστικό βίντεο και άλλο ένα βίντεο που προκαλεί σάλο και ντόμινο ανεξέλεγκτων γεγονότων.
Τι κάνουν οι χώρες για να αντιμετωπίσουν το φαινόμενο
Επί του παρόντος δεν υπάρχει ευρωπαϊκή νομοθεσία ή εθνική νομοθεσία που να ρυθμίζει και να αντιμετωπίζει την επικίνδυνη χρήση αυτής της τεχνικής. Παρότι η Ευρωπαϊκή Επιτροπή δημοσίευσε τον Φεβρουάριο του 2020 σχέδια για τη διαχείριση της εφαρμογής «υψηλού κινδύνου» της Τεχνητής Νοημοσύνης, δεν υπάρχει τίποτα επίσημα μέχρι τώρα4. Ωστόσο, υπάρχει ένα μέσο στην Ευρωπαϊκή Ένωση που αντιμετωπίζει ορισμένα από αυτά τα προβλήματα: Ο Κώδικας Πρακτικής της Παραπληροφόρησης5 που παρουσιάστηκε αρχικά τον Απρίλιο του 2018, και ανανεώθηκε τον Ιούνιο του 2022 θέτει ένα ευρύ φάσμα δεσμεύσεων για το κλείσιμο ψεύτικων λογαριασμών και την απονομιμοποίηση των προμηθευτών παραπληροφόρησης.
Τα deepfakes αυτά καθαυτά είναι νόμιμα σχεδόν παντού, αλλά η νομιμότητα συγκεκριμένων deepfakes εξαρτάται από το πλαίσιο και την πρόθεση. Στις ΗΠΑ, θεσπίζονται σταδιακά συγκεκριμένοι νόμοι για τη ρύθμιση τους6. Οι περισσότερες πολιτείες των ΗΠΑ έχουν νόμους κατά της εκδικητικής πορνογραφίας, αλλά μόνο λίγες, προσδιορίζουν τα deepfakes ως παράνομο μέσο τέτοιων. Στην Κίνα, μια νέα πολιτική απαιτεί από τους παρόχους υπηρεσιών και τους χρήστες να διασφαλίζουν ότι κάθε δομημένο περιεχόμενο που χρησιμοποιεί την τεχνολογία έχει ρητά την επισήμανση και μπορεί να εντοπιστεί στην πηγή του7. Στην Ινδία, δεν υπάρχουν νομικοί κανόνες κατά της χρήσης deepfake, αλλά εφαρμόζονται συγκεκριμένοι νόμοι για την κακή χρήση της τεχνολογίας, η οποία περιλαμβάνει παραβίαση πνευματικών δικαιωμάτων, δυσφήμιση και εγκλήματα στον κυβερνοχώρο.
Εν κατακλείδι, τα deepfakes βίντεο μπορούν να αποτελέσουν την πιο σύγχρονη μορφή προπαγάνδας. Η τεχνική τους συνεχώς εξελίσσεται. Και μπορεί κανείς να φανταστεί τι θα συμβεί, αν ο πολίτης, ο άνθρωπος, δεν μπορεί πλέον να εμπιστευτεί, αυτό που βλέπει με τα ίδια του τα μάτια. Και φυσικά μέσα σε όλα αυτά δεν έχουμε αναφερθεί καθόλου στο ότι η κατάσταση των deepfakes διακινείται από ισχυρούς μηχανισμούς και συμφέροντα8, όπου δαπανάται πολύ χρήμα για την απόκτηση ακόμα περισσότερων ή πιο μεγάλων συμφερόντων που μπορεί και να επηρεάζουν τη μοίρα εκατομμυρίων ανθρώπων9.
1https://ecpr.eu/Events/Event/PaperDetails/59890
2https://www.youtube.com/watch?v=X17yrEV5sl4
3https://www.dw.com/en/vitali-klitschko-fake-tricks-berlin-mayor-in-video-call/a-62257289
4https://www.medialaws.eu/regulating-deep-fakes-in-the-proposed-ai-act
5https://digital-strategy.ec.europa.eu/el/policies/code-practice-disinformation
6https://www.congress.gov/bill/116th-congress/house-bill/3230
7https://www.china-briefing.com/news/china-to-regulate-deep-synthesis-deep-fake-technology-starting-january-2023/
8https://biblioottawalibrary.ca/en/blogs/deepfakes-and-astroturfing-when-simulations-manipulate-opinions
