Η ανθρωπότητα είχε ανέκαθεν τον υπαρξιακό φόβο ότι οι ίδιες της οι δημιουργίες μπορεί να στραφούν εναντίον της. Από τον Φρανκενστάιν μέχρι τους σύγχρονους φόβους για ανεξέλεγκτη τεχνητή νοημοσύνη, η αφήγηση θέλει το «τέρας» να κρύβεται στην ίδια την τεχνολογία. Ωστόσο, στην πραγματική ζωή, οι πιο άμεσες απειλές δεν προέρχονται από κάποιο κακόβουλο αλγόριθμο που αποκτά συνείδηση. Αντίθετα, προέρχονται από εμάς τους ίδιους και από τον τρόπο που επιλέγουμε να χρησιμοποιήσουμε τα τεχνολογικά εργαλεία. Το πραγματικό τέρας δεν βρίσκεται στον κώδικα, αλλά στις προθέσεις και στις πράξεις μας.

Στη σύγχρονη ψηφιακή εποχή, η τεχνολογία και η τεχνητή νοημοσύνη είναι αναπόσπαστο μέρος της ανθρώπινης δραστηριότητας. Δυστυχώς, μπορούν να γίνουν και εργαλεία εγκλημάτων. Ένα από τα πιο ανησυχητικά φαινόμενα είναι οι νέες μορφές έμφυλης βίας μέσω της τεχνολογίας: deepfake πορνογραφικά βίντεο και φωτογραφίες, κοινότητες που μοιράζονται κρυφά γυμνές φωτογραφίες, εφαρμογές που «γδύνουν» ψηφιακά γυναίκες, ακόμη και «έξυπνα» σπίτια που μετατρέπονται σε όπλα παρενόχλησης.

Παρά τους φόβους ότι τα deepfakes θα χρησιμοποιούνταν κυρίως για πολιτική προπαγάνδα, η συντριπτική πλειονότητα – περίπου 90-96% – αφορά σε πορνογραφικό περιεχόμενο με θύματα γυναίκες. Ένα χαρακτηριστικό παράδειγμα ήρθε στην Ισπανία, όπου ανήλικοι μαθητές χρησιμοποίησαν εφαρμογή τεχνητής νοημοσύνης για να δημιουργήσουν ψεύτικες γυμνές φωτογραφίες συμμαθητριών τους, τοποθετώντας φωτογραφίες προσώπου σε ξένα γυμνά σώματα. Οι πλαστές –αλλά αληθοφανείς– εικόνες διακινήθηκαν κρυφά σε ομάδες WhatsApp, χωρίς συναίνεση των κοριτσιών.

Το περιστατικό αυτό δείχνει δύο αλήθειες: πρώτον, ότι η τεχνολογία των deepfake είναι πλέον τόσο προσβάσιμη ώστε ακόμη και παιδιά να τη χρησιμοποιούν· δεύτερον, ότι ο σεξισμός βρίσκει εύκολα διέξοδο στις ψηφιακές πλατφόρμες. Μια παρέα εφήβων διάλεξε να μετατρέψει ένα «παιχνίδι με την τεχνητή νοημοσύνη» σε εργαλείο ταπείνωσης. Το τέρας δεν ήταν η εφαρμογή – ήταν η νοοτροπία πίσω από τη χρήση της.

Το 2019 εμφανίστηκε η εφαρμογή DeepNude, που «έγδυνε» ψηφιακά φωτογραφίες γυναικών. Παρότι έκλεισε έπειτα από κατακραυγή, παρόμοια εργαλεία συνέχισαν να ξεφυτρώνουν στο διαδίκτυο, με διαφημίσεις όπως «γδύσε όποια θέλεις», προσελκύοντας ακόμη και νεανικό κοινό. Η τεχνητή νοημοσύνη λειτουργεί εδώ σαν καθρέφτης: αντικατοπτρίζει τις πιο σκοτεινές μας συμπεριφορές.

Πρόσφατα στην Ιταλία αποκαλύφθηκε άλλη μια υπόθεση τεχνολογικής έμφυλης βίας. Μια ομάδα στο Facebook με το όνομα «Mia Moglie» («Η γυναίκα μου»), λειτουργούσε από το 2019 ως χώρος ανταλλαγής φωτογραφιών γυναικών χωρίς συναίνεση. Συμμετείχαν περίπου 32.000 μέλη, κυρίως άνδρες, που μοιράζονταν γυμνές ή σεξουαλικές φωτογραφίες συντρόφων, πρώην ή ακόμη και αγνώστων. Η αποκάλυψη προκάλεσε θύελλα αντιδράσεων. Η Meta αναγκάστηκε να τη διαγράψει τον Αύγουστο του 2025, έπειτα από χιλιάδες καταγγελίες και την παρέμβαση της αστυνομίας. Το πιο ανατριχιαστικό στοιχείο είναι ότι οι δράστες δεν ήταν χάκερ, αλλά οικογενειάρχες που εξέθεταν τις ίδιες τους τις γυναίκες.

Οι συμμετέχοντες στην ομάδα αυτή βρίσκονται πλέον αντιμέτωποι με ποινικές διώξεις. Ωστόσο, το ότι η ομάδα παρέμεινε ενεργή σχεδόν έξι χρόνια, παρά τους κανόνες του Facebook και τη νομοθεσία της Ε.Ε. για τις ψηφιακές πλατφόρμες (DSA), γεννά σοβαρά ερωτήματα για την ευθύνη των μεγάλων εταιρειών να εντοπίζουν τέτοιου είδους περιεχόμενο.

Η αντιμετώπιση αυτών των φαινομένων απαιτεί διττή προσέγγιση. Από τη μία, χρειαζόμαστε επιβολή της νομοθεσίας και μηχανισμούς εποπτείας στις πλατφόρμες, ώστε να αποτρέπεται και να τιμωρείται η τεχνολογική έμφυλη βία. Απαιτείται κάλυψη του νομοθετικού κενού στη χώρα μας για το αδίκημα της πλαστοπροσωπίας στο διαδίκτυο, ειδικά στις περιπτώσεις δημιουργίας βαθιά ψευδούς πορνογραφικού υλικού. Από την άλλη – και πιο θεμελιωδώς – χρειαζόμαστε εκπαίδευση και αλλαγή νοοτροπίας. Η εκπαίδευση σε ψηφιακή ηθική είναι πιο αναγκαία από ποτέ. Πρέπει να καταλάβουμε όλοι, από μικρή ηλικία, ότι πίσω από κάθε άβαταρ υπάρχει ένας άνθρωπος με αξιοπρέπεια και δικαιώματα.

Το πραγματικό τέρας δεν παραμονεύει στους αλγορίθμους, αλλά μέσα μας: στις σκοτεινές μας σκέψεις, στα στερεότυπα που κουβαλάμε. Αν θέλουμε έναν ασφαλέστερο, δικαιότερο ψηφιακό κόσμο, οφείλουμε να δαμάσουμε αυτό το τέρας. Και η ευθύνη εκτείνεται προς όλους: την πολιτεία, τις πλατφόρμες, την κοινωνία και το άτομο.