Πηγή: Infowar
Σήμερα αναδεικνύουμε ένα νέο που πέρασε στα (πολύ) ψιλά γράμματα των ελληνικών μέσων μαζικής ενημέρωσης – από τα πιο κυρίαρχα έως τα πιο «κινηματικά». Πρόκειται για το ζήτημα της μόνιμης παρακολούθησης των ηλεκτρονικών επικοινωνιών όλων των Ευρωπαίων πολιτών (!), το οποίο επρόκειτο να συζητηθεί στη Σύνοδο Υπουργών Εσωτερικών της 14ης Οκτωβρίου 2025. Μετά την απόφαση της Γερμανίας να μη στηρίξει την πρόταση, αυτή αποσύρθηκε άρων-άρων από τη Σύνοδο και παραπέμφθηκε επί της ουσίας προς τη νέα χρονιά, με νέες προσπάθειες να εξασφαλιστεί πολιτική συναίνεση. Τώρα που η άμεση μπόρα πέρασε πριν το πάρουμε είδηση, ώρα να ενημερωθούμε, εν όψει του επόμενου γύρου.
Τί είναι το CSAR;
Τα αρχικά της προτεινόμενης νομοθεσίας σημαίνουν Child Sexual Abuse Regulation – Κανονισμός για (σ.σ. να αντιμετωπίσει) τη Σεξουαλική Κακοποίηση Παιδιών. Καθόλου τυχαία, το αρκτικόλεξο είναι σχεδόν ταυτόσημο με το CSAM (Child Sexual Abuse Material), που είναι ο γενικός νομικός όρος για το υλικό σεξουαλικής κακοποίησης παιδιών.
Το κυριότερο σκεπτικό της νομοθεσίας που πρότεινε η δανέζικη Προεδρία είναι η υποχρέωση των εταιριών που παρέχουν υπηρεσίες μηνυμάτων (π.χ. WhatsApp, Signal, Meta) να σαρώνουν αυτομάτως τις επικοινωνίες των χρηστών τους για υλικό σεξουαλικής κακοποίησης παιδιών μετά από απαίτηση των αρχών. Ένα δεύτερο μέρος, αφορά τη σάρωση του περιεχομένου των επικοινωνιών για την αναγνώριση της σταδιακής προσέγγισης σε ανηλίκους με σκοπό τη μελλοντική εκμετάλλευση (grooming). Εδώ, η πρόταση της Κομισιόν του 2022 περιείχε την υποχρέωση των παρόχων να κάνουν τέτοιες σαρώσεις, ενώ η πρόταση της Δανίας όχι. Ένα τρίτο σημαντικό μέρος είναι εάν οι σαρώσεις αυτές «κυνηγούν» μόνο το ήδη αναγνωρισμένο ως υλικό CSAM ή αν «ψάχνουν» και καινούριο υλικό, το οποίο μπορεί να μην έχει αναγνωριστεί μέχρι εκείνη τη στιγμή.
Το σκεπτικό του CSAR είναι πως επειδή οι ηλεκτρονικές επικοινωνίες είναι εύκολα προσβάσιμες σε παιδιά και αποτελούν έναν εύκολο τρόπο «πρώτης προσέγγισης», οι αρχές πρέπει να μπορούν με δική τους πρωτοβουλία να έχουν πρόσβαση σε αυτές. Το επιχείρημα αυτό από μόνο του είναι ακούγεται λογικό, κυρίως όμως διαπνέεται από αυτό που θα έλεγε ο οποιοσδήποτε, «καλό σκοπό».
Τί συμβαίνει πραγματικά;
Αμφισβητούμε ευθέως πως το μέτρο αυτό έχει να κάνει πραγματικά με την προστασία των παιδιών, παρ’ όλο που η εφαρμογή του θα έφερνε σίγουρα μια σειρά λιγότερο ή περισσότερο θεαματικά (με την έννοια του θεάματος), αποτελέσματα που θα προστάτευαν όντως πραγματικά θύματα. Αντιθέτως, έχουμε τη βαθιά πεποίθηση πως ο προαποφασισμένος πυρήνας είναι η άρση του απορρήτου των επικοινωνιών για το σύνολο του πληθυσμού και πως απλά στη συγκεκριμένη περίπτωση, ενδύεται το περίβλημα της «προστασίας των παιδιών».
Από την έλευση των ηλεκτρονικών επικοινωνιών έγινε εφικτό αυτό που λέμε “end-to-end encryption” σε ευρεία κλίμακα του πληθυσμού. Αυτός ο όρος περιγράφει μια επικοινωνία, όπου ο αποστολέας και ο δέκτης έχουν ένα σετ μοναδικά «κλειδιά», που κρυπτογραφούν την επικοινωνία τους. Ο διακομιστής (π.χ. η Meta που σας παρέχει τη δυνατότητα να μιλήσετε με κάποιο άτομο στο messenger), μπορεί να δει μόνο το κρυπτογραφημένο μήνυμα και δε μπορεί να το αποκρυπτογραφήσει, ακόμα και αν το θέλει. Αυτός ο τρόπος προστασίας της ιδιωτικότητας έγινε πολύ γρήγορα πολύ δημοφιλής, αναγκάζοντας ακόμα και εταιρίες όπως η Meta που τον απεχθάνονταν, να τον υιοθετήσουν για να μη χάσουν το κοινό τους.
Όπως έχουμε γράψει και παλιότερα, το Άγιο Δισκοπότηρο των διωκτικών αρχών και των κυβερνήσεων ήταν πάντα το να υποχρεώσουν τις εταιρίες να δημιουργήσουν κάτι σαν «πίσω πόρτα» στις εφαρμογές τους, ώστε οι διωκτικές αρχές να μπορούν να διαβάσουν τις κρυπτογραφημένες επικοινωνίες. Ευτυχώς μέχρι στιγμής, το οικονομικό συμφέρον των εταιριών κρυπτογραφίας έχει επικρατήσει για έναν πολύ ουσιαστικό λόγο: Δε μπορεί να υπάρξει «αντικλείδι» για μόνο μία συσκευή ή μόνο μία επικοινωνία. Εάν μπορεί να υπάρξει για μία περίπτωση, τότε αυτομάτως η ίδια διαδικασία μπορεί να γίνει για το σύνολο των ίδιων συσκευών. Με άλλα λόγια, μια εταιρία που δημιουργεί ένα τέτοιο «αντικλείδι», αφήνει αμέσως έκθετο σε κυβερνοεπιθέσεις το σύνολο των πελατών της.
Εδώ έρχεται η απαίτηση της δανέζικης πρότασης για τη διαδικασία “client-side scanning”. Πολύ απλά, θα απαιτείται από τις εταιρίες να «διαβάζουν» το περιεχόμενο των επικοινωνιών μας τη στιγμή που τις γράφουμε, πριν κρυπτογραφηθούν και σταλούν. Επί της ουσίας αποτελεί ευθεία και πλήρη ακύρωση της κρυπτογράφησης και της ιδιωτικότητας, ακόμα και αν μόνο η εταιρία είχε το δικαίωμα να διαβάσει τα μηνύματα. Όμως η ουσία της πρότασης είναι πάντα η πρόσβαση των διωκτικών αρχών.
Η Meta, την οποία αναφέραμε, έχει ήδη δώσει δείγματα γραφής πως θα εφαρμόζει client-side scanning, ξεκινώντας από το Instagram. Οι μέχρι τώρα δηλώσεις της δείχνουν πως δεν παραδίδει αυτούσιο το περιεχόμενο σε διωκτικές αρχές μέχρι στιγμής.
Πόσων χρονών είστε;
Με την ίδια ουσιαστικά αιτιολογία, την προστασία των παιδιών, νομοθετείται ένα πολύ διαφορετικό μέτρο. Αναφερόμαστε στην πρόσβαση σε ιστοσελίδες πορνογραφικού περιεχομένου, όσον αφορά τη Γαλλία και τη Μεγάλη Βρετανία. Στην περίπτωση της Γαλλίας, απαιτείται επιβεβαίωση της ηλικίας με τη χρήση πιστωτικής κάρτας ή κρατικής ταυτότητας. Στην περίπτωση της Μ. Βρετανίας, απαιτείται και αναγνώριση προσώπου (!), ώστε να εκτιμηθεί η ηλικία του προσώπου. Μεταξύ των δύο, κυρίως μας ενδιαφέρει η δεύτερη περίπτωση.
Η πρώτη, προφανής σκέψη, είναι πως με ένα τέτοιο μέτρο δημιουργείται μια τεράστια αγορά για εταιρίες που θα παρέχουν τόσο την υπηρεσία εκτίμησης ηλικίας από φωτογραφίες, όσο και τα αρχικά δεδομένα για τη δημιουργία των σχετικών αλγορίθμων. Σε αυτό το άρθρο δε θα σταθούμε στα σημαντικά προβλήματα που εμφανίζει η αναγνώριση προσώπου σε όποιον δεν είναι λευκός άνδρας. Θα αφήσουμε επίσης, τα ηθικά ζητήματα της αναγνώρισης προσώπου για το τέλος του άρθρου.
Η δεύτερη, σημαντικότερη σκέψη είναι πως αυτή η διαδικασία εκμεταλλεύεται την ηθικά «γκρίζα ζώνη» της πορνογραφίας, ώστε να κάνει πιλοτική εφαρμογή της αναγνώρισης προσώπου σε ευρεία κλίμακα. Η λειτουργία ενός τέτοιου μέτρου δημιουργεί από μόνη της μία βάση αρκετών εκατομμυρίων χρηστών, των οποίων τα στοιχεία (βιομετρικά στοιχεία προσώπου, αλλά και στοιχεία ταυτότητας), θα χρησιμοποιηθούν για τη βελτίωση αυτών των συστημάτων. Υπενθυμίζουμε πως το Λονδίνο έχει πάνω από 942.000 κάμερες (!), πράγμα που σημαίνει πως είναι από τις περιοχές με την πιο σκληρή παρακολούθηση του πληθυσμού στον κόσμο, αλλά και πως τα αποτελέσματα της βελτίωσης των αλγορίθμων αναγνώρισης προσώπου έχουν άμεση εφαρμογή στα χέρια των αστυνομικών αρχών.
Γιατί οι αστυνομικές αρχές αγαπάνε τα Instagram challenges;
Μια αρκετά ενδιαφέρουσα σύμπτωση – το 2024 έγινε πάρα πολύ εκτεταμένο το εξής challenge – ανεβάστε δίπλα-δίπλα το πώς είσασταν στα 21 σας. Πολλές από τις φωτογραφίες που ανέβηκαν ήταν μάλιστα από οικογενεικές φωτογραφίες, που οι χρήστες σάρωσαν ή φωτογράφισαν για να συμμετάσχουν (και πλατφόρμες όπως το instagram διευκόλυναν εξαιρετικά αυτή τη διαδικασία προσφέροντας έτοιμες «φόρμες» για το challenge). Οι άνθρωποι θέλουμε καρδούλες και προσοχή, και τα μέσα κοινωνικής δικτύωσης ξέρουν να το αξιοποιούν πολύ καλά. Με το μάτι του ερευνητή όμως, τί θα θέλαμε περισσότερο από πάρα πολλούς ανθρώπους να μας δώσουν δωρεάν τις φωτογραφίες τους στα 21 (ενηλικίωση στις Η.Π.Α.), μαζί με ένα χρήσιμο hashtag για να τις βρίσκουμε εύκολα, και συχνά μαζί με την τωρινή τους όψη; Μα φυσικά το ίδιο πράγμα, μαζί με προώθηση και από κυρίαρχα ΜΜΕ, ώστε να εξασφαλιστεί η γρήγορη διάδοση.
Πάντα ως ερευνητής που εργάζεται με αλγορίθμους αναγνώρισης προσώπου όμως, τί θα μας ήταν ακόμα πιο χρήσιμο; Ένα σετ φωτογραφιών που να μην είναι απλά στα 21 και μια τυχαία ηλικία, αλλά ένα συγκεκριμένο χρονικό διάστημα… π.χ. δέκα χρόνια μετά. Ε, δε θα το πιστέψετε (όσοι δεν το προλάβατε), αλλά ακριβώς αυτό ήταν το “10-year challenge”, το οποίο είχε το απόγειό του το 2019. Έκτοτε υπάρχουν πολλές παραλλαγές, εξίσου χρήσιμες, όπως το «πώς ήσουν πέρυσι τέτοια εποχή». Εδώ πρέπει να τονίσουμε πως τέτοιου τύπου μόδες δέχονται πολλές ειλικρινείς πιέσεις και διαφημιστικές ώσεις για να γιγαντωθούν, χωρίς να χρειάζεται να έχουν ξεκινήσει απαραίτητα από εταιρίες που εργάζονται σε εργαλεία αναγνώρισης προσώπου ή υπηρεσίες.
Ποτέ όμως δεν πρέπει να ξεχνούμε περιπτώσεις όπως της Cambridge Analytica, η οποία δημιούργησε μια εφαρμογή «ψυχολογικών προφίλ», ώστε να πείσει χρήστες του διαδικτύου να της δώσουν προσωπικά δεδομένα δικά τους, καθώς και των επαφών τους. Μετά χρησιμοποίησε τα στοιχεία αυτά σαν πρώτη ύλη για στοχευμένες πολιτικές καμπάνιες των Ρεπουμπλικανών στις Η.Π.Α., δείχνοντας το πώς τα προσωπικά δεδομένα αποτελούν πρώτη ύλη πολιτικής ισχύος.
Ιστορίες για διαδηλωτές και κλόουν
Γι’ αυτές τις αμφιβολίες είναι που θα περάσουμε σε μια σύντομη ιστορία με ιδιαίτερο ενδιαφέρον. Την περίοδο που ακολούθησε της δολοφονία του George Floyd στις Η.Π.Α., σημειώθηκε τεράστια κινητοποίηση ενάντια στη ρατσιστική και ταξική αστυνόμευση. Χρησιμοποιήθηκαν από την αστυνομία για πρώτη φορά σε τέτοια έκταση, προϋπάρχοντα συστήματα αναγνώρισης προσώπου για τη στοχοποίηση διαδηλωτών.
Εδώ πρέπει να αναφέρουμε τους “Juggalos”, μια υποκουλτούρα που κινείται γύρω από τους φαν του συγκροτήματος Insane Clown Posse. Ένα μέρος της έχει να κάνει με τους φαν να βάφουν το πρόσωπό τους με μέικαπ, το οποίο θυμίζει ασπρόμαυρη εκδοχή κλόουν. Χωρίς να επεκταθούμε στο ίδιο το πολιτιστικό φαινόμενο, θα σταθούμε στο γεγονός ότι είχε γίνει γνωστό πως ο τρόπος με τον οποίο διακοσμούν το πρόσωπό τους μπέρδευε τους αλγορίθμους αναγνώρισης προσώπου πολύ αποτελεσματικότερα από οποιαδήποτε άλλη ευρέως γνωστή τακτική «κινηματικού καλλωπισμού».
Ποιός ο τρόπος να αντιμετωπιστεί κάτι τέτοιο; Λογικά μιλώντας, κάποιο σύστημα που δε θα βασίζεται στο ορατό φως. Την επόμενη φορά που θα δείτε κάποιο άτομο να ξεκλειδώνει ένα πρόσφατο iPhone σκανάροντας το πρόσωπό του, έχετε γίνει μάρτυρας ακριβώς αυτής της τεχνολογίας. Η συσκευή προβάλλει ένα πλέγμα κουκκίδων στο υπέρυθρο και αξιολογεί το πώς φαίνονται στο πρόσωπό σας, ώστε να φτιάξει ένα μοντέλο του – διαδικασία που μπορεί δυνητικά να ξεπεράσει «προβλήματα μακιγιάζ». Υπάρχει ήδη ενεργή έρευνα σε ανάλογες τεχνολογίες που μπορούν να σαρώσουν πρόσωπα από απόσταση με τη χρήση λέιζερ (LIDAR facial recognition), με τις συσκευές της Apple να αποτελούν ήδη ένα τεράστιο πεδίο άντλησης δεδομένων.
Γιατί η ιδιωτικότητα είναι σημαντική;
Πρόκειται για ερώτημα που έχει απαντηθεί πάρα πολλές φορές και από πολύ πιο κατάλληλους ανθρώπους από εμάς. Οφείλουμε όμως, να κλείσουμε το άρθρο συνοψίζοντας μερικά από τα πιο βασικά σημεία.
Κατ’ αρχάς, η ανθρώπινη κοινωνία ήταν και θα είναι μεταξύ άλλων και η προσπάθεια να βρούμε την ισορροπία μεταξύ «ασφάλειας» και αυτενέργειας που απαιτεί η εποχή. Εάν ψάχνετε την απόλυτη ασφάλεια, υπάρχει μια τεράστια γκάμα διηγημάτων επιστημονικής φαντασίας που εξηγούν πόσο απάνθρωπη και αδιέξοδη μπορεί να είναι μια κοινωνία που θυσιάζει τα πάντα σε αυτό το βωμό. Προτείνουμε ως πιο συμβολικό ίσως το “The End of Eternity” του Ισαάκ Ασίμωφ.
Στην καθημερινή, προσωπική ζωή όμως, μια συχνή σκέψη που κυκλοφορεί είναι το «δεν έχω κάτι να κρύψω». Κατ’ αρχάς, όλες οι ολοκληρωτικές δυστοπίες κατοικούνται από ανθρώπους που επίσης «δεν έχουν κάτι να κρύψουν», αλλά δεν μπορούν ποτέ να ξεχάσουν πως τελούν υπό παρακολούθηση. Και αυτή ακριβώς η νεφελώδης σκιά του ότι «μπορεί», ανά πάσα στιγμή, να εξετάζεται η συμπεριφορά μας είναι το πραγματικό όπλο.
Στην καθημερινή, τωρινή ζωή όμως, τα πράγματα δεν είναι διαφορετικά. Αυτή τη στιγμή που διαβάζετε τις γραμμές αυτές, υπάρχουν εταιρίες που εμπορεύονται λίστες με έγκυες γυναίκες σε χώρες όπου αμφισβητείται το δικαίωμα στην άμβλωση. Σε χώρες όπως οι Η.Π.Α., έχει νομοθετηθεί απαγόρευση των αντισυλληπτικών, ενώ υπάρχει ενεργή προσπάθεια για επέκταση τέτοιων μέτρων. Σε περιπτώσεις σαν και αυτές, οι διωκτικές αρχές θα ήθελαν να έχουν το δικαίωμα να σαρώνουν τις συνομιλίες σας για να γνωρίζουν αν μια γυναίκα έχει καθυστέρηση, άρα και θεωρείται ύποπτη τέλεσης εγκλήματος αν δεν τεκνοποιήσει.
Αναλόγως, μια σειρά πολιτικές οργανώσεις θα ήθελαν να γνωρίζουν το σεξουαλικό σας προσανατολισμό, ώστε να φροντίσουν να απομακρυνθείτε από τη δουλειά σας. Ή, τις πολιτικές σας πεποιθήσεις, όπως είδαμε με την Cambridge Analytica. Μάλιστα τέτοια παράνομη στοχοποίηση πολιτών βάσει των πολιτικών τους πιστεύω έκανε η… Κομισιόν ακριβώς για να προωθήσει στοχευμένη διαφήμιση υπέρ του CSAR!
Αναλόγως, μια διαφημιστική εταιρία θα ήθελε πάρα πολύ να γνωρίζει τη σχέση σας με τον αλκοολισμό ή τα προβλήματα που μπορεί να βιώνετε στη σχέση σας. Οι άνθρωποι που βιώνουν αδιέξοδα είναι στατιστικά πιο «καλοί πελάτες» των στοιχηματικών, οπότε και αν βρεθείτε σε μια ανάλογη λίστα «άνθρωποι μέσης ηλικίας σε προσωπικό αδιέξοδο», μπορεί να δείτε ξαφνικά πολύ περισσότερες διαφημίσεις στοχευμένες στο να το εκμεταλλευτούν. Ταυτόχρονα, η ιδιωτική ασφαλιστική σας εταιρία πολύ θα ήθελε να γνωρίζει για το γρομπαλάκι που βρήκατε στην ψηλάφηση, ώστε να σας αυξήσει τα ασφάλιστρα πριν προλάβετε να πάτε σε γιατρό για γνωμάτευση.
Όλα όσα περιγράφηκαν αποτελούν καθημερινότητα στον κόσμο της διαφήμισης και της αγοραπωλησίας προσωπικών δεδομένων, ο οποίος παραμένει καθ’ όλα νόμιμος. Αποτελεί μάλιστα τη βάση του γεγονότος πως το μεγαλύτερο μέρος του κερδοσκοπικού internet παραμένει δωρεάν για το κοινό. Αυτή η παρέμβαση στην προσωπική μας ζωή γίνεται όμως μετ’ εμποδίων, και ένα από τα εμπόδια είναι η ιδιωτικότητα της επικοινωνίας. Καιρός να τη διαφυλάξουμε πιο ενεργά.
Ακόμα και αν δε σας ενδιαφέρει η σχέση μεταξύ μιας κυβέρνησης και δημοσιογράφων, δικηγόρων, ερευνητών που προσπαθούν να αποκαλύψουν τα κακώς κείμενα και θα είναι οι πρώτοι στόχοι, πιστεύουμε πως στα παραπάνω θα είδατε με κάποιον τρόπο τον εαυτό σας.
