Σε έναν κόσμο που γεμίζει μάτια χωρίς βλέμμα, η ασφάλεια έγινε υπόθεση αλγορίθμων. Οι κάμερες δεν απλώς καταγράφουν, αλλά ερμηνεύουν, δεν κοιτούν απλώς, αλλά "διαβάζουν". Από τα αεροδρόμια μέχρι τα κινητά μας, η τεχνητή νοημοσύνη υπόσχεται προστασία, ενώ σιωπηλά επανασχεδιάζει τα όρια της ελευθερίας.
Κάποτε οι κάμερες έβλεπαν, τώρα καταλαβαίνουν ή τουλάχιστον έτσι ισχυρίζονται οι μηχανές που έχουν μάθει να "διαβάζουν" πρόσωπα, κινήσεις, βλέμματα, ακόμη και συναισθήματα. Δεν χρειάζεται πλέον να πεις τίποτα· η τεχνητή νοημοσύνη μπορεί να προβλέψει αν είσαι θυμωμένος, φοβισμένος, κουρασμένος ή ύποπτος. Ζούμε στην εποχή όπου η επιτήρηση έγινε έξυπνη και γι’ αυτό πιο επικίνδυνη.
Η ιστορία ξεκίνησε με καλή πρόθεση. Μετά τις τρομοκρατικές επιθέσεις των αρχών του 21ου αιώνα, η τεχνολογία παρουσιάστηκε ως το όπλο της ασφάλειας. Στα αεροδρόμια, στους δρόμους, στις πλατείες, οι κάμερες έγιναν μάτια που υπόσχονταν προστασία. Μόνο που τα μάτια αυτά δεν μένουν ποτέ κλειστά και σιγά-σιγά απέκτησαν κάτι παραπάνω από όραση: απέκτησαν κρίση. Η τεχνητή νοημοσύνη μπήκε στα κυκλώματα και μετέτρεψε την παρακολούθηση από παθητική καταγραφή σε ενεργό ερμηνεία.
Πλέον ένα σύστημα μπορεί να "δει" το πρόσωπο κάποιου, να το συγκρίνει με εκατομμύρια άλλα μέσα σε δευτερόλεπτα και να αποφανθεί: αυτός είναι ύποπτος, εκείνος επικίνδυνος, ο άλλος απλώς αγχωμένος. Στην Κίνα τέτοια συστήματα χρησιμοποιούνται για την επιβολή του λεγόμενου "κοινωνικού σκορ": κάθε πολίτης βαθμολογείται ανάλογα με τη συμπεριφορά του, από το πως περνά τον δρόμο έως το τι αγοράζει στο διαδίκτυο. Στις ΗΠΑ και στην Ευρώπη εταιρείες ασφαλείας και αστυνομικές αρχές δοκιμάζουν αλγόριθμους αναγνώρισης προσώπου που υπόσχονται να προβλέψουν εγκληματικές προθέσεις πριν ακόμη εκδηλωθούν. Ονειρεύονται δηλαδή μια τεχνολογία που θα συλλαμβάνει όχι μόνο τη δράση, αλλά και τη σκέψη.
Όμως κάθε όνειρο ασφάλειας έχει το τίμημά του. Όσο πιο ευφυής γίνεται η επιτήρηση, τόσο πιο αδύναμος γίνεται ο άνθρωπος απέναντί της. Ο Μισέλ Φουκώ δεκαετίες πριν μίλησε για το Πανοπτικόν: μια φυλακή όπου οι κρατούμενοι δεν ξέρουν πότε τους παρακολουθούν και έτσι πειθαρχούν μόνοι τους. Η σύγχρονη τεχνητή νοημοσύνη είναι το Πανοπτικόν του 21ου αιώνα αόρατο, σιωπηλό, πανταχού παρόν. Δεν χρειάζεται δεσμοφύλακες, γιατί έχει δεδομένα και δε χρειάζεται κελιά, γιατί τα κουβαλάμε στις τσέπες μας, με τη μορφή κινητών, εφαρμογών, "έξυπνων" συσκευών.
Η ειρωνεία είναι πως η παρακολούθηση δεν επιβάλλεται πια απ’ έξω. Την αποδεχόμαστε εκούσια, με αντάλλαγμα ευκολία και ασφάλεια. Μπαίνουμε σε ένα αεροδρόμιο και χαμογελάμε στην κάμερα του face ID, ανοίγουμε το τηλέφωνό μας με το πρόσωπό μας, αφήνουμε τις πλατφόρμες κοινωνικής δικτύωσης να αναλύουν τις εκφράσεις μας για να μας δείχνουν "πιο σχετικές" διαφημίσεις. Κάθε κλικ, κάθε selfie, κάθε τοποθεσία που δηλώνεται είναι ένα κομμάτι από το παζλ του ποιοι είμαστε. Δεν χρειάζεται πια να μας κατασκοπεύουν, τους τα δίνουμε όλα μόνοι μας.
Η τεχνητή νοημοσύνη προσφέρει βέβαια απτά οφέλη. Οι "έξυπνες" κάμερες συμβάλλουν στη γρήγορη εξιχνίαση εγκλημάτων, στη διαχείριση της κυκλοφορίας, στην πρόληψη ατυχημάτων. Ένα σύστημα αναγνώρισης πινακίδων μπορεί να εντοπίσει ένα κλεμμένο όχημα σε δευτερόλεπτα· ένα λογισμικό ανάλυσης πλήθους να αποτρέψει πανικό σε ένα στάδιο, αλλά πίσω από κάθε υπόσχεση ασφάλειας κρύβεται η ερώτηση: ποιος φυλάει τους φύλακες;
Οι αλγόριθμοι δεν είναι ουδέτεροι. Τροφοδοτούνται με δεδομένα ανθρώπινα, άρα και με προκαταλήψεις. Αν μια βάση δεδομένων περιέχει περισσότερα παραδείγματα ανδρών από γυναίκες ή περισσότερα λευκά πρόσωπα από μαύρα, η μηχανή μαθαίνει να βλέπει με προκατάληψη. Δεν το κάνει επίτηδες απλώς αναπαράγει τον κόσμο που της δείχνουμε. Έτσι η τεχνητή νοημοσύνη γίνεται καθρέφτης της κοινωνίας, μόνο που ο καθρέφτης αυτός μπορεί να μας καταδικάσει χωρίς δίκη.
Σε πόλεις όπως το Λονδίνο ή η Μόσχα εκατομμύρια κάμερες παρακολουθούν τις κινήσεις των πολιτών. Στην Αθήνα οι κάμερες της Τροχαίας, των ΜΜΜ, ακόμη και των ιδιωτικών επιχειρήσεων αρχίζουν να συνδέονται σε δίκτυα που κάποτε θα επικοινωνούν μεταξύ τους. Η εικόνα του δημόσιου χώρου μετατρέπεται σε ένα απέραντο ρεύμα δεδομένων και το πρόσωπο του πολίτη σε κωδικό. Όσο πιο "έξυπνη" γίνεται η πόλη, τόσο πιο διάφανη γίνεται η ζωή.
Αυτό που κάποτε ήταν μια κάμερα στον τοίχο, τώρα είναι ένα οικοσύστημα αλγορίθμων που μπορεί να αναγνωρίσει, να ερμηνεύσει, να προβλέψει. Ο κίνδυνος δεν είναι μόνο η απώλεια της ιδιωτικότητας, αλλά η μεταβολή της ίδιας της έννοιας της ελευθερίας. Όταν γνωρίζεις ότι παρακολουθείσαι, αλλά δεν ξέρεις πότε και από ποιον, αρχίζεις να αυτολογοκρίνεσαι. Φιλτράρεις τις κινήσεις, τα λόγια, τα βλέμματα κι έτσι, η κοινωνία γίνεται ήσυχη, αλλά όχι ελεύθερη.
Η τεχνητή νοημοσύνη,λένε οι υποστηρικτές της απλώς βλέπει καλύτερα από τον άνθρωπο. Όμως το ζήτημα δεν είναι η όραση, είναι η ερμηνεία. Γιατί πίσω από κάθε κάμερα υπάρχει πάντα ένα σύστημα εξουσίας: κάποιος αποφασίζει ποιον θα παρακολουθήσει, ποιον θα αγνοήσει, ποιον θα χαρακτηρίσει "επικίνδυνο". Η τεχνολογία μπορεί να βελτιώσει τη ζωή, αλλά μπορεί και να τη μετατρέψει σε πειραματικό πεδίο κοινωνικού ελέγχου.
