Οι αλγόριθμοι έχουν επιφανειακή κρίση και δυσκολεύονται να αντιληφθούν τις ιδιάζουσες συνθήκες κάθε ιδιαίτερης περίπτωσης.
Η σύγκρουση ανάμεσα σε “αυτόχθονες” δημιουργούς και πολυεθνικές πλατφόρμες δεν αφορά απλώς κανόνες περιεχομένου. Αγγίζει κάτι βαθύτερο, τον τρόπο με τον οποίο αντιλαμβανόμαστε την ορατότητα. Σε έναν ψηφιακό κόσμο όπου το να φαίνεσαι ισοδυναμεί με το να υπάρχεις, κάθε φίλτρο αποκτά κοινωνικοπολιτική διάσταση.
Πλατφόρμες όπως το YouTube και το Instagram λειτουργούν με ένα βασικό αξίωμα. Προστασία του χρήστη από “ευαίσθητο περιεχόμενο”. Η πρόθεση μοιάζει αυτονόητη, η εφαρμογή όμως δημιουργεί ρωγμές. Παραδοσιακές τελετές, ενδυμασίες, πρακτικές πολιτισμικές, καταγράφονται ως προβληματικές, λόγω αδυναμίας κατανόησης. Οι αλγόριθμοι δεν κατανοούν πλαίσιο, αναγνωρίζουν μοτίβο (γυμνό, αίμα, ένταση). Όταν αυτά εμφανίζονται εκτός του “αναμενόμενου” πλαισίου, ενεργοποιείται ο περιορισμός. Η κουλτούρα μετατρέπεται σε σήμα κινδύνου, η ταυτότητα περνά μέσα από φίλτρο.
Το αποτέλεσμα δεν αφορά μόνο για διαγραφή περιεχομένου, πιο συχνά πρόκειται για σιωπηλή υποβάθμιση, λιγότερη προβολή, μικρότερη διάδοση. Το περιεχόμενο υπάρχει, αλλά δεν φτάνει πουθενά, η ορατότητα μειώνεται χωρίς εξήγηση. Για τους δημιουργούς, αυτό μεταφράζεται σε απώλεια φωνής. Οι πλατφόρμες αποτελούν βασικό χώρο αφήγησης. Εκεί παρουσιάζονται ιστορίες, παραδόσεις, ταυτότητες. Όταν αυτές οι ιστορίες περνούν από φίλτρα που δεν τις κατανοούν, αλλοιώνονται.
Το ζήτημα δεν περιορίζεται στην τεχνολογία. Αφορά τον τρόπο που σχεδιάζονται οι κανόνες. Οι πολιτικές βασίζονται σε γενικεύσεις, σε αντιλήψεις που προέρχονται από συγκεκριμένα πολιτισμικά πλαίσια, ό,τι δεν εντάσσεται εύκολα σε αυτά αντιμετωπίζεται ως εξαίρεση κι οι εξαιρέσεις στα συστήματα θεωρούνται ρίσκο. Η αυτοματοποίηση ενισχύει αυτή τη συνθήκη. Οι αποφάσεις λαμβάνονται γρήγορα, σε μεγάλη κλίμακα χωρίς ανθρώπινη παρέμβαση. Η ταχύτητα αυξάνεται, η κατανόηση μειώνεται. Η πρόθεση προστασίας παραμένει, όμως το αποτέλεσμα δημιουργεί αποκλεισμούς.
Οι αυτόχθονες δημιουργοί βρίσκονται έτσι σε μια ιδιότυπη θέση. Χρησιμοποιούν τις πλατφόρμες για να διατηρήσουν και να μεταδώσουν την κουλτούρα τους και ταυτόχρονα αντιμετωπίζουν εμπόδια από τα ίδια τα εργαλεία που τους δίνουν φωνή. Μια αντίφαση που δύσκολα αγνοείται. Η λύση απαιτεί περισσότερα από τεχνικές βελτιώσεις, κατανόηση πλαισίου, συμμετοχή των ίδιων των κοινοτήτων στον σχεδιασμό πολιτικών. Εκπαίδευση των συστημάτων με δεδομένα που δεν αποκλείουν τη διαφορετικότητα κι αποδοχή ότι η ουδετερότητα των αλγορίθμων αποτελεί μύθο.
Σε έναν παγκόσμιο ψηφιακό χώρο, το "κατάλληλο" περιεχόμενο δεν μπορεί να ορίζεται μονοδιάστατα. Η πολυπλοκότητα των πολιτισμών δε χωρά σε απλές κατηγορίες. Κάθε απόπειρα απλοποίησης δημιουργεί απώλειες. Η σύγκρουση αυτή λειτουργεί σαν υπενθύμιση. Η τεχνολογία δεν λειτουργεί σε κενό, μεταφέρει αξίες, προτεραιότητες, οπτικές. Όταν αυτές δεν περιλαμβάνουν όλους, κάποιοι μένουν εκτός κι αυτό αποτελεί μία πολιτισμική αδικία.
