Πηγή: Νέα Κρήτη
Ποιος ελέγχει αυτούς που ελέγχουν την Τεχνητή Νοημοσύνη;
«Η πιο θλιβερή πτυχή της ζωής σήμερα είναι ότι η επιστήμη συγκεντρώνει γνώση γρηγορότερα απ’ ό,τι η κοινωνία συγκεντρώνει σοφία». Η φράση, που αποδίδεται στον Ισαάκ Ασίμοφ, μοιάζει σήμερα λιγότερο με φιλοσοφικό απόφθεγμα και περισσότερο με πολιτική προειδοποίηση.
Γιατί η μεγάλη συζήτηση για την Τεχνητή Νοημοσύνη έχει αρχίσει να ξεφεύγει από το πεδίο της τεχνολογίας. Δεν αφορά πλέον μόνο το πόσο καλά γράφει ένα chatbot, πόσο πειστική εικόνα παράγει ένας αλγόριθμος ή αν μια μηχανή μπορεί να περάσει με επιτυχία ένα τεστ.
Το πραγματικό ερώτημα είναι πολύ πιο άβολο: Ποιος ελέγχει την ισχύ που αποκτά η Τεχνητή Νοημοσύνη και, κυρίως, ποιος ελέγχει αυτούς που την ελέγχουν;
Διότι η ιστορία της εξουσίας έχει μια απλή συνήθεια. Όταν μια νέα δύναμη εμφανίζεται, αργά ή γρήγορα κάποιος επιχειρεί να την ελέγξει.
Σήμερα, όμως, η νέα δύναμη αναπτύσσεται με τέτοια ταχύτητα, ώστε οι πολιτικοί θεσμοί μοιάζουν να τρέχουν πίσω από την τεχνολογία κρατώντας στο ένα χέρι νομοσχέδια και στο άλλο… σημειώσεις για το τι ακριβώς συνέβη. Και αυτό δεν είναι απλώς τεχνολογικό πρόβλημα. Είναι πρόβλημα δημοκρατίας.
Η μηχανή δε χρειάζεται να επαναστατήσει για να γίνει επικίνδυνη
Η συζήτηση για τους κινδύνους της Τεχνητής Νοημοσύνης συχνά εγκλωβίζεται σε ένα εύκολο σενάριο, κάποια στιγμή οι μηχανές θα γίνουν τόσο έξυπνες ώστε θα στραφούν εναντίον των ανθρώπων. Είναι το σενάριο που βολεύει περισσότερο και την επιστημονική φαντασία και την τηλεόραση. Μόνο που το πραγματικό πρόβλημα είναι πιθανότατα πολύ λιγότερο θεαματικό και πολύ περισσότερο πολιτικό. Η μηχανή δε χρειάζεται να αποκτήσει “κακία”.
Δε χρειάζεται να μισήσει τον άνθρωπο. Δε χρειάζεται να αποφασίσει ότι θέλει να κατακτήσει τον πλανήτη. Αρκεί να αποκτήσει τεράστια ικανότητα να εκτελεί στόχους, ενώ οι άνθρωποι που της δίνουν αυτούς τους στόχους δεν μπορούν πλέον να προβλέψουν όλες τις συνέπειες.
Εκεί αρχίζει το πραγματικό πρόβλημα. Γιατί μια τεχνολογία γίνεται επικίνδυνη όχι μόνο όταν αποκτά δική της βούληση, αλλά και όταν αποκτά τεράστια ισχύ χωρίς αντίστοιχο μηχανισμό λογοδοσίας. Και αυτό είναι ακριβώς το σημείο στο οποίο η συζήτηση για την Τεχνητή Νοημοσύνη συναντά την πολιτική.
Αυτοί που φτιάχνουν τη μηχανή είναι και αυτοί που φοβούνται τη μηχανή
Το παράδοξο είναι ότι οι προειδοποιήσεις δεν προέρχονται μόνο από πολέμιους της τεχνολογίας. Προέρχονται και από ανθρώπους που βρίσκονται στο κέντρο της.
Ο Σαμ Άλτμαν της OpenAI, ο Ντάριο Αμοντέι της Anthropic, ερευνητές της Google DeepMind, στελέχη της Meta, αλλά και ο Έλον Μασκ, από διαφορετικές αφετηρίες και με διαφορετικές επιδιώξεις, έχουν μιλήσει κατά
καιρούς για τους κινδύνους που μπορεί να προκύψουν από την ανάπτυξη όλο και ισχυρότερων συστημάτων. Και εδώ υπάρχει μια αντίφαση που δύσκολα κρύβεται. Οι ίδιοι άνθρωποι και οι ίδιες εταιρείες που προειδοποιούν για τους κινδύνους συμμετέχουν ταυτόχρονα στην πιο σκληρή τεχνολογική κούρσα της εποχής.
Γιατί; Επειδή κανείς δε θέλει να είναι ο μόνος που θα πατήσει φρένο.
Αν μια εταιρεία επιβραδύνει για λόγους ασφάλειας και ο ανταγωνιστής της συνεχίσει, ο πρώτος κινδυνεύει να χάσει την αγορά. Έτσι δημιουργείται ένας μηχανισμός που θυμίζει κούρσα εξοπλισμών. Ο ένας επιταχύνει επειδή φοβάται τον άλλο. Ο άλλος επιταχύνει επειδή φοβάται ότι θα μείνει πίσω. Στο τέλος όλοι γνωρίζουν ότι η ταχύτητα μπορεί να δημιουργεί κινδύνους, αλλά κανείς δε θέλει να είναι εκείνος που θα μειώσει ταχύτητα.
Η αγορά, βλέπετε, δε φημίζεται για την υπομονή της απέναντι στην αυτοσυγκράτηση.
Από το chatbot στον ψηφιακό πράκτορα
Μέχρι πρόσφατα, ο μέσος χρήστης αντιμετώπιζε την Τεχνητή Νοημοσύνη περίπου ως έναν εξαιρετικά γρήγορο συνομιλητή. Ρωτάς. Απαντά. Ζητάς ένα κείμενο. Το γράφει. Θέλεις μια εικόνα. Την παράγει. Η επόμενη γενιά όμως είναι διαφορετική.
Οι λεγόμενοι AI agents μπορούν να εκτελούν σειρά ενεργειών, να χρησιμοποιούν εργαλεία, να αναζητούν δεδομένα, να λαμβάνουν αποφάσεις μέσα σε συγκεκριμένα πλαίσια και να ολοκληρώνουν εργασίες με ολοένα μικρότερη ανθρώπινη παρέμβαση. Εδώ αλλάζει η συζήτηση. Γιατί όσο αυξάνεται η αυτονομία, αυξάνεται και η ανάγκη ελέγχου.
Ποιος δίνει την εντολή; Ποιος καθορίζει τα όρια; Ποιος ελέγχει την απόφαση; Ποιος ευθύνεται όταν κάτι πάει στραβά; Κυρίως, ποιος πατά το κουμπί όταν χρειαστεί να σταματήσει;
Αν η απάντηση σε όλα αυτά είναι «η εταιρεία που δημιούργησε το σύστημα», τότε υπάρχει ήδη ένα πολιτικό πρόβλημα. Γιατί μια ιδιωτική εταιρεία δεν είναι δημοκρατικός θεσμός.
Το καινούργιο μεγάλο κεφάλαιο της εξουσίας
Εδώ ακριβώς βρίσκεται ίσως το μεγαλύτερο ζήτημα. Η Τεχνητή Νοημοσύνη δεν είναι πλέον απλώς προϊόν. Γίνεται υποδομή. Όποιος ελέγχει μια κρίσιμη υποδομή αποκτά δύναμη πολύ μεγαλύτερη από αυτήν που εμφανίζεται στην οθόνη.
OpenAI, Anthropic, Google DeepMind, Meta και άλλοι τεχνολογικοί κολοσσοί ανταγωνίζονται για τα ισχυρότερα μοντέλα, για δεδομένα, για υπολογιστική ισχύ, για εξειδικευμένους επιστήμονες και για τεράστιες υποδομές.
Πίσω από κάθε “έξυπνη” εφαρμογή υπάρχει ένας κόσμος από κέντρα δεδομένων, επεξεργαστές, ηλεκτρική ενέργεια, δίκτυα και επενδύσεις δισεκατομμυρίων.
Αυτό σημαίνει ότι η πραγματική μάχη δεν είναι μόνο για το ποιος θα φτιάξει τον καλύτερο αλγόριθμο. Είναι για το ποιος θα ελέγξει την υποδομή πάνω στην οποία θα στηριχθεί η επόμενη ψηφιακή εποχή.
Κάπου εδώ αρχίζει η πολιτική
Όταν μια τεχνολογία επηρεάζει την εργασία, την ενημέρωση, την οικονομία, την ασφάλεια, την εκπαίδευση, την υγεία, τον στρατό και τις κρατικές υπηρεσίες, δεν μπορεί να αντιμετωπίζεται σαν ένα ακόμη προϊόν της αγοράς.
Γιατί τότε το ερώτημα δεν είναι πλέον αν θα αγοράσουμε ή θα χρησιμοποιήσουμε μια νέα εφαρμογή. Είναι ποιος θα καθορίζει τους κανόνες με τους οποίους θα λειτουργεί μια κοινωνία.
Εδώ η εικόνα αρχίζει να γίνεται άβολη. Οι κυβερνήσεις νομοθετούν αργά ή ως υπόλογες στους μεγάλους πολυεθνικούς ομίλους του χώρου .Οι διεθνείς οργανισμοί συζητούν ακόμη πιο αργά. Οι εταιρείες αναπτύσσουν τεχνολογία με ταχύτητα που συχνά ξεπερνά και τους δύο.
Το αποτέλεσμα είναι ένα κενό. Τα κενά εξουσίας, ως γνωστόν, σπάνια μένουν κενά για πολύ.
Όταν η αυτορρύθμιση γίνεται άλλο όνομα για την ασυδοσία
Ακούγεται συχνά ότι οι εταιρείες μπορούν να αυτορρυθμιστούν. Ότι διαθέτουν τους καλύτερους επιστήμονες. Ότι γνωρίζουν τους κινδύνους. Ότι δεν έχουν κανένα συμφέρον να δημιουργήσουν ένα ανεξέλεγκτο σύστημα. Ίσως. Πολύ ρομαντικό, αλλά στον βωμό του κέρδους και της ισχύος, τόσο μακριά από την αλήθεια. Μόνο που υπάρχει μια μικρή λεπτομέρεια.
Οι ίδιες εταιρείες έχουν και οικονομικό συμφέρον να προχωρούν όσο γρηγορότερα γίνεται και εδώ η αυτορρύθμιση δοκιμάζεται. Γιατί δεν αρκεί να ζητάς από εκείνον που έχει το μεγαλύτερο οικονομικό κίνητρο για να επιταχύνει να αποφασίσει μόνος του πόσο γρήγορα πρέπει να κινηθεί. Στην πολιτική δημοκρατία υπάρχει ένας απλός κανόνας. Όσο μεγαλύτερη η ισχύς, τόσο μεγαλύτερη πρέπει να είναι και η λογοδοσία.
Αν αυτός ο κανόνας δεν εφαρμοστεί στην Τεχνητή Νοημοσύνη, τότε κάποια στιγμή θα ανακαλύψουμε ότι η τεχνολογία προχώρησε πολύ πιο γρήγορα από τους θεσμούς που υποτίθεται ότι την ελέγχουν.
Το παράδειγμα της Ινδίας λέει περισσότερα από χίλιες παρουσιάσεις
Η Τεχνητή Νοημοσύνη παρουσιάζεται συχνά ως κάτι άυλο. Ένας αλγόριθμος. Ένα μοντέλο. Μερικοί servers κάπου στο “cloud”. Όμως το cloud δε βρίσκεται στον ουρανό. Βρίσκεται πάνω στη γη. Χρειάζεται τεράστια κέντρα δεδομένων, ενέργεια, νερό, δίκτυα και εκτάσεις. Η ανάπτυξη υποδομών σε περιοχές της Ινδίας, όπως η Bidadi κοντά στην Μπανγκαλόρ της Καρνατάκα, δείχνει ακριβώς αυτή την πλευρά της νέας τεχνολογικής οικονομίας, το φαινόμενο σύντομα μπορεί να το δούμε και στην Ελλάδα.
Για τις εταιρείες πρόκειται για επενδύσεις, υποδομές, θέσεις εργασίας και ανάπτυξη.
Για τις τοπικές κοινωνίες, όμως, μπορεί να σημαίνει απαλλοτριώσεις, αλλαγές χρήσεων γης, πιέσεις στους φυσικούς πόρους και σύγκρουση με ανθρώπους που βλέπουν τη γη τους να αποκτά ξαφνικά μεγαλύτερη αξία ως οικόπεδο για data center παρά ως αγροτική παραγωγή.
Και κάπως έτσι η μεγάλη ψηφιακή επανάσταση αποκτά ένα πολύ παλιό πρόσωπο. Το πρόσωπο της σύγκρουσης ανάμεσα στο κεφάλαιο και την τοπική κοινωνία.
Μόνο που αυτή τη φορά το εργοστάσιο δεν παράγει αυτοκίνητα ή τσιμέντο. Παράγει… υπολογισμούς.
Η νέα γεωγραφία της ισχύος
Τα κέντρα δεδομένων θα γίνουν για την εποχή της Τεχνητής Νοημοσύνης ό,τι υπήρξαν οι βιομηχανικές εγκαταστάσεις για τον προηγούμενο αιώνα. Και μαζί τους θα έρθουν όλα τα ερωτήματα που συνοδεύουν κάθε μεγάλη συγκέντρωση οικονομικής δραστηριότητας.
Ποιος πληρώνει; Ποιος κερδίζει; Ποιος αποφασίζει; Ποιος προστατεύεται; Ποιος αποζημιώνεται;
Ποιος τελικά μένει απ’ έξω όταν το “μέλλον” φτάνει στην περιοχή του; Αυτές οι ερωτήσεις δεν είναι αντιτεχνολογικές. Είναι απολύτως πολιτικές. Θα γίνουν όλο και πιο έντονες όσο η Τεχνητή Νοημοσύνη χρειάζεται περισσότερη ενέργεια, περισσότερα δεδομένα και περισσότερες υποδομές.
Η νέα συγκέντρωση πλούτου και ισχύος
Υπάρχει και η οικονομική διάσταση. Οι τεράστιες επενδύσεις στην Τεχνητή Νοημοσύνη έχουν δημιουργήσει προσδοκίες για εταιρείες με αποτιμήσεις εκατοντάδων δισεκατομμυρίων, αλλά και για μια νέα εποχή τεχνολογικής ανάπτυξης. Όμως η τεχνολογία έχει ένα ιδιαίτερο χαρακτηριστικό. Όσο καλύτερο γίνεται το σύστημα, τόσο περισσότερους πόρους χρειάζεται.
Και όσο περισσότερους πόρους χρειάζεται, τόσο δυσκολότερο γίνεται για νέους παίκτες να ανταγωνιστούν τους μεγάλους. Έτσι μπορεί να δημιουργηθεί ένας φαύλος κύκλος συγκέντρωσης: περισσότερα κεφάλαια οδηγούν σε περισσότερη υπολογιστική ισχύ.
Περισσότερη υπολογιστική ισχύς οδηγεί σε καλύτερα μοντέλα. Καλύτερα μοντέλα οδηγούν σε περισσότερους χρήστες και περισσότερα έσοδα. Τα περισσότερα έσοδα οδηγούν σε ακόμη μεγαλύτερη υπολογιστική ισχύ. Στο τέλος, η τεχνολογία μπορεί να γίνει ένας μηχανισμός που επιβραβεύει όποιον βρίσκεται ήδη στην κορυφή. Τότε η περίφημη “καινοτομία” κινδυνεύει να μετατραπεί σε μηχανισμό συγκέντρωσης ισχύος.
Ο κίνδυνος δεν είναι μόνο να κυβερνήσουν οι μηχανές
Εδώ χρειάζεται μια διάκριση. Ο μεγαλύτερος κίνδυνος δεν είναι κατ’ ανάγκη ότι κάποια μέρα ένα σύστημα Τεχνητής Νοημοσύνης θα καθίσει σε ένα γραφείο και θα αποφασίσει να κυβερνήσει τον πλανήτη. Πολύ πιθανότερο είναι κάτι πιο ανθρώπινο.
Να χρησιμοποιήσουν άνθρωποι την Τεχνητή Νοημοσύνη για να αποκτήσουν περισσότερη εξουσία πάνω σε άλλους ανθρώπους. Αυτό είναι το σενάριο που θα έπρεπε να μας απασχολεί εξίσου σοβαρά. Μαζική παρακολούθηση. Αυτοματοποιημένη προπαγάνδα.
Χειραγώγηση της πληροφορίας, των επιθυμιών και επιλογών ακόμη και των πολιτικών. Στοχευμένη πολιτική διαφήμιση. Αυτοματοποιημένες αποφάσεις για εργασία, δάνεια, ασφάλιση ή κοινωνικές υπηρεσίες. Εργαλεία που μπορούν να επηρεάσουν τη δημόσια συζήτηση με ταχύτητα που κανένας παραδοσιακός μηχανισμός ενημέρωσης δεν μπορεί να συναγωνιστεί. Δε χρειάζεται να αποκτήσει η μηχανή πολιτική φιλοδοξία.
Αρκεί να την αποκτήσει εκείνος που τη χειρίζεται. Εδώ η συζήτηση γίνεται πραγματικά επικίνδυνη.
Η “Ημέρα της Κρίσης” μπορεί να έρθει χωρίς ούτε ένα ρομπότ στον δρόμο
Αν κάποιος περιμένει την καταστροφή να εμφανιστεί με στρατιές ρομπότ, μπορεί να χάσει το πραγματικό ζήτημα. Η μεγάλη αλλαγή μπορεί να είναι πολύ πιο αθόρυβη.
Να συνηθίσουμε σταδιακά να παραδίδουμε αποφάσεις σε αλγορίθμους. Να θεωρούμε φυσιολογικό ότι μια μηχανή αποφασίζει ποια είδηση θα δούμε. Να δεχόμαστε ότι ένα σύστημα αξιολογεί έναν εργαζόμενο. Να εμπιστευόμαστε έναν αλγόριθμο περισσότερο από έναν άνθρωπο επειδή «ξέρει περισσότερα». Να θεωρούμε αναπόφευκτο ότι οι μεγαλύτερες εταιρείες του κόσμου θα διαχειρίζονται τεχνολογίες που επηρεάζουν ολόκληρες κοινωνίες.
Και κάποια στιγμή να συνειδητοποιήσουμε ότι δε θυμόμαστε πότε ακριβώς παραδώσαμε την απόφαση. Αυτό θα ήταν ίσως το πιο ύπουλο σενάριο. Όχι η εξέγερση της μηχανής. Η παραίτηση του ανθρώπου από το δικαίωμα να αποφασίζει.
Η Δημοκρατία δεν μπορεί να γίνει θεατής της τεχνολογικής κούρσας
Γι’ αυτό η συζήτηση για την Τεχνητή Νοημοσύνη πρέπει να φύγει από τα εργαστήρια και τα Διοικητικά Συμβούλια των εταιρειών και να περάσει στο δημόσιο πεδίο. Χρειάζονται κανόνες. Χρειάζεται διαφάνεια. Χρειάζεται ανεξάρτητος έλεγχος. Χρειάζεται διεθνής συνεργασία. Χρειάζεται σαφής κατανομή ευθύνης. Πάνω απ’ όλα χρειάζεται να γίνει κατανοητό ότι η τεχνολογική ισχύς δεν είναι πολιτικά ουδέτερη. Όποιος ελέγχει τα δεδομένα, την υπολογιστική ισχύ και τα μοντέλα αποκτά επιρροή. Όποιος αποκτά επιρροή χωρίς λογοδοσία βρίσκεται ένα βήμα πριν από την ανεξέλεγκτη εξουσία.
Το τελευταίο όριο δεν είναι τεχνολογικό. Είναι πολιτικό
Η ανθρωπότητα δε χρειάζεται να φοβάται την επιστήμη. Χρειάζεται να φοβάται την επιστήμη χωρίς κανόνες, την οικονομική ισχύ χωρίς λογοδοσία και την τεχνολογία χωρίς δημοκρατικό έλεγχο. Η Τεχνητή Νοημοσύνη μπορεί να γίνει ένα από τα σημαντικότερα εργαλεία προόδου που δημιούργησε ποτέ ο άνθρωπος. Μπορεί όμως να γίνει και εργαλείο πρωτοφανούς συγκέντρωσης ισχύος. Το ποιο από τα δύο θα συμβεί δε θα το αποφασίσει ο αλγόριθμος.
Θα το αποφασίσουν οι άνθρωποι. Κυρίως οι κοινωνίες που θα δεχτούν ή θα αρνηθούν να αφήσουν την τεχνολογία να καθορίσει μόνη της τα όριά της. Εδώ επιστρέφουμε στον Ασίμοφ.
Η επιστήμη μπορεί να συγκεντρώνει γνώση με ταχύτητα που δεν έχει προηγούμενο. Το κρίσιμο είναι αν η κοινωνία θα συγκεντρώσει αρκετή σοφία για να αποφασίσει τι επιτρέπεται να γίνει με αυτή τη γνώση. Γιατί η Τεχνητή Νοημοσύνη δε χρειάζεται να αποκτήσει ανθρώπινη συνείδηση για να γίνει πολιτικό πρόβλημα. Χρειάζεται μόνο να αποκτήσει περισσότερη δύναμη από εκείνη που οι θεσμοί είναι σε θέση να ελέγξουν. Και τότε το ερώτημα θα έχει αλλάξει οριστικά.
Δε θα ρωτάμε πλέον: «Μπορεί η μηχανή να κυβερνήσει τον άνθρωπο;».
Θα πρέπει να ρωτάμε κάτι πολύ πιο δυσάρεστο: «Πόση εξουσία είμαστε διατεθειμένοι να παραδώσουμε σε εκείνους που κρατούν τη μηχανή;». Γιατί η ανεξέλεγκτη Τεχνητή Νοημοσύνη δεν είναι το μόνο πρόβλημα.
Το πραγματικό πρόβλημα είναι η ανεξέλεγκτη εξουσία που μπορεί να αποκτήσει όποιος την κατέχει. Αυτή, σε αντίθεση με τα ρομπότ της επιστημονικής φαντασίας, έχει ήδη ανθρώπινο πρόσωπο εδώ και αιώνες.
