Πώς μπορεί η τεχνητή νοημοσύνη να συμβάλει στη βελτίωση της λειτουργίας της δημόσιας διοίκησης χωρίς να υποκαταστήσει την ανθρώπινη κρίση; Ποιες αποφάσεις μπορούν να υποστηρίζονται από αλγοριθμικά συστήματα και ποιες πρέπει να εξακολουθούν να λαμβάνονται από τους αρμόδιους δημόσιους λειτουργούς; Και πώς διασφαλίζονται η αξιοπιστία των αποτελεσμάτων, η προστασία των πολιτών και η λογοδοσία κατά την ενσωμάτωση εργαλείων τεχνητής νοημοσύνης στις δημόσιες υπηρεσίες;

Τα ερωτήματα αυτά βρέθηκαν στο επίκεντρο της διαδικτυακής εκδήλωσης «Human Government in the Age of AI», η οποία πραγματοποιήθηκε στις 21 Οκτωβρίου 2026, στο πλαίσιο της συντονισμένης σειράς διαδικτυακών σεμιναρίων «Making Innovation Work for Government» της πρωτοβουλίας GovTech4All.

Η πρώτη εκδήλωση της σειράς συγκέντρωσε περισσότερες από 200 εγγραφές από περισσότερες από 25 χώρες, φέρνοντας σε επαφή εκπροσώπους διαφορετικών επιπέδων και τομέων της δημόσιας διοίκησης. Μεταξύ των συμμετεχόντων ήταν στελέχη υπουργείων αρμόδιων για τον ψηφιακό μετασχηματισμό, κεντρικών υπηρεσιών προμηθειών, περιφερειακών αρχών, δημοτικών φορέων, δημόσιων νοσοκομείων και εθνικών οργανισμών υγείας και κοινωνικής ασφάλισης. Στη συζήτηση συμμετείχαν επίσης ακαδημαϊκοί ερευνητές και ιδρυτές νεοφυών επιχειρήσεων στον τομέα GovTech, διαμορφώνοντας ένα πεδίο ανταλλαγής απόψεων μεταξύ εκπροσώπων της δημόσιας διοίκησης και της τεχνολογικής καινοτομίας.

Στη συζήτηση συμμετείχαν η Shirin Abrishami Kashani, συνιδρύτρια και διευθύνουσα σύμβουλος της Prior Foundry, υποψήφια διδάκτορας στο Πανεπιστήμιο Stanford και πρώην αναλύτρια πολιτικής στον Οργανισμό Οικονομικής Συνεργασίας και Ανάπτυξης (ΟΟΣΑ), και ο Alessandro Paciaroni, ειδικός στην καινοτομία του δημόσιου τομέα και την ψηφιακή διακυβέρνηση στο Συμβούλιο της Λισαβόνας . Τον συντονισμό είχε η Sofía Silva Carballido, υπεύθυνη ανάπτυξης και ειδική σε θέματα GovTech στο Gobe Studio, καθώς και επικεφαλής επικοινωνίας και διάδοσης της κοινοπραξίας GovTech4All.

Η εκδήλωση περιλάμβανε συζήτηση διάρκειας 40 λεπτών, διαδραστική συμμετοχή του κοινού μέσω της πλατφόρμας Mentimeter και ζωντανή ενότητα ερωτήσεων και απαντήσεων.

Η τεχνητή νοημοσύνη ως εργαλείο υποστήριξης της διοικητικής απόφασης

Η συζήτηση ξεκίνησε από την παραδοχή ότι η τεχνητή νοημοσύνη διαδραματίζει πλέον ουσιαστικό ρόλο στο μέλλον της ψηφιακής δημόσιας διοίκησης. Το κρίσιμο ερώτημα για τους δημόσιους οργανισμούς δεν είναι μόνο αν θα αξιοποιήσουν τις νέες δυνατότητες, αλλά κυρίως σε ποιες εργασίες, υπό ποιες προϋποθέσεις και με ποια όρια.

Η συντονίστρια Sofía Silva Carballido επισήμανε εξαρχής ότι οι δημόσιες διοικήσεις δεν πρέπει να εκχωρούν στους αλγορίθμους την ευθύνη λήψης της τελικής απόφασης. Όπως ανέφερε, η τεχνητή νοημοσύνη μπορεί να υποστηρίζει τη διαδικασία λήψης αποφάσεων, παρέχοντας πρόσθετα δεδομένα και αναλύσεις, αλλά η τελική επιλογή και η στάθμιση των εναλλακτικών λύσεων πρέπει να παραμένουν στην ανθρώπινη κρίση.

Τη διάκριση αυτή ανέπτυξε η Shirin Abrishami Kashani, εξηγώντας ότι η τεχνητή νοημοσύνη είναι ιδιαίτερα αποτελεσματική στην επεξεργασία σύνθετων εμπειρικών ερωτημάτων. Μπορεί να συνδυάζει μεγάλο αριθμό μεταβλητών και να εξάγει συμπεράσματα για τα οποία ένας άνθρωπος θα χρειαζόταν πολύ περισσότερο χρόνο και περισσότερους πόρους.

Ωστόσο, η δυνατότητα επεξεργασίας δεδομένων δεν ισοδυναμεί με την ικανότητα λήψης αξιολογικών ή πολιτικών αποφάσεων. Για παράδειγμα, ένα σύστημα μπορεί να υπολογίσει ποια συγκοινωνιακή παρέμβαση θα εξυπηρετήσει τον μεγαλύτερο αριθμό επιβατών. Δεν μπορεί, όμως, να αποφασίσει αν η δημόσια διοίκηση πρέπει να δώσει προτεραιότητα στην αύξηση της συνολικής επιβατικής κίνησης ή στη βελτίωση της πρόσβασης των κοινωνικά ευάλωτων κοινοτήτων στις μεταφορές. Η επιλογή αυτή προϋποθέτει στάθμιση κοινωνικών αναγκών και διαφορετικών προτεραιοτήτων, η οποία δεν μπορεί να ανατεθεί σε έναν αλγόριθμο.

Η διάκριση αυτή αποτυπώθηκε και στις απαντήσεις των συμμετεχόντων μέσω της πλατφόρμας Mentimeter. Οι συμμετέχοντες έκριναν ότι η τεχνητή νοημοσύνη είναι κατάλληλη για εργασίες όπως η σύνοψη εκθέσεων αξιολόγησης και η απάντηση σε συνήθη ερωτήματα πολιτών. Αντίθετα, υπογράμμισαν ότι αποφάσεις όπως η εξέταση της επιλεξιμότητας πολιτών για τη χορήγηση κοινωνικών παροχών πρέπει να λαμβάνονται με ουσιαστική ανθρώπινη συμμετοχή.

Ο ρόλος των δημοσίων υπαλλήλων και ο κίνδυνος απώλειας δεξιοτήτων

Ένα ακόμη ζήτημα που απασχόλησε τους συμμετέχοντες ήταν κατά πόσο η αυξανόμενη χρήση της τεχνητής νοημοσύνης μπορεί να περιορίσει τον ρόλο των δημοσίων υπαλλήλων ή να οδηγήσει στην απώλεια βασικών δεξιοτήτων τους.

Η Shirin Abrishami Kashani απάντησε στον προβληματισμό αυτό παρομοιάζοντας τη χρήση της τεχνητής νοημοσύνης με εκείνη της αριθμομηχανής. Η τεχνολογία μπορεί να απαλλάξει τους δημοσίους υπαλλήλους από την ανάγκη να εκτελούν χειροκίνητα υπολογισμούς και χρονοβόρες αναλύσεις, δεν καταργεί όμως την υποχρέωσή τους να κατανοούν τα αποτελέσματα, να αξιολογούν την ορθότητά τους και να εντοπίζουν πιθανές μεροληψίες.

Επομένως, οι δημόσιοι υπάλληλοι δεν χρειάζεται να εκτελούν οι ίδιοι κάθε υπολογισμό ή επεξεργασία δεδομένων. Πρέπει, ωστόσο, να διατηρούν την αναλυτική ικανότητα που τους επιτρέπει να ερμηνεύουν τα αποτελέσματα και να αμφισβητούν τις προτάσεις των συστημάτων τεχνητής νοημοσύνης.

Η τεχνητή νοημοσύνη μπορεί να ενισχύσει την παραγωγικότητα και την ποιότητα του έργου της δημόσιας διοίκησης, εφόσον χρησιμοποιείται ως εργαλείο υποστήριξης και όχι ως υποκατάστατο της επαγγελματικής κρίσης των εργαζομένων.

Όπως επισήμανε η ομιλήτρια, τα συστήματα τεχνητής νοημοσύνης πρέπει να ενισχύουν την τεκμηρίωση στην οποία βασίζονται όσοι λαμβάνουν αποφάσεις, χωρίς να υποκαθιστούν τη θεμελιώδη δημοκρατική κρίση κατά τον καθορισμό των προτεραιοτήτων της διοίκησης και την κατανομή των δημόσιων πόρων.

Αλγοριθμικές μεροληψίες: Από τα τεχνολογικά σφάλματα στις κοινωνικές προκαταλήψεις

Η συζήτηση στράφηκε στη συνέχεια στο ζήτημα των αλγοριθμικών μεροληψιών και στην αντίληψη ότι τα υπολογιστικά συστήματα, επειδή λειτουργούν βάσει κώδικα και συγκεκριμένων κανόνων, είναι απαλλαγμένα από προκαταλήψεις.

Ο Alessandro Paciaroni επισήμανε ότι πίσω από κάθε σύστημα βρίσκονται ανθρώπινες επιλογές: ο τρόπος λειτουργίας του, τα δεδομένα που χρησιμοποιούνται και τα κριτήρια βάσει των οποίων αξιολογούνται τα αποτελέσματα. Επομένως, ανθρώπινες προκαταλήψεις μπορούν να ενσωματωθούν τόσο στον σχεδιασμό όσο και στη χρήση συστημάτων τεχνητής νοημοσύνης.

Για να αναδείξει τους σχετικούς κινδύνους, αναφέρθηκε σε τρεις χαρακτηριστικές περιπτώσεις:

  • Το σύστημα VioGén στην Ισπανία, το οποίο χρησιμοποιείται για την αξιολόγηση του κινδύνου σε περιστατικά έμφυλης βίας και έχει επικριθεί για την υποεκτίμηση του κινδύνου σε ορισμένες περιπτώσεις, με τραγικές συνέπειες για γυναίκες και παιδιά.
  • Το σύστημα COMPAS στις Ηνωμένες Πολιτείες, το οποίο χρησιμοποιείται για την εκτίμηση του κινδύνου υποτροπής στο πλαίσιο της ποινικής δικαιοσύνης και έχει βρεθεί στο επίκεντρο καταγγελιών για φυλετικές μεροληψίες στις αξιολογήσεις του.
  • Το σκάνδαλο των επιδομάτων παιδικής φροντίδας στην Ολλανδία, στο οποίο χιλιάδες οικογένειες υπέστησαν σοβαρές συνέπειες εξαιτίας άδικων διαδικασιών ελέγχου, στις οποίες χρησιμοποιήθηκαν και αυτοματοποιημένα συστήματα αξιολόγησης κινδύνου.

Οι περιπτώσεις αυτές ανέδειξαν ότι τα προβλήματα που συνδέονται με τη χρήση αλγοριθμικών συστημάτων δεν περιορίζονται στην τεχνική τους λειτουργία. Οι εσφαλμένες αξιολογήσεις μπορούν να έχουν ιδιαίτερα σοβαρές συνέπειες, ιδίως για ευάλωτες κοινωνικές ομάδες.

Ο Alessandro Paciaroni επισήμανε, παράλληλα, ότι η τεχνητή νοημοσύνη μπορεί να συμβάλει στην αποκάλυψη κοινωνικών προκαταλήψεων που προϋπήρχαν, αλλά δεν είχαν αναδειχθεί με την ίδια σαφήνεια. Με αυτόν τον τρόπο, η τεχνολογία μπορεί να οδηγήσει τις δημόσιες διοικήσεις και την κοινωνία στην επανεξέταση πρακτικών και αντιλήψεων που μέχρι τότε παρέμεναν λιγότερο ορατές.

Το ζήτημα επανήλθε κατά την ενότητα των ερωτήσεων και απαντήσεων, με αφορμή την περίπτωση του VioGén. Τέθηκε ειδικότερα το ερώτημα αν οι αστοχίες του συστήματος συνδέονταν με την ποιότητα των δεδομένων ή με την ανεπαρκή κατανόηση των σχετικών κινδύνων. Ο Alessandro Paciaroni υποστήριξε ότι, κατά τη δοκιμή του, το σύστημα εκτελούσε επιτυχώς τη λειτουργία για την οποία είχε σχεδιαστεί. Το πρόβλημα, όπως εξήγησε, εντοπιζόταν στο ευρύτερο ανθρώπινο και κοινωνικό πλαίσιο μέσα στο οποίο αξιολογούνταν τα περιστατικά έμφυλης βίας, καθώς και στις προκαταλήψεις σχετικά με το ποια πρόσωπα θεωρούνται αξιόπιστα.

Η επισήμανση αυτή ανέδειξε τη σημασία της προσέγγισης της «δικαιοσύνης στον σχεδιασμό» (design justice). Οι δημόσιοι φορείς καλούνται να εξετάζουν εξαρχής ποιες ομάδες πολιτών λαμβάνονται υπόψη κατά τον σχεδιασμό μιας υπηρεσίας, ποιες ενδέχεται να αποκλείονται και ποιες επιπτώσεις μπορεί να έχει η χρήση ενός αλγοριθμικού συστήματος σε διαφορετικές κοινωνικές ομάδες.

Ανθρώπινη εποπτεία: Από τη θεωρητική αρχή στην εφαρμογή

Ένα από τα σημαντικότερα ζητήματα για τις δημόσιες διοικήσεις είναι ο τρόπος με τον οποίο μπορεί να διασφαλιστεί η ουσιαστική ανθρώπινη εποπτεία των συστημάτων τεχνητής νοημοσύνης, μια αρχή που είναι διεθνώς γνωστή ως «human in the loop».

Στην ψηφοφορία μέσω της πλατφόρμας Mentimeter, οι συμμετέχοντες κλήθηκαν να περιγράψουν την έννοια με μία λέξη. Στις απαντήσεις που κυριάρχησαν περιλαμβάνονταν η λογοδοσία, η ευθύνη, η δυνατότητα παρέμβασης και η εποπτεία. Ωστόσο, όταν ρωτήθηκαν ποιες πρακτικές εφαρμόζονται στους οργανισμούς τους, πολλοί ανέφεραν ότι δεν έχει ακόμη προσδιοριστεί με σαφήνεια ο ανθρώπινος ρόλος στις διαδικασίες αξιοποίησης της τεχνητής νοημοσύνης.

Η απόσταση ανάμεσα στην αναγνώριση της ανάγκης για ανθρώπινη εποπτεία και στην εφαρμογή της στην πράξη ανέδειξε ένα σημαντικό κενό στην οργανωτική προετοιμασία των δημόσιων φορέων.

Οι συμμετέχοντες επισήμαναν επίσης ότι η εμπιστοσύνη στα συστήματα τεχνητής νοημοσύνης πρέπει να βασίζεται πρωτίστως στην ακρίβεια των αποτελεσμάτων και στη διενέργεια ανεξάρτητων ελέγχων, όχι απλώς στην υπόσχεση εξοικονόμησης κόστους.

Η Shirin Abrishami Kashani υπογράμμισε ότι η αξιολόγηση ενός συστήματος πριν από την εισαγωγή του στη δημόσια διοίκηση δεν μπορεί να περιορίζεται σε δοκιμές σε ελεγχόμενο τεχνικό περιβάλλον. Απαιτείται και ένα δεύτερο επίπεδο αξιολόγησης, το οποίο εξετάζει πώς λειτουργεί στην πράξη ο συνδυασμός ανθρώπινης παρέμβασης και τεχνητής νοημοσύνης.

Ειδικότερα, πρέπει να εξετάζεται πώς χρησιμοποιούν οι δημόσιοι υπάλληλοι το σύστημα, αν αξιολογούν κριτικά τις προτάσεις του και αν διατηρούν τη δυνατότητα να αμφισβητούν τα αποτελέσματά του. Υπάρχει ο κίνδυνος οι εργαζόμενοι να αποδέχονται τις υποδείξεις ενός συστήματος χωρίς επαρκή έλεγχο, απλώς και μόνο επειδή θεωρούν ότι η τεχνολογία είναι ακριβέστερη ή πιο αξιόπιστη.

Η ομιλήτρια τόνισε ότι η πρόβλεψη ανθρώπινης εποπτείας κατά τον σχεδιασμό ενός συστήματος δεν εγγυάται ότι οι αρμόδιοι θα ασκούν πράγματι τον έλεγχο κατά την καθημερινή χρήση του. Οι δημόσιες διοικήσεις πρέπει, συνεπώς, να αξιολογούν αν οι μηχανισμοί ανθρώπινης παρέμβασης λειτουργούν αποτελεσματικά στην πράξη.

Ψηφιακή κυριαρχία και έλεγχος των υποδομών τεχνητής νοημοσύνης

Το ζήτημα της ψηφιακής κυριαρχίας αποτέλεσε ένα ακόμη θέμα της συζήτησης, με επίκεντρο τον έλεγχο των υποδομών και των δεδομένων που αξιοποιούν οι δημόσιες διοικήσεις.

Κατά την ενότητα των ερωτήσεων και απαντήσεων, τέθηκε το ερώτημα πώς μπορούν οι κυβερνήσεις να αναπτύξουν υποδομές τεχνητής νοημοσύνης που βρίσκονται υπό τον δικό τους έλεγχο, αντί να διοχετεύουν δεδομένα των δημόσιων υπηρεσιών σε μεγάλα μοντέλα τεχνητής νοημοσύνης που αναπτύσσονται και λειτουργούν από τεχνολογικούς παρόχους του εξωτερικού.

Ο Alessandro Paciaroni υποστήριξε ότι η γεωγραφική προέλευση ενός τεχνολογικού παρόχου δεν αρκεί από μόνη της για να διασφαλίσει την ψηφιακή κυριαρχία. Όπως επισήμανε, μια μεγάλη ευρωπαϊκή τεχνολογική εταιρεία μπορεί να συγκεντρώνει ισχύ αντίστοιχη με εκείνη μιας εταιρείας εκτός Ευρώπης, αποκτώντας σημαντική επιρροή στις υποδομές και στις υπηρεσίες που χρησιμοποιούν οι δημόσιοι οργανισμοί.

Επομένως, το ζήτημα δεν περιορίζεται στην επιλογή ευρωπαϊκών ή μη ευρωπαϊκών παρόχων. Μεγαλύτερη σημασία έχουν η προστασία της ιδιωτικότητας μέσω κατάλληλων τεχνικών, η δυνατότητα ελέγχου των συστημάτων, καθώς και η ύπαρξη σαφών μηχανισμών ανθρώπινης εποπτείας και λογοδοσίας.

Η προσέγγιση αυτή συνδέεται με την επισήμανση της Shirin Abrishami Kashani ότι οι δημόσιες διοικήσεις πρέπει να εξετάζουν όχι μόνο αν ένα σύστημα διαθέτει τεχνικές δυνατότητες ανθρώπινης παρέμβασης, αλλά και αν οι αρμόδιοι υπάλληλοι αξιοποιούν πράγματι αυτές τις δυνατότητες κατά τη λειτουργία του.

Η καινοτομία στη δημόσια διοίκηση παραμένει υπόθεση ανθρώπινης ευθύνης

Η εκδήλωση «Human Government in the Age of AI» ανέδειξε τις προκλήσεις που συνοδεύουν την ενσωμάτωση της τεχνητής νοημοσύνης στη δημόσια διοίκηση. Η αξιοποίηση των νέων εργαλείων μπορεί να υποστηρίξει το έργο των δημοσίων υπαλλήλων, να επιταχύνει την επεξεργασία πληροφοριών και να συμβάλει στη βελτίωση των δημόσιων υπηρεσιών. Προϋποθέτει, ωστόσο, σαφή καθορισμό των αρμοδιοτήτων, κατάλληλες δεξιότητες, αξιόπιστες διαδικασίες αξιολόγησης και ουσιαστικούς μηχανισμούς ανθρώπινης εποπτείας.

Το βασικό ζητούμενο για τους δημόσιους οργανισμούς είναι να διασφαλίσουν ότι η τεχνολογία ενισχύει την ικανότητά τους να εξυπηρετούν τους πολίτες, χωρίς να υποκαθιστά την ανθρώπινη κρίση ή να αποδυναμώνει τη λογοδοσία. Η ακρίβεια των συστημάτων, η προστασία των δεδομένων και η τεχνική αξιοπιστία τους αποτελούν απαραίτητες προϋποθέσεις, αλλά δεν αρκούν χωρίς την ενεργό συμμετοχή των ανθρώπων που είναι υπεύθυνοι για τη λειτουργία των υπηρεσιών και τη λήψη αποφάσεων.

Όπως χαρακτηριστικά σημείωσε ο Alessandro Paciaroni, όταν οι δημόσιες υπηρεσίες σχεδιάζονται με επίκεντρο τον άνθρωπο, η πιο ανθρωποκεντρική υπηρεσία παραμένει ένας άνθρωπος.

Πηγή: https://interoperable-europe.ec.europa.eu/collection/eugovtech/news/human-government-age-ai