Η AI στην εποχή της λογοδοσίας: Τι αποκαλύπτει η νέα έρευνα της διαΝΕΟσις

Η Τεχνητή Νοημοσύνη εξελίσσεται με πρωτοφανείς ρυθμούς και επηρεάζει πλέον σχεδόν κάθε πτυχή της κοινωνικής και οικονομικής ζωής, από την εργασία και τη δημόσια διοίκηση έως τη Δικαιοσύνη, την ενημέρωση και τη δημοκρατία. Η νέα μελέτη της διαΝΕΟσις, με τίτλο «Πώς μπορεί η Τεχνητή Νοημοσύνη να είναι ηθική και σύννομη;», επιχειρεί να απαντήσει στο κρίσιμο ερώτημα των όρων υπό τους οποίους η AI μπορεί να υπηρετήσει το δημόσιο συμφέρον, χωρίς να υπονομεύει τα δικαιώματα των πολιτών.

Η έρευνα υπογραμμίζει ότι οι μεγαλύτεροι κίνδυνοι δεν προκύπτουν από την ίδια την τεχνολογία, αλλά από τον τρόπο με τον οποίο σχεδιάζεται, εκπαιδεύεται και χρησιμοποιείται. Οι συγγραφείς διακρίνουν τρεις βασικές κατηγορίες κινδύνων: την καταχρηστική χρήση που πλήττει δικαιώματα και το δημόσιο συμφέρον, τα ατυχήματα ή τις απρόβλεπτες αστοχίες των συστημάτων και, μακροπρόθεσμα, την πιθανότητα απώλειας ανθρώπινου ελέγχου σε κρίσιμες λειτουργίες.

Ιδιαίτερη έμφαση δίνεται στην ανάγκη η ηθική να συνοδεύεται από δεσμευτικούς κανόνες. Όπως επισημαίνεται, οι αρχές της διαφάνειας, της δικαιοσύνης και της λογοδοσίας δεν αρκούν από μόνες τους, εάν δεν συνοδεύονται από αποτελεσματικούς μηχανισμούς εποπτείας, κυρώσεων και προστασίας των πολιτών. Σε αυτό το πλαίσιο, κομβικό ρόλο διαδραματίζει ο ευρωπαϊκός Κανονισμός AI Act, ο οποίος εφαρμόζεται σταδιακά και εισέρχεται από τον Αύγουστο του 2026 στην πιο ουσιαστική φάση εφαρμογής του, με αυστηρότερες υποχρεώσεις για τα συστήματα υψηλού κινδύνου.

Η μελέτη προειδοποιεί επίσης για τις επιπτώσεις της AI στη δημοκρατία και την ενημέρωση. Η διάδοση των deepfakes, η αλγοριθμική ενίσχυση πολιτικού περιεχομένου, η μικροστόχευση ψηφοφόρων και η παραγωγή παραπλανητικού περιεχομένου με χαμηλό κόστος δημιουργούν νέες προκλήσεις για την ποιότητα της δημόσιας σφαίρας, καθιστώντας αναγκαίο τον συνδυασμό νομικής ρύθμισης, θεσμικής εποπτείας και ψηφιακού γραμματισμού.

Αντίστοιχα, η χρήση εφαρμογών AI στη Δικαιοσύνη και στη δημόσια διοίκηση απαιτεί ιδιαίτερη προσοχή, καθώς οι αυτοματοποιημένες αποφάσεις ενδέχεται να ενσωματώνουν προκαταλήψεις ή να περιορίζουν θεμελιώδη δικαιώματα. Για τον λόγο αυτό, η διαΝΕΟσις καταλήγει ότι η ανάπτυξη της Τεχνητής Νοημοσύνης δεν μπορεί να αποτελεί αποκλειστικά τεχνολογικό ζήτημα, αλλά οφείλει να στηρίζεται σε ένα ισχυρό θεσμικό πλαίσιο που θα διασφαλίζει την ανθρώπινη εποπτεία, τη διαφάνεια και την εμπιστοσύνη των πολιτών.

Εδώ όλη η μελέτη