Η πειστικότητα δεν είναι απόδειξη αλήθειας
Η Τεχνητή Νοημοσύνη έχει μπει στην καθημερινή ζωή με έναν τρόπο που δημιουργεί ενθουσιασμό, αλλά και σοβαρές παρανοήσεις. Τα σύγχρονα γλωσσικά μοντέλα γράφουν καθαρά, απαντούν γρήγορα, προσαρμόζουν το ύφος τους και συχνά δίνουν την εντύπωση ότι «καταλαβαίνουν» όσα τους ζητάμε. Όμως η ευχέρεια στη διατύπωση δεν ισοδυναμεί με γνώση. Ένα κείμενο μπορεί να είναι καλογραμμένο, πειστικό και οργανωμένο, αλλά να περιέχει λάθη, ανύπαρκτες παραπομπές ή επικίνδυνες συμβουλές.
Με μια φωτογραφία, ένα εργαλείο παραγωγής εικόνας και ένα ψεύτικο μήνυμα, μπορεί να δημιουργηθεί μια απολύτως αληθοφανής απάτη. Ένας γονιός μπορεί να δει το παιδί του σε νοσοκομειακό κρεβάτι, ένας πολίτης μπορεί να λάβει δήθεν επίσημη ειδοποίηση, ένας εργαζόμενος μπορεί να παραπλανηθεί από πλαστό ηχητικό μήνυμα. Η αλήθεια δεν καταρρέει επειδή η τεχνολογία έγινε «κακή». Καταρρέει επειδή η αληθοφάνεια έγινε φθηνή, γρήγορη και μαζικά διαθέσιμη.
Τα γλωσσικά μοντέλα δεν σκέφτονται όπως οι άνθρωποι
Τα μεγάλα γλωσσικά μοντέλα δεν είναι μηχανές αλήθειας. Δεν έχουν συνείδηση, εμπειρία, κρίση ή προσωπική ευθύνη. Στην πιο απλή περιγραφή, μαθαίνουν στατιστικά μοτίβα από τεράστιες ποσότητες κειμένου και προβλέπουν ποια λέξη ή φράση είναι πιθανό να ακολουθεί. Αυτό τα κάνει εντυπωσιακά χρήσιμα για περίληψη, αναδιατύπωση, ταξινόμηση, αναζήτηση ιδεών και υποβοήθηση εργασιών. Δεν τα κάνει, όμως, αξιόπιστους μάρτυρες της πραγματικότητας.
Οι λεγόμενες «ψευδαισθήσεις» της ΤΝ είναι ακριβώς αυτό: απαντήσεις που φαίνονται σωστές, αλλά δεν στηρίζονται σε πραγματικά δεδομένα. Ένα μοντέλο μπορεί να επινοήσει βιβλιογραφικές αναφορές, νομικές υποθέσεις, στατιστικά στοιχεία ή δηλώσεις δημοσίων προσώπων. Το επικίνδυνο δεν είναι μόνο ότι κάνει λάθος. Είναι ότι συχνά κάνει λάθος με αυτοπεποίθηση. Δεν κοκκινίζει, δεν διστάζει και δεν νιώθει την ανάγκη να πει «δεν ξέρω», εκτός αν έχει σχεδιαστεί και ελεγχθεί ώστε να το κάνει.
Το πρόβλημα της ιδιωτικότητας
Υπάρχει και μια δεύτερη, εξίσου κρίσιμη πλευρά. Οι χρήστες συχνά μοιράζονται με εργαλεία ΤΝ στοιχεία που δεν θα έδιναν εύκολα σε έναν άγνωστο: διευθύνσεις, τηλέφωνα, σχολεία, ιατρικά προβλήματα, εργασιακές δυσκολίες, οικογενειακές εντάσεις, ακόμη και ψυχολογική πίεση. Όταν μια υπηρεσία λειτουργεί σε κλειστή υποδομή τρίτης εταιρείας, ο χρήστης δεν γνωρίζει πάντα πού αποθηκεύονται τα δεδομένα, για πόσο χρόνο, ποιος έχει πρόσβαση, αν χρησιμοποιούνται για βελτίωση συστημάτων ή αν μπορούν να εκτεθούν από τεχνικό σφάλμα.
Για την προστασία της ιδιωτικότητας δεν αρκεί η ατομική προσοχή. Χρειάζονται κανόνες, τεχνικές εγγυήσεις και δημόσιες υποδομές. Ειδικά σε σχολεία, πανεπιστήμια, δήμους, νοσοκομεία και δημόσιες υπηρεσίες, η χρήση ΤΝ δεν μπορεί να βασίζεται στην άκριτη αποστολή προσωπικών ή ευαίσθητων δεδομένων σε απομακρυσμένες πλατφόρμες. Η αρχή πρέπει να είναι απλή: όσα δεδομένα δεν χρειάζεται να φύγουν από τον οργανισμό, δεν φεύγουν.
Γιατί τα τοπικά ανοιχτά μοντέλα είναι μέρος της λύσης
Τα τοπικά μοντέλα ΤΝ ανοιχτού λογισμικού δεν εξαφανίζουν τα λάθη. Μπορούν όμως να κάνουν τη χρήση της ΤΝ πιο ελέγξιμη, πιο ασφαλή και πιο οικονομική. Όταν ένα μοντέλο λειτουργεί τοπικά, σε υπολογιστή, μικρό εξυπηρετητή, δημοτικό κόμβο ή δημόσια ελεγχόμενη υποδομή, τα δεδομένα μπορούν να παραμένουν εντός του φορέα. Αυτό μειώνει την έκθεση προσωπικών πληροφοριών και επιτρέπει καλύτερο έλεγχο πρόσβασης, καταγραφή ενεργειών και συμμόρφωση με τον GDPR.
Η ανοιχτότητα είναι επίσης κρίσιμη. Μοντέλα με ανοιχτά βάρη, ανοιχτό κώδικα ή πλήρη τεκμηρίωση μπορούν να ελεγχθούν, να συγκριθούν, να προσαρμοστούν και να βελτιωθούν από πανεπιστήμια, ερευνητικά κέντρα, κοινότητες ανοιχτού λογισμικού και μικρές επιχειρήσεις. Αντί ο δημόσιος τομέας να νοικιάζει διαρκώς κλειστές υπηρεσίες, μπορεί να χτίζει τεχνογνωσία, επαναχρησιμοποιήσιμο κώδικα και δημόσια ψηφιακή περιουσία.
Το χαμηλό κόστος δεν σημαίνει χαμηλή ποιότητα. Για πολλές δημόσιες και εκπαιδευτικές χρήσεις δεν χρειάζονται τεράστια μοντέλα. Ένα μικρό ή μεσαίο μοντέλο, σωστά ρυθμισμένο, μπορεί να κάνει περίληψη εγγράφων, ταξινόμηση αιτημάτων, γλωσσική υποστήριξη, προσχέδια απαντήσεων, ανωνυμοποίηση κειμένων και αναζήτηση μέσα σε θεσμικές πηγές. Με τεχνικές συμπίεσης και εκτέλεσης σε απλό υλικό, τέτοιες λύσεις μπορούν να λειτουργούν με πολύ μικρότερη κατανάλωση ενέργειας από τη συνεχή χρήση μεγάλων απομακρυσμένων μοντέλων γενικού σκοπού.
Η ΤΝ πρέπει να απαντά με πηγές, όχι μόνο από «μνήμη»
Η πιο σημαντική τεχνική βελτίωση είναι η σύνδεση των τοπικών μοντέλων με αξιόπιστες πηγές. Για παράδειγμα, ένα σύστημα που υποστηρίζει πολίτες δεν πρέπει να απαντά για επιδόματα, άδειες, φόρους ή δικαιώματα από τη γενική «μνήμη» του μοντέλου. Πρέπει να αναζητά την απάντηση σε επίσημα κείμενα, νόμους, εγκυκλίους, αποφάσεις, οδηγίες υπηρεσιών και ενημερωμένες βάσεις γνώσης. Έτσι η ΤΝ δεν λειτουργεί ως αυθαίρετος γνώστης, αλλά ως βοηθός αναζήτησης και σύνθεσης.
Αυτό απαιτεί συγκεκριμένες προδιαγραφές: τεκμηριωμένες πηγές για κάθε απάντηση, καταγραφή των ερωτημάτων, αξιολόγηση σφαλμάτων, ανθρώπινη εποπτεία, δυνατότητα διόρθωσης και σαφή προειδοποίηση όταν η απάντηση δεν είναι βέβαιη. Στην εκπαίδευση, στα ΚΕΠ, στους δήμους και στα νοσοκομεία, η ΤΝ πρέπει να είναι βοηθός του ανθρώπου, όχι αντικαταστάτης της κρίσης και της ευθύνης.
Ψηφιακή παιδεία και δημόσια υποδομή
Η απάντηση στους κινδύνους της ΤΝ δεν είναι ούτε πανικός ούτε άκριτος ενθουσιασμός. Είναι ψηφιακή παιδεία, ανοιχτή τεχνολογία και δημοκρατικός έλεγχος. Οι πολίτες πρέπει να μάθουν να ελέγχουν πηγές, να μην κοινοποιούν ευαίσθητα στοιχεία, να αντιμετωπίζουν την ΤΝ ως αφετηρία εργασίας και όχι ως τελικό κριτή της αλήθειας. Τα σχολεία και τα πανεπιστήμια πρέπει να διδάσκουν πώς ελέγχουμε μια απάντηση, πώς αναγνωρίζουμε την παραπλάνηση και πώς προστατεύουμε τα προσωπικά δεδομένα.
Ταυτόχρονα, η χώρα χρειάζεται δημόσιες, χαμηλού κόστους, ανοιχτές υποδομές ΤΝ. Τοπικά μοντέλα, ελληνικά σύνολα δεδομένων, ανοιχτές άδειες, διαφανείς προμήθειες, ενεργειακά αποδοτική λειτουργία και ανθρώπινη εποπτεία μπορούν να κάνουν την ΤΝ χρήσιμη χωρίς να παραδώσουν την ιδιωτικότητα, τη γνώση και τη δημόσια διοίκηση σε κλειστά συστήματα. Η Τεχνητή Νοημοσύνη δε θα λέει πάντα την αλήθεια. Μπορούμε όμως να σχεδιάσουμε θεσμούς και τεχνολογίες που μειώνουν τα λάθη, προστατεύουν τους πολίτες και κρατούν τον άνθρωπο υπεύθυνο για τις αποφάσεις.
Πηγές άρθρου:
Εφημερίδα των Συντακτών, «Γιατί η Τεχνητή Νοημοσύνη δε λέει πάντα την αλήθεια»: Το αρχικό ρεπορτάζ παρουσιάζει τα παραδείγματα από την ημερίδα κυβερνοασφάλειας στη Βέροια και εξηγεί τους βασικούς κινδύνους από ψευδείς απαντήσεις, διαρροή προσωπικών δεδομένων και κακόβουλη χρήση εργαλείων ΤΝ: https://www.efsyn.gr/epistimi/1402711/giati-i-tehniti-noimosyni-den-leei-panta-tin-alitheia-oi-treis-megalyteroi-kindynoi-me-ena-trantahto-paradeigma/
OpenAI, “March 20 ChatGPT outage: Here’s what happened”: Η επίσημη τεχνική αναφορά τεκμηριώνει περιστατικό κατά το οποίο σφάλμα σε βιβλιοθήκη ανοιχτού κώδικα επέτρεψε σε χρήστες να δουν τίτλους συνομιλιών άλλων χρηστών, αναδεικνύοντας τη σημασία της προστασίας δεδομένων και της προσεκτικής διακυβέρνησης συστημάτων ΤΝ: https://openai.com/index/march-20-chatgpt-outage/,
Mistral AI, Mistral 7B: Η Mistral AI αποτελεί σημαντικό ευρωπαϊκό παράδειγμα ανάπτυξης ισχυρών μοντέλων ανοιχτών βαρών με άδεια Apache 2.0, κατάλληλων για τοπική εγκατάσταση, πειραματισμό και εφαρμογές χαμηλότερου υπολογιστικού κόστους: https://mistral.ai/news/announcing-mistral-7b/,
Allen Institute for AI, OLMo: Το OLMo είναι από τα σημαντικότερα παραδείγματα πλήρως ανοιχτής προσέγγισης σε γλωσσικά μοντέλα, με έμφαση στη διαφάνεια του μοντέλου, των δεδομένων και της διαδικασίας ανάπτυξης, χρήσιμο ως πρότυπο για δημόσια ελέγξιμη ΤΝ: https://allenai.org/olmo,
Hugging Face, SmolLM2: Η οικογένεια SmolLM2 τεκμηριώνει ότι μικρά γλωσσικά μοντέλα, όπως οι εκδόσεις 135M, 360M και 1.7B παραμέτρων, μπορούν να χρησιμοποιηθούν σε εφαρμογές χαμηλού κόστους και τοπικής εκτέλεσης, ιδίως για ταξινόμηση, υποβοήθηση και ελαφρές γλωσσικές εργασίες: https://huggingface.co/collections/HuggingFaceTB/smollm2,
llama.cpp, Local LLM inference in C/C++: Το llama.cpp είναι βασικό εργαλείο ανοιχτού κώδικα για τοπική εκτέλεση γλωσσικών μοντέλων με ελάχιστη εγκατάσταση και υποστήριξη πολλών τύπων υλικού, συμβάλλοντας στη διάδοση χαμηλού κόστους και ενεργειακά αποδοτικών λύσεων ΤΝ: https://github.com/ggml-org/llama.cpp.