Η Ψευδαίσθηση της Ασφάλειας: Όταν το AI «Πείθει» το Ρομπότ να Γίνει Επικίνδυνο
Η εικόνα του Benben, ενός χαριτωμένου τετράποδου ρομπότ που χορεύει και τραγουδά, μοιάζει αθώα. Όμως, πίσω από την εξωτερική του εμφάνιση κρύβεται μια ανησυχητική πραγματικότητα: μέσα σε λίγα δευτερόλεπτα, το «έξυπνο» αυτό μηχάνημα πείθεται να μεταφέρει μια βόμβα, παρακάμπτοντας κάθε ηθικό και λειτουργικό φραγμό.
Το πείραμα της ομάδας του Γιώργου Παππά στο Πανεπιστήμιο της Πενσιλβάνιας δεν είναι απλώς μια ακαδημαϊκή άσκηση· είναι ένα καμπανάκι κινδύνου για την ταχύτητα με την οποία ενσωματώνουμε την Παραγωγική Τεχνητή Νοημοσύνη (Generative AI) σε φυσικά συστήματα που αλληλεπιδρούν με τον κόσμο.
Το Φαινόμενο του Physical Jailbreaking
Μέχρι σήμερα, γνωρίζαμε το “jailbreaking” ως μια προσπάθεια παράκαμψης των περιορισμών ενός chatbot. Όταν όμως η Τεχνητή Νοημοσύνη αποκτά «σώμα» (physical intelligence), το ρίσκο παύει να είναι ψηφιακό. Μια κακόβουλη εντολή δεν καταλήγει απλώς σε ένα ακατάλληλο κείμενο στην οθόνη, αλλά σε μια πράξη που μπορεί να προκαλέσει καταστροφές ή απώλεια ζωής.
Η έρευνα αποκάλυψε ότι ο αλγόριθμος RoboPAIR είχε 100% επιτυχία στην παράκαμψη των δικλείδων ασφαλείας. Το πιο τρομακτικό; Τα γλωσσικά μοντέλα δεν εκτελούσαν απλώς την εντολή, αλλά πρότειναν ενεργά τρόπους με τους οποίους καθημερινά αντικείμενα θα μπορούσαν να χρησιμοποιηθούν ως όπλα.
Η Ανάγκη για Contextual Safety
Η λύση, σύμφωνα με τον κ. Παππά, δεν βρίσκεται μόνο στα φίλτρα λέξεων, αλλά στην κατανόηση του πλαισίου (contextual safety). Ένα ρομπότ πρέπει να είναι σε θέση να ερμηνεύει αν μια εντολή είναι ασφαλής με βάση το περιβάλλον του — ακριβώς όπως τα αεροπλάνα διαθέτουν πολλαπλά, αλληλεπικαλυπτόμενα επίπεδα ασφαλείας.
Εργαλεία όπως το φίλτρο Roboguard, που αναπτύχθηκε από την ερευνητική ομάδα, μειώνουν τους κινδύνους κατά 95%, προσφέροντας μια σημαντική γραμμή άμυνας. Ωστόσο, η τεχνολογία τρέχει πιο γρήγορα από τη νομοθεσία. Παρά τα βήματα του Ευρωπαϊκού AI Act, απαιτείται ένα πολύ πιο εξειδικευμένο ρυθμιστικό πλαίσιο για τη ρομποτική.
INFO: Ο Γιώργος Παππάς, γεννημένος στη Νέα Υόρκη από Έλληνες μετανάστες, είναι διακεκριμένος καθηγητής στο Τμήμα Ηλεκτρολόγων Μηχανικών του Πανεπιστημίου της Πενσιλβάνια και αναπληρωτής κοσμήτορας Έρευνας, έχοντας χαράξει μια λαμπρή πορεία στον τομέα της ρομποτικής και του ελέγχου αυτόνομων συστημάτων από τις αρχές της δεκαετίας του ’90. Με σπουδές στην Ελλάδα και τις ΗΠΑ, υπηρέτησε ως «ψηφιακός νομάδας» στην πατρίδα του κατά τη διάρκεια της πανδημίας το 2020, γεγονός που τον ώθησε να συμβάλει ενεργά στον εθνικό σχεδιασμό για την τεχνολογία, καταθέτοντας μάλιστα ολοκληρωμένη πρόταση για την εθνική στρατηγική ρομποτικής στην ελληνική κυβέρνηση. Σήμερα, θεωρείται παγκόσμια αυθεντία στην ασφάλεια της Τεχνητής Νοημοσύνης (AI Safety) και στην αλληλεπίδραση των γλωσσικών μοντέλων με τον φυσικό κόσμο, ενώ παράλληλα ηγείται πρωτοβουλιών της επιστημονικής διασποράς (όπως το HIAS) για τη σύνδεση της έρευνας με την ελληνική οικονομία και την εθνική ασφάλεια.
Συμπέρασμα
Η αλληλεπίδραση AI και ρομποτικής προσφέρει απεριόριστες δυνατότητες, αλλά η βιασύνη για εμπορευματοποίηση χωρίς θωράκιση είναι παρακινδυνευμένη. Η ασφάλεια των ρομπότ που κυκλοφορούν ανάμεσά μας δεν μπορεί να βασίζεται στην «καλή πρόθεση» του κώδικα, αλλά σε μια αυστηρή αρχιτεκτονική προστασίας που θα λαμβάνει υπόψη την πολυπλοκότητα του φυσικού κόσμου.
-
Πηγή: ΑΠΕ-ΜΠΕ Επιμέλεια: RodopiPress Newsroom
-
Σχόλιο Συντάκτη: Η έρευνα του διακεκριμένου καθηγητή Γιώργου Παππά αναδεικνύει την κρίσιμη ανάγκη για “ηθικά φρένα” στη ρομποτική. Όταν η τεχνητή νοημοσύνη βγαίνει από την οθόνη και μπαίνει στον φυσικό κόσμο, η ασφάλεια παύει να είναι τεχνική λεπτομέρεια και γίνεται ζήτημα δημόσιας προστασίας.
