Λάθος του AI οδήγησε σε σύλληψη 16χρονου – “Μπέρδεψε” ένα όπλο με… σακούλα πατατάκια

Ένας 16χρονος μαθητής στη Βαλτιμόρη συνελήφθη από ένοπλους αστυνομικούς, όταν ένα σύστημα τεχνητής νοημοσύνης έκανε λάθος και υπέδειξε ότι κρατούσε όπλο, ενώ στην πραγματικότητα… είχε μια σακούλα με πατατάκια.

«Η αστυνομία εμφανίστηκε, με οκτώ περιπολικά, όλοι με όπλα στραμμένα πάνω μου και μου φώναξαν να πέσω στο έδαφος», είπε ο 16χρονος μαθητής στο WMAR-2 News.

Όπως εξήγησε, μόλις είχε τελειώσει μια σακούλα με πολύ γνωστά πατατάκια μετά την προπόνηση ποδοσφαίρου και είχε βάλει την άδεια σακούλα στην τσέπη του. Μόλις 20 λεπτά αργότερα, η αστυνομία έφτασε και τον έβαλε να γονατίσει.

Η Αστυνομία της Βαλτιμόρης ανέφερε ότι οι αστυνομικοί αντέδρασαν αναλόγως με τις πληροφορίες που είχαν τη στιγμή εκείνη και επιβεβαίωσε ότι η ειδοποίηση AI εστάλη σε ανθρώπους για περαιτέρω έλεγχο, οι οποίοι πράγματι, δεν βρήκαν καμία απειλή. Παρά την εκτίμηση αυτή, η διεύθυνση του σχολείου, χωρίς να ενημερωθεί για την ακύρωση της ειδοποίησης, επικοινώνησε με την ομάδα ασφαλείας του σχολείου, οι οποίοι κάλεσαν τελικά την αστυνομία.

Το περιστατικό έχει προκαλέσει αντιδράσεις και αναστάτωση γύρω από τις διαδικασίες ασφαλείας και τη χρήση τέτοιων τεχνολογιών.

Ο 16χρονος δήλωσε ότι πλέον νιώθει ανασφάλεια να βγαίνει έξω μετά την προπόνηση και αποφεύγει ακόμα και τα απλά πράγματα όπως το να τρώει πατατάκια ή να πίνει κάτι στον δημόσιο χώρο, λέγοντας χαρακτηριστικά: «Δεν νομίζω ότι μια σακούλα με πατατάκι να πρέπει να συγχέεται με όπλο».

Η διευθύντρια του σχολείου, Κέιτ Σμιθ, ενημέρωσε τους γονείς με επιστολή της, διευκρινίζοντας ότι η ομάδα ασφαλείας του σχολείου ακύρωσε την αρχική ειδοποίηση μόλις επιβεβαιώθηκε ότι δεν υπήρχε όπλο. Παρά την άμεση αντίδραση, η αστυνομία έφτασε στον τόπο και ερεύνησε τον νεαρό για τυχόν όπλα, διαπιστώνοντας τελικά ότι δεν υπήρχε κανένα απειλητικό αντικείμενο.

Πολιτική πίεση για έρευνα και αλλαγή διαδικασιών

Η πολιτική αντιπαράθεση γύρω από το θέμα εντάθηκε με τοπικούς πολιτικούς να καλούν σε διερεύνηση των διαδικασιών που σχετίζονται με την χρήση του συστήματος ανίχνευσης όπλων μέσω τεχνητής νοημοσύνης.

«Καλώ τα δημόσια σχολεία της Βαλτιμόρης να επανεξετάσουν τις διαδικασίες γύρω από το σύστημα ανίχνευσης όπλων που χρησιμοποιεί AI», δήλωσε ο τοπικός σύμβουλος Ιζί Πακότα.

Η εταιρεία Omnilert, υπεύθυνη για το σύστημα AI, απολογήθηκε για το περιστατικό, υπογραμμίζοντας ότι το σύστημα εντόπισε αρχικά ένα αντικείμενο που φαινόταν να είναι όπλο, το οποίο επιβεβαιώθηκε από την ομάδα αναθεώρησης. Ωστόσο, επεσήμανε ότι το σύστημα λειτούργησε όπως είχε σχεδιαστεί, δίνοντας προτεραιότητα στην ασφάλεια μέσω ανθρώπινης επαλήθευσης.