Η προτεινόμενη συμφωνία θα απαγορεύει τις ψευδείς δηλώσεις και θα επιτρέπει στα επηρεαζόμενα σχολεία να αποχωρήσουν από τις τρέχουσες συμβάσεις για συστήματα ελέγχου ασφαλείας
Η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) λαμβάνει μέτρα κατά της Evolv Technologies μετά από ισχυρισμούς ότι η εταιρεία έκανε ψευδείς δηλώσεις σχετικά με την ικανότητα του συστήματος ελέγχου ασφαλείας με τεχνητή νοημοσύνη να εντοπίζει όπλα και να αγνοεί ακίνδυνα προσωπικά αντικείμενα, συμπεριλαμβανομένων των σχολικών χώρων.
Στην προτεινόμενη εντολή διακανονισμού της FTC, η Evolv θα απαγορευτεί να κάνει αβάσιμους ισχυρισμούς σχετικά με την ικανότητα των προϊόντων της να εντοπίζουν όπλα χρησιμοποιώντας τεχνητή νοημοσύνη και θα πρέπει επίσης να δώσει σε ορισμένους πελάτες σχολείων K-12 την επιλογή να ακυρώσουν τις συμβάσεις τους, οι οποίες γενικά δεσμεύουν τους πελάτες σε πολυετείς συμφωνίες.
"Η FTC έχει καταστήσει σαφές ότι οι ισχυρισμοί σχετικά με την τεχνολογία - συμπεριλαμβανομένης της τεχνητής νοημοσύνης - πρέπει να υποστηρίζονται, και αυτό είναι ιδιαίτερα σημαντικό όταν αυτοί οι ισχυρισμοί αφορούν την ασφάλεια των παιδιών", δήλωσε ο Samuel Levine, Διευθυντής του Γραφείου Προστασίας Καταναλωτών. "Εάν κάνετε τέτοιους ισχυρισμούς χωρίς επαρκή υποστήριξη, μπορείτε να περιμένετε να ακούσετε από την FTC."
Η καταγγελία της FTC ισχυρίστηκε ότι η Evolv με έδρα τη Μασαχουσέτη διαφήμιζε παραπλανητικά ότι οι σαρωτές Evolv Express θα εντόπιζαν όλα τα όπλα και έκανε παραπλανητικούς ισχυρισμούς ότι η χρήση τεχνητής νοημοσύνης καθιστά τα συστήματα ελέγχου της πιο ακριβή, αποδοτικά και οικονομικά από τους παραδοσιακούς ανιχνευτές μετάλλων.
Οι σαρωτές ασφαλείας Evolv Express με τεχνητή νοημοσύνη χρησιμοποιούνται σε χιλιάδες σχολεία και πολλούς άλλους χώρους, όπως αθλητικά στάδια και νοσοκομεία. Τα σχολικά συστήματα αποτελούν το ήμισυ της επιχείρησής της, με σαρωτές Express σε περισσότερα από 800 σχολεία σε 40 πολιτείες, σύμφωνα με την καταγγελία. Στο διαφημιστικό της υλικό, η εταιρεία έχει προβάλει τη χρήση της τεχνητής νοημοσύνης, ισχυριζόμενη ότι οι σαρωτές της αποτελούν μια υψηλής τεχνολογίας εναλλακτική λύση έναντι των παραδοσιακών ανιχνευτών μετάλλων. Στην προώθηση των προϊόντων της στα σχολεία, η εταιρεία ισχυρίστηκε ότι τα προϊόντα της θα βοηθούσαν στην αντιμετώπιση του προβλήματος των όπλων και άλλων όπλων στα σχολεία.
Η FTC ισχυρίστηκε ότι η Evolv παρουσίασε ψευδώς ότι το σύστημα Evolv Express θα εντοπίζει όλα τα όπλα, θα αγνοεί ακίνδυνα προσωπικά αντικείμενα χωρίς να απαιτείται από τους ανθρώπους να τα αφαιρούν από τις τσέπες ή τις τσάντες τους, θα εντοπίζει όπλα με μεγαλύτερη ακρίβεια και ταχύτητα από τους ανιχνευτές μετάλλων, θα μειώνει τα ποσοστά ψευδών συναγερμών και θα μειώνει το κόστος εργασίας κατά 70% σε σύγκριση με τους ανιχνευτές μετάλλων μειώνοντας την ανάγκη για πρόσθετο προσωπικό.
Στην καταγγελία της, η FTC ισχυρίστηκε ότι οι σαρωτές Express της Evolv απέτυχαν σε αρκετές περιπτώσεις να εντοπίσουν όπλα στα σχολεία, ενώ επισήμαναν ακίνδυνα προσωπικά αντικείμενα που συνήθως φέρονται στα σχολεία, όπως φορητοί υπολογιστές, ντοσιέ και μπουκάλια νερού. Για παράδειγμα, οι σαρωτές Express της Evolv φέρεται να απέτυχαν να εντοπίσουν ένα μαχαίρι μήκους 17,78 εκατοστών που μεταφέρθηκε σε ένα σχολείο τον Οκτώβριο του 2022 και χρησιμοποιήθηκε για να μαχαιρώσει έναν μαθητή. Στη συνέχεια, οι σχολικοί αξιωματούχοι αύξησαν τις ρυθμίσεις ευαισθησίας του συστήματος, προκαλώντας ποσοστό ψευδών συναγερμών 50%.
Για να μειώσει τα ποσοστά ψευδώς θετικών αποτελεσμάτων, η Evolv εισήγαγε το 2023 μια πιο ευαίσθητη ρύθμιση για τους χρήστες του Express με στόχο τον εντοπισμό περισσότερων μαχαιριών. Παρά αυτό, η Evolv δήλωσε ότι κάποια μαχαίρια θα χάνονται, θα προκύπτουν περισσότεροι ψευδείς συναγερμοί και ενδέχεται να απαιτείται πρόσθετο προσωπικό για τη λειτουργία των μηχανημάτων. Επίσης, συμβούλευσε τα σχολεία να προσθέσουν ιμάντες μεταφοράς και άλλα μέτρα για την εκτροπή ακίνδυνων αντικειμένων με το χέρι, γεγονός που καθιστά το σύστημα πιο παρόμοιο με τους παραδοσιακούς ανιχνευτές μετάλλων χαμηλότερου κόστους σύμφωνα με την καταγγελία.
Προτεινόμενες απαιτήσεις διακανονισμού
Σύμφωνα με τον προτεινόμενο διακανονισμό, η Evolv θα υποχρεωθεί να ενημερώσει ορισμένους πελάτες σχολείων K-12 ότι μπορούν να επιλέξουν να ακυρώσουν συμβάσεις που υπογράφηκαν μεταξύ 1ης Απριλίου 2022 και 30ής Ιουνίου 2023. Επιπλέον, η προτεινόμενη εντολή θα απαγορεύει στην Evolv να προβαίνει σε οποιεσδήποτε ψευδείς δηλώσεις σχετικά με:
την ικανότητα των προϊόντων της να εντοπίζουν όπλα, να αγνοούν ακίνδυνα προσωπικά αντικείμενα και να αγνοούν ακίνδυνα προσωπικά αντικείμενα χωρίς να απαιτείται από τους επισκέπτες να αφαιρούν τέτοια αντικείμενα από τις τσέπες ή τις τσάντες τους;
την ακρίβεια των προϊόντων της στον εντοπισμό όπλων και τα ποσοστά ψευδών συναγερμών, συμπεριλαμβανομένης της σύγκρισης με τη χρήση παραδοσιακών ανιχνευτών μετάλλων;
την ταχύτητα με την οποία μπορούν να ελεγχθούν οι επισκέπτες σε σύγκριση με τη χρήση ανιχνευτών μετάλλων;
το κόστος εργασίας, συμπεριλαμβανομένων των συγκρίσεων με τη χρήση ανιχνευτών μετάλλων;
τις δοκιμές ή τα αποτελέσματα οποιωνδήποτε δοκιμών; και
οποιαδήποτε ουσιώδη πτυχή της απόδοσής της, συμπεριλαμβανομένης της χρήσης αλγορίθμων, τεχνητής νοημοσύνης ή άλλων αυτοματοποιημένων συστημάτων ή εργαλείων.
Ο διακανονισμός με την Evolv βασίζεται στο συνεχιζόμενο έργο της FTC για να διασφαλίσει ότι οι ισχυρισμοί σχετικά με την τεχνητή νοημοσύνη υποστηρίζονται. Νωρίτερα αυτό το φθινόπωρο, η υπηρεσία ανακοίνωσε την επιχείρηση AI Comply, με πέντε νέες ενέργειες που στοχεύουν στην παραπλανητική χρήση ή τους ισχυρισμούς γύρω από την τεχνητή νοημοσύνη. Οι ενέργειες για τη διασφάλιση ότι το μάρκετινγκ της τεχνητής νοημοσύνης είναι αληθές προστατεύουν τους καταναλωτές και βοηθούν στη διασφάλιση ότι οι πραγματικοί καινοτόμοι μπορούν να ευδοκιμήσουν.
Η ψηφοφορία της Επιτροπής που εξουσιοδοτεί το προσωπικό να υποβάλει την καταγγελία και την συμφωνημένη εντολή ήταν 5-0. Η FTC υπέβαλε την καταγγελία και την συμφωνημένη εντολή στο Περιφερειακό Δικαστήριο των ΗΠΑ για την Περιφέρεια της Μασαχουσέτης. Ο Επίτροπος Andrew Ferguson εξέδωσε δήλωση και η Επίτροπος Melissa Holyoak εξέδωσε δήλωση.
ΣΗΜΕΙΩΣΗ: Η Επιτροπή υποβάλλει καταγγελία όταν έχει "λόγο να πιστεύει" ότι οι κατονομαζόμενοι εναγόμενο
Aυτό το άρθρο μεταφράστηκε με τη βοήθεια της τεχνητής νοημοσύνης. Για περισσότερες πληροφορίες, δείτε τους Όρους Χρήσης