Η Microsoft δήλωσε την Τετάρτη ότι οι αντίπαλοι των ΗΠΑ, κυρίως το Ιράν και η Βόρεια Κορέα και σε μικρότερο βαθμό η Ρωσία και η Κίνα, αρχίζουν να χρησιμοποιούν τη γενεσιουργό τεχνητή νοημοσύνη (AI) για να οργανώσουν ή να οργανώσουν επιθετικές επιχειρήσεις στον κυβερνοχώρο.
Ο τεχνολογικός γίγαντας ανακοίνωσε ότι εντόπισε και διέκοψε, σε συνεργασία με τον επιχειρηματικό εταίρο OpenAI, απειλές που χρησιμοποιούσαν ή επιχειρούσαν να αξιοποιήσουν τεχνολογία τεχνητής νοημοσύνης που είχαν αναπτύξει.
Σε μια ανάρτηση στο ιστολόγιο της, η εταιρεία του Redmond, στην Ουάσινγκτον, δήλωσε ότι οι τεχνικές ήταν "αρχικού σταδίου" και ούτε "ιδιαίτερα νέες ή μοναδικές", αλλά ότι ήταν σημαντικό να τις εκθέσει δημοσίως, καθώς οι αντίπαλοι των ΗΠΑ αξιοποιούν μοντέλα για να επεκτείνουν την ικανότητά τους να παραβιάζουν δίκτυα και να διεξάγουν επιχειρήσεις επιρροής.
Οι εταιρείες κυβερνοασφάλειας χρησιμοποιούν εδώ και καιρό τη μηχανική μάθηση στην άμυνα, κυρίως για τον εντοπισμό ανώμαλης συμπεριφοράς στα δίκτυα. Αλλά και οι εγκληματίες και οι επιθετικοί χάκερς τη χρησιμοποιούν επίσης, και η εισαγωγή μοντέλων μεγάλης γλώσσας με επικεφαλής το ChatGPT της OpenAI ανέβασε αυτό το παιχνίδι γάτας και ποντικιού.
Η Microsoft έχει επενδύσει δισεκατομμύρια δολάρια στο OpenAI, και η ανακοίνωση της Τετάρτης συνέπεσε με την έκδοση μιας έκθεσής της, στην οποία σημειώνεται ότι η παραγωγική τεχνητή νοημοσύνη αναμένεται να ενισχύσει την κακόβουλη κοινωνική μηχανική, οδηγώντας σε πιο εξελιγμένα deepfakes και κλωνοποίηση φωνής, μια απειλή για τη δημοκρατία σε μια χρονιά όπου πάνω από 50 χώρες θα διεξάγουν εκλογές, μεγεθύνοντας την παραπληροφόρηση και ήδη συμβαίνει,
Ακολουθούν ορισμένα παραδείγματα που έδωσε η Microsoft. Σε κάθε περίπτωση, ανέφερε ότι όλοι οι λογαριασμοί και τα περιουσιακά στοιχεία της γενεσιουργού ΤΝ των ονομαστικών ομάδων απενεργοποιήθηκαν:
- Η βορειοκορεατική ομάδα κυβερνοκατασκοπείας, γνωστή ως Kimsuky, χρησιμοποίησε τα μοντέλα για την έρευνα ξένων δεξαμενών σκέψης που μελετούν τη χώρα και για τη δημιουργία περιεχομένου που είναι πιθανό να χρησιμοποιηθεί σε εκστρατείες χάκινγκ spear-phishing.
- Η Φρουρά της Επανάστασης του Ιράν έχει χρησιμοποιήσει μοντέλα μεγάλων γλωσσών για να βοηθήσει στην κοινωνική μηχανική, στην αντιμετώπιση σφαλμάτων λογισμικού και ακόμη και στη μελέτη του τρόπου με τον οποίο οι εισβολείς θα μπορούσαν να αποφύγουν την ανίχνευση σε ένα παραβιασμένο δίκτυο. Αυτό περιλαμβάνει τη δημιουργία ηλεκτρονικών μηνυμάτων ηλεκτρονικού "ψαρέματος", "συμπεριλαμβανομένου ενός που προσποιείται ότι προέρχεται από μια διεθνή υπηρεσία ανάπτυξης και ενός άλλου που προσπαθεί να παρασύρει εξέχουσες φεμινίστριες σε έναν ιστότοπο για τον φεμινισμό που έχει κατασκευαστεί από επιτιθέμενους". Η τεχνητή νοημοσύνη βοηθά στην επιτάχυνση και την ενίσχυση της παραγωγής email.
- Η ρωσική μονάδα στρατιωτικών πληροφοριών GRU, γνωστή ως Fancy Bear, έχει χρησιμοποιήσει τα μοντέλα για να ερευνήσει τεχνολογίες δορυφόρων και ραντάρ που μπορεί να σχετίζονται με τον πόλεμο στην Ουκρανία.
- Η κινεζική ομάδα κυβερνοκατασκοπείας γνωστή ως Aquatic Panda - η οποία στοχεύει ένα ευρύ φάσμα βιομηχανιών, την τριτοβάθμια εκπαίδευση και τις κυβερνήσεις από τη Γαλλία έως τη Μαλαισία - έχει αλληλεπιδράσει με τα μοντέλα "με τρόπους που υποδηλώνουν μια περιορισμένη εξερεύνηση του τρόπου με τον οποίο τα LLM μπορούν να ενισχύσουν τις τεχνικές τους επιχειρήσεις".
- Η κινεζική ομάδα Maverick Panda, η οποία στοχεύει μεταξύ άλλων τομέων τους αμερικανικούς αμυντικούς εργολάβους για περισσότερο από μια δεκαετία, είχε αλληλεπιδράσεις με μοντέλα μεγάλων γλωσσών που υποδηλώνουν ότι αξιολογούσε την αποτελεσματικότητά τους ως πηγή πληροφοριών "για δυνητικά ευαίσθητα θέματα, άτομα υψηλού προφίλ, περιφερειακή γεωπολιτική, επιρροή των ΗΠΑ και εσωτερικές υποθέσεις".