Η αμερικανική Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού είχε ετοιμάσει μια επιχείρηση ανάσχεσης εναντίον κινεζικού πλοίου, βασιζόμενη σε εκτίμηση ότι το σκάφος μετέφερε εξαρτήματα για πρόγραμμα πυρηνικών όπλων.
Πριν την εκτέλεση της επιχείρησης, αξιωματούχοι επανεξέτασαν την εκτίμηση και διαπίστωσαν ότι η κρίσιμη πληροφορία είχε παραχθεί με τη βοήθεια ενός chatbot, το οποίο παρήγαγε λανθασμένο συμπέρασμα για το φορτίο του πλοίου.
Μία πηγή που μίλησε στο CNN χαρακτήρισε την έκθεση «εντελώς ψευδή» και πρόσθεσε ότι «παραλίγο να ξεκινήσει ένας πόλεμος», υπογραμμίζοντας τη σοβαρότητα του σφάλματος.
Η έκθεση είχε συνταχθεί από αναλυτή της Διοίκησης Ειδικών Επιχειρήσεων, ο οποίος χρησιμοποίησε το chatbot για την επεξεργασία δεδομένων του μανιφέστου του σκάφους, συνδυάζοντας ανοιχτές πηγές με απόρρητες πληροφορίες σημάτων.
Μετά την ανακάλυψη του σφάλματος, ο αναλυτής χρησιμοποίησε ξανά την AI για να μετατρέψει τα ευρήματα σε τυπική αναφορά, η οποία διανεμήθηκε στους αρμόδιους αξιωματούχους, χωρίς όμως να υπάρξει επίσημη διευκρίνιση από το Πεντάγωνο ή το Υπουργείο Άμυνας.
Το περιστατικό έρχεται σε μια περίοδο όπου οι αμερικανικές ένοπλες δυνάμεις επιταχύνουν την υιοθέτηση τεχνητής νοημοσύνης, με τον υπουργό Άμυνας Πιτ Χέγκσεθ να παρουσιάζει τη «Στρατηγική Επιτάχυνσης της Τεχνητής Νοημοσύνης» που προβλέπει την εξοπλισμό εκατομμυρίων στρατιωτικών και πολιτικών υπαλλήλων με εργαλεία AI.
Ωστόσο, σύμφωνα με αμερικανούς αξιωματούχους, η υιοθέτηση της AI παραμένει κατακερματισμένη· διαφορετικά τμήματα χρησιμοποιούν διαφορετικά εργαλεία και δεν υπάρχει ενιαίο σύνολο κανόνων για την επαλήθευση των πληροφοριών που παράγουν, αυξάνοντας τον κίνδυνο «hallucinations» – λανθασμένων δεδομένων που παράγει η AI.
Το περιστατικό υπογραμμίζει τον κίνδυνο που ενέχει η εξάρτηση από αυτόματες αναλύσεις σε κρίσιμες στρατιωτικές αποφάσεις, καθώς η πίεση για γρήγορη παραγωγή πληροφοριών μπορεί να οδηγήσει σε λανθασμένες ενέργειες με σοβαρές γεωπολιτικές συνέπειες.