Παραλίγο τραγωδία και πολεμικό επεισόδιο ανάμεσα στην Κίνα και τις ΗΠΑ, εξαιτίας της τεχνητής νοημοσύνης, σε μια εποχή που ο Ντόναλντ Τραμπ την υπερασπίζεται άνευ όρων. Αναφορά πληροφοριών, που συντάχθηκε με τη βοήθεια της ΑΙ, ανέφερε εσφαλμένα ότι κινεζικό πλοίο μετέφερε εξαρτήματα πυρηνικών όπλων, σύμφωνα με ρεπορτάζ του CNN.
Το αμερικανικό πλοίο του πολεμικού ναυτικού ήταν έτοιμο να πλήξει το κινεζικό πλοίο. Ωστόσο, λίγο πριν από την προγραμματισμένη ενέργεια, αξιωματούχοι διαπίστωσαν ότι η αναφορά είχε παραχθεί με τη χρήση ΑΙ και περιείχε ανακριβείς πληροφορίες.
Πρόκειται για ένα ακόμη περιστατικό που εγείρει ανησυχίες σχετικά με τους κινδύνους που ενέχει η εξάρτηση από την τεχνητή νοημοσύνη για τη λήψη αποφάσεων που αφορούν στρατιωτικές πληροφορίες και τον καθορισμό στόχων.
Αμερικανοί στρατιώτες
Λάθος συναγερμός λόγω ΑΙ
Πηγές που μίλησαν στο CNN εξήγησαν ότι το επεισόδιο αποφεύχθηκε την τελευταία στιγμή. Ένοπλη ομάδα του αμερικανικού στρατού ετοιμαζόταν να επιβιβαστεί στο κινεζικό πλοίο που «μετέφερα τα πυρηνικά εξαρτήματα». Και πολεμικά αεροσκάφη βρίσκονταν στον αέρα.
Ωστόσο, πολύ λίγο πριν από την έναρξη της προγραμματισμένης επιχείρησης, οι αξιωματούχοι έψαξαν βαθύτερα στην αναφορά που συνέταξε ένας αναλυτής της διοίκησης ειδικών επιχειρήσεων. Διαπίστωσαν ότι η ανάλυση είχε δημιουργηθεί με τη βοήθεια τεχνητής νοημοσύνης (AI). Και πως το chatbot που είχε χρησιμοποιήσει ο αναλυτής αναγνώρισε ανακριβώς το υλικό που μετέφερε το πλοίο.
Το CNN δεν μπόρεσε να μάθει τι ήταν τελικά το φορτίο του πλοίου.
Μία από τις πηγές σημείωσε ότι η αναφορά ήταν «εντελώς ψευδής». Αλλά «παραλίγο να ξεκινήσει έναν πόλεμο». Και πως οποιαδήποτε επιχείρηση των ΗΠΑ εναντίον ενός κινεζικού πλοίου θα μπορούσε να οδηγήσει σε ένοπλη σύγκρουση μεταξύ των δύο εθνών.
ΑΙ παντού
Στις ΗΠΑ υπάρχει μεγάλη πίεση στον αμερικανικό στρατό και την κοινότητα των μυστικών υπηρεσιών να ενσωματώσουν την ΑΙ σχεδόν σε κάθε πτυχή της εργασίας τους. Από την ανάλυση των τεράστιων όγκων ακατέργαστων πληροφοριών που συλλέγουν οι ΗΠΑ και την επιλογή στόχων για επιθέσεις, έως πιο απλές εφαρμογές όπως η διαχείριση του προϋπολογισμού και η εφοδιαστική αλυσίδα.
Ο υπουργός Άμυνας των ΗΠΑ, Πιτ Χέγκσεθ, θέλει την ΑΙ παντού – REUTERS/Jonathan Ernst
Το επεισόδιο αυτό έρχεται να υπογραμμίζει τους σοβαρούς κινδύνους χρήσης αυτής της ισχυρής, νέας τεχνολογίας, την οποία ελάχιστοι κατανοούν. Και αυξάνει τα επιχειρήματα των αναλυτών, οι οποίοι φοβούνται ότι η ΑΙ θα μπορούσε να οδηγήσει σε καταστροφικό λάθος υπολογισμό. Ο λόγος είναι ότι, εάν τα κράτη βασίζονται σε κακά ή αλλοιωμένα δεδομένα, θα μπορούσε να προκληθεί ένα μοιραίο σφάλμα. Και να γίνει ένας πόλεμος, που πιθανόν αποφεύχθηκε την τελευταία στιγμή.
Τι συνέβη
Σύμφωνα με το CNN, ο αναλυτής του αμερικανικού στρατού ρώτησε ένα chatbot σχετικά με ορισμένες αναφορές πληροφοριών σχετικά με το δηλωτικό φορτίου του κινεζικού πλοίου. Παραμένει ασαφές αν επρόκειτο για εμπορικό ΑΙ chatbot ή προϊόν για αποκλειστική χρήση από την αμερικανική κυβέρνηση.
Η ΑΙ συνδύασε πληροφορίες ανοιχτού κώδικα με μυστικά σήματα σε κυβερνητικές αποθήκες και κατέληξε στο συμπέρασμά του σχετικά με το υλικό που μετέφερε το πλοίο: εξαρτήματα πυρηνικών όπλων.
Στη συνέχεια, ο αναλυτής χρησιμοποίησε ξανά την τεχνητή νοημοσύνη για να συντάξει την έκθεση πληροφοριών, στη μορφή των εκθέσεων που συμβολεύονται οι αξιωματικοί. Και μετά τη διέδωσε…
Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν σε αίτημα για σχολιασμό.
Η κούρσα της ΑΙ
Η κυβέρνηση των ΗΠΑ έχει αναγάγει την κούρσα για την τεχνητή νοημοσύνη σε έναν από τους κύριους στόχους της. Στον στρατό πιστεύουν ότι η ΑΙ μπορεί να βοηθήσει στη λήψη αποφάσεων στο πεδίο της μάχης. Δηλαδή ποιους στόχους να χτυπήσει ή ποια στρατιωτικά περιουσιακά στοιχεία να μετακινήσει πού, πιο γρήγορα. Και υποστηρίζουν ότι είναι απαραίτητη η πρωτοπορία, στην περίπτωση που χρειαστεί κάποια μέρα να πολεμήσουν την Κίνα ή έναν άλλο αντίπαλο που θα έχει ισχυρή ΑΙ.
Ο υπουργός Άμυνας Πιτ Χέγκσεθ στη «Στρατηγική Επιτάχυνσης Τεχνητής Νοημοσύνης», έγραψε: «Θα εξαπολύσουμε πειραματισμούς, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα εστιάσουμε τις επενδύσεις μας και θα επιδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι θα ηγηθούμε στην στρατιωτική Τεχνητή Νοημοσύνη».
Ωστόσο, η προσπάθεια είναι αποκεντρωμένη, αναφέρουν πολλοί Αμερικανοί αξιωματούχοι που είναι εξοικειωμένοι με τη δυναμική. Διαφορετικά τμήματα της κυβέρνησης χρησιμοποιούν διαφορετικά εργαλεία υπό διαφορετικές εντολές και πρότυπα ασφαλείας. Δεν υπάρχει ένα ενιαίο σύνολο προτύπων για τον τρόπο με τον οποίο οι ΗΠΑ επαληθεύουν τις πληροφορίες που παράγονται από τα εργαλεία ΑΙ. Συνεπώς, η σχετική αξιοπιστία και λειτουργικότητα ποικίλλουν σημαντικά.
Οι μηχανικοί της Σίλικον Βάλεϊ και οι CEO των εταιρειών υψηλής τεχνολογίας προειδοποιούν ότι η τεχνητή νοημοσύνη μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο. Ακόμη και να οδηγήσει στο τέλος της ανθρωπότητας.
Τώρα, το επεισόδιο με το κινεζικό πλοίο υπογραμμίζει έναν διαφορετικό κίνδυνο. Και πιο άμεσο: οι άνθρωποι να λαμβάνουν καταστροφικές αποφάσεις βασισμένες σε ανακριβείς ή παραπλανητικές πληροφορίες που παράγονται από την ΑΙ.
• Με τα στοιχεία του CNN
