Οι Αμερικανοί στρατηγοί δηλώνουν ενθουσιασμένοι με τη χρήση της τεχνητής νοημοσύνης στην επίθεση στο Ιράν. Οπως όμως ξέρουμε όσοι τη χρησιμοποιούμε, συχνά βασίζεται σε παλιότερα δεδομένα. Μήπως αυτό οδήγησε στη μαζική δολοφονία των μαθητριών στο δημοτικό σχολείο του Ιράν;
Η τεχνητή νοημοσύνη διαμορφώνει την «τελική απόφαση» στις στρατιωτικές επιχειρήσεις με τρεις κύριους τρόπους:
πρώτον, συλλέγει και ενσωματώνει τεράστιες ποσότητες πληροφοριών σε πίνακες ελέγχου που παρουσιάζουν στους χειριστές «πιθανά σημεία ενδιαφέροντος», καθοδηγώντας έτσι ποιοι στόχοι εξετάζονται για επίθεση.
Δεύτερον, η AI επιταχύνει τον εντοπισμό στόχων και τη ροή αποφάσεων, μειώνοντας το χρόνο ανάμεσα στην ανάλυση και την εκτέλεση, γεγονός που αυξάνει τον ρυθμό του πολέμου και περιορίζει το περιθώριο ανθρώπινης αναστοχαστικής κρίσης.
Τρίτον, όταν η τεχνητή νοημοσύνη χρησιμοποιεί παλαιά ή διάσπαρτα δεδομένα και αυτά γίνονται μέρος της εικόνας που βλέπει ο διοικητής, όχι απλώς υποστηρίζει αλλά ουσιαστικά διαμορφώνει την επιλογή.
Αυτό μπορεί να έγινε με τη βόμβα που έπληξε το δημοτικό σχολείο Σατζάρα Ταγιέμπε στις 28 Φεβρουαρίου, που παλιότερα χρησίμευε για στρατιωτική βάση: εάν εκείνος ο βομβαρδισμός ήταν αποτέλεσμα αξιοποίησης παλαιών πληροφοριών, τότε η AI δεν ήταν απλώς ένα εργαλείο ανάλυσης αλλά διαμόρφωσε — και ενδέχεται να καθόρισε — την «τελική απόφαση» που παρουσιάστηκε ως ανθρώπινη.
Το γεγονός υπογραμμίζει πως η διάκριση ανάμεσα σε υποβοήθηση και ουσιαστική καθοδήγηση των επιθέσεων είναι θολή.
O επικεφαλής της αμερικανικού κέντρου επιχειρήσεων, δήλωσε ότι τα συστήματα AI «βοηθούν τις ένοπλες δυνάμεις να ερευνούν τεράστιες ποσότητες δεδομένων σε δευτερόλεπτα, ώστε οι ηγέτες μας να κόβουν τον θόρυβο και να παίρνουν εξυπνότερες αποφάσεις πιο γρήγορα από ό,τι μπορεί να αντιδράσει ο εχθρός».
Ενα άρθρο στο Jacobin αμφισβητεί αυτή τη «βοηθητική» αφήγηση. Λέει ότι στην επιχείρηση «Operation Epic Fury», στόχοι «εντοπίστηκαν με τη βοήθεια του Maven Smart System της National Geospatial-Intelligence Agency», σύστημα που συνδυάζει στοιχεία επιτήρησης και πληροφοριών σε μια «ταμπλό» για λήψη αποφάσεων . Αυτά τα συστήματα διαμόρφωσαν ουσιαστικά τις επιλογές των ανθρώπων που διέταξαν τις επιθέσεις.
Οι συγγραφείς δίνουν το ιστορικό πλαίσιο: επικαλούνται τις αναλύσεις του Ερίκ Χόμπσμπαουμ για την «απομακρυσμένη» φύση του σύγχρονου πολέμου, όπου η τεχνολογία και η γραφειοκρατία αποπροσωποποιούν τις πράξεις βίας, μετατρέποντας τους ανθρώπους σε «στόχους» αντί για πρόσωπα.
Αυτή η «νέα απροσωπία» είχε ήδη μετασχηματίσει τον τρόπο που διεξάγονται και βιώνονται οι συγκρούσεις τον 20ό αιώνα — από τις βόμβες από μεγάλο ύψος μέχρι τις μαζικές επιχειρήσεις. Πολλά παραδείγματα από τον Β΄ Παγκόσμιο Πόλεμο, δείχνουν ότι ο απομακρυσμένος βομβαρδισμός μετέτρεψε ανθρώπους σε «στόχους»
Και τώρα η AI ενισχύει περαιτέρω την απόσταση μεταξύ αυτού που αποφασίζει και του θύματος.
Η πρακτική συνέπεια για άτομα και κοινότητες είναι προφανής: όταν τα εργαλεία «σπρώχνουν» υποψίες ή «πιθανούς σημείους ενδιαφέροντος» σε πίνακες ελέγχου, οι διοικητές λαμβάνουν αποφάσεις με διαφορετικό βάρος ευθύνης — ευθύνη που μερικώς μετατοπίζεται στο τεχνολογικό σύστημα.
Οι άμεσα πληττόμενοι είναι πολίτες, σχολεία και μη στρατιωτικοί χώροι που μπορούν να χαρακτηριστούν ως στόχοι βάσει αλγοριθμικών συνδυασμών δεδομένων, όπως υποδεικνύει η περίπτωση του σχολείου στο Ιράν.