Τι είναι τα αυτόνομα οπλικά συστήματα;
Τα Slaughterbots, που ονομάζονται επίσης «αυτόνομα οπλικά συστήματα» ή «ρομπότ δολοφόνων» , είναι συστήματα όπλων που χρησιμοποιούν τεχνητή νοημοσύνη (AI) για να εντοπίσουν, να επιλέξουν και να σκοτώσουν ανθρώπινους στόχους χωρίς ανθρώπινη παρέμβαση .
Ενώ στην περίπτωση των μη επανδρωμένων στρατιωτικών drones , η απόφαση να αφαιρεθεί μια ζωή λαμβάνεται εξ αποστάσεως από έναν άνθρωπο χειριστή, με τα αυτόνομα όπλα η απόφαση λαμβάνεται μόνο από αλγόριθμους .
Ένα αυτόνομο οπλικό σύστημα είναι προ-προγραμματισμένο για να σκοτώνει ένα συγκεκριμένο «προφίλ στόχου». Στη συνέχεια, το όπλο αναπτύσσεται σε ένα περιβάλλον όπου η τεχνητή νοημοσύνη του αναζητά αυτό το «προφίλ στόχου» χρησιμοποιώντας δεδομένα αισθητήρα, όπως η αναγνώριση προσώπου.
Όταν το όπλο συναντά κάποιον ή κάτι που ο αλγόριθμος αντιλαμβάνεται ότι ταιριάζει με το προφίλ του στόχου του, πυροβολεί και σκοτώνει.
Ποιο είναι το πρόβλημα?
Τα όπλα που χρησιμοποιούν αλγόριθμους για να σκοτώσουν και δεν ελέγχονται από την ανθρώπινη κρίση, είναι ανήθικα και αποτελούν σοβαρή απειλή για την εθνική και παγκόσμια ασφάλεια .
- Ανήθικο
Οι αλγόριθμοι είναι ανίκανοι να κατανοήσουν την αξία της ανθρώπινης ζωής, και έτσι δεν πρέπει ποτέ να έχουν την εξουσία να αποφασίζουν ποιος ζει και ποιος πεθαίνει. Ο Γενικός Γραμματέας των Ηνωμένων Εθνών Αντόνιο Γκουτέρες συμφωνεί ότι «μηχανές με τη δύναμη και τη διακριτικότητα να αφαιρούν ζωές χωρίς ανθρώπινη συμμετοχή είναι πολιτικά απαράδεκτες, ηθικά αποκρουστικές και θα πρέπει να απαγορεύονται από το διεθνές δίκαιο».
- Απειλή για την ασφάλεια
Η αλγοριθμική λήψη αποφάσεων επιτρέπει στα όπλα να ακολουθούν την τροχιά του λογισμικού: ταχύτερα, φθηνότερα και σε μεγαλύτερη κλίμακα. Αυτό θα είναι άκρως αποσταθεροποιητικό τόσο σε εθνικό όσο και σε διεθνές επίπεδο, διότι εισάγει τις απειλές διάδοσης, ταχείας κλιμάκωσης, απρόβλεπτου , ακόμη και τη δυνατότητα για όπλα μαζικής καταστροφής .
- Έλλειψη λογοδοσίας
Η ανάθεση της απόφασης για χρήση θανατηφόρου βίας στους αλγόριθμους εγείρει σημαντικά ερωτήματα σχετικά με το ποιος είναι τελικά υπεύθυνος και υπεύθυνος για τη χρήση βίας από αυτόνομα όπλα, ιδιαίτερα δεδομένης της τάσης τους προς το απρόβλεπτο.
