«Αντί να ανησυχούμε ποιος θα ελέγχει την τεχνητή νοημοσύνη θα πρέπει να ανησυχούμε αν η τεχνητή νοημοσύνη μπορεί να ελεγχθεί. Οπως πάνε τα πράγματα οι υπολογιστές θα αποκτήσουν μεγαλύτερη νοημοσύνη από αυτή του ανθρώπου μέσα στα επόμενα 80 χρόνια. Θα πρέπει λοιπόν να διασφαλίσουμε πώς όταν φτάσουμε σε εκείνο το σημείο οι υπολογιστές θα είναι ευθυγραμμισμένοι με τις ανθρώπινες ανάγκες, επιδιώξεις και στόχους» έλεγε ο Stephen Hawking σε μια ανοιχτή επιστολή του τότε στο μακρινό 2015. Ανησυχώντας ότι μπορεί στο τέλος του αιώνα στη Γη να υπάρχει μια κατάσταση παρόμοια με αυτή που δείχνουν ταινίες όπως το Terminator όπου συστήματα τεχνητής νοημοσύνης και πανίσχυρα ρομπότ έχουν καταλάβει τον πλανήτη και κυνηγούν τους ανθρώπους, το δυσοίωνο σενάριο φαντάζει ολοένα και πιο κοντά.

Με επιστολή τους στον ΟΗΕ, 116 ειδικοί σε θέματα ρομποτικής και τεχνητής νοημοσύνης -ανάμεσα τους και ο Elon Musk - ζητούν να αναληφθεί άμεση δράση για την αποτροπή της ανάπτυξης αυτόνομων ρομπότ με Τεχνητή Νοημοσύνη που θα μπορούν να σκοτώνουν. Συγκεκριμένα, οι ειδικοί ροειδοποιούν για μια «τρίτη επανάσταση» στον πόλεμο αναφέροντας επιπροσθέτως ότι η «αυτόνομη θανατηφόρα» τεχνολογία είναι ένα άλλο «κουτί της Πανδώρας».

Με αυτά τα δεδομένα, οι 116 ειδικοί ζητούν από τον ΟΗΕ **να απαγορευτεί η χρήση Τεχνητής Νοημοσύνης (ΑΙ) στη διαχείριση οπλισμού**. «Εφόσον αναπτυχθούν, θα επιτρέψουν τη διεξαγωγή ένοπλων συγκρούσεων σε μεγαλύτερη κλίμακα από ό,τι έχει δει μέχρι τώρα ο κόσμος και σε χρονικά πλαίσια ταχύτερα από ό,τι μπορούν να κατανοήσουν οι άνθρωποι» αναφέρεται στην επιστολή. «Αυτά θα μπορούσαν να αποτελέσουν επίσης όπλα για την ενίσχυση της τρομοκρατίας, όπλα τα οποία τρομοκράτες θα μπορούσαν να χρησιμοποιήσουν εναντίον αθώων πληθυσμών και όπλα τα οποία θα μπορούσαν να παραβιάσουν χάκερ, ώστε αυτά να λειτουργούν με ανεπιθύμητους τρόπους. Μόλις ανοίξει το κουτί της Πανδώρας θα είναι δύσκολο να κλείσει» προειδοποιούν, ζητώντας η τεχνολογία αυτή να μπει στη λίστα των όπλων που απαγορεύονται από τη Συνθήκη των Ηνωμένων Εθνών για Συγκεκριμένα Συμβατικά Όπλα (Convention on Certain Conventional Weapons -CCW).

Σημειώνεται πως πιθανή απαγόρευση της ανάπτυξης τεχνολογίας «ρομπότ δολοφόνων» (killer robots) είχε συζητηθεί και στο παρελθόν σε επιτροπές του ΟΗΕ. Το όλο ζήτημα έχει να κάνει με πλήρως αυτόνομα οπλικά συστήματα, που θα μπορούν να επιλέγουν και να πλήττουν στόχους χωρίς ανθρώπινη παρέμβαση. Δεν υπάρχουν αυτή τη στιγμή, ωστόσο η πρόοδος της τεχνολογίας τα φέρνει όλο και πιο κοντά στην πραγματικότητα. Πρόκειται για απειλή προς την ίδια την ανθρωπότητα και ως εκ τούτου οποιεσδήποτε αυτόνομες «φονικές λειτουργίες» (kill functions) θα έπρεπε να απαγορευτούν.