Τεχνητή Νοημοσύνη και ένοπλες συρράξεις: πλεονεκτήματα & αναδυόμενες προκλήσεις

Abstract

H διεξαγωγή του σύγχρονου πολέμου έχει προοδεύσει σημαντικά με την ενσωμάτωση της Τεχνητής Νοημοσύνης (ΤΝ) στις στρατιωτικές επιχειρήσεις, η οποία βελτιώνει τις στρατιωτικές δυνατότητες επιταχύνοντας τη διαδικασία λήψης αποφάσεων, διευκολύνοντας τη διοικητική μέριμνα και εξασφαλίζοντας αυτόνομα συστήματα όπλων. Ωστόσο, η αυξημένη λειτουργική αυτονομία των συστημάτων ΤΝ επί του πεδίου, χωρίς την αντίστοιχη γνωστική ικανότητα, εγείρει επιχειρησιακά ζητήματα, καθώς και νομικές προκλήσεις από πλευράς Διεθνούς Δικαίου, κυρίως ως προς τη συμβατότητα με τις προβλέψεις του Διεθνούς Ανθρωπιστικού Δικαίου για την προστασία των αμάχων και τον έλεγχο των εχθροπραξιών, με γνώμονα τη μείωση του ανθρώπινου πόνου κατά τη διάρκεια των ενόπλων συρράξεων. Εγγενή χαρακτηριστικά των συστημάτων ΤΝ, όπως η αδιαφάνεια λειτουργίας, σε συνδυασμό με την εξάρτηση των αλγορίθμων Μηχανικής Μάθησης από την ποιότητα και ποσότητα των δεδομένων στα οποία εκπαιδεύονται, εγείρουν αυτομάτως επιφυλάξεις ως προς την ικανότητά τους να διακρίνουν επαρκώς μεταξύ στρατιωτικών και πολιτικών στόχων, αυξάνοντας τον κίνδυνο βλάβης όσων δεν μετέχουν ή δεν μετέχουν πια στις εχθροπραξίες, ενώ, δεν είναι άνευ σημασίας οι επιπτώσεις στα δικαιώματα της ιδιωτικότητας και της προστασίας δεδομένων, στον απόηχο του Διεθνούς Δικαίου των Δικαιωμάτων του Ανθρώπου. Στόχος της παρούσας εργασίας είναι η ολιστική αποτίμηση του αντικτύπου της ΤΝ στη διάρκεια των ενόπλων συρράξεων, αξιοποιώντας, πέραν της βιβλιογραφίας, τα ευρήματα που παρέχουν τα ανοιχτά, κατά τη συγγραφή της, μέτωπα στην Ουκρανία και τη Γάζα, τα οποία καταδεικνύουν ότι η αντιμετώπισή τους δεν καλύπτεται επαρκώς από το υφιστάμενο Διεθνές Δίκαιο, ενώ, συγχρόνως, η υιοθέτηση διεθνούς ρυθμιστικού πλαισίου για την στρατιωτική ΤΝ, αντιμετωπίζει με την σειρά της προκλήσεις, λόγω των ιδιαίτερων χαρακτηριστικών της.The conduct of modern warfare has significantly advanced with the integration of Artificial Intelligence into military operations, enhancing military capabilities by accelerating the decision-making process, facilitating logistical support, and ensuring autonomous weapon systems. However, the increased operational autonomy of AI systems in the field, without corresponding cognitive abilities, raises operational issues as well as legal challenges from the perspective of International Law, particularly regarding compatibility with the provisions of International Humanitarian Law for the protection of civilians and the regulation of hostilities, aimed at reducing human suffering during armed conflicts. Inherent characteristics of AI systems, such as operational opacity, combined with the reliance of Machine Learning algorithms on the quality and quantity of the data on which they are trained, automatically raise concerns regarding their ability to adequately distinguish between military and civilian targets, increasing the risk of harm to those not participating or no longer participating in hostilities. Moreover, the implications for privacy rights and data protection are significant, especially in light of International Human Rights Law. The aim of this paper is to provide a holistic assessment of the impact of AI during armed conflicts, utilizing not only existing literature but also findings from ongoing frontlines in Ukraine and Gaza at the time of writing. It demonstrates that the challenges posed are not adequately covered by existing International Law, while at the same time, the adoption of an international regulatory framework for military AI faces its own challenges due to its unique characteristics.