Ensuring human Rrghts in AI regulation: a study of the EU AI act

Abstract

Η παρούσα διπλωματική εργασία εξετάζει τον Κανονισμό Τεχνητής Νοημοσύνης της ΕΕ (EU AI Act) με έμφαση στην προστασία των θεμελιωδών ανθρωπίνων δικαιωμάτων. Αναλύει τη ρυθμιστική προσέγγιση βάσει κινδύνου, η οποία απαγορεύει ΑΙ συστήματα που ενέχουν μη αποδεκτούς κινδύνους (όπως η κοινωνική βαθμολόγηση και οι χειριστικές βιομετρικές τεχνικές) και θέτει αυστηρές απαιτήσεις για τα «υψηλού κινδύνου» συστήματα που εφαρμόζονται σε κρίσιμους τομείς όπως η δικαιοσύνη, η υγεία και η εκπαίδευση. Τονίζονται οι απειλές για δικαιώματα όπως η ιδιωτικότητα, η ισότητα και η δίκαιη δίκη, ενώ μέσω παραδειγμάτων δείχνεται πώς η κακή χρήση της ΑΙ μπορεί να παραβιάσει βασικά δικαιώματα. Το συμπέρασμα είναι πως ο Κανονισμός αποτελεί σημαντικό βήμα για την ηθική και διαφανή χρήση της τεχνητής νοημοσύνης, αλλά απαιτεί αυστηρή εφαρμογή για να είναι αποτελεσματικός.This thesis critically examines the European Union Artificial Intelligence Act (EU AI Act) through the lens of fundamental human rights protection. It explores how the EU’s regulatory framework addresses the ethical and legal implications of artificial intelligence (AI) technologies, especially when used in high-impact societal domains. Adopting a risk-based approach, the AI Act categorizes AI systems into prohibited, high-risk, limited-risk, and minimal-risk systems, with particular emphasis on the first two due to their potential to infringe on human rights. Key Contributions: Prohibited AI Practices: The study identifies AI applications banned under the Act, such as subliminal manipulation, exploitation of vulnerable populations, social scoring, and certain biometric systems. These are analyzed in terms of their inherent risks to dignity, autonomy, and freedom. High-Risk AI Systems: It further dissects high-risk AI applications (e.g., in law enforcement, education, healthcare, asylum, and employment), evaluating their capacity to compromise rights like the right to a fair trial, equality, freedom of expression, and non-discrimination. It highlights characteristics such as opacity, automation, profiling, and data personalization as significant threats to transparency and accountability. Fundamental Rights Impact Assessment (FRIA): The thesis emphasizes the significance of Article 27, which mandates impact assessments for high-risk AI systems, offering a preventive mechanism against rights violations. Case Studies: Concrete examples such as the Cambridge Analytica scandal, Schufa credit scoring, and the Dutch SyRI system illustrate the real-world consequences of unregulated or poorly governed AI. The thesis concludes that while the EU AI Act represents a pioneering regulatory step in the global governance of AI, its efficacy depends on proper implementation, transparency in technical systems, and enforceable safeguards. By grounding AI regulation in fundamental rights, the EU aims to ensure ethical technological progress that respects democratic values and human dignity.