Zaštita osobnih podataka u kontekstu primjene sustava umjetne inteligencije

diplomski rad

• Naslov (engleski): Protection of Personal Data in the Context of Artificial Intelligence Systems Implementation
• Autor: Gloria Župić
• Mentor: Hrvoje Lisičar (mentor)
• Član povjerenstva: Hrvoje Lisičar (predsjednik povjerenstva)
• Član povjerenstva: Marko Jurić (član povjerenstva)
• Član povjerenstva: Tihomir Katulić (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Pravni fakultet; (Pravo informacijskih tehnologija i informatiku); Zagreb
• Datum i država obrane: 2025-02-28, Hrvatska
• Znanstveno / umjetničko područje, polje i grana: DRUŠTVENE ZNANOSTI; Pravo

Sažetak

Ovaj rad bavi se pravnim i etičkim izazovima koje donosi razvoj umjetne inteligencije u kontekstu zaštite osobnih podataka. U prvom dijelu analizira se povijesni razvoj AI-ja, od ranih teorija do suvremenih generativnih modela i njihove široke primjene. Poseban naglasak stavljen je na pravni okvir zaštite podataka, s detaljnim osvrtom na Opću uredbu o zaštiti podataka (Opća uredba) i njezina pravila o obradi osobnih informacija. Također, razmatra se problem automatiziranog odlučivanja i ograničenja koje postavlja čl. 22. Opće uredbe. Usporedno s time, analizirat će se i novi pravni okvir, Akt o umjetnoj inteligenciji, koji uvodi strožu regulaciju visokorizičnih AI sustava. Rad će obraditi i pitanje transparentnosti AI modela, osobito izazov tzv. "crne kutije" te utjecaj koji netransparentno odlučivanje može imati na prava pojedinaca. Kroz primjere poput Cambridge Analytice i AI diskriminacije, prikazat će se potencijalni rizici i potreba za učinkovitijom regulacijom. Također, razmotrit će se uloga regulatornih tijela na europskoj i nacionalnoj razini u osiguravanju nadzora nad AI sustavima. Na kraju, rad se osvrće na buduće izazove i prilagodbu zakonodavstva kako bi se osigurao balans između tehnološkog napretka i zaštite privatnosti građana.

Sažetak (engleski)

This paper explores the legal and ethical challenges posed by the development of artificial intelligence in the context of personal data protection. The first part examines the historical development of AI, from early theories to modern generative models and their widespread application. Special emphasis is placed on the legal framework for data protection, with a detailed review of the General Data Protection Regulation (GDPR) and its rules on the processing of personal information. The issue of automated decision-making and the restrictions imposed by Article 22 of the GDPR is also considered. In parallel, the paper analyzes the new AI Act, which introduces stricter regulations for high-risk AI systems. It also addresses the challenge of AI transparency, particularly the issue of the so-called "black box" problem and the impact that non-transparent decision-making can have on individual rights. Through examples such as Cambridge Analytica and AI-driven discrimination, potential risks and the need for more effective regulation are highlighted. The role of regulatory bodies at both the European and national levels in overseeing AI systems is also examined. Finally, the paper discusses future challenges and the adaptation of legislation to ensure a balance between technological progress and the protection of citizens' privacy.

• Ključne riječi: Umjetna inteligencija; zaštita podataka; Opća uredba o zaštiti podataka; Akt o umjetnoj inteligenciji; automatizirano odlučivanje; profiliranje.
• Ključne riječi (engleski): Artificial intelligence; data protection; General Data Protection Regulation; Artificial Intelligence Act; automated decision-making; profiling.
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:199:686678
• Studijski program: Naziv: Pravo; Vrsta studija: sveučilišni; Stupanj studija: integrirani prijediplomski i diplomski; Akademski / stručni naziv: sveučilišni magistar/magistrica prava (univ. mag. iur.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Otvoreni pristup
• Datum i vrijeme pohrane: 2025-03-10 12:15:24