El papel crucial de la inteligencia artificial en el proceso penal

Abstract

[ES] El presente trabajo de fin de grado examina el uso de la inteligencia artificial en el proceso penal, abordando los problemas que conlleva el uso de estos sistemas, como sesgos, falta de transparencia y explicabilidad, y la vulneración de derechos fundamentales. Se analizan las diferentes aplicaciones de estos sistemas inteligentes, en concreto, los sistemas de valoración de riesgos y los sistemas relativos al uso de datos biométricos, en específico, aquellos que usan el reconocimiento facial. Además, se analiza la normativa reciente aplicable al tema, explicando en que ocasiones está permitido y en cuales no la utilización de estas nuevas tecnologías en lo relacionado con el proceso penal. También se añaden dos casos reales en los que se explica de una manera paradigmática el uso de estos sistemas. Por último, se enfatiza la importancia de garantizar la equidad y la protección de los derechos individuales en el uso de la inteligencia artificial en el ámbito jurídico penal.

[EU] Gradu amaierako lan honek prozesu penalean adimen artifizialaren erabilera aztertzen du, sistema horien erabilerak dakartzan arazoei aurre eginez, hala nola, alborapenak, gardentasun eta azalgarritasun falta eta oinarrizko eskubideeen urraketa. Sistema adimentsu horien aplikazio desberdinak aztertzen dira, zehazki, arriskuak ebaluatzeko sistemak eta datu biometrikoen erabilerarekin lotutako sistemas, zehazki, aurpegi-ezagutza erabiltzen dutenak. Gainera, gaiari aplikatzen zaion azken araudia aztertzen da, teknologia berri horiek prozedura penaletan erabiltzea noiz onartzen den eta noiz ez. Era berean, bi kasu erreal gehitzen dira zeinetan sistema horien erabilera modu paradigmatikoan azaltzen den. Azkenik, arlo juridiko penalean adimen artifiziala erabiltzean ekitatea bermatzearen eta eskubide indibidualen babesaren garrantzia azpimarratzen da.

[EN] This thesis examines the use of artificial intelligence in the criminal process, addressing the problems associated with the use of these systems, such as bias, lack of transparency and explainability, and the violation of fundamental rights. The different applications of these intelligent systems are analyzed, in particular, risk assessment systems and systems related to the use of biometric data, specifically those using facial recognition. In addition, the recent regulations applicable to the subject are analyzed, explaining on which occasions the use of these new technologies is permitted and which are not, in relation to criminal proceedings. Two real cases are also added in which the use of these systems is explained in a paradigmatic way. Finally, the importance of ensuring fairness and the protection of individual rights in the use of artificial intelligence in the criminal legal field is emphasized.