Content not available in English
La inteligencia artificial[1] es una materia de candente actualidad que, a lo largo de los últimos años, está adquiriendo grandes dimensiones, lo que hace necesario la realización de estudios exhaustivos en los que se ponga de manifiesto su incidencia en distintos ámbitos del derecho[2]. Por este motivo, este artículo pretende abordar la cuestión desde la perspectiva de los derechos fundamentales, con especial referencia al derecho de libertad religiosa.
En este estudio que vamos a llevar a cabo, debemos partir de la premisa, quizás indiscutida, de que la IA experimenta –y está experimentando– avances que, hace algunos años, eran impensables[3]. Partiendo de esta consideración y, con el objeto de lograr una mejor comprensión de la materia que vamos a tratar, resulta necesario intentar determinar cuál es su verdadera dimensión: «A grandes rasgos, la IA comprende un comportamiento inteligente originado desde un proceso de ingeniería informática que permite almacenar, procesar y analizar de forma óptima datos masivos. A parte de ello, procura imitar la capacidad cerebral y el lenguaje de las personas. Los procesos automatizados desarrollados por esta innovación tecnológica conducen a una reflexión profunda de los retos que suscita. Su avance a una velocidad puntera, conduce a establecer unos principios éticos y a un marco normativo evolutivo»[4].
Debemos aludir a «la autonomía de la inteligencia artificial», en tanto que esta supone «el grado de independencia y autocontrol que poseen los algoritmos al llevar a cabo una tarea sin necesidad de intervención o supervisión humana. Desde la ejecución de instrucciones pre-programadas hasta la capacidad de generar acciones propias basadas en el aprendizaje y la adaptación al entorno, la autonomía de la IA abarca un espectro amplio»[5].
Igualmente, resulta pertinente aludir a los denominados sesgos, que «son especialmente problemáticos cuando conducen a discriminaciones a favor de un grupo en detrimento de otro. Este fenómeno no es exclusivo de los sistemas de inteligencia artificial, sino que es inherente a cualquier proceso de toma de decisiones, ya sea ejecutado por seres humanos o de forma automática. Es crucial destacar que estos sesgos no se limitan a simples errores técnicos; sus implicaciones son significativas. Se ha observado que tienden a repetirse y a perpetuarse, fortaleciendo dinámicas de dominación, privilegio y discriminación. En última instancia, esto amplifica el riesgo de que las desigualdades existentes se vean acentuadas y consolidadas a través de la automatización y el aprendizaje de las máquinas»[6].
Tras estas reflexiones iniciales, cabe preguntarse ¿qué se entiende por algoritmo?, a este respecto, cabe señalar que se trata de una serie de instrucciones para cumplir con tareas o brindar soluciones a determinados problemas. Así pues, la IA se basa en operaciones de algoritmos para ayudar a realizar determinados procesos. Estos procesos algorítmicos que se encuentran detrás del funcionamiento de la IA tendrían que ser neutrales y justos, pero en muchos casos no es así, lo que supondría hablar de sesgos algorítmicos. Podríamos precisar que los sistemas de IA[7], al ser entrenados con datos, podrían ocasionar ciertos prejuicios contra determinados grupos religiosos, por ejemplo, podrían darse supuestos de discriminación al evaluar solicitudes, préstamos o servicios sociales, cuestión esta que analizaremos en este estudio.
Otro dato relevante, a tener en cuenta, es que en las fases de desarrollo de la IA se tiene que garantizar la diversidad en cuanto al género, el origen racial o étnico, la religión o las creencias, la discapacidad, así como la edad. «Las aplicaciones de IA deben empoderar a los ciudadanos y respetar sus derechos fundamentales. Su objetivo debe ser mejorar las capacidades de las personas, no sustituirlas, y permitir también el acceso de las personas con discapacidad»[8].
Tendríamos que plantearnos hasta qué punto internet y la capacidad de almacenamiento de datos influye en el ámbito de los derechos fundamentales[9]. Actos cotidianos, como conectarse a una red social y publicar datos en la misma[10]; realizar compras por internet, remitir correos electrónicos (donde los servidores determinan si son o no spam), pueden suponer grandes beneficios, pero también podrían originar riesgos, entre otros, en relación con estos derechos. Podríamos hacer referencia a usos inadecuados, no permitidos, o extralimitarse en el uso de los mismos, cuestión esta que será objeto de análisis en este estudio.
El almacenamiento masivo de datos, con la finalidad de ser utilizado posteriormente, podría dar lugar a una vulneración del derecho de libertad religiosa[11]. En este contexto, cabría plantearse, si sería posible recurrir a una forma de censura previa, entendida como la restricción o el control del contenido publicado. Ahora bien, ¿hasta qué punto se podría optar por esta opción? Para su implementación sería necesaria una programación que permitiera a los algoritmos eliminar o limitar determinados contenidos antes de que se publiquen o se utilicen. En consecuencia, se requeriría una exhaustiva regulación de lo que podríamos denominar censura previa, consistente en el establecimiento de excepciones y limitaciones claramente definidas.
Sin perjuicio de los posibles inconvenientes, es importante destacar que también surgen oportunidades y desafíos, entre ellos la mejora en la traducción de textos sagrados, el análisis comparativo de doctrinas desde una perspectiva normativa, así como la digitalización y conservación del patrimonio documental religioso. Todo ello se orienta a garantizar su accesibilidad, preservación y transmisión a las generaciones futuras.
Partiendo de estas consideraciones, pasaremos a intentar responder a estos interrogantes, y a analizar algunos aspectos que inciden en esta problemática. No obstante, antes de abordar estas cuestiones resulta necesario advertir al lector que no pretendemos realizar un estudio exhaustivo y detallado de toda la problemática que presenta, o puede presentar, la IA en relación con el derecho de la libertad religiosa. Consideramos que se trata de una materia en constante cambio, cuya dimensión y ramificaciones se encuentran sometidas a un proceso evolutivo. Asimismo, debemos precisar que, dado que la jurisprudencia existente es escasa, aquella que será objeto de análisis podría ser susceptible de aplicación por analogía o de interpretación extensiva respecto de la materia objeto de este estudio.
En lo que respecta a la IA, podría afirmarse que, mediante el uso de patrones, se imitan ciertas capacidades humanas, como el razonamiento y la generación de contenidos a partir de datos. Nuestro propósito, por lo tanto, es analizar cómo incide en el derecho fundamental a la libertad religiosa. Además, llegados a este punto, debemos plantearnos si es posible unir lo tecnológico y lo espiritual, dado que nos encontramos ante nuevas oportunidades y desafíos propios de lo que podemos denominar «nueva sociedad».
Aunque las principales confesiones religiosas han comenzado a pronunciarse sobre el desarrollo de la IA[12], debemos precisar que la relación entre esta y el derecho de libertad religiosa está generando un debate profundo[13] que afecta a distintos ámbitos, entre los que se encuentra, el jurídico, el ético y el tecnológico, que pasaremos a analizar.
La relación entre la IA y los derechos fundamentales se encuentra en el centro del debate jurídico actual. Por ello, en este momento nos centraremos en cómo la legislación europea[14] y la española abordan esta cuestión. Debemos precisar que la normativa reguladora de la IA presenta, como denominador común, la idea de proteger los derechos fundamentales y, en consecuencia, el derecho de libertad religiosa.
Para dar respuesta a las preguntas planteadas, debemos partir del Reglamento Europeo de Inteligencia Artificial (UE) 2024/1689[15], aprobado en junio de 2024, que establece el marco legal para el desarrollo y uso de sistemas de IA en la Unión Europea[16], con especial énfasis en proteger los derechos fundamentales.
En lo que respecta a este reglamento podríamos sintetizar que «representa el primer esfuerzo legislativo a nivel mundial para proporcionar un marco legal armonizado para el desarrollo, la comercialización y el uso de sistemas de IA. Su objetivo principal es promover un ecosistema de IA centrado en el ser humano y de confianza, al tiempo que se protegen los derechos fundamentales y se garantiza la seguridad, la transparencia y la protección»[17]. Además, también se alude a la «utilización de sistemas de inteligencia artificial (en lo sucesivo, «sistemas de IA») en la Unión, de conformidad con los valores de la Unión, a fin de promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea»[18].
Antes de proceder al análisis de la protección que se realiza en este reglamento, debemos precisar que no se menciona expresamente el derecho de libertad religiosa como tal, pero sí se protege de manera indirecta. Ello se debe a que el objetivo central es garantizar que los sistemas de IA respeten los derechos fundamentales reconocidos en la Carta de Derechos Fundamentales de la Unión Europea, entre los que se incluye la libertad de pensamiento, de conciencia y de religión[19].
Debemos, en este sentido, analizar algunos de los aspectos contemplados en este reglamento, partiendo de la consideración de que los sistemas de IA pueden permitir a los agentes, tanto públicos como privados, puntuar a las personas físicas. Esto podría menoscabar el derecho a la dignidad y a la no discriminación, en la medida en que daría lugar a evaluar o clasificar a personas o grupos. Nos encontramos, por lo tanto, ante sistemas de IA que implican prácticas inaceptables y que pueden generar resultados perjudiciales o desfavorables, salvo en aquellos casos en que se establezcan excepciones para fines específicos[20]. En consecuencia, respecto al tema que estamos tratando, cabría encuadrar aquí supuestos en los que la IA clasifique a las personas atendiendo a su religión, lo cual tendría que considerarse inaceptable.
Antes de adentrarnos en el RIA, interesa destacar que «se establece un conjunto de prácticas de inteligencia artificial prohibidas, por no ser aceptables, y una clasificación de sistemas de inteligencia artificial que deben considerarse como sistemas de alto riesgo, si bien también se contemplan excepciones sometidas a determinadas condiciones de autoevaluación previa y de registro, de modo que se garantice la transparencia en su aplicación»[21].
Conforme a lo establecido en el considerando 28 del RIA, se reconoce que la IA puede tener múltiples aplicaciones beneficiosas. No obstante, también se advierte que su uso indebido podría facilitar prácticas de manipulación, explotación y control social mediante herramientas nuevas y altamente eficaces. Se considera que dichas prácticas perjudiciales e incorrectas deben estar prohibidas, «puesto que van en contra, de los valores de la Unión de respeto de la dignidad humana, la libertad, la igualdad, la democracia y el Estado de Derecho y de los derechos fundamentales consagrados en la Carta, como el derecho a la no discriminación, a la protección de datos y a la intimidad y los derechos del niño»[22]. En coherencia con lo anterior, el artículo 5 del RIA enumera diversas prácticas prohibidas en el uso de los sistemas de IA, entre las cuales se analizarán aquellas que podrían resultar más relevantes en relación con la libertad religiosa.
– Uso de técnicas subliminares o manipuladoras: se prohíbe el uso de IA que influya de forma encubierta en el comportamiento de personas, especialmente si puede causar un daño significativo[23]. Lo que se pretende es proteger de intentos de manipulación ideológica o religiosas mediante sistemas automatizados.
– Clasificación social: se prohíbe el uso de IA para evaluar o clasificar personas o a colectivos de personas en función de su comportamiento social o características personales[24]. Podríamos incluir por ejemplo las creencias religiosas, evitando que se discrimine o margine a individuos por su fe.
– Sistemas de categorización biométrica: estamos haciendo referencia al uso de sistemas que clasifiquen de forma individual a personas físicas sobre datos biométricos para deducir o inferir, entre otros, en sus convicciones religiosas. Está prohibido no incluir el etiquetado o filtrado del conjunto de datos adquiridos lícitamente, como imágenes[25].
– Identificación biométrica en tiempo real en espacios públicos: se restringe el uso de sistemas de reconocimiento facial, salvo excepciones[26], con lo que se protege, por ejemplo la libertad de reunión y culto, evitando la vigilancia de quienes por ejemplo participan en actos religiosos.
– Clasificación social: se prohíbe el uso de IA para evaluar o clasificar personas o a colectivos de personas en función de su comportamiento social o características personales[27]. Podríamos incluir por ejemplo las creencias religiosas, evitando que se discrimine o margine a individuos por su fe.
Los sistemas de IA de alto riesgo, calificados de esta forma sí, a la luz de su finalidad, suponen un perjuicio para la salud, la seguridad o los derechos fundamentales de las personas, «teniendo en cuenta tanto la gravedad del posible perjuicio como la probabilidad de que se produzca»[28], también podrían tener incidencia en el tema de este estudio, en supuestos en los que la IA se usa en el ámbito educativo, del empleo o la justicia con sesgos religiosos, en cuyo caso se hace necesario su evaluación, documentación y revisión.
En este sentido, el artículo 27 del RIA prevé que algunos sistemas de IA de alto riesgo, sean sometidos a la evaluación del impacto que su uso puede tener en los derechos fundamentales. A tal fin, los responsables del despliegue –cuando se trate de organismos de derecho público o de entidades privadas que presten servicios públicos– deberán llevar a cabo una evaluación que incluya: la descripción del proceso; el periodo de tiempo de utilización y frecuencia de uso; las categorías de personas físicas y colectivos afectados; los riesgos de perjuicio; las medidas de supervisión humana; y las medidas que se adoptaran en el caso de que los riesgos lleguen a materializarse[29].
En este reglamento, también se aborda lo que se denomina como «casos específicos», que son aquellos en los que «los sistemas de IA referidos en ámbitos predefinidos especificados en el presente reglamento no entrañen un riesgo considerable de causar un perjuicio a los intereses jurídicos amparados por dichos ámbitos, dado que no influyen sustancialmente en la toma de decisiones o no perjudican dichos intereses sustancialmente. A efectos del presente reglamento, por sistema de IA que no influye sustancialmente en el resultado de la toma de decisiones debe entenderse un sistema de IA que no afecta al fondo, ni por consiguiente al resultado, de la toma de decisiones, ya sea humana o automatizada. Un sistema de IA que no influye sustancialmente en el resultado de la toma de decisiones podría incluir situaciones en las que se cumplen una o varias de las siguientes condiciones. La primera de dichas condiciones debe ser que el sistema de IA esté destinado a realizar una tarea de procedimiento delimitada, como un sistema de IA que transforme datos no estructurados en datos estructurados, un sistema de IA que clasifique en categorías los documentos recibidos o un sistema de IA que se utilice para detectar duplicados entre un gran número de aplicaciones»[30]. Podríamos, quizás incluir aquí a los denominados chatbots que interactúan sobre temas religiosos, aunque con cierta cautela, y en los que se debería de informar de forma clara qué proceden de IA.
También podríamos hablar de un riesgo mínimo, en los supuestos en los que la IA recomienda, por ejemplo libros religiosos.
De lo expuesto podríamos afirmar, en lo que respecta al tema objeto de este estudio, que se pretende: prohibir sistemas de IA que manipulen creencias[31]; la protección frente a la discriminación religiosa[32]; la transparencia[33]; y la supervisión humana[34]. A modo conclusivo podemos decir que la protección que se realiza de la libertad religiosa no se realiza de forma aislada.
Antes de adentrarnos en el texto de este Anteproyecto, conviene precisar que tampoco se hace una alusión expresa a la libertad religiosa y que, al igual que en el reglamento, la protección se articula de forma indirecta a través de la Carta de Derechos Fundamentales de la Unión Europea, y la Constitución, donde se reconoce el derecho de libertad religiosa.
Expuesto lo anterior, procede señalar que, el 11 de marzo de 2025, el Consejo de Ministros aprobó este anteproyecto de ley[35] cuyo objeto es garantizar que el uso de la IA sea ético, inclusivo y beneficioso para las personas, y que constituye la transposición al ordenamiento jurídico español del Reglamento (UE) 2024/1689.
Entre los aspectos reseñables debemos destacar, en lo que respecta a las sanciones, que estas no se limitan únicamente a multas pecuniarias. Dado que la IA puede generar riesgos inaceptables y ocasionar un menoscabo de los intereses públicos y los derechos fundamentales, resulta necesaria la prohibición en supuestos considerados como incidencias graves, así como de aquellas prácticas y sistemas de IA que planteen riesgos inaceptables para los intereses públicos. Además, como novedad, se establece un nuevo derecho digital, garante de los derechos fundamentales de la ciudadanía: el derecho de desconexión o retirada del mercado de sistemas de IA que hayan provocado incidentes graves[36].
Una cuestión relevante es la posibilidad de adoptar las disposiciones cautelares que sean necesarias para garantizar la eficacia de las resoluciones sancionadoras mientras no sean ejecutivas. En este sentido, podríamos hablar de retirada cautelar, desconexión o prohibición de sistemas de IA cuando su continuidad implique un riesgo inaceptable[37].
Además, también se prevé un régimen de actuación previa, para que la autoridad competente pueda recabar información sobre los hechos y medidas de carácter provisional, con el fin de asegurar la eficacia de las resoluciones y evitar la persistencia de riesgos o daños que pueden estar causándose, entre otros, sobre los derechos fundamentales[38].
En virtud de lo expresado podríamos sintetizar que se prohíbe el uso malicioso de la IA[39]; y la discriminación, aspectos estos que serían plenamente aplicables al tema objeto de este estudio.
A la hora de abordar esta cuestión, debemos partir de la consideración de que «las IA no disponen de ética, de una «moral» en el desarrollo de su actividad o en el desempeño de sus funciones. Esto genera incertidumbre y nos hace cuestionarnos si debe ser el programador el que acople a su conciencia tecnológica ciertos aspectos morales asumidos por la sociedad ChatGPT puede realizarte en unos minutos un trabajo final de máster y utilizar fuentes falsas por no saber discernir qué información en su base de datos son reales»[40].
Los principios éticos de la IA los podríamos definir como los criterios fundamentales que se valoran en la toma de decisiones en base a lo que se considera adecuado o no, en relación con el uso y el funcionamiento de las nuevas tecnologías[41].
No cabe duda de que resulta necesario establecer una serie de directrices éticas basadas en el marco regulador existente, y que sean de aplicación a los desarrolladores, proveedores y usuarios de la IA, y en este sentido, se establezcan condiciones de competencia éticas aplicables a todos los Estados miembros[42]. En este contexto, la Comisión Europea creó, en junio de 2018, un Grupo independiente de expertos de alto nivel sobre IA, que elabora una Directrices éticas para una IA fiable[43].
«El objetivo de las presentes directrices es promover una inteligencia artificial fiable. La fiabilidad de la inteligencia artificial (IA) se apoya en tres componentes que deben satisfacerse a lo largo de todo el ciclo de vida del sistema: a) la IA debe ser lícita, es decir, cumplir todas las leyes y reglamentos aplicables; b) ha de ser ética, de modo que se garantice el respeto de los principios y valores éticos; y c) debe ser robusta, tanto desde el punto de vista técnico como social, puesto que los sistemas de IA, incluso si las intenciones son buenas, pueden provocar daños accidentales. Cada uno de estos componentes es en sí mismo necesario pero no suficiente para el logro de una IA fiable. Lo ideal es que todos ellos actúen en armonía y de manera simultánea. En el caso de que surjan tensiones entre ellos en la práctica, la sociedad deberá esforzarse por resolverlas»[44].
La idea de una IA ética y fiable, también se recoge en el Reglamento 2024/1689, referenciado anteriormente, y en este sentido se establece que «El desarrollo de sistemas de IA que no sean sistemas de IA de alto riesgo conforme a los requisitos establecidos en el presente reglamento puede dar lugar a la adopción más amplia de una IA ética y fiable en la Unión. Se debe alentar a los proveedores de sistemas de IA que no son de alto riesgo a crear códigos de conducta, entre los que se incluyen los correspondientes mecanismos de gobernanza, destinados a impulsar la aplicación voluntaria de la totalidad o parte de los requisitos aplicables a los sistemas de IA de alto riesgo, adaptados teniendo en cuenta la finalidad prevista de los sistemas y el menor riesgo planteado y teniendo en cuenta las soluciones técnicas disponibles y las mejores prácticas del sector, como las tarjetas de modelo y de datos. Asimismo, se debe animar a los proveedores y, en su caso, a los responsables del despliegue de todos los sistemas de IA, ya sean o no de alto riesgo, y de los modelos de IA, a aplicar, con carácter voluntario, requisitos adicionales»[45]. Considero relevante el planteamiento que se realiza de crear códigos de conducta, puesto que ello contribuiría a una regulación más precisa de la dimensión que podría tener la IA[46].
El principal problema que se plantea es el de la dificultad que entraña la regulación de la IA, y ello debido a una serie de factores, entre los que destacan su carácter de materia en constante cambio y la creciente dimensión de su implicación social. Nos encontramos, por lo tanto, ante aspectos determinantes que justifican que se opte por la fórmula de los códigos éticos. En este sentido, conviene señalar que algunas confesiones religiosas están optando por la fórmula de los códigos éticos.
Estos códigos éticos tienen como principal característica que, aunque no son de obligado cumplimiento, sí aclaran las directrices de las confesiones religiosas frente a la IA y pueden contribuir, en cierta medida, a la idea plasmada en numerosos textos, de una IA ética y fiable.
La IA puede incidir, en la materia objeto de este estudio, de forma positiva. En este sentido, podríamos aludir al acceso a contenidos religiosos, entre los que se encuentra por ejemplo la traducción de textos sagrados, o adaptar contenido religioso a personas con discapacidad visual o auditiva. Así como, ayudar en la gestión de comunidades religiosas u organización de eventos.
No obstante, también existen aspectos negativos cuando su uso, puede dar lugar a situaciones en las que se produce –por ejemplo– discriminación por cuestiones religiosas, manipulación de creencias, supuestos en los que se incite al odio, o incluso la creación de religiones creadas por IA.
Llegados a este punto, resulta pertinente hacer referencia a una Sentencia pionera del Tribunal de Justicia de la Unión Europea[47] que, aunque no alude al tema que estamos tratando, podría resultar de utilidad al ser extrapolable a la materia analizada.
Estamos haciendo referencia al caso Schufa[48], en el que una empresa alemana de Scoring crediticio, deniega un préstamo a un ciudadano basándose en una evaluación automatizada sin intervención humana. En este contexto, el Tribunal interpreta el artículo 22 del Reglamento General de Protección de Datos[49], que prohíbe la adopción de decisiones basadas únicamente en tratamiento automatizado sin efectos jurídicos significativos. El Tribunal resuelve que «la generación automatizada, por una agencia de información comercial, de un valor de probabilidad a partir de datos personales relativos a una persona y acerca de la capacidad de esta para hacer frente a compromisos de pago en el futuro constituye una «decisión individual automatizada», en el sentido de la mencionada disposición, cuando de ese valor de probabilidad dependa de manera determinante que un tercero, al que se comunica dicho valor, establezca, ejecute o ponga fin a una relación contractual con esa persona»[50].
Partiendo de la consideración de que la jurisprudencia, por el momento, no es muy abundante, considero relevante aludir a una Sentencia del Tribunal Supremo de 25 de septiembre de 2020[51], en la que se declara que el algoritmo de la plataforma Glovo no era neutral, en la medida en que se ejercía un control laboral sobre los repartidores[52]. Y aunque no es un caso que verse sobre la materia que estamos tratando, pone de manifiesto cómo los jueces empiezan a analizar la repercusión que pueden tener los algoritmos en la realidad social.
No cabe duda de que el uso de la IA puede facilitar determinados procesos, pero –como se pone de manifiesto en la escasa jurisprudencia existente– no puede suponer una total exclusión de la intervención humana, debido principalmente a que si solo se confía en ella, se podrían producir prácticas discriminatorias, y configurar determinadas situaciones produciéndose una clara exclusión de la realidad social.
No podemos oponernos al uso de las nuevas tecnologías, en tanto que suponen –y pueden suponer– una gran ayuda en determinados ámbitos y en nuestro entorno social. Sin embargo, sí podemos imponerles una serie de exigencias, entre las que se encuentra, por ejemplo indicar de forma clara su procedencia o que se informe de la misma. En este sentido se pronuncia una Sentencia de la Audiencia Nacional de 4 de julio de 2025[53], en la que se declara «la vulneración del derecho fundamental de libertad sindical del sindicato CGT por la empresa demandada, por no informar a los delegados/as de CGT de las secciones sindicales de Barcelona, Madrid y Sevilla, sobre los parámetros, reglas e instrucciones en los que se basan los algoritmos que posee la empresa y que afectan a las condiciones de la plantilla, así como del sistema algorítmico o automatizado que se está usando para la asignación de las libranzas variables a la plantilla en los centros de trabajo de Barcelona, Madrid y Sevilla»[54].
Además, «el derecho de acceso a la información pública adquiere especial relevancia ante los riesgos que entraña el uso de las nuevas tecnologías en el ejercicio de las potestades públicas o la prestación de servicios públicos, como ocurre con el empleo de sistemas informáticos de toma de decisiones automatizadas en la actividad de las Administraciones públicas, especialmente, cuando tienen por objeto el reconocimiento de derechos sociales. En estos casos debe conllevar exigencias de transparencia de los procesos informáticos seguidos en dichas actuaciones, con el objeto de proporcionar a los ciudadanos la información necesaria para su comprensión y el conocimiento de su funcionamiento, lo que puede requerir, en ocasiones, el acceso a su código fuente, a fin de posibilitar la comprobación de la conformidad del sistema algorítmico con las previsiones normativas que debe aplicar»[55].
No se trata de rechazar las llamadas nuevas tecnologías, en concreto la IA, sino de asumir su uso con responsabilidad, bajo criterios de control, precaución y seguridad. En este marco, resultaría imprescindible señalar de forma clara si los datos han sido generados mediante sistemas de IA.
A lo largo de este trabajo de investigación se pone de manifiesto la profunda transformación que se produce en nuestras vidas la IA, y esto no es una excepción en lo que respecta al derecho de libertad religiosa. El impacto puede ser tanto positivo como problemático, y es por lo que trataremos de analizar algunas de las posibles incidencias derivadas de su aplicación.
Debemos partir de la consideración de que la IA tiene capacidad para procesar datos a gran escala y, en determinados casos, tomar decisiones. Sin embargo, esto puede plantear importantes desafíos en lo que respecta, entre otros aspectos, a la protección de datos, la discriminación, la tutela judicial y la libertad de expresión. Por ello, pasaremos a analizarlos, teniendo en cuenta su relación entre la IA y el derecho de libertad religiosa.
Conviene comenzar señalando que «la relación de la protección de datos con la IA es innegable. Por ello, la primera consecuencia que se deriva de esta conexión es que la IA que recurre a datos personales ha de someterse a las normas sobre protección de datos vigente. La IA puede emplear la tecnología para extraer conclusiones a partir de datos por medio de algoritmos de una manera independiente de la voluntad humana y puede provocar por ello riesgos en los derechos de los ciudadanos que deben ser conjurados. Con las tecnologías que incorporan la IA, las máquinas pueden actuar y aprender por medio de una combinación de algoritmos cuya finalidad es asemejarse en todo lo posible a las capacidades del ser humano. Los algoritmos no solo emplean datos personales de los sujetos, sino que a partir de estos datos se pueden elaborar más volúmenes de datos que aportan una información sobre el individuo totalmente desconocida por este último. Respecto de este tipo de datos habrá que determinar cómo se aplica el consentimiento»[56].
A la hora de tratar esta problemática, debemos partir de la consideración de que el derecho fundamental a la protección de datos personales se garantiza –entre otros– en la Directiva 2002/58/CE del Parlamento Europeo y del Consejo, en el que se protege la vida privada y la confidencialidad de las comunicaciones, y se establecen las condiciones para el almacenamiento de datos personales y no personales en los equipos terminales, así como el acceso a los mismos. En lo que respecta al tema que estamos tratando, el Reglamento 2024/1689 dispone que «unas normas armonizadas para la introducción en el mercado, la puesta en servicio y la utilización de sistemas de IA establecidas en virtud del presente reglamento deben facilitar la aplicación efectiva y permitir el ejercicio de los derechos y otras vías de recurso de los interesados garantizados por el Derecho de la Unión en materia de protección de datos personales, así como de otros derechos fundamentales»[57].
Debemos aclarar que muchas de las herramientas de IA se entrenan y procesan datos en los que se identifican patrones que pueden incluir datos personales e información confidencial, que precisa una protección especial. A modo de ejemplo, podríamos aludir a cuestiones religiosas, sanitarias, entre otras.
Además, debemos precisar que la privacidad y la protección de datos deben garantizarse a lo largo de todo el ciclo del sistema de IA. «Los registros digitales del comportamiento humano pueden permitir que los sistemas de IA infieran no solo las preferencias, la edad y el sexo de las personas, sino también su orientación sexual o sus opiniones religiosas o políticas. Para que las personas puedan confiar en el tratamiento de datos, debe garantizarse que tienen el pleno control sobre sus propios datos, y que los datos que les conciernen no se utilizarán para perjudicarles o discriminarles»[58].
Llegados a este punto, debemos especificar que la calidad de los datos es primordial para los sistemas de IA. Además, cuando se recopilan datos se pueden producir sesgos, inexactitudes o errores, que tienen que ser objeto de revisión, pues de no ser así podría ocasionar perjuicios, entre otros, contra los derechos fundamentales y, en concreto, contra el derecho de libertad religiosa.
Tenemos que hacer referencia al uso de las redes sociales, en tanto que pueden ser una fuente de datos para la IA. Debemos destacar que constituyen un cúmulo de información, sin tener en cuenta las peculiaridades de los individuos, la interrelación de esos datos, y qué pueden dar lugar a sacar conclusiones que, en muchos casos, se pueden descontextualizar y no se corresponden con la realidad. Por ejemplo, si una persona lleva un pañuelo o un sombrero, podría interpretarse como signo de pertenencia a una confesión religiosa. Esto puede ser cierto en algunos casos, pero no en todos, ya que también puede deberse simplemente a cuestión de moda.
Cabe destacar que «los mayores problemas y peligros de las redes sociales se producen respecto de la vida privada o privacidad de los sujetos. Dar protección eficiente a la vida privada en el ámbito de las redes sociales y en general, en el de la sociedad de la información, conlleva la necesidad de reinterpretar, adecuar y fortalecer el concepto de protección existente hasta el momento. Es por este motivo por el que el requisito del consentimiento, como principio legitimador de todo tratamiento de datos personales, tiene que reformularse y adaptarse a los cambios que la tecnología y los nuevos servicios que la misma ofrece»[59].
Analizaremos, en este sentido, el Reglamento (UE) 2016/679[60]. Debemos aludir al artículo 9.1 del RGPD, que establece que «quedan prohibidos el tratamiento de datos personales que revelen el origen étnico o racial, las opiniones políticas, las convicciones religiosas o filosóficas, o la afiliación sindical, y el tratamiento de datos genéticos, datos biométricos dirigidos a identificar de manera unívoca a una persona física, datos relativos a la salud o datos relativos a la vida sexual o la orientación sexual de una persona física»[61]. Se contempla como únicas excepciones; el consentimiento explícito del interesado para el tratamiento de los datos personales con fines específicos; que el tratamiento de los datos sea necesario para la ejecución de un contrato en el que el interesado sea parte o en caso de medidas precontractuales; para el cumplimiento de una obligación legal; proteger intereses vitales del interesado o de otra persona física; para el cumplimiento de una misión realizada en interés público; y por último, para satisfacer intereses legítimos[62].
La Agencia Española de Protección de Datos considera que «los datos biométricos, catalogados como de “categoría especial”, en el artículo 9, tanto del RGPD, como de la LOPDGDD[63], son datos personales de cuyo uso pueden desprenderse riesgos significativos para los derechos y las libertades fundamentales, y por ello, en principio su tratamiento está prohibido…, cuando tras su especificación indica que: “Tales datos personales no deben ser tratados a menos que se permita su tratamiento en situaciones específicas contempladas en el presente reglamento”»[64].
Podríamos plantearnos la implicación que tiene el uso de sistemas de videovigilancia, y en este sentido «la utilización de reconocimiento facial en los sistemas de videovigilancia empleados en el ámbito de la seguridad privada implicaría el tratamiento de un dato biométrico dirigido a identificar de una manera unívoca a una persona física, en un proceso de búsqueda de correspondencias uno-a-varios, constituyendo el tratamiento una categoría especial de datos cuyo tratamiento, en principio, se encuentra prohibido por el artículo 9.1 del RGPD»[65]. Debemos precisar que estos sistemas pueden afectar al derecho a la intimidad personal y familiar, derecho a la propia imagen, y a la libertad ideológica y religiosa[66]. Además, tendríamos que tener en cuenta que podría estar justificada por motivos de seguridad, y que la misma debe ser proporcional y transparente, de tal forma que debe indicarse con carteles informativos visibles su utilización, y que no se debería grabar zonas de oración o lugares en los que se lleven a cabo prácticas religiosas.
Debemos partir del artículo 22 del RGPD, en el cual se precisa que se reconoce el derecho a los interesados a no ser objeto de una decisión basada únicamente en el tratamiento automatizado que produzca efectos relevantes. «En este punto, conviene subrayar que la implementación de aquellas decisiones automatizadas cuya justificación se fundamenta en la necesidad contractual o en la existencia de consentimiento explicito deben observar en todo caso un conjunto de medidas adecuadas a los riesgos que representan para los derechos y libertades fundamentales de la ciudadanía. Estas medidas están orientadas a garantizar los derechos de los interesados y, como mínimo, deben preverse, de acuerdo con el artículo 22.3 RGPD: (i) el derecho a obtener intervención humana por parte del responsable; (ii) el derecho a expresar su punto de vista; y (iii) el derecho a impugnar la decisión»[67].
El TJUE, se pronuncia al respecto, en una Sentencia de 27 de febrero de 2025[68], referente a un caso en el que «Un operador de telefonía móvil denegó a CK la celebración o la prórroga de un contrato de telefonía móvil, que habría conllevado el pago mensual de un importe de 10 euros, debido a que, según una evaluación crediticia realizada de forma automatizada por D & B, CK carecía de solvencia financiera suficiente»[69]. Considera que «en caso de que se adopte una decisión automatizada, incluida la elaboración de perfiles, en el sentido del artículo 22, apartado 1, de dicho reglamento, el interesado puede exigir al responsable del tratamiento, como «información significativa sobre la lógica aplicada», que este le explique, mediante información pertinente y en forma concisa, transparente, inteligible y de fácil acceso, el procedimiento y los principios aplicados concretamente para explotar, de forma automatizada, los datos personales relativos al interesado con el fin de obtener un resultado determinado, como un perfil de solvencia[70]. Estamos ante una sentencia, que aunque versa sobre solvencia crediticia, podría ser extrapolable a otros derechos fundamentales, entre ellos el derecho de libertad religiosa, en tanto que pretende garantizar la transparencia en la utilización de algoritmos, el derecho a impugnar decisiones automatizadas, y la protección frente a la discriminación.
En relación a este tema puede servir de ejemplo, el caso Syri (acrónimo de System Risk Indication), que es un sistema utilizado por el Ministerio de asuntos sociales y empleo de los Países Bajos «para rastrear posibles fraudes al Estado a partir de la agregación de datos sobre ingresos, pensiones, seguros, tipo de casa, impuestos, multas, integración, educación, deudas o subsidio de desempleo de los contribuyentes. Esos datos se comparaban luego con un perfil de riesgo creado a partir de la información de quienes ya habían cometido fraude y se elabora una lista de personas cuyos datos se podían conservar hasta dos años. Pues bien, la Corte de Distrito de La Haya sentenció el 5 de febrero de 2020 que, si bien es lícito acudir a herramientas de este tipo si concurre un interés público que lo justifique y se han adoptado las medidas oportunas para que la injerencia sea la menos posibles en la vida privada de las personas investigadas»[71].
De forma más específica, debemos hacer referencia al artículo 91 del RGPD, relativo a las normas vigentes sobre protección de datos de las iglesias y asociaciones religiosas. «Cuando en un Estado miembro iglesias, asociaciones o comunidades religiosas apliquen, en el momento de la entrada en vigor del presente reglamento, un conjunto de normas relativas a la protección de las personas físicas en lo que respecta al tratamiento, tales normas podrán seguir aplicándose, siempre que sean conformes con el presente reglamento. Las iglesias y las asociaciones religiosas que apliquen normas generales de conformidad con el apartado 1 del presente artículo estarán sujetas al control de una autoridad de control independiente, que podrá ser específica, siempre que cumpla las condiciones establecidas en el capítulo VI del presente reglamento»[72].
Llegados a este punto, pondremos el énfasis en una Sentencia de 2022, de la Audiencia Nacional[73], en la que se precisan algunos aspectos de este artículo. La cuestión deviene de la aplicación (APP) de Glovo, una plataforma muy popular que recopila datos de todos sus clientes y usuarios de manera constante y continua. Una vez que estos acceden a la aplicación, reciben información personalizada de ofertas, oportunidades y descuentos. Por este motivo, la titular está obligada a adoptar medidas de seguridad. Este tribunal considera que «el artículo 91 RGPD acota y aunque no puede ser objeto de una determinación numérica o cuantitativa estricta precisamente porque los usuarios de apps tan populares como la recurrente son incontables, estamos ante un caso en que cualquier cantidad relevante puede poner en riesgo los datos de los usuarios que emplean la app, y siendo tantos los usuarios y por tanto los intereses afectados, estos entran dentro de la categoría a gran escala, y que si bien opera el término como un concepto jurídico indeterminado no puede la recurrente ampararse en ello cuando del riesgo de tratamiento de abundantes datos personales se está hablando»[74].
La IA, al procesar gran cantidad de información, puede llegar a inferir o identificar creencias religiosas, incluso cuando estas no han sido compartidas de forma explícita, lo que supone un riesgo para la privacidad y la no discriminación. La Audiencia Nacional en una sentencia de 2020, aunque no alude de la IA, considero que podría ser de aplicación al caso que nos ocupa, en tanto que, considera necesario el consentimiento explícito para procesar datos sentibles[75].
Así pues, debemos tener en cuenta una serie de medidas encaminadas a minimizar el riesgo que se puede producir, consistentes en[76]: proteger la privacidad[77]; utilizar autentificador multifactor (MFA); configurar la privacidad en las redes sociales, de forma que se limite quién puede ver publicaciones y datos; y descargar y utilizar software de sitios fiables.
La IA plantea desafíos complejos en lo que respecta al derecho de libertad religiosa y la no discriminación, principalmente por medio del denominado sesgo algorítmico, referenciado anteriormente. Debemos precisar que los sistemas de IA son entrenados con datos que pueden reflejar perjuicios y desigualdades.
Los algoritmos pueden perpetuar e incluso amplificar sesgos existentes, generando un trato discriminatorio hacia las personas. Debemos precisar que «el primer segmento de intersección entre igualdad y desarrollo de los sistemas de inteligencia artificial se refiere a la posibilidad, no poco frecuente, de que estos sistemas y las evaluaciones algorítmicas puedan perpetuar (incluso indirecta o involuntariamente) modelos y esquemas discriminatorios, afectando de manera más severa y penalizante, a grupos que ya son minoritarios y marginalizados. Esto puede ser especialmente preocupante en ámbitos sensibles y delicados, en los que están en juego derechos fundamentales»[78].
Llegados a este punto habría que precisar que «el uso de algoritmos no es todo lo neutral que debiera ser. Puede dar lugar, entre otras situaciones, a la elaboración de perfiles de los usuarios, lo que implica reconocer patrones de comportamiento de estos en los que se les encasilla, y en los cuales se basa la publicidad dirigida on line o in-app, pudiendo conllevar discriminaciones de aquéllos que no deben ser admisibles por el ordenamiento jurídico, si no están justificadas convenientemente»[79].
En este sentido, el artículo 23 de la Ley integral para la igualdad de trato y la no discriminación[80], determina en relación con la IA y los mecanismos de toma de decisiones automatizados que «En el marco de la Estrategia Nacional de Inteligencia Artificial, de la Carta de Derechos Digitales y de las iniciativas europeas en torno a la Inteligencia Artificial, las administraciones públicas favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente. En estos mecanismos se incluirán su diseño y datos de entrenamiento, y abordarán su potencial impacto discriminatorio. Para lograr este fin, se promoverá la realización de evaluaciones de impacto que determinen el posible sesgo discriminatorio»[81].
Debemos, a modo de ejemplo, aludir a la denuncia presentada contra Meta Platforms, Inc., anteriormente conocida como Facebook, Inc., por realizar publicidad discriminatoria por motivos de raza, color, religión, sexo, discapacidad, situación familiar y origen nacional, al utilizar algoritmos para determinar qué usuarios reciben anuncios de viviendas. En 2022, el U.S. Department of Justice, llega a cabo un acuerdo transaccional, que resuelve la demanda interpuesta ante el Tribunal de Distrito de los Estados Unidos. En este acuerdo histórico, Meta acepta cancelar una de sus herramientas de segmentación algorítmica y modificarlos, y además el Departamento de Justicia se compromete a exigir responsabilidades a Meta y a otras empresas tecnológicas cuando abusen de algoritmos que perjudiquen ilegalmente a comunidades marginadas[82].
La irrupción de la IA en el ámbito jurídico está transformando la forma de analizar, interpretar y aplicar las normas. Debemos precisar que «la esencia del juicio humano, basada en la ponderación racional, la interpretación de las normas y el análisis de las circunstancias específicas de cada caso, no puede ser sustituida por algoritmos, cuya operatividad depende de las instrucciones previas de programación y del contenido de los datos suministrados. Por ello, la función de la IA en el ámbito judicial ha de entenderse como un complemento al ejercicio de la jurisdicción, cuyo propósito es contribuir a un acceso más eficiente y equitativo de la justicia»[83]. En el contexto de las resoluciones judiciales, un uso inadecuado de la IA podría suponer un perjuicio, entre otros, para los derechos fundamentales. Por ello, se hace necesario que los algoritmos estén diseñados con sensibilidad, entre otros, cultural y religiosa[84].
La política sobre el uso de la IA en la Administración de Justicia, aprobada en junio de 2024 por el Comité Técnico Estatal de la Administración Judicial Electrónica[85], establece una serie de criterios mínimos para garantizar el uso responsable, legal y ético de la IA en el ámbito judicial, así como diversas definiciones y casos de uso permitidos y prohibidos. Procederemos, en este sentido, a analizar algunos aspectos de este documento.
En este documento se contemplan una serie de principios básicos que orientan la política de uso: de respeto de los derechos fundamentales; de no discriminación; de calidad y seguridad; de respeto a la transparencia, imparcialidad y lealtad; y control del usuario. Debemos precisar que los aludidos principios son impulsados por «el CEPEJ (European Commission for the Efficiency of Justice) en su sesión plenaria del 3-4 diciembre de 2018, adoptó el documento denominado “European ethical charter on the use of Artificial Intelligence in judicial sistemas and their environment”»[86]. Veremos en detalle estos principios.
En relación con el principio de respeto a los derechos fundamentales, se establece que «cuando se utilicen herramientas de inteligencia artificial para resolver un litigio o para la ayuda de toma de decisiones judiciales, se deben garantizar la tutela judicial efectiva, la independencia judicial y un proceso basado en la equidad entre las partes. En consecuencia, el desarrollo de estas herramientas procede realizarse aplicando la ética y el respecto de los derechos humanos en su diseño». Se precisa además que «la IA nunca debe reemplazar la toma de decisiones humanas en cuestiones cruciales de la Administración de Justicia. Es fundamental que los sistemas de IA se utilicen como herramientas para ayudar a los profesionales del derecho en sus funciones, pero la responsabilidad final de toma de decisiones legales debe recaer en jueces y magistrados. Se debe asegurar su toma de decisiones de forma independiente»[87].
En lo concerniente al principio de no discriminación, «supone que tanto en el desarrollo como aplicación de la inteligencia artificial no se produzca discriminaciones en base al uso de información especialmente sensible como pueden ser datos de origen racial, étnico, socioeconómico, opiniones políticas, creencias religiosas o filosóficas, pertenencia a sindicatos, datos genéticos, datos biométricos, datos de salud, relativos a la vida sexual u orientación sexual. De esta forma, desde el aprendizaje de estos sistemas se debe orientar a que no se produzca esta discriminación»[88].
En lo que respecta al principio de calidad y seguridad, en este documento se opta por aprovechar la experiencia de profesionales en general, hablaríamos de jueces/zas, magistrados/as, fiscales, investigadores/as y profesorado, para conseguir un enfoque multidisciplinar, así como el uso de fuentes certificadas. En este sentido los modelos y los algoritmos creados se almacenarán y ejecutarán en entornos seguros, para garantizar la integridad de los mismos.
El principio de respeto a la transparencia, imparcialidad y lealtad, pretende que el desarrollo de los sistemas sea accesible, entendible y auditable. Se pretende conseguir un equilibrio entre la propiedad intelectual, y este principio, para que se pueda acceder al diseño de estos sistemas, y evitar la aparición de sesgos, priorizando los intereses de la justicia. Se pretende –en este sentido– qué los algoritmos utilizados sean transparentes y explicables, de tal forma que los ciudadanos puedan comprender cómo se toman las decisiones.
Los denominados «principios bajo control del usuario», supone que aunque se use IA, se debe garantizar que las decisiones judiciales sean revisadas previamente. También se determina qué se habrá de informar a los ciudadanos afectados, de forma clara y comprensible, sí los resultados ofrecidos por la herramienta son vinculantes o no, así como su derecho a objetar de manera que puedan ser oídos por el órgano judicial.
Además, en este documento se precisa que debe cumplirse en todo momento tanto con la normativa europea como nacional que le sea aplicable. De manera general, se establece que debe tener en cuenta una serie de cuestiones, entre las que cabe destacar: la revisión humana de todo lo generado que afecte, ya sea de forma directa o indirecta, a los derechos de las personas usuarias del servicio de Justicia o de la actividad jurisdiccional; los resultados obtenidos por IA deben identificarse; no se utilizarán aplicaciones que no hayan sido autorizadas; los resultados de la aplicación de la IA tendrán que cumplir los principios de equidad, ética e idoneidad; no se pueden utilizar resultados que discriminen a las personas por motivos de raza, color, religión, origen nacional, edad, discapacidad, estado civil, afiliación política u orientación sexual.
La jurisprudencia comienza a abordar los desafíos que plantea la IA en el ámbito judicial y, aunque los casos relacionados con la libertad religiosa e IA son todavía escasos, analizaremos algunos de ellos, en tanto que pueden ser clarificadores de la realidad social. Y en concreto ponen de manifiesto que la IA, si no se somete a controles adecuados puede dar lugar a –entre otros– discriminaciones por motivos religiosos, por lo que se hace necesario llevar a cabo una supervisión precisa y adecuada.
En la primera de las resoluciones judiciales a la que tenemos que hacer referencia, se pone de manifiesto la que podríamos denominar excesiva confianza en la IA, y más concretamente en el ChatGPT. En este sentido, el Tribunal Superior de Justicia de Navarra emite una resolución en la que se analiza las implicaciones legales y éticas del uso de herramientas de IA, en concreto en un auto de este Tribunal de fecha 4 de septiembre de 2024[89], se trata el caso de un abogado que utiliza una información errónea generada por el ChatGPT, en la redacción de una querella, en concreto, cita un artículo del Código Penal Colombiano, en lugar del español, y aunque la Sala acuerda archivar esta pieza separada, debemos aludir a lo manifestado por este Tribunal en lo que respecta al uso de las tecnologías emergentes y la buena fe procesal, considerando al respecto que «El uso de las tecnologías emergentes y de los materiales generados por inteligencia artificial en los procedimientos judiciales no está exento de importantes consideraciones éticas y legales para garantizar un uso responsable. Lo que impone una verificación adicional, puesto que la revisión y validación de los documentos legales seguirá siendo responsabilidad de los abogados para garantizar la precisión y el cumplimiento normativo»[90]. Este caso se centra en el uso inadecuado de la IA en la práctica jurídica, y se destaca la importancia del control judicial en lo referente a los resultados generados por algoritmos, y por lo tanto podría ser de aplicación en los litigios relacionados con sesgos algorítmicos referentes al derecho de libertad religiosa.
La Audiencia Nacional, en Sentencia de 9 de diciembre de 2024[91], resuelve un supuesto en el que se alude a la religión y a la IA. El objeto de este recurso contencioso administrativo versa sobre la denegación de la solicitud de protección internacional formulada por un nacional de China, del cual resulta relevante mencionar una serie de consideraciones. Debemos partir, del dato relevante, de que el solicitante ha sufrido persecución por parte del gobierno chino por motivos religiosos, y en concreto por su pertenencia a la religión protestante de la rama Quan-Neng-Shen, religión ilegal en China. Después de una denuncia y al enterarse que su domicilio se encontraba en investigación por las autoridades, se plantea la posibilidad de abandonar su país, con destino a España. En relación con este supuesto, es importante poner de relieve que «es muy difícil pensar que una persona contra la que las autoridades chinas hayan incoado alguna actuación administrativa o judicial por su actividad en alguno de los cultos mencionados pueda eludir una posible detención en aeropuertos en caso de querer abandonar el país. En la RPCh el férreo control al que está sometida la población en todas las esferas –palpable de forma particular en aduanas y fronteras– apenas admite fisuras. De hecho, China se encuentra a la vanguardia mundial en el empleo de la inteligencia artificial en todas estas áreas. Otro tanto puede decirse en lo que se refiere a la mera posibilidad de renovar el pasaporte»[92].
Por lo tanto, es evidente que, «el uso de las tecnologías emergentes y de los materiales generados por inteligencia artificial en los procedimientos judiciales no está exento de importantes consideraciones éticas y legales para garantizar un uso responsable… No nos cabe duda de que el uso descuidado de estas tecnologías en los procedimientos judiciales plantea importantes implicaciones deontológicas y, desde luego, es susceptible de integrar un claro ejemplo de mala fe procesal y de abuso del proceso»[93].
La IA puede ser usada en la generación de noticias y publicaciones, lo que podría plantear problemas en relación, por ejemplo, con las noticias falsas (fake news) y los bulos, teniendo en cuenta que en muchos casos es difícil determinar la veracidad de cierta información[94]. Debemos precisar que difundir información falsa, errónea e inexacta, con intención o no, de engañar, puede suponer un descrédito o un perjuicio para individuos y, también y dentro del tema que estamos tratando para iglesias y confesiones religiosas. Por este motivo tendríamos que plantearnos cómo índice este fenómeno.
Antes de adentrarnos en esta cuestión, debemos realizar algunas precisiones. No cabe duda de qué se está produciendo un auge de las denominadas noticias falsas y la utilización de técnicas de desinformación. Además, en muchos casos las redes sociales no asumen su responsabilidad por la información que transmiten. Llegados a este punto, tendríamos que determinar cuáles son las técnicas de desinformación: «manipulación activa de los contenidos con un propósito predefinido,… en estos casos, la desinformación no procede de la difusión de datos falsos, sino de la violación de las políticas de privacidad y el manejo de datos privados…; el segundo método es la manipulación pasiva, y consiste en el refuerzo de las cámaras de eco y las burbujas informativas… estas prácticas disminuyen la calidad de la información para que el ciudadano tome sus decisiones de forma autónoma, tras la elaboración de su propio juicio de valor; la tercera técnica es la falta de transparencia en el diseño y la gestión de los algoritmos; la cuarta novedad es la calidad de las falsificaciones audiovisuales… no son imitaciones o copias, sino la reproducción de tics extraídos del aprendizaje de las expresiones faciales que acompañan a cada fonema; la quinta técnica es el uso de la ficción para la construcción de comunidades imaginadas»[95].
Partiendo de estas consideraciones, podemos afirmar que la IA puede generar textos, audios, imágenes y vídeos –conocidos como deepfakes[96]– capaces de imitar a dirigentes religiosos o textos, y que al ser, en muchos casos difícil de precisar su origen, podrían dar lugar a situaciones que resulta adecuado denominar de manipulación de creencias, así como de incitación al odio, la radicalización en las redes, mediante labores de manipulación.
Además, cabría la posibilidad de utilizar la IA para atacar y difamar a grupos religiosos, creando noticias o situaciones faltas que aumenten la desconfianza, la polarización y la intolerancia. También podríamos hacer referencia a las noticias falsas que, difundidas en muchos casos de forma masiva –por ejemplo, a través de redes sociales o en otros medios digitales–, puede erosionar la confianza en determinadas confesiones religiosas.
Asimismo, tendríamos que hacer referencia a la importancia de la información[97] y al peligro que supone su manipulación, que puede dar lugar a la criminalización de conductas, y quizás situaciones más peligrosas. No podemos olvidar que las redes sociales pueden ser altavoces para ocasionar odio contra determinadas confesiones religiosas. El denominado clickbait[98], puede también incidir dentro del ámbito de las confesiones religiosas.
Además «los algoritmos utilizados en las redes sociales no pueden responder a lo que se ha denominado “algoritmos opacos”, por lo que deberán tenerse presente en el diseño de dichos algoritmos los “valores incrustados”, ya que estos pueden terminar teniendo el efecto de promover o priorizar ciertos valores sociales, culturales e ideológicos, en sentido amplio, sobre otros o dar ventajas o desventajas a unos grupos sociales sobre otros (y evitarse así lo que se ha denominado “sesgos algorítmico”). Todo ello puede incidir, pues, decisivamente en la libre formación de la conciencia, lo que hace necesario establecer una regulación normativa del diseño de los algoritmos dirigida a evitar la manipulación en la formación y la transmisión de las ideas, creencias y convicciones»[99].
No cabe duda de que estamos ante un tema complejo y de dimensiones incalculables, que demanda una detallada regulación para evitar lo que podríamos denominar un mal uso de las nuevas tecnologías. Resulta necesaria una especial protección de los derechos fundamentales, en el entorno digital, encaminada a identificar los contenidos ilícitos, entre los que se encuentra el discurso del odio, el uso de expresiones inadecuadas y las situaciones discriminatorias.
Pero, con independencia de estas consideraciones, debemos precisar que son pocas las resoluciones judiciales que se pronuncian sobre esta problemática y, aunque no aluden al derecho de libertad religiosa, sí podrían dar algunos datos relevantes. En este sentido, debemos aludir a una reciente sentencia.
El Tribunal Europeo de Derechos Humanos[100], en una sentencia de 2025[101], hace referencia a la Comisión Europea, que el 26 de marzo de 2024 publicó unas directrices sobre las medidas recomendadas a las plataformas en línea y los motores de búsqueda de gran tamaño[102], para mitigar los riesgos. Aunque dichas medidas se prevén para las elecciones, considero que se podrían extrapolar a otros ámbitos. Entre otras, en la sentencia se alude a «adoptar medidas específicas de mitigación vinculadas a la inteligencia artificial (“IA”): las plataformas en línea y los motores de búsqueda de muy gran tamaño cuyos servicios podrían utilizarse para crear y/o difundir contenidos generativos de IA deben evaluar y mitigar los riesgos específicos relacionados con la IA, por ejemplo, etiquetando claramente los contenidos generados por IA (como los deepfakes), adaptando sus términos y condiciones en consecuencia y haciéndolos cumplir adecuadamente»[103].
Este fenómeno emergente incide en múltiples aspectos y, en este sentido, analizaremos la intersección entre religión e IA, en tanto que esta última puede incidir en la experiencia de lo sagrado.
En lo referente al uso de la IA, podríamos partir de la consideración de que esta se puede utilizar para apoyar tareas religiosas. A modo de ejemplo, podríamos mencionar la investigación, la organización, la traducción de textos religiosos[104], la difusión, y la redacción de sermones, estudios bíblicos o material, siempre y cuando, sean sometidos a revisión por parte de los líderes religiosos o competentes en relación con la materia de que se trate. En estos casos, el uso de la IA puede constituir una herramienta que no sustituye la expresión humana de fe y, por lo tanto, puede afirmarse que su uso no plantea problemas, es más, podría considerarse como un recurso útil.
En este sentido, tendríamos que hacer referencia al experimento llevado a cabo con IA en 2023 por la Iglesia Evangélica Alemana (EKD), consistente en la celebración de un servicio religioso en el que participaron avatares en forma humana generados artificialmente, proyectados en una pantalla. Estos avatares fueron los que dirigieron el servicio por medio, entre otros, de oraciones, un sermón y una bendición. Alrededor de 300 personas se unieron a este acto, de una duración de 45 minutos, que en un 98 % fue creado y realizado por máquinas[105].
Este no es el único caso, también la Iglesia Luterana de San Pablo, en Helsinki (Finlandia), realizó un experimento, consistente en un servicio religioso creado casi en su totalidad por IA. El acto presentó características similares al comentado anteriormente, ya que se utilizaron herramientas de IA para generar sermones, canciones, elementos visuales y avatares de pastores y figuras históricas. Como datos significativos, cabe señalar que el evento atrajo a más asistentes de lo habitual –más de 120–, pero muchos de los participantes manifestaron que se trataba de un acto frío y sin conexión personal. Además, la propia iglesia aclaró que no pretende sustituir el toque humano[106].
Llegados a este punto, tendríamos que decir que el problema se plantea en relación con el uso indebido, por ejemplo en supuestos en los que se manipulan creencias, se difunde desinformación, o se confunde lo sagrado por lo generado por IA. En este sentido analizaremos algunos ejemplos específicos de aplicaciones de la IA y los que podríamos denominar «movimientos de cariz tecnológico/religioso».
– Bible.AI, es una aplicación que responde a preguntas y explica pasajes de la Biblia en lenguaje accesible[107]. QuranGPT, responde a preguntas sobre el Corán y el Islam, siendo necesario iniciar sesión o registrarse. Debemos precisar que en la misma página se precisa que «la GPT del Corán puede producir información inexacta sobre personas, lugares o hechos»[108].
– GitaGPT, en el que se explora el texto sagrado del hinduismo, Bhagavad Gita con la ayuda de IA e interactúa con el chatbot Ask Krishna[109].
– BuddhaBot Plus, es un chatbot diseñado para responder preguntas, en inglés, desde la perspectiva Budista, cuyo lanzamiento está previsto para el 2027[110].
– IA cristiana, es un lector de biblia gratuito, en el que se pueden marcar versículos, tomar notas y profundizar en la comprensión, y además también se pueden obtener respuestas instantáneas, y orientación y apoyo personalizado[111].
– Rabino Ari: Chatbot Judaísmo, el uso de esta aplicación ayuda al usuario a adentrarse que lo desee pueda profundizar su comprensión de las enseñanzas judías, ofreciendo un aprendizaje personalizado e interactivo. Rabbi Ari responde a preguntas, y dirige el usuario de esta aplicación a versículos específicos y recursos dentro de la Biblia, a textos sagrados[112].
– Chat Bíblico – ChatHolyBible, que es una herramienta diseñada para enriquecer la comprensión de la Biblia, profundizar en las escrituras, y oraciones personalizadas[113].
Además, debemos destacar qué a lo largo de los últimos años aparecen los que podríamos llamar «movimientos de cariz tecnológico/religioso», generadas por chatboots o que consideran a la IA como una deidad o como una intermediario espiritual. Pasaremos en este sentido a reseñar algunos de ellos.
– Way of the Future (WOTF). Creada por un ingeniero de Google Anthony Levandowski, en 2017 en California, que se caracteriza por ser una comunidad sagrada, futurista y mística en la que se fusionan la tecnología y los sistemas de creencias[114].
– La Iglesia del Robotheísmo[115]. Se caracteriza por mezclar lenguaje informático y místico, tener un códice eclesial, un catecismo abreviado, un credo del robotismo, así como rituales y prácticas.
A modo conclusivo podemos decir que, estos son solo algunos ejemplos de cómo la IA puede entrelazarse con la religión, y en este sentido se podría utilizar como herramienta, encaminada a difundir textos, organizar cultos, o bien como objeto de fe, en tanto que se le atribuye un poder divino. Pero no cabe duda de que estamos ante una materia en continua evolución, y que no cabe duda de que irá en aumento.
No cabe duda, que la IA llega a nuestras vidas para quedarse, y constituye una oportunidad para mejorar la vida humana; sin embargo, plantea riesgos serios para los derechos fundamentales. La libertad religiosa, como expresión de la identidad individual y colectiva, debe ser protegida frente a posibles abusos tecnológicos. Por ello, resulta imprescindible un enfoque ético, jurídico y social que la garantice.
Considero necesario, en aras de potenciar un buen uso de la IA, adoptar medidas jurídicas encaminadas a garantizas un uso responsable y ético de las nuevas tecnologías, así como regular la protección de los derechos y la privacidad de los usuarios.
Estamos ante una materia en constante evolución, y aunque, como hemos comentado, la regulación evoluciona de forma más lenta, considero qué se tendrían que incluir cláusulas encaminadas a proteger la libertad religiosa, así como establecer límites para el uso de la IA en contextos religiosos.
Debemos además tener en cuenta que los algoritmos que se utilizan, tanto por parte de gobiernos como de empresas, tienen que estar sometidos a un proceso de control para evitar la vulneración del derecho de libertad religiosa.
Se hace necesario, una intervención en el ámbito educativo, por un lado para formar a los individuos, a los líderes religiosos y las comunidades en el uso correcto de las nuevas tecnologías, y por otro, para garantizar que la IA sea utilizada de forma ética. Además, se tendría que realizar un control exhaustivo de los contenidos generados mediante el uso de la IA, para evitar contenidos perjudiciales e ilícitos.
En aras de garantizar un uso adecuado de la IA, lo procedente sería llevar a cabo una regulación precisa. Sin embargo, dado que se trata de una materia en constante evolución, esta solución sería compleja a priori. Por ello, considero que lo más adecuado sería la creación de comisiones especializadas en los distintos ámbitos que podrían verse afectados por el uso inadecuado de la IA, con el fin de que velaran por su correcta aplicación.
Considero esencial promover un enfoque ético y transparente en el desarrollo y aplicación de la IA. No cabe duda de que se hace necesario proteger los derechos fundamentales y garantizar el uso adecuado y responsable de las nuevas tecnologías, para que la IA llegue a ser una herramienta útil para la sociedad.
La IA puede ofrecer nuevas oportunidades para el ejercicio del derecho fundamental de libertad religiosa, tanto de forma individual como colectiva, pero se hace necesario que las herramientas utilizadas sean desarrolladas teniendo en cuenta las necesidades reales, el contexto de aplicación, es decir, de forma controlada. Podríamos hablar, en este sentido, de que en determinadas situaciones tendría que tener un uso complementario y siempre con supervisión humana.
La normativa existente hasta el momento, sentará las bases para futuros pronunciamientos judiciales, que supondrá exigir transparencia y supervisión humana, sobre todo en los sistemas de alto riesgo. Asimismo, se plantea la necesidad de nuevas herramientas legales encaminadas a defender el derecho de libertad religiosa frente al uso inadecuado o irresponsable de la IA.
En lo que respecta a la jurisprudencia, debemos precisar que hasta el momento es escasa, pero se irá incrementando a medida que la IA tenga más protagonismo en nuestras vidas. En este sentido, los tribunales se tendrán que pronunciar sobre los límites, la responsabilidad y sobre la necesidad de regular diversos aspectos sobre el uso de estos sistemas. Considero que la jurisprudencia será clave para proteger los derechos fundamentales, y en concreto el derecho de libertad religiosa.
Además, estamos ante una materia que genera y está generando un gran debate académico, en concretos se están organizando congresos, jornadas y numerosas publicaciones en las que se aborda esta cuestión desde distintas perspectivas.
State Agency Official State Gazette
Avda. de Manoteras, 54 - 28050 Madrid