La construcción de discursos de odio y su difusión en los medios audiovisuales e Internet:
aportes a su conocimiento

The construction of hate speech and its dissemination in the audiovisual media and on the Internet: contributions to its understanding

Domi del Postigo

Presidente del Consejo Audiovisual de Andalucía (España)

josef.dominguez.postigo@juntadeandalucia.es

Mar Ramírez-Alvarado

Consejera del Consejo Audiovisual de Andalucía (España)

mariam.ramirez.alvarado@juntadeandalucia.es https://orcid.org/0000-0002-0810-7879

Resumen: En los últimos años el Consejo Audiovisual de Andalucía (CAA), en el marco de sus principios de actuación y funciones, ha venido poniendo en marcha acciones vinculadas a la comprensión del fenómeno creciente de la difusión de contenidos audiovisuales que albergan elementos compatibles con discursos de odio. Este artículo editorial presenta los contenidos de este número 12 de los Cuadernos del Audiovisual del CAA que tienen como línea central los discursos de odio en los medios de comunicación audiovisual y su difusión en Internet. Se ofrece, asimismo, información sobre otras acciones del CAA como las recomendaciones para proteger a los menores ante los bulos y las noticias falsas en la red «Pasa del bulo y navega seguro», así como datos sobre esta temática provenientes del Barómetro Audiovisual de Andalucía que reflejan el aumento de la preocupación de la ciudadanía por el incremento de este tipo de discurso.

Palabras clave: discurso de odio; medios audiovisuales; Internet; redes sociales.

Abstract: In recent years the Consejo Audiovisual de Andalucía (CAA), within the framework of its principles of action and functions, has been implementing actions linked to the understanding of the growing phenomenon of the dissemination of audiovisual content that harbor elements compatible with hate speech. This editorial article presents the contents of this 12th issue of the CAA’s Cuadernos del Audiovisual, which focuses on hate speech in the audiovisual media and its dissemination on the Internet. It also provides information on other CAA actions such as the recommendations to protect minors from hoaxes and fake news on the network “Pasa del bulo y navega seguro” (“Get over the hoax and surf safely”) as well as data on this subject from the Andalusian Audiovisual Barometer which reflects the increase in public concern about the increase in this type of discourse.

Keywords: hate speech; audiovisual media; Internet; social networks.

1. Consideraciones generales

La propagación de discursos de odio en los medios audiovisuales y su difusión en las redes sociales, sus posibilidades de multiplicación, su enorme capacidad de expansión y la globalización de este fenómeno ofrecen un panorama cada vez más preocupante y complejo. De allí que en los últimos años el Consejo Audiovisual de Andalucía (CAA), compartiendo la preocupación de otros reguladores en instituciones, haya venido desarrollando estudios y poniendo en marcha acciones sobre la difusión de contenidos audiovisuales que albergan elementos compatibles con el discurso de odio. Lo hace en el marco de los principios de actuación que la LEY 1/2004, de 17 de diciembre, de creación del CAA le otorgan y que se inspiran en el derecho al honor e intimidad, la información veraz, la igualdad y la no discriminación, entre otros, así como en el impulso de los valores de tolerancia, igualdad, solidaridad y respeto a la dignidad humana (art. 3). Acomete también el CAA esta temática de acuerdo a sus funciones de salvaguarda de los derechos de menores, jóvenes, tercera edad, personas con discapacidad, inmigrantes y otros colectivos necesitados de una mayor protección en lo que se refiere a los contenidos de la programación y a las emisiones publicitarias (art. 4.6).

En abril de 2023, el Pleno del CAA aprobó por unanimidad el proyecto de transformar los Cuadernos del Audiovisual del Consejo Audiovisual de Andalucía que ya existían en una publicación periódica científica con el objetivo de promover la investigación y la difusión del conocimiento científico en sus áreas de competencia. Así, a finales de enero de 2023, vio la luz el número 11 de esta segunda etapa cuyo tema central fue la indefensión de los menores ante la pornografía en Internet. El número completo, que se encuentra disponible en el enlace a pie de página, viene a complementar una de las actuales líneas estratégicas del CAA, la de la defensa de los menores frente a los riesgos del entorno digital, y va teniendo una excelente acogida (CAA, 2024)1.

En los últimos tiempos, la situación de guerras y conflictos armados, la polarización política y los mensajes racistas y xenófobos han agudizado la propagación de contenidos preocupantes en redes sociales, por lo que es importante analizar los rasgos que presenta ese discurso de odio e identificarlo para combatirlo mejor. Si acudimos a una definición tipificada en el ámbito internacional, como es la de la Office for Democratic Institutions and Human Rights (ODHIR) de la Organization for Security and Co-operation in Europe (OSCE), los delitos de odio son actos delictivos cometidos por una motivación basada en prejuicios. Este móvil es el que, precisamente, distingue a los delitos de odio de otros delitos. De acuerdo a esta definición de la ODHIR/OSDE, los delitos de odio se componen de dos elementos: un delito y una motivación prejuiciosa. Por ello, para que haya delito de odio es preciso que exista un delito base (es decir, el acto cometido debe constituir delito conforme a la legislación nacional). Si no existe un delito base, no existe un delito de odio. El segundo elemento distintivo de un delito de odio «es que el autor del mismo lo cometa por un prejuicio o varios, como puede ser un prejuicio ante una discapacidad, la religión, la etnia, el color o el género de la víctima. La presencia de la motivación prejuiciosa es lo que diferencia un delito de odio de un delito ordinario» (OSDE, 2021: 2). Una persona puede cometer un delito de odio en un país donde no exista una sanción penal específica por motivo basado en prejuicios. Por tanto, el término alude a un concepto, más que una definición legal.

En España, y ya directamente en el ámbito de los medios de Comunicación, la Ley General de Comunicación Audiovisual (LGCA, 2022) detalla que «La comunicación audiovisual no incitará a la violencia, al odio o a la discriminación contra un grupo o miembros de un grupo por razón de edad, sexo, discapacidad, orientación sexual, identidad de género, expresión de género, raza, color, origen étnico o social, características sexuales o genéticas, lengua, religión o creencias, opiniones políticas o de cualquier otro tipo, nacionalidad, patrimonio o nacimiento» (art. 4.2). Y no solo advierte esto sino que tipifica como infracción muy grave «La emisión de contenidos audiovisuales que de forma manifiesta inciten a la violencia […], al odio o a la discriminación contra un grupo de personas o un miembro de un grupo por razón de edad, sexo, discapacidad, orientación sexual, identidad de género, expresión de género, raza, color, origen étnico o social, características sexuales o genéticas, lengua, religión o creencias, opiniones políticas o de cualquier otro tipo, nacionalidad, patrimonio o nacimiento» (art 157.1).

En esta dirección se planteó la llamada de artículos del presente número de Cuadernos del Audiovisual del CAA aprobada por su Pleno. Dicho Call for Papers ha tenido como objetivo principal indagar en la comprensión del fenómeno asentando estrategias para identificar y combatir los discursos de odio. Las mismas pasan por el desarrollo de iniciativas en el ámbito de la comunicación audiovisual y de la investigación científica, como la de este número, con respeto siempre a la libertad de expresión, pero con conciencia de que es un fenómeno que se multiplica con sorprendente rapidez y que la respuesta de las instituciones y de la sociedad no puede ni debe ser más lenta que su velocidad de propagación.

2. Los discursos de odio en el Barómetro Audiovisual de Andalucía

Desde el año 2007, el CAA elabora el Barómetro Audiovisual de Andalucía (BAA) a partir de la realización de más de tres mil encuestas a personas mayores de dieciséis años de toda la comunidad andaluza. Se trata de un estudio de opinión que ofrece una detallada descripción del estado actual y de la evolución de las percepciones y hábitos de los andaluces en relación con los medios de comunicación audiovisual. La metodología empleada es cuantitativa de carácter extensivo y estadístico, articulada en torno a diferentes niveles de información definidos a partir de unidades de análisis y variables de interés. Los barómetros presentan una unidad diacrónica de contenidos que permite estudiar series de datos en el tiempo. Sin embargo, atienden también a la consulta en su cuestionario sobre temáticas específicas que entroncan con las estrategias puntuales del CAA. De esta forma, en el BAA del año 2021 se prestó especial atención a los discursos de odio con una batería amplia de preguntas específicas sobre este tema.

Los resultados que se presentan a continuación provienen del BAA 2021 (CAA, 2021: 167-183). Los mismos muestran cómo un 73,2% de las personas en el contexto de este estudio dicen conocer la existencia de mensajes de odio en las redes sociales y un 8,5% señala haber recibido en alguna ocasión mensajes de este tipo. Un 1,4% de las personas encuestadas reconoce, incluso, haber difundido en alguna ocasión mensajes de odio en redes sociales (en mayor número en compañía de otras personas), no existiendo diferencia entre mujeres y hombres y concentrándose en la franja de edad comprendida entre los dieciséis y los veinticuatro años.

Destaca de este Barómetro 2021 el hecho (contradictorio en sí) de que un 28,8% considera que los mensajes de odio son muy peligrosos para las personas o colectivos de personas contra los que se dirigen y para la sociedad en general, mientras a un 22,1% les da igual este tipo de mensajes. Asimismo, cuando se pregunta sobre el porqué de la difusión de mensajes de odio, la respuesta que más sobresale se refiere a las cuestiones ideológicas. Las personas encuestadas consideran también que la población migrante constituye el colectivo más atacado por los discursos de odio en las redes sociales (seguidos de las mujeres y de los colectivos LGTBI)… y aquí localizamos otro dato llamativo y es que, cuando se pregunta por los motivos de estos mensajes, el racismo se encuentra en último lugar. Se estima que, en primer lugar, las personas que difunden mensajes de odio lo hacen movidas por la ignorancia (27,5%), la intolerancia (21,1%) o los extremismos políticos o religiosos (16,6%).

La mayoría de la población andaluza confirma a través de este barómetro tener conocimiento de la distribución y circulación de mensajes de odio en las redes sociales (un 74,8% de las mujeres y el 71,4% de los hombres). En cuanto a la edad, son las personas situadas en el tramo de dieciséis a veinticuatro años las que en mayor medida (84,6%) señalan tener conocimiento de este tipo de mensajes seguidas de las ubicadas en el tramo de 35 a 44 años con un 81,5%.

En cuanto al nivel de estudios, los individuos encuestados con estudios superiores son los que en mayor medida conocen la existencia de mensajes de odio en redes sociales (79,3%). Las que menor conocimiento dicen tener (68,8%) son aquellas personas que no poseen estudios. En la medida en que aumenta el número de miembros en un hogar, es mayor el conocimiento que se tiene sobre la existencia de discursos de odio en redes sociales. La tasa de respuesta es más baja en los hogares unipersonales o compuestos por dos personas. Por otra parte, las personas que se encuentran estudiando (86,5%) son las que en mayor medida conocen la existencia de mensajes de odio en redes sociales y también las que en mayor medida confirman haber recibido mensajes de odio a través de redes sociales. En menor medida dicen conocerlos las personas desempleadas en situación de búsqueda de empleo (25%) aun cuando sí que reconocen haber recibido mensajes de este tipo en un 14,1%.

En cuanto a tramos de edad, son de nuevo las personas más jóvenes de dieciséis a veinticinco años las que expresan haber recibido en mayor medida mensajes de odio. El dato va en descenso conforme aumenta la edad hasta un 0% en el caso de los mayores de 75 años. Destaca que sean las personas que perciben menores ingresos mensuales quienes dicen recibir en mayor medida mensajes de odio mientras que las personas con mayores ingresos son las que en mayor medida reconocen haber enviado mensajes de odio en alguna ocasión (16,7% con ingresos superiores a los cuatro mil euros).

Prácticamente en todas las situaciones laborales las personas consultadas rechazan los mensajes de odio. En el ámbito político existe una notable variabilidad intergrupal (entre personas que votan a diferentes partidos) e intergrupal (personas que votan al mismo partido) al momento de valorar los discursos y mensajes de odio. Con independencia de su recuerdo de voto, las personas encuestadas coinciden en que habría que endurecer las penas por la comisión de este tipo de delitos.

Sobre estrategias para el control de la difusión de mensajes de odio en las redes sociales, un tercio de la población encuestada pone en primer lugar los programas educativos de sensibilización. También priorizan el endurecimiento de las penas por la comisión de este tipo de delitos, así como que debería existir un mayor control y vigilancia policial en las redes sociales regulando su uso (CAA, 2021: 167-183).

En cuanto a los datos del Barómetro del año 2022, existe un aspecto de interés vinculado a la consulta sobre las funciones que debería asumir el CAA para la protección de los menores sobre la regulación de contenidos y publicidad en Internet: un 82,4% de la población encuestada indicó que este organismo regulador andaluz debería ocuparse de eliminar los contenidos que produjesen incitación al odio. Este dato se completa con el de un 70% de encuestados que manifiesta que el CAA debería señalar los contenidos inadecuados, demanda al alza que además se aprecia en Barómetros previos desde 2017 (CAA, 2022: 117-119 y 139). Acerca de la respuesta a la pregunta sobre la función de «eliminación de contenidos que produzcan incitación al odio por raza, religión...» que debería ejercerse desde el CAA se aprecia con claridad como desde la edición del BAA 2019 se ha producido un importante aumento de la tasa de respuesta: 50,4% ese año, 69,8% en 2020, 74,2% en 2021 y un 82,4% en 2022 (CAA, 2019; 2020; 2021; 2022).

En los tiempos que corren de preeminencia de la difusión de contenidos online, una mayoría de las personas encuestadas reconoce la necesidad de que el CAA regule los contenidos de Internet. Esto es importante porque es precisamente a través de Internet y de las redes sociales por dónde más circulan y se viralizan los mensajes de odio. Y lo solicitan a través de este útil instrumento del barómetro, sobre todo quienes viven en hogares con menores, algo que refuerza aún más las líneas estratégicas en las que se viene trabajando desde el CAA.

3. «Pasa del bulo» y Proyecto IVERES

La conexión entre fake news y discursos de odio se ha transformado en una de las grandes amenazas en la actual era de la información. Pero, ¿de verdad la era digital es también la era de la información? Desde el CAA, conscientes de la urgencia de aportar iniciativas que muestren los rasgos que presentan los contenidos marcados por discursos de odio, se elaboró un decálogo de recomendaciones con el objetivo de contribuir a detectar bulos y noticias falsas. En el origen de esta iniciativa estuvo la valoración del incremento de discursos de odio durante la pandemia por covid, favorecido por la utilización masiva de Internet, redes sociales y dispositivos electrónicos. Así vieron la luz las recomendaciones para proteger a los menores ante bulos y noticias falsas con el título «Pasa del bulo y navega seguro», con la finalidad de ayudar a los adultos en la educación de niños, niñas y jóvenes estimulando su espíritu crítico y su responsabilidad social.

Los diez ejes configurados para detectar noticias falsas y trabajar en la línea de combatir los discursos de odio son los siguientes (CAA, 2020 y 2022b):

1. Desconfianza inicial: preguntarse qué se está leyendo y huir de la inmediatez en los hechos que requieran pausa.
2. Fuentes: descubrir quién es la persona u organización que emite el mensaje, así como quién está interesado en que tome fuerza.
3. La URL: revisar el lugar de procedencia dentro del universo web.
4. Fecha y formato: atender a la fecha de publicación y a la correcta redacción del texto, lo cual suele ser indicativo de la calidad de la información.
5. Sentido común: aplicar la lógica en contextos polarizados o temas de extrema actualidad.
6. Offline y online: alejarse del famoso click bait y comparar la información en diferentes formatos.
7. Pensar antes de compartir: contribuir a las cadenas de mensaje puede poner en alarma a personas del entorno cercano de forma innecesaria si se trata de informaciones falsas.
8. Respeto en la red: la tolerancia debe ser la base de la convivencia cibernética.
9. Educación a los más pequeños: ayudar a los menores a que eduquen su mirada y su lectura de medios de comunicación.
10. Adiós a las prisas: hay que ser cauto y poner pausa para no incurrir en la difusión de bulos.

Por otra parte, en este cambio de paradigma al que estamos asistiendo con la irrupción de la Inteligencia Artificial, el CAA es consciente de los peligros que la misma comporta para la desinformación y en la difusión de discursos de odio. Pero también es consciente de la utilidad de las aplicaciones que se están desarrollando en este entorno de la Inteligencia Artificial. De tal manera, en el marco del proyecto Iveres (https://iveres.es/), actualmente se está probando una herramienta que sirve para detectar información no veraz y discursos de odio. El Proyecto Iveres está codirigido por la radio y televisión pública española (RTVE) y la Universidad Autónoma de Barcelona. Su objetivo es, en la línea de facilitar la verificación de la información, desarrollar a través de herramientas de Inteligencia Artificial un sistema automático o semiautomático de verificación que facilite esta tarea. Una de las herramientas que actualmente el CAA utiliza en la comprobación de sus informes respecto a contenidos y fuentes en el mundo digital es, precisamente, la denominada «Verifica RTVE».

Como autoridad pública, el CAA también debe abordar este asunto desde diversas perspectivas. No solo trabajar en políticas regulatorias que promuevan un entorno más seguro y exigir responsabilidades a cada empresa y plataforma utilizadas como colaboradoras necesarias para la difusión de estos contenidos, sino que se hace imperativo en paralelo educar y concienciar a las generaciones presentes y que ellas lo hagan con las generaciones futuras sobre el valor del respeto y la empatía, sin olvidar el trato humano entre personas (algo que ha ido disminuyendo, filtrado por las pantallas, sobre todo en los menores, desde el encierro digital del confinamiento).

La vacuna quizá posible que supone la Alfabetización Mediática e Informacional (AMI), una de las obligaciones legales del CAA y, conviene recordarlo más a menudo, de los medios de comunicación públicos, se basa, en esencia, en concienciar a los más jóvenes de los riesgos que supone su exposición en el entorno digital. Y, en un tema como el de la propagación interesada del odio, conviene recordarles no sólo a ellos también al resto de la población general, que las conductas que no son buenas o son delito y hacen daño en la vida offline, tampoco son buenas o también son delito y hacen daño en la vida online.

4. Aportaciones de este número de los Cuadernos del Audiovisual del CAA

Con este número monográfico sobre discursos de odio y su difusión en los medios audiovisuales y en Internet, el CAA ha querido colaborar en el conocimiento de investigaciones sobre la construcción de discursos de odio y su representación en los medios de comunicación audiovisuales (temas, creación y consolidación de estereotipos, evolución en el tiempo y transformaciones de los mismos e identidades tanto en perspectivas diacrónicas como sincrónicas). También de investigaciones que se deprendan de datos empíricos sobre los desencadenantes y la difusión de discursos de odio en los medios de comunicación audiovisuales y plataformas online. Asimismo, han sido bienvenidas las contribuciones sobre los peligros y efectos del discurso de odio y la estigmatización de grupos vulnerables y sobre las características del discurso de odio en ámbitos diferenciados en los medios audiovisuales y plataformas online.

De igual manera se han recibido investigaciones sobre instrumentos jurídicos y normativos sobre el discurso de odio y su regulación, incluyendo reflexiones sobre discursos de odio, democracia y libertad de expresión. Y han superado también la evaluación por pares, por una parte, trabajos con aportaciones sobre la manifestación del discurso de odio que se expresa en diversas formas como la discriminación sexista y de género; por otra, propuestas metodológicas para la identificación de contenidos presuntamente discriminatorios que constituyan discursos de odio y su potencialidad de viralización. De esta forma, el CAA respalda la disponibilidad de los trabajos y de la literatura científica evaluada de forma anónima e impulsa la difusión del conocimiento científico y la transferencia del conocimiento. Colaboran con sus interesantes textos investigadores provenientes de la Universidad de Salamanca, la Universidad de Sevilla, la Universidad Pablo de Olavide, la Universitat Jaume I de Castelló, la Universidad de Alcalá, la Universidad del País Vasco / Euskal Herriko Unibertsitatea y el Consejo de Comunicación de Ecuador.

Cada nuevo número de los Cuadernos del Audiovisual dará difusión o remitirá alguno o algunos de los informes y estudios que se llevan a cabo desde el CAA. En este número 12 se recoge el informe «Difusión online de contenidos audiovisuales que albergan elementos compatibles con el discurso de odio, en el contexto de la pandemia del covid-19» con una edición ad hoc y actualización de su marco jurídico.

También los Cuadernos del Audiovisual del CAA incorporan reseñas de libros de ensayo y monografías de investigación. Los lectores encontrarán en este volumen recensiones sobre las obras La regulación de la comunicación en la era digital. Contenidos, retos y objetivos de la nueva regulación española y europea del audiovisual de José María Vidal Beltrán (presidente del Consell de l’Audiovisual de la Comunidad Valenciana) y el Tratamiento ético de la violencia en los medios de las autoras María Sánchez-Ramos, Belén Zurbano-Berenguer y Aurora Edo-Ibáñez (reseñas a cargo de Marc Pallarés Piquèr y de Rosario Ostos Carrera, respectivamente).

También aprovecharemos esta publicación para promocionar la cultura visual difundiendo en su portada el trabajo creativo de autoras y autores nacidos o residenciados en Andalucía al igual que el patrimonio artístico de las instituciones andaluzas. La portada de este número 12 es una obra cedida por el Centro Andaluz de la Fotografía del fotógrafo almeriense Jorge Rueda. Agradecemos esta colaboración y amable respaldo institucional.

5. Reflexión final

Los Cuadernos del Audiovisual del CAA suponen una apuesta institucional decidida en respaldo de las estrategias de libre acceso con el objetivo de colaborar con la difusión, transferencia y disponibilidad de los trabajos y de la literatura científica evaluada por pares. De esta forma el CAA asume una responsabilidad con las actividades editoriales que se suelen llevar a cabo desde las universidades y los centros de investigación, apostando por nuevas formas colaborativas de edición. Con el número 12 de esta segunda etapa en formato de revista científica esperamos haber contribuido a las reflexiones sobre su tema central.

Fijar una definición del discurso de odio resulta complejo y existe un debate abierto y constante para identificarlo, rastrearlo y tipificarlo. Es esta una preocupación del CAA pero también de los organismos reguladores de todos los contextos, tanto a nivel nacional e internacional. Existen dos acuerdos generalizados a los que hemos esperado aportar con las investigaciones de este número 12 de los Cuadernos del Audiovisual del CAA. En primer lugar, la idea de que el componente que ha de incluir el discurso de odio para que resulte definible como tal y perseguible penalmente es la incitación directa o indirecta al odio, a la violencia o a la discriminación, pero no la manifestación de ideas, por reprobables que las mismas puedan ser. De allí las dificultades para cuantificar y controlar el discurso de odio que circula por internet. También de ahí el valor de las investigaciones, propuestas metodológicas y estudios que ayudan a comprender este fenómeno desde distintas perspectivas.

En segundo lugar, y ante la percepción de que se trata de una realidad creciente conectada con el ámbito audiovisual y que aprovecha el anonimato en las redes, existe un acuerdo generalizado sobre sus terribles consecuencias y sobre la urgente necesidad de afrontarlas. Para ello es necesario reflexionar, analizar, concretar en proyectos y actuar. Los discursos de odio atentan contra los derechos humanos más básicos e instituciones como el CAA, mediante espacios como el de esta publicación, asumen el compromiso de canalizar esfuerzos en combatirlo.

6. Referencias

Consejo Audiovisual de Andalucía (2019). Barómetro Audiovisual de Andalucía 2019. Disponible en: https://bit.ly/3RGLduY

Consejo Audiovisual de Andalucía (2020, 8 de octubre). #PasaDelBulo, y navega seguro. Campaña de televisión para proteger a los menores ante las noticias falsas. Disponible en: https://bit.ly/3RFKZUz

Consejo Audiovisual de Andalucía (2021). Barómetro Audiovisual de Andalucía 2020. Disponible en: https://bit.ly/4cvrG8Q

Consejo Audiovisual de Andalucía (2022a). Barómetro Audiovisual de Andalucía 2021. Disponible en: https://bit.ly/4cncbjC

Consejo Audiovisual de Andalucía (2022b). Decálogo para proteger a los menores ante los bulos y las noticias falsas en la red #PasaDelBulo, y navega seguro. Disponible en: https://bit.ly/3XNKBXY

Consejo Audiovisual de Andalucía (2023). Barómetro Audiovisual de Andalucía 2022. Disponible en: https://bit.ly/3RIdUaK

Consejo Audiovisual de Andalucía (2024). Cuadernos del Audiovisual del Consejo Audiovisual de Andalucía. Nº. 11 (2024), ISSN-e 2952-6116, ISSN 2952-6094. Disponible en: https://bit.ly/45E99Vz

Ley 1/2004, de 17 de septiembre, de Creación del Consejo Audiovisual de Andalucía. Boletín Oficial del Estado, núm. 12, de 14 de enero de 2005. Disponible en: https://bit.ly/49WRgmk

Ley 13/2022, de 7 de julio, General de Comunicación Audiovisual. Boletín Oficial del Estado, núm. 163, de 8 de julio de 2022. Disponible en: https://bit.ly/49X4vDC

Organization for Security and Co-operation in Europe (OSCE) (2021). Los delitos de odio motivados por el racismo y la xenofobia. Disponible en: http://bit.ly/3VSslKF

1. 1. Consejo Audiovisual de Andalucía (2024). La indefensión de los menores ante la pornografía en Internet. Nº 11. Disponible en: https://acortar.link/sR1ne4