Difusión online de contenidos audiovisuales que albergan elementos compatibles con el discurso de odio en el contexto de la pandemia del covid-19
On-line dissemination of audiovisual content containing elements compatible with hate speech in the context of the Covid-19 pandemic
Consejo Audiovisual de Andalucía
areadecontenidos.caa@juntadeandalucia.es
Resumen: El informe que se presenta ofrece una aportación analítica del Consejo Audiovisual de Andalucía que tiene como objetivo conocer los rasgos que presenta el discurso de odio para identificarlo y combatirlo mejor. El discurso de odio estaba ya tipificado en el Código Penal de 1995, contemplado en la Ley General de Comunicación Audiovisual de 2010, la Fiscalía General del Estado detalló las pautas para identificar este delito en 2019 y los observatorios nacionales e internacionales e informes gubernamentales venían advirtiendo sobre este problema. Sin embargo, el estallido de la pandemia del covid-19 creó un clima que estimuló notablemente este discurso, apoyado por un uso más intenso de los medios audiovisuales y, en especial, de las redes sociales. Para realizar este estudio se analizaron 44 vídeos procedentes de 34 canales de YouTube. En el informe se alerta sobre la gran capacidad de propagación de estos mensajes en las plataformas de intercambio de vídeos en el marco de la crisis provocada por el coronavirus.
Palabras clave: Internet; discurso de odio; pandemia; racismo; xenofobia; redes sociales.
Abstract: The report presented here offers an analytical contribution by the Audiovisual Council of Andalusia which aims to understand the features of hate speech in order to better identify and combat it. Hate speech was already criminalised in the 1995 Penal Code, contemplated in the 2010 General Law on Audiovisual Communication, the State Attorney General’s Office detailed the guidelines for identifying this crime in 2019 and national and international observatories and government reports had been warning about this problem. However, the outbreak of the Covid-19 pandemic created a climate that significantly stimulated this discourse, supported by a more intense use of audiovisual media and, in particular, social networks. For this study, 44 videos from 34 YouTube channels were analysed. The report warns of the great capacity of these messages to spread on video-sharing platforms in the context of the coronavirus crisis.
Keywords: Internet; hate speech; pandemic; racism; xenophobia; social networks.
Cómo citar:
Área de Contenidos (2024). Difusión online de contenidos audiovisuales que albergan elementos compatibles con el discurso de odio en el contexto de la pandemia del covid-19. Cuadernos del Audiovisual del Consejo Audiovisual de Andalucía, (12), 22-48. https://dx.doi.org/10.62269/cavcaa.31
Desde el inicio de la pandemia generada por el coronavirus, hubo numerosas voces en contextos internacionales y nacionales, de todo tipo de ámbitos, que advirtieron de la creciente proliferación de contenidos falsos, sesgados y descontextualizados que usaron el covid como excusa para dar amparo a informaciones de índole variada con la común característica de carecer de respaldo científico, periodístico o deontológico. La pandemia se convirtió en escenario de partida desde el que las redes empezaron a vehicular informaciones falsas de un modo rápido y eficaz, porque son capaces de llegar a audiencias millonarias, así como de provocar en ellas respuestas en sintonía, que se multiplican exponencialmente, plagadas de factores agravantes en este tipo de discurso.
Desde el ámbito político, organizaciones no gubernamentales, comunidad científica, autoridades reguladoras audiovisuales y administraciones públicas, no solo se alertaba de la existencia de los bulos o las conocidas como fake news, sino que se realizaban campañas, entre otras actuaciones, para concienciar y contrarrestar prácticas que no corresponden con una actuación responsable y que, en ocasiones, podrían ser, incluso, legalmente perseguibles.
Dentro de este contexto, un tipo de contenido que hizo saltar alarmas fue la presencia del discurso de odio en las redes sociales, tendentes a presentar informaciones sesgadas, estereotipadas e identificaciones entre colectivos desfavorecidos o etnias y la propagación de los contagios, algo a lo que contribuyó, según los análisis de expertos y barómetros especializados, por un lado, el preocupante contexto económico que dejó la crisis del coronavirus, y, por otro, la potencia que adquirieron los discursos del odio.
El secretario general de la ONU, António Guterres, advertía, en este contexto, que «la pandemia sigue desatando una oleada de odio y xenofobia, buscando chivos expiatorios y fomentando el miedo» (Guterres, 2020). El escenario de crisis provocada por el covid-19 acentuó las desigualdades hacia colectivos en situación delicada, de exclusión social o vulnerabilidad.
Desde el Observatorio Español del Racismo y la Xenofobia (OBERAXE) se consideró que el uso del discurso y del delito de odio estaba aumentando de forma muy importante, especialmente a través de la utilización masiva de los medios de comunicación electrónicos.
El Ministerio de Inclusión, Seguridad Social y Migraciones reeditó en ٢٠٢٠ el Informe de delimitación conceptual en materia de delitos de odio. En la presentación del informe, Hana Jalloul Muro, secretaria de Estado de Migraciones, recogía esa preocupación creciente sobre la proliferación del discurso de odio y hacía hincapié en la necesidad de hacerle frente de un modo consistente, en este caso, desde el análisis conceptual del discurso de odio. El informe fue inicialmente publicado en 2018, pero, como se dice en la presentación, en el contexto de la crisis sanitaria, económica y social provocada por la pandemia de covid-19, «se agrandan las desigualdades», de manera que se hacía «necesario prestar especial atención a aquellas personas o colectivos en situación de vulnerabilidad» para asegurar «que nadie queda atrás ni es discriminado» (Díaz, 2020, p. 5).
Posteriormente, el Ministerio de Inclusión Seguridad Social y Migraciones publicó el estudio Análisis sobre las normas y recomendaciones de las organizaciones internacionales, regionales y de la Unión Europea en materia de lucha contra la discriminación hacia la población migrante, el racismo y la xenofobia, elaborado por el Instituto de Derechos Humanos «Bartolomé de las Casas» de la Universidad Carlos III de Madrid (2022). El objetivo de la publicación es presentar el marco del derecho internacional y de la Unión Europea desde el que se aborda la discriminación contra la población migrante, el racismo y la xenofobia. El documento examina las disposiciones de los sistemas internacionales de protección de los derechos humanos y del derecho de la UE con el fin de identificar cuál es el estándar de protección que se debe tomar como referencia.
El objetivo del informe fue analizar la existencia, construcción y proliferación del discurso de odio en los contenidos audiovisuales de plataformas de intercambio de vídeos y redes sociales desde el inicio de la pandemia del covid-19.
El universo de análisis del informe lo conformaron los contenidos localizados en la plataforma de intercambio de vídeos YouTube, y su seguimiento en otras redes como Facebook. El informe consideró el material audiovisual presente en estas plataformas que contenían contenidos compatibles con los elementos constitutivos de discurso de odio, desde que se declaró la emergencia a nivel internacional.
El trabajo de búsqueda de contenidos se llevó a cabo entre octubre y noviembre de 2020. La selección de los contenidos analizados en el presente informe se realizó a partir de la introducción de palabras y expresiones clave en los buscadores de Internet, el empleo de diferentes palabras y expresiones clave en los buscadores concretos de las plataformas y redes sociales analizadas, y de las sugerencias presentadas por las propias plataformas desde los resultados de las búsquedas.
La propagación del discurso de odio en las redes, sus posibilidades de multiplicación, expansión y diseminación, así como la transnacionalidad de este fenómeno, dibujan un panorama donde resulta difícil legislar y establecer un control. También ha de tenerse en cuenta el marco de la libertad de expresión, lo que complica el escenario para dar respuestas. No obstante, son notables los esfuerzos realizados al respecto por las instituciones, los organismos reguladores, así como desde el sector legislativo, tanto en el ámbito europeo como en nuestro país.
La Ley Orgánica 10/1995, de 23 de noviembre, del Código Penal se reformó mediante la Ley Orgánica 1/2015, de 30 de marzo, con el fin de adaptarlo a la jurisprudencia del Tribunal Constitucional y a la Decisión Marco 2008/913/JAI del Consejo, de 28 de noviembre de 2008, relativa a la lucha contra determinadas formas y manifestaciones de racismo y xenofobia mediante el Derecho Penal. Su artículo 510, modificado en sus apartados 1 y 2 por Ley Orgánica 6/2022, de 12 de julio, penaliza las acciones y conductas racistas y xenófobas en Internet:
1. Serán castigados con una pena de prisión de uno a cuatro años y multa de seis a doce meses:
a) Quienes públicamente fomenten, promuevan o inciten directa o indirectamente al odio, hostilidad, discriminación o violencia contra un grupo, una parte del mismo o contra una persona determinada por razón de su pertenencia a aquel, por motivos racistas, antisemitas, antigitanos u otros referentes a la ideología, religión o creencias, situación familiar, la pertenencia de sus miembros a una etnia, raza o nación, su origen nacional, su sexo, orientación o identidad sexual, por razones de género, aporofobia, enfermedad o discapacidad.
b) Quienes produzcan, elaboren, posean con la finalidad de distribuir, faciliten a terceras personas el acceso, distribuyan, difundan o vendan escritos o cualquier otra clase de material o soportes que por su contenido sean idóneos para fomentar, promover, o incitar directa o indirectamente al odio, hostilidad, discriminación o violencia […].
c) Quienes públicamente nieguen, trivialicen gravemente o enaltezcan los delitos de genocidio, de lesa humanidad o contra las personas y bienes protegidos en caso de conflicto armado, o enaltezcan a sus autores, […] cuando de este modo se promueva o favorezca un clima de violencia, hostilidad, odio o discriminación contra los mismos.
2. Serán castigados con la pena de prisión de seis meses a dos años y multa de seis a doce meses:
a) Quienes lesionen la dignidad de las personas mediante acciones que entrañen humillación, menosprecio o descrédito de alguno de los grupos a que se refiere el apartado anterior, o de una parte de los mismos, o de cualquier persona determinada por razón de su pertenencia a ellos […] o produzcan, elaboren, posean con la finalidad de distribuir, faciliten a terceras personas el acceso, distribuyan, difundan o vendan escritos o cualquier otra clase de material o soportes que por su contenido sean idóneos para lesionar la dignidad de las personas por representar una grave humillación, menosprecio o descrédito de alguno de los grupos mencionados, de una parte de ellos, o de cualquier persona determinada por razón de su pertenencia a los mismos.
b) Quienes enaltezcan o justifiquen por cualquier medio de expresión pública o de difusión los delitos que hubieran sido cometidos […] o a quienes hayan participado en su ejecución.
Los hechos serán castigados con una pena de uno a cuatro años de prisión y multa de seis a doce meses cuando de ese modo se promueva o favorezca un clima de violencia, hostilidad, odio o discriminación contra los mencionados grupos.
3. Las penas previstas en los apartados anteriores se impondrán en su mitad superior cuando los hechos se hubieran llevado a cabo a través de un medio de comunicación social, por medio de internet o mediante el uso de tecnologías de la información, de modo que, aquel se hiciera accesible a un elevado número de personas.
Es preciso mencionar también la consideración de los delitos de odio en el derecho penal, según se recoge en la Circular 7/2019, de 14 de mayo, de la Fiscalía General del Estado, sobre pautas para interpretar los delitos de odio tipificados en el artículo 510 del Código Penal. En el epígrafe 2.2, titulado «Discurso del odio y libertad de expresión», se dice:
En la actualidad, el discurso del odio se expresa en diversas formas como la homofobia, la transfobia, la discriminación sexista o de género, la xenofobia derivada de los movimientos migratorios, o la intolerancia religiosa, sin obviar manifestaciones como la romafobia (el odio a la etnia gitana), la mesofobia (el odio a la mezcla o la interculturalidad), la aporofobia (el odio al «pobre», o persona sin recursos o en riesgo de exclusión social) o la gerontofobia (el odio a las personas mayores).
La Ley 13/2022, de 7 de julio, General de Comunicación Audiovisual, que deroga la Ley 7/2010, de 31 de marzo General de la Comunicación Audiovisual, se refiere al discurso de odio en los siguientes artículos:
4.2. La comunicación audiovisual no incitará a la violencia, al odio o a la discriminación contra un grupo o miembros de un grupo por razón de edad, sexo, discapacidad, orientación sexual, identidad de género, expresión de género, raza, color, origen étnico o social, características sexuales o genéticas, lengua, religión o creencias, opiniones políticas o de cualquier otro tipo, nacionalidad, patrimonio o nacimiento.
4.4. La comunicación audiovisual no contendrá una provocación pública a la comisión de ningún delito y, especialmente, no provocará públicamente la comisión de un delito de terrorismo, de pornografía infantil o de incitación al odio, hostilidad, discriminación o violencia contra un grupo, una parte del mismo o contra una persona determinada por motivos racistas, xenófobos, por su sexo o por razones de género o discapacidad en los términos y sin perjuicio de lo previsto en el Código Penal.
44. Límites a la libertad de recepción de servicios prestados desde la Unión Europea […]. La Comisión Nacional de los Mercados y la Competencia, con carácter excepcional y de conformidad con los procedimientos previstos en los artículos 45 y 46, podrá limitar la libertad de recepción del servicio audiovisual televisivo procedente de un Estado miembro de la Unión Europea o de un Estado parte del Convenio de Televisión Transfronteriza cuando dicho servicio: a) Contenga incitaciones al odio por los motivos mencionados en el artículo 4.2 […].
El artículo 157.1 de esta Ley considera infracción muy grave: «La emisión de contenidos audiovisuales que de forma manifiesta inciten a la violencia, a la comisión de un delito de terrorismo o de pornografía infantil o de carácter racista y xenófobo, al odio o a la discriminación contra un grupo […]».
En Europa, la Directiva 2010/13/UE, del Parlamento Europeo y del Consejo, modificada por la Directiva 2018/1808/UE de 14 de noviembre de 2018, relativas a la prestación de servicios de comunicación audiovisual (DSCA), recoge en su artículo 6.1:
Sin perjuicio de la obligación de los Estados miembros de respetar y proteger la dignidad humana, los Estados miembros garantizarán, aplicando las medidas idóneas, que los servicios de comunicación audiovisual ofrecidos por prestadores de servicios de comunicación sujetos a su jurisdicción no contengan:
a) Incitación a la violencia o al odio dirigidos contra un grupo de personas o un miembro de un grupo por cualquiera de los motivos mencionados en el artículo 21 de la Carta […].
En su considerando 17, la DSCA señala:
Con el fin de garantizar la coherencia y la seguridad jurídica a las empresas y las autoridades de los Estados miembros, el concepto de «incitación a la violencia o al odio» debe entenderse, en la medida que corresponda, en el sentido que le atribuye la Decisión marco 2008/913/JAI del Consejo.
Por su parte, la Decisión marco 2008/913/JAI del Consejo, relativa a la lucha contra determinadas formas y manifestaciones de racismo y xenofobia mediante Derecho penal, recoge en su considerando 9: «El concepto de «odio» se refiere al odio basado en la raza, el color, la religión, la ascendencia o el origen nacional o étnico», y en su considerando 10:
La presente Decisión marco no supondrá un impedimento a que un Estado miembro adopte disposiciones en su legislación nacional destinadas a ampliar el alcance del artículo 1, apartado 1, letras c) y d), a los delitos contra grupos de personas definidos con arreglo a otros criterios distintos de los de raza, color, religión, ascendencia u origen nacional o étnico, como por ejemplo la posición social o las convicciones políticas.
En su artículo 1, apartados a y b, esta Decisión establece:
1. Cada Estado miembro adoptará las medidas necesarias para garantizar que se castiguen las siguientes conductas intencionadas:
a. La incitación pública a la violencia o al odio dirigidos contra un grupo de personas o un miembro de tal grupo, definido en relación con la raza, el color, la religión, la ascendencia o el origen nacional o étnico;
b. La comisión de uno de los actos a que se refiere la letra a) mediante la difusión o reparto de escritos, imágenes u otros materiales […].
3.2. Orientaciones y códigos de conducta
La Comisión Europea contra el Racismo y la Intolerancia (ECRI) vinculada al Consejo de Europa —organismo de referencia sobre racismo y xenofobia— ha llevado sus orientaciones más allá del nivel discriminatorio, sobre todo en materia de prohibición del discurso de incitación al odio. Una de sus orientaciones con más divulgación fue la Recomendación de Política General número 15, sobre lucha contra el discurso de odio (2015).
El 25 de enero de 2017, la Asamblea Parlamentaria del Consejo de Europa adoptó la Resolución N.º 2144 y la Recomendación N.º 2098 para acabar con la ciberdiscriminación y el odio en línea en la que solicita a los Estados miembros que desarrollen medidas de capacitación a los organismos públicos y judiciales y de sensibilización a los ciudadanos sobre el impacto del discurso de odio, especialmente en los niños. La resolución pone el foco en la responsabilidad de los intermediarios de Internet, la necesidad de que establezcan procesos internos claros y efectivos para tratar las notificaciones relativas a la incitación al odio y garanticen la rápida eliminación de dichos contenidos. Pero también profundiza en las medidas preventivas proponiendo el lanzamiento y financiación de iniciativas para alentar el uso responsable de Internet, combatir el acoso cibernético y ayudar a las víctimas a manejarlo, capacitar a las personas para desarrollar contraargumentos y narrativas alternativas al discurso de odio en línea, restablecer dialogar y reducir los conflictos en línea, y movilizar redes y construir alianzas entre quienes trabajan para combatir el odio en línea.
El 20 de mayo de 2022, el Comité de Ministros del Consejo de Europa aprobó una Recomendación, CM/Rec(2022)16, a los Estados miembros sobre la lucha contra el discurso de odio. En ella, el Comité de Ministros:
[…] insta a los gobiernos a desarrollar estrategias integrales para prevenir y combatir el discurso de odio, incluida la adopción de un marco legal eficaz y la implementación de medidas proporcionadas y adecuadamente calibradas. […] Las directrices recomiendan que los Estados miembros distingan entre, en primer lugar, los casos más graves de incitación al odio, que deben estar prohibidos por el derecho penal, en segundo lugar, los discursos de odio sujetos al derecho civil y administrativo y, por último, los tipos de expresiones ofensivas o nocivas que son no son lo suficientemente graves como para ser restringidos legítimamente en virtud del Convenio Europeo de Derechos Humanos pero, sin embargo, exigen respuestas alternativas. […] La Recomendación cubre además los requisitos procesales para la eliminación del discurso de odio, los mecanismos de reparación y apelación y subraya la necesidad de transparencia y proporcionalidad. Se ofrece orientación sobre […] el establecimiento de mecanismos de apoyo para ayudar a quienes son objeto de discursos de odio y formación para miembros de la policía y del poder judicial […] contiene orientación para otros actores, incluidos […] intermediarios de Internet, medios de comunicación y organizaciones de la sociedad civil (Consejo de Europa, 2022).
En mayo de 2016, la Comisión Europea acordó con Facebook, Microsoft, Twitter y YouTube un Código de Conducta para prevenir y contrarrestar la propagación del discurso de odio ilegal en línea. A lo largo de 2018, Instagram, Snapchat y Dailymotion participaron en el Código de Conducta. A ellas se unieron: Jeuxvideo.com en enero de 2019, TikTok en 2020 y Linked en 2021. En mayo y junio de 2022, respectivamente, Rakuten Viber y Twitch anunciaron su participación en el Código de Conducta.
En la reunión celebrada en octubre de 2023, en Madrid, del Grupo de Alto Nivel (GAN) de la Unión Europea para combatir el discurso de odio y los delitos de odio, coordinado por la Dirección General de Justicia de la Comisión Europea y representado en España por el Observatorio Español del Racismo y la Xenofobia (OBERAXE) y el Ministerio de Justicia, se presentó la propuesta de revisión del Código de Conducta de la Comisión Europea firmado por la Comisión Europea y las principales plataformas de redes sociales en 2016 (Ministerio de Inclusión, Seguridad Social y Migraciones, 2023).
En diciembre de 2023 la Comisión emitió un comunicado de prensa en el que anuncia un nuevo código de conducta:
Para ofrecer protección contra las amenazas en línea, la Comisión ultimará un código de conducta reforzado de lucha contra la incitación ilegal al odio en línea antes de febrero de 2024 sobre la base de las nuevas obligaciones horizontales para las plataformas en línea establecidas en la Ley de Servicios Digitales. También intensificará su cooperación con las organizaciones de la sociedad civil, los expertos, los alertadores fiables y las autoridades públicas para detectar la incitación al odio en línea (Comisión Europea, 2023).
El Código de conducta para la lucha contra la incitación ilegal al odio en Internet se evalúa periódicamente. La quinta evaluación muestra que, «en promedio, las empresas evalúan el 90 ٪del contenido marcado en 24 horas y se elimina el 71 ٪ del contenido considerado ilegal como discurso de odio» (Comisión Europea, 2020). La séptima evaluación muestra que el número de notificaciones revisadas en veinticuatro horas (64,4 %) ha disminuido en comparación con 2021 (81 %) y 2020 (90.4 %). Solo TikTok ha aumentado su rendimiento (del 82,5 % al 91,7 %). La tasa media de eliminación (63,6 %) es similar a la de 2021 (62,5 %), pero sigue siendo inferior a la de 2020 (71 %). En cuanto al rendimiento individual de las plataformas, la mayoría de ellas (excepto YouTube) han eliminado menos contenidos de incitación al odio que en 2021. La calidad de la respuesta a las notificaciones de los usuarios ha mejorado en comparación con ejercicios de seguimiento anteriores (Comisión Europea, 2022).
3.3. Actuaciones de las plataformas sociales
La propia plataforma de intercambio de vídeos YouTube, se autorregula en este sentido y cuenta, entre las políticas que rigen su actividad, con importantes novedades en su actuación respecto a contenidos que contienen un discurso de incitación al odio. La plataforma señala que, aunque siempre ha contado con políticas que prohíben el discurso de incitación al odio, el 5 de junio de 2019 anunciaron algunos cambios con respecto a dichas políticas.
Según su Política de incitación al odio, «la incitación al odio no está permitida en YouTube. Tampoco está permitido el contenido que promueva la violencia o el odio hacia otras personas o grupos por cualquiera de los siguientes atributos, que indican la pertenencia a un grupo protegido […]». Estos atributos, según la política de YouTube, son: «edad, casta, discapacidad, etnia, identidad y expresión de género, nacionalidad, raza, condición de inmigrante, religión, sexo o género, orientación sexual, víctima de un gran acontecimiento violento o familiar de una de esas víctimas, y condición de veterano de guerra».
En su apartado «Pérdida de monetización y sanciones», YouTube indica:
En casos excepcionales podemos retirar contenidos o imponer otras sanciones si un creador hace lo siguiente:
Y en su apartado «Otros tipos de contenido que infringen esta política»:
Dentro de sus Normas comunitarias, Facebook se refiere al discurso de odio en el apartado «Lenguaje que incita al odio» dentro de la sección «Contenido cuestionable». El contenido de esta norma en marzo de 2024, que modifica el de 2021 es el siguiente:
Creemos que las personas se expresan y conectan entre sí con mayor libertad cuando no se sienten atacadas por ser quienes son. Por ello, no permitimos el lenguaje que incita al odio en Facebook, ya que crea un entorno de intimidación y exclusión, y en algunos casos puede fomentar la violencia fuera de internet.
Definimos el lenguaje que incita al odio como un ataque directo contra las personas (no contra conceptos o instituciones) por razón de lo que llamamos características protegidas: raza, etnia, origen nacional, discapacidad, afiliación religiosa, casta, orientación sexual, sexo, identidad de género y enfermedad grave. Definimos como ataques el discurso violento o deshumanizador; los estereotipos nocivos; el trato de inferioridad; las expresiones de desprecio, asco o rechazo; los insultos y los llamamientos a la exclusión o la segregación […]. También protegemos a las personas refugiadas, migrantes, inmigrantes y solicitantes de asilo de los ataques más graves, aunque permitimos comentarios y críticas a las políticas de inmigración […].
También prohibimos el uso de expresiones difamatorias que se utilizan para atacar a las personas en razón de sus características protegidas. Sin embargo, somos conscientes de que, a veces, las personas comparten contenidos que incluyen expresiones difamatorias o lenguaje que incita al odio de otra persona para condenarlas o concienciar. En otros casos, las expresiones, incluidas las difamatorias, que podrían infringir nuestras normas, se pueden utilizar de forma autorreferencial o empoderadora. Nuestras políticas están diseñadas para dar cabida a estos tipos de expresión, pero exigimos que las personas indiquen claramente su intención. Si la intención no está clara, podemos eliminar el contenido (Meta, 2024).
Fijar una definición del discurso de odio resulta difícil. Existe un debate abierto y constante para identificarlo. Se trata de una expresión muy utilizada en diversos ámbitos. Desde la perspectiva jurídica, el componente que ha de incluir el discurso de odio para que resulte perseguible penalmente es la incitación directa o indirecta al odio, a la violencia o a la discriminación, pero no la manifestación de ideas, por reprobables que estas puedan ser. Por ello, dentro del intenso debate de los últimos años, las instituciones parecen haber llegado a un consenso en el sentido de ampliar, para su interpretación, los parámetros estrictamente legales. Y ello porque, con los esfuerzos dirigidos a combatir el discurso de odio, no solo se busca perseguirlo penalmente, sino repudiarlo socialmente (Jubany & Roiha, 2018).
La anteriormente citada Recomendación de Política General número 15 de la Comisión Europea contra el Racismo y la Intolerancia (ECRI), establece:
[…] hay formas de expresión que ofenden, perturban o trastornan pero que, por sí mismas, no constituyen discurso de odio y que la lucha contra el discurso de odio debe servir para proteger a las personas y grupos de personas más que a credos, ideologías y religiones en concreto. […] el discurso de odio debe entenderse como fomento, promoción o instigación, en cualquiera de sus formas, del odio, la humillación o el menosprecio de una persona o grupo de personas, así como el acoso, descrédito, difusión de estereotipos negativos, estigmatización o amenaza con respecto a dicha persona o grupo de personas y la justificación de esas manifestaciones por razones de «raza», color, ascendencia, origen nacional o étnico, edad, discapacidad, lengua, religión o creencias, sexo, género, identidad de género, orientación sexual y otras características o condición personales (2016, p. 10 y p. 28).
El Comité de Ministros del Consejo de Europa, en su Recomendación (97) 20 sobre el discurso de odio, adoptada el 30 de octubre de 1997, recoge:
[…] le terme «discours de haine» doit être compris comme couvrant toutes formes d’expression qui propagent, incitent à, promeuvent ou justifient la haine raciale, la xénophobie, l’antisémitisme ou d’autres formes de haine fondées sur l’intolérance, y compris l’intolérance qui s’exprime sous forme de nationalisme agressif et d’ethnocentrisme, de discrimination et d’hostilité à l’encontre des minorités, des immigrés et des personnes issues de l’immigration [(…) el término «discurso de odio» debe entenderse que abarca toda forma de expresión que difunda, incite, promueva o justifique el odio racial, la xenofobia, el antisemitismo u otras formas de odio basadas en la intolerancia, incluida la intolerancia expresada en forma de nacionalismo y etnocentrismo, discriminación y hostilidad contra minorías, inmigrantes y personas de origen inmigrante] (1997, p. 107).
El Manual para combatir el discurso de odio en internet a través de la educación en derechos humanos diseñado para apoyar el Movimiento No Hate Speech —la campaña para la juventud del Consejo de Europa contra el discurso de odio en Internet— incluye dentro de la definición formas de discriminación y prejuicios como la gitanofobia, la cristianofobia, la islamofobia, la misoginia, el sexismo y la discriminación por motivos de orientación sexual o identidad de género (Keen y Georgescu, 2016).
Para proporcionar un marco unificado en las Naciones Unidas que aborde el problema del discurso de odio a nivel mundial, La Estrategia y Plan de Acción de la ONU para la lucha contra el discurso de odio define este discurso como:
[…] cualquier forma de comunicación de palabra, por escrito o a través del comportamiento, que sea un ataque o utilice lenguaje peyorativo o discriminatorio en relación con una persona o un grupo sobre la base de quiénes son o, en otras palabras, en razón de su religión, origen étnico, nacionalidad, raza, color, ascendencia, género u otro factor de identidad. En muchos casos, el discurso de odio tiene raíces en la intolerancia y el odio, o los genera y, en ciertos contextos, puede ser degradante y divisivo (2019, p. 3).
En el ámbito internacional, estas definiciones vienen a completarlas expertos en la materia como Gustavo Ariel Kaufman. En su obra Odium dicta. Libertad de expresión y protección de grupos discriminados en internet, Kaufman establece que para considerar que nos encontramos en un caso de discurso de odio, debemos contar con los criterios A + B + C o A + B + D, siempre en un contexto dado, siendo A el criterio de grupo en situación de vulnerabilidad (grupo históricamente discriminado, en un tiempo y lugar determinados), B el criterio de humillación, C el criterio de malignidad y D el criterio de intencionalidad (2015, pp. 152-153).
Por último, conviene citar las consideraciones del Ministerio del Interior en su Informe de la evolución de los delitos de odio en España 2019 en relación al antigitanismo:
[…] con la finalidad de promover una mayor visibilización de determinados sectores de la población que pudieran estar sufriendo algún tipo de motivación de odio o discriminación, así como conocer el impacto que este tipo de delitos tienen en ellos, desde el Ministerio del Interior se ha visto la necesidad de desglosar del ámbito racismo/xenofobia un nuevo ámbito, denominado «antigitanismo», en el Sistema Estadístico de Criminalidad (SEC). Se sigue así también la senda marcada por la Agencia de Derechos Fundamentales de la Unión Europea (FRA), en sus múltiples informes sobre «Roma and Travellers»:
Antigitanismo: Todas aquellas acciones realizadas con motivaciones de discriminación, odio y estigmatización dirigidos contra las personas gitanas, así como el entorno de las mismas (Cereceda et al., 2020, p. 4).
Resulta difícil cuantificar y controlar la cantidad de discurso de odio que campa por internet, pero existe una preocupación por ello ante la percepción de que se trata de una realidad creciente y escurridiza que aprovecha el anonimato e impunidad que parecen encontrarse en las redes, en ocasiones, y las dificultades legales para su persecución. Sobre lo que parece existir acuerdo es sobre sus nefastas consecuencias. El discurso de odio puede conducir a crímenes de odio, comprometiendo los derechos más básicos. Si bien no todo el discurso de odio da lugar a crímenes de odio, los crímenes de odio conllevan discurso de odio.
Hacer frente a la propagación de mensajes que contribuyen a extender un discurso de odio en Internet es una de las grandes preocupaciones a nivel internacional. Uno de los ejes regulatorios que refleja esta preocupación y centra el debate en Europa es precisamente cómo abordar la responsabilidad de las plataformas por el contenido que albergan. El énfasis del debate pivota también sobre cómo evitar el avance de comportamientos comunicativos hostiles entre los propios usuarios de la red.
A efectos del informe se consideró que se daba discurso de odio en el contenido audiovisual, a aquel que reunía alguna característica compatible con las definiciones expuestas, que guardaba similitudes con ellas o que cabía en el contexto conceptual descrito. Es decir, se observó un parámetro del concepto lo más amplio posible en la línea del consenso general, que, más allá del ámbito de lo punible, aboga por el repudio social de la difusión de un discurso hostigador.
De este modo, también en consonancia con las bases expuestas en el trabajo académico Taxonomía de la comunicación violenta y el discurso del odio en Internet (Miró, 2016), se amplió el análisis de los contenidos audiovisuales al marco que ofrece este estudio:
El hate speech o discurso del odio, pues, tal como ha sido definido, podría considerarse comunicación violenta, en cuanto que la incitación a la violencia lo es en sentido de violencia física, y la incitación al odio o a la discriminación constituye una forma de violencia moral. Pero hay otras formas de comunicación violenta distintas al hate speech, concretamente: a) todas las formas de incitación (directa o indirecta), o amenaza específica de causación de violencia física que no sean por razón discriminatoria o de grupo; b) toda ofensa o daño al honor o a la dignidad de personas concretas, y c) todo comportamiento que pueda considerarse ofensivo o vejatorio para la sociedad aunque no vaya dirigido a una persona en concreto (Miró, 2016, pp. 98-99).
En el análisis del contenido de los vídeos que componen esta muestra también se tuvieron en cuenta los elementos que ayudan a la evaluación del discurso de odio según el Manual para combatir el discurso de odio en internet a través de la educación en derechos humanos (Keen y Georgescu, 2016):
4. Material seleccionado y análisis
A efectos del informe se consideró que se daba discurso de odio o compatible con él, en el contenido audiovisual analizado y en los textos descriptivos que lo presenta y contextualiza, así como en los hilos escritos que alberga este material. Se observaron y analizaron contenidos audiovisuales de más de 150 vídeos relacionados con la actualidad de la pandemia.
Aplicado un espectro conceptual amplio, aclarando que no fue el objeto del informe centrar esta observación sobre lo criminalizable de las expresiones y contenidos, y optando por ofrecer una muestra basada en la significación del hecho, y no en lo representativo o en la pretensión de realizar una medición exhaustiva o estadística rigurosa, se seleccionó, entre el material analizado, una muestra de 44 vídeos —bien podría haber estado conformada por un centenar, pero ello no hubiera aportado otros matices significativos diferentes a lo que se expone— de los que puede decirse que vehiculan discurso compatible con alguna forma de comunicación violenta y de odio.
En los vídeos analizados se dan las siguientes características:
Conviene precisar, antes de presentar los resultados, y, dado el tiempo que se dedicó a la localización del material, que existía comunicación polarizada, hostil e irrespetuosa con sensibilidades sociales en Internet, pero no puede afirmarse que sea este el tipo de contenido que abunda entre los miles de vídeos que los usuarios suben diariamente a YouTube. La propia plataforma de vídeos elimina, en función de su política al respecto, los contenidos más explícitos o que activan las primeras alarmas. Este material fue apareciendo a lo largo del tiempo y en función del desarrollo de determinados acontecimientos desencadenantes. Lo que se quiso comprobar fue, primero, la existencia de este tipo de contenido en Internet y, luego, su comportamiento. Se hizo necesario realizar una laboriosa búsqueda de los vídeos que se refieren en el informe entre la ingente cantidad de material disponible en la plataforma que, en general, está libre de esta clase de contenidos.
Componen esta muestra un total de 44 vídeos procedentes de 34 canales de YouTube. Estos vídeos, emitidos entre 18 de marzo y el 11 de noviembre de 2020, alcanzaron en la red social más de 4,2 millones de visualizaciones a la fecha de realización de este estudio. Han tenido casi 60.000 reacciones —59.604—, de las que, en su gran mayoría —52.905— se corresponden con «me gusta» y 6.699 con «no me gusta». Estos contenidos generaron 16.612 comentarios en esta red. Así, mayoritariamente, la comunidad de YouTube que reaccionó al contenido de estos vídeos manifestó su aprobación o receptividad respecto a los mensajes que se lanzaban (88,7 ٪), frente a una actitud de desaprobación, que no llega al 12 ٪.
Este comportamiento podría extrapolarse al ámbito de los comentarios escritos, es decir, los hilos que generaron los contenidos audiovisuales. Puede afirmarse, tras el análisis de los mismos que, en su gran mayoría —con la excepción de dos vídeos con contenido relacionado con ataques racistas—, dejan patente y refuerzan mensajes compatibles con discurso de odio y comunicación radicalizada, hostil, desagradable, violenta y, en general, de dudoso gusto y corrección.
YouTube es una de las redes más seguidas por los internautas. A la fecha de realización del informe contaba con 28 millones de usuarios en España y dos mil millones en el mundo. Actualmente esas cifras se elevan a 40 millones en España y 2.500 millones en el mundo (Forner, 2024).
4.1.1. Vídeos relacionados con la comunidad asiática
En la muestra seleccionada se detectaron vídeos que promueven la fobia y discriminación hacia la comunidad asiática, como causante de la creación y propagación del coronavirus. Estos vídeos asociaban las costumbres chinas con la expansión del virus a nivel mundial, utilizando un lenguaje explícito y discriminatorio. Se trata de vídeos con contenido ofensivo, insultante y que carece de base científica, perpetuando estereotipos negativos sobre la comunidad asiática en relación a la pandemia. Como respuesta a esta discriminación, activistas lanzaron la campaña en redes #yonosoyunvirus y #nosoyunvirus para combatir el racismo hacia esta comunidad.
4.1.2. Vídeos relacionados con la comunidad de etnia gitana
Se trata de vídeos que estigmatizan a la comunidad gitana como irresponsable en el cumplimiento de medidas contra el Covid-19. A pesar de que la comunidad denunció discriminación al inicio de la pandemia, se propagaron mensajes en redes sociales asociando la etnia gitana con la propagación del virus. Este estigma aumenta la vulnerabilidad de las víctimas lo que podría suponer un retroceso el ejercicio de sus derechos. Foros de distintas organizaciones denunciaron que esta difusión era más común en redes de mensajería privada.
4.1.3. Vídeos relacionados con el movimiento migratorio en España
Al inicio de la pandemia, numerosas organizaciones humanitarias alertaron sobre la propagación de discurso de odio, discriminación y racismo contra migrantes y refugiados debido al coronavirus. Las medidas adoptadas por la pandemia paralizaron los trámites habituales respecto a la inmigración, lo que generó indefensión y limitó el acceso a derechos.
En España, la llegada de inmigrantes contagiados, casos entre trabajadores temporeros subsaharianos, y el aumento de llegadas a las costas canarias desencadenaron mensajes discriminatorios en redes sociales. Estos mensajes variaron según el momento de la pandemia y los eventos relacionados, como por ejemplo: casos de Covid entre los migrantes, confinamientos en centros de acogida, etc.
Estos vídeos se pueden clasificar en función de su contenido en tres grupos:
Algunos de los contenidos de estos vídeos se refieren a hechos noticiados en medios de comunicación, como los referidos en los artículos: Decenas de personas se saltan el confinamiento en el asentamiento de Albacete donde se detectó coronavirus (elDiarioclm.es, 2020) y Vecinos de Las Palmas de Gran Canaria increpan al alcalde por destinar un colegio abandonado a la acogida humanitaria (Canarias Ahora, 2020).
4.1.3.1. Las claves del discurso racista
Las claves difundidas a través de estos discursos coinciden con características que describe la Comisión de Ayuda al Refugiado (CEAR) para identificar los mensajes racistas que sufren inmigrantes y refugiados y que se resume en los siguientes mensajes: «llévatelos a tu casa», «se infiltran terroristas», «que los acojan los de su propia cultura», «no podemos acoger a más gente», «nadie les manda venir», «qué culpa tienen los europeos”, «que vengan pero legalmente». A este respecto, CEAR, en su campaña #LibérateDePrejuicios, manifiesta: «Ningún ser humano es ilegal. No tener autorización de residencias supone una irregularidad administrativa y nunca un delito».
El discurso de odio encuentra en la desinformación una eficaz herramienta, pues aquí, la clave está en la intencionalidad con que se difunde un contenido falso, engañoso y en muchas ocasiones maligno. Es decir, el mismo componente que agrava el discurso de odio y lo acerca al ámbito de lo criminalizable: la intencionalidad de discriminar, de incitar, de perturbar. Se trata por tanto de desinformación con fines discriminatorios que busca herir a alguien, a un grupo social o a otro tipo de colectivos. O que, en caso de no tener un blanco concreto, difunde un mensaje disruptivo, despectivo, estereotipado y que pretende herir sensibilidades colectivas o crear desagrado en ellas.
En momentos de crisis, las noticias falsas tienen un impacto aún mayor al generar desinformación alarma en las redes sociales. En esta selección se presentan tres hechos cuya narración en los vídeos es probadamente falsa:
Asimismo, la comunidad asiática fue objeto de informaciones distorsionadas y falsas, especialmente al inicio de la pandemia. En las redes sociales se viralizaron imágenes de asiáticos consumiendo animales vivos, como crías de ratones o sopa de murciélago. Estas informaciones fueron desmentidas en el artículo ¿Los chinos sufren el coronavirus por comer animales exóticos? publicado por Efe Verifica (Centeno y Rodríguez, 2020).
En la mayoría de los casos se trataba de imágenes y contenidos que ya estaban, en ocasiones, desde hace años en la red, y que se actualizaron, tanto en comentarios, como en miles de interacciones, con motivo del coronavirus, de modo que se ligó el origen del virus a las costumbres culinarias de los asiáticos, es decir, que se propagó el mensaje de que la ingesta de animales vivos, o la famosa sopa de murciélago, fue responsable de que se extiendiera por el mundo un virus mortal. Concretamente, el vídeo Murciélagos en el techo, que se publicó en 2012, se actualizó en comentarios a raíz de la pandemia. Este contenido se replicó en otras redes como Facebook, no sólo con fechas actualizadas, sino ubicando la casa que aparece en el vídeo en la ciudad china de Wuhan, cuando fue grabado en Miami, Florida (Newtral, 2020).
El mensaje exacerbado, la exaltación, el odio irracional y el ánimo de, en base a ello, generar un daño en una persona o colectivo vulnerable podrían desembocar en delitos de odio por racismo, como ocurre en los hechos que se presentan en este bloque. Se localizaron tres vídeos asociados a dos hechos de los que se dio traslado a la Fiscalía.
El primero de ellos sucedió en mayo en la población de Los Nietos (Cartagena. Murcia), donde los vecinos se dieron cita ante la casa en la que guardaban cuarentena seis personas argelinas que habían dado positivo en coronavirus tras alcanzar la costa. Los vecinos congregados profirieron fuertes insultos contra estas personas a las que, finalmente, la Guardia Civil tuvo que desalojar y escoltar en autobús a un destino diferente. Este hecho fue noticiado por el medio La opinión de Murcia en su artículo Piden que Fiscalía investigue si los vecinos de Los Nietos cometieron un delito de odio (A.L.H., 2020).
El segundo y tercero de los vídeos de este bloque hacen referencia a los ataques racistas ocurridos en septiembre en el metro de Madrid y protagonizados por tres mujeres menores de edad. Los hechos fueron grabados por una persona que presenció el ataque. Además, una de las jóvenes autoras de la agresión grabó en un perfil social privado y propio un mensaje en el que se reafirma en la autoría y conveniencia de la agresión. Dos de las jóvenes fueron detenidas, así como puestas a disposición de la Fiscalía (Antena 3 Noticias, 2020). En relación a la propagación de este contenido, la Dirección General de la Policía pedía en redes sociales que no se contribuyera a la difusión del vídeo, ni siquiera «a modo de denuncia», y recordaba que, en estos casos, la grabación se tiene que trasladar a las fuerzas de seguridad de «forma privada».
Es significativo aclarar que es en relación a uno de estos vídeos, donde únicamente se revierte la tendencia en la que los «me gusta» superan a los «no me gusta» en el seguimiento de reacciones. No obstante, como se señala más adelante, aunque la gran mayoría de los comentarios generados en el hilo a que da lugar este contenido, es de repulsa, no son pocos los que, para condenar este hecho, usan terminología racista o comunicación violenta e insultante hacia la autora del vídeo.
4.1.6. Contenidos relacionados con la deontología profesional
En el informe se separó el contenido que presenta elementos compatibles con el discurso de odio más explícito de otros contenidos, que, si bien no cuentan con los elementos constitutivos de este fenómeno, sí vulneran la deontología profesional periodística en su tratamiento informativo y que, asimismo, tienen asociados numerosos comentarios escritos que se ajustan a los parámetros de este discurso (Código deontológico de la Federación de Asociaciones de Periodistas de España, 2017).
Se trata de una muestra de vídeos de canales generalistas que presentan la información señalando en ella el origen étnico o la procedencia del colectivo al que se refieren, de manera que la propagación del virus se liga a movimientos de personas inmigrantes o a comportamientos de colectivos concretos cuyas tradiciones y cultos se viralizaron, de manera que se apuntaba a cierta actitud entre los miembros de esta comunidad, menos responsable en relación a la observación de las medidas de confinamiento, y se contribuía con ello a que se polarizasen diferencias entre mejores o peores comportamientos al respecto (Babiker, 2020).
Del mismo modo, se incluyeron contenidos que, si bien no narraban hechos inexactos, el titular o la información descriptiva del vídeo pueden generar confusión. Concretamente, se incluyó un vídeo relacionado con la detención de yihadistas en España, hecho que parece asociarse a la reciente crisis migratoria en Canarias. El resumen del contenido no aclara los términos exactos de los hechos: La Policía Nacional detuvo a dos hombres miembros de una presunta organización terrorista, ubicados en España, concretamente en Melilla y Mogán. El detenido en Canarias había accedido al país el año anterior por la costa almeriense (Ortega, 2020) (Ministerio del Interior, 2020).
También se presenta un vídeo en el que se expone una visión con tendencia a señalar las costumbres de los asiáticos, como la celebración del mercado de animales en Wuhan, como lugar «repugnante» responsable del coronavirus. Se mezclan para la realización de este vídeo, imágenes actuales con otras que forman parte de un reportaje sobe costumbres culinarias de distintos países, grabadas hace tres años. El vídeo generó cientos de comentarios, en su mayoría contra esa comunidad.
4.2. Expansión de los contenidos
Si algo caracteriza a internet, es la facilidad con la que un contenido se extiende, se disemina o se viraliza. En una de sus comparecencias públicas, el fiscal de Delitos de Odio de Barcelona, Miguel Ángel Aguilar, subrayó que hay en las redes «verdaderos laboratorios para construir discursos de odio» (Pascual, 2018)
En Taxonomía de la comunicación violenta y el discurso de odio en Internet se indica:
La preocupación, pues, ya no es que se puedan difundir a miles de personas materiales violentos y de odio producidos por grupos específicos, sino que sean miles de personas las que comuniquen odio y violencia en muy distintas formas, a través de redes sociales, interaccionando entre sí y generando, en muchos casos, una indignación social considerable (Miró, 2016, p. 96) .
En la realización de este estudio se pudo comprobar, en relación a una selección de los contenidos, cómo éstos tuvieron réplicas en otra red social, como Facebook, y cómo se multiplicaron las interacciones, de manera que ello conllevó también la generación de más comentarios, hilos de conversaciones y foros sobre lo que se difunde. Ello hace que la tarea de acotar estos contenidos, seguirlos y, si procede, eliminarlos, sea una labor compleja e inagotable.
Sobre los contenidos tomados aquí como ejemplos se contabilizaron 6,5 millones de reproducciones en el momento de la consulta. En este punto, cabe decir que, al cierre del informe, de la muestra seleccionada, cuatro vídeos ya no están disponibles en YouTube, bien porque fueron retirados por contenido violento o explícito y eso infringía la política de la plataforma, bien porque se canceló la cuenta asociada. Asimismo, se insertaron advertencias sobre contenido inadecuado para algunos usuarios en tres vídeos y limitación de edad para su visualización en uno.
Las redes son un espacio público y de convivencia pero no siempre parece ofrecer un ambiente amable. Quienes tienen algo que decir en este debate, afirman que ello tiene consecuencias y, aunque difíciles de medir, convienen en que el discurso de odio se cobra sus víctimas y el precio, al margen del coste moral, o psicológico, pasa también por el abandono de un espacio que se puede volver hostil.
Se trata, a juzgar por las alarmas dirigidas desde todos los ámbitos, de un fenómeno creciente. Las instituciones llevan décadas observando cómo se cuela el espíritu odioso en las redes, pero es en los últimos años cuando la preocupación por abordarlo y afrontarlo adquiere mayor intensidad.
En este análisis se constata que existe discurso de odio en las redes, que se retroalimenta y que amplía esas fronteras a la comunicación violenta, hostil, desagradable y de mal gusto en foros que la fomentan.
El discurso de odio se disemina con difícil posibilidad de seguimiento y control, se expande y se viraliza sin grandes dificultades. Numerosos estudios y organizaciones que observan este fenómeno con preocupación coinciden en afirmar que existe en este espacio una sensación de «impunidad» y de exención de responsabilidad, que favorece su propagación.
Pese a la obligatoriedad de tener un perfil para poder participar, por ejemplo en los comentarios asociados a los vídeos, la posibilidad de crear perfiles falsos permite que muchos usuarios se permitan en la red lo que, quizá, presencialmente, no harían.
Al respecto, algunos expertos, como Francesc Núñez, explican que las redes pueden hacernos más agresivos, en la medida en la que la agresividad a veces es refrenada por la respuesta inmediata de las personas que están al lado, de un modo presencial, y que pueden reaccionar. En cambio, en estos espacios virtuales, este factor no está presente, las redes están despobladas de los recursos de los humanos para controlar los comportamientos públicos. Así, según Ignacio Morgado: ”El sentimiento de impunidad cuando alguien teclea en una tablet, teléfono u otro dispositivo, es muy importante para sacar de las personas que odian incitaciones al odio, pues esas mismas personas, en presencia de lo odiado, estarían probablemente más inhibidas y sus expresiones serían menos intensas de las que profieren cuando están en la red”3.
En la observación y estudio de los comentarios asociados a los vídeos y, como se ha apuntado al principio, se comprobó que los hilos escritos son, en su gran mayoría, vehiculadores de mensajes esencialmente racistas, intencionados, y que irrumpen en este espacio con una terminología violenta, deshumanizadora, agresiva, incitadora, despectiva y vejatoria hacia personas, colectivos o sensibilidades.
5.1. Camuflaje tras los vídeos
Cabe preguntarse si el hecho de que la preponderancia, en YouTube, sea para el contenido audiovisual, no es en cierto modo un factor de camuflaje para el contenido escrito que se queda en un segundo plano, pero que reúne los ingredientes del discurso de odio y está tan presente como el que se canaliza a través de redes cuya herramienta básica es la frase escrita y en la que el discurso de odio campa a cara descubierta siendo, pues, más fácilmente detectable y, por tanto denunciable. Es decir, que el parapeto del contenido audiovisual resta atención quizá a un contenido aún más grave y explícito que la propia red ampara, incluso cuando el contenido audiovisual al que se asocia pudiera cumplir con los parámetros de lo publicable sin levantar sospechas.
Para mostrar mejor este comportamiento, se ofrece a continuación, siguiendo el marco de categorizaciones del estudio Taxonomía de la comunicación violenta y el discurso del odio en Internet (Miró, 2016), una muestra de distintos tipos de comentarios encontrados, asociados a los vídeos analizados:
5.2. El odio es visceral y racional
Sostiene Ignacio Morgado, director del Instituto de Neurociencias de la Universidad Autónoma de Barcelona, que:
«Cuando sentimos odio se activan en el cerebro las mismas estructuras que cuando se experimenta asco y desdén». Pero también, cuando el odio se siente, «la corteza prefrontal, aquella donde reside el sentido común y el razonamiento, está muy activa, es decir, la persona que odia está tratando de encontrar, con un razonamiento, el modo de satisfacer este odio, tratando de hacer daño a lo odiado, o al odiado y tratando de perjudicarlo de alguna manera» (en Requena, 2018).
El sociólogo y profesor de la Universitat Oberta de Catalunya, Francesc Núñez, señala que, a diferencia de la ira, el odio es permanente y lo que quiere es hacer daño o destruir a ese que odia, que no tiene que ser una persona en concreto, sino un colectivo: los políticos, los homosexuales, las mujeres, los inmigrantes, etc. Para este objetivo, los espacios virtuales vehiculan el mensaje mucho mejor y se puede potenciar, ya que mediante estas herramientas se tiene la capacidad de llegar a muchos más (en Requena, 2018).
Salvando algún caso concreto, como la reacción de repulsa contra algún ataque racista entre los usuarios que visualizaron ese contenido, el discurso de odio parece existir en esta red como un fenómeno normalizado, con el que se convive de manera cotidiana.
Puede apuntarse en este sentido que, si bien, como se indica en el inicio del informe, la mayoría de las reacciones a los vídeos mostrados son aprobatorias, el total de reacciones registradas —tanto de aprobación como contrarias— en relación a las visualizaciones, supone sólo un 1,41 %, es decir, sólo una centésima parte de las personas que visualizaron estos contenidos reaccionó. Ello puede darnos la idea de la cotidianidad con la que se convive con este fenómeno en la red.
No existe, en general, un contradiscurso fuerte o disuasorio, una contranarrativa que ayude a frenar la tendencia que se inicia con los vídeos y se inflama con los comentarios.
Los expertos hablan de la «oportunidad» de las primeras intervenciones. Explican los expertos en redes y ciberodio Ana García Juanatey y Álex Cabo en un reportaje sobre discurso de odio en las redes (en Requena, 2018) que quien interviene en el hilo primero puede influenciar o condicionar el resto del debate, pero si los elementos de un discurso alternativo se insertan más tarde, ya con cientos de comentarios realizados, estos hilos no tienen suficiente fuerza para revertir el tono.
Se da la circunstancia de que algunos youtubers que ya han pasado por la experiencia de que la red social les ha retirado contenido o bloqueado el canal, se quejan de esta «censura» y construyen un discurso basado el algunas argucias lingüísticas, para burlar ese control y lograr colgar el contenido que desean.
5.3. Discurso de odio contra discurso de odio
Ocurre también, según lo observado para este análisis, que el propio discurso de odio que se quiere combatir, en los casos que se presentan ataques racistas, se hace con más discurso de odio. Por ejemplo, en las agresiones del metro de Madrid, si bien la inmensa mayoría de los comentarios son de repulsa y reprobación, no pocos de esos mensajes son, sin embargo, insultantes y vejatorios hacia la figura de las mujeres perpetradoras, y, en ocasiones, presentan un lenguaje racista hacia otros colectivos, por ejemplo: «Ella no es que sea muy blanca que digamos se asemeja mucho a una latina (...) ni que fuera rubia o tuviera los ojos azules».
Sobre el odio en el espacio virtual, algunos autores han señalado el fenómeno de la «falacia de la dualidad digital» (Jubany y Roiha, 2016), es decir, la falsa separación entre el mundo online y el mundo offline. La cuestión del discurso en las redes, con sus especificidades, no es más que un problema subyacente en la sociedad en general, independientemente del escenario en el que se manifieste. Un espacio permite pulsar el panorama del otro, y viceversa.
Ilustran al respecto los datos de delitos de odio que relaciona el Ministerio del Interior en su informe de 2019: el total de delitos e incidentes de odio registrados por las Fuerzas y Cuerpos de Seguridad en España asciende a 1.706 hechos, un 6,8 ٪ más que el año anterior. De los delitos de odio, 596 fueron por motivos ideológicos (de naturaleza política). El segundo motivo señalado en el Informe del Ministerio, es el de Racismo y Xenofobia con 515 hechos (Cereceda et al., 2019).
Según el Informe Raxen Especial 2020 Por una migración segura, ordenada y regular elaborado por el Movimiento contra la Intolerancia: «la Agencia de Derechos Fundamentales de la UE habla de una cifra sumergida de dos tercios, por lo que corresponde multiplicar por tres las cifras oficiales». Pero también, algunos expertos señalan que la foto que ofrecen las redes sobre la discriminación es algo distorsionada respecto a la sociedad en general, porque en ellas hay mucha polarización, ya que «se expresan sobre todo los blancos o los negros», mientras que la gente que no tiene una postura que encaje ahí, con más dudas, o más ambivalente, se expresa menos (en Requena, 2018).
Los datos posteriores a la realización del informe publicados por el Ministerio del Interior reflejan que el total de incidentes de odio registrados en 2020 fue de 1.401, en 2021 de 1.802 y en 2022 de 1.869. El motivo con más número de incidentes es el de Racismo/Xenofobia con 485, 639 y 755 hechos registrados en 2020, 2021 y 2023 respectivamente. Le sigue el de Orientación sexual e identidad de género, y en tercer lugar el Ideológico (Muniesa et al., 2023).
Por último, el enfoque de género apunta que la mayoría de los perpetradores del discurso de odio, atendiendo sólo a autores individuales, responsables de canales o de la subida de contenidos, son hombres. De los 44 vídeos seleccionados en este estudio, aquellos en los que puede determinarse la autoría clara de una persona, es decir, vídeos procedentes de youtubers, autores, protagonistas o responsables directos del contenido, se contabilizan 21 vídeos —47,7 ٪de la muestra. De ellos, los documentos con autoría masculina ascienden al 76,1 ٪—16 vídeos—. Cuatro de los vídeos tienen como responsable directa a una mujer (o varias en el caso del ataque racista en el Metro de Madrid). Asimismo, uno de los vídeos cuenta con un protagonismo compartido entre hombre y mujer.
El perfil de las víctimas se corresponde con colectivos objeto de este discurso, no con personas concretas, salvo las citadas referencias a la comunidad latina de mujeres o a mujeres de etnia gitana.
La comunidad implicada habla de la necesidad de frenar esta tendencia desde estrategias que no solo pasen por la acción perseguidora o el ámbito penal, sino que se refuerce desde el desarrollo de iniciativas educadoras, de sensibilización y alfabetización digital, lingüísticas y, sobre todo, autorreguladoras.
La libertad de expresión dificulta el abordaje del fenómeno. Este estudio se realizó teniendo en cuenta ese marco, diferenciando lo que puede constituir un discurso de odio explícito, directo y manifiesto, de lo que puede ser un mensaje informativo o valorativo que se difundió bajo parámetros menos rigurosos o con una deontología menos impecable.En las redes, youtubers, influencers y medios de comunicación tradicionales con presencia digital compiten por la atención de la comunidad. Pero también los haters o troles.
Los nuevos modos de ofrecer y consumir información han impactado en el anterior estatus conocido y aceptado de medios de comunicación, que ahora desbaratan y conquistan las redes a un ritmo tan vertiginoso que deja a la zaga respuestas necesarias.
Si bien las grandes plataformas de Internet han ido fortaleciendo las políticas sobre contenido en las redes con el objetivo de reprimir este tipo de discurso agresivo en sus espacios, ello no es suficiente, porque también es importante concienciar al usuario para no crearlo ni propagarlo.
La posibilidad de consumir contenidos a la carta, no debería poder ofrecer un menú de contenidos falsos con ínfulas de veracidad. Los nuevos hábitos de consumo informativo, la sobreinformación y la necesidad de satisfacer con rapidez de resultados aquello que se busca, o se desea de otra manera, incluso sin importar la verdad, genera cierta sensación de que se ha abierto una puerta al espíritu de la barra libre. Para muchos de los implicados en este debate, se han desdibujado ciertas fronteras que conviene volver a identificar, de manera que las nuevas oportunidades que brinda el ciberespacio, tan propicio para el activismo, no deje a un lado la propia responsabilidad hacia la sociedad que lo construye y lo habita (Herráiz, 2020).
Existe una lógica preocupación por la potencialidad y posibilidades de Internet para generar, dispersar, y multiplicar mensajes radicales, de odio o violentos. Este estudio realizó una observación limitada a un espacio, un contexto, un tiempo y una red social, pero escapa del alcance del informe su magnitud, sus límites o sus consecuencias. Se pudo observar que se trataba de una realidad existente, con posibilidades de retroalimentarse y crecer y, aunque muchos de los datos extraídos pudieran ser extrapolables al espacio social de Internet, este no podría ser un estudio representativo del comportamiento global de un fenómeno como el que se ha tratado.
A.L.H. (2020, 31 de julio). Piden que Fiscalía investigue si los vecinos de Los Nietos cometieron un delito de odio. La Opinion de Murcia. Disponible en: https://bit.ly/3WxB3QD
Antena 3 Noticias (2020, 12 de septiembre). Detenidas dos de las tres jóvenes que escupieron e insultaron a una pareja en el metro de Madrid: «Panchitos de Mierda». Antena 3 Noticias. Disponible en: https://bit.ly/3xRAHtH
Asamblea Parlamentaria del Consejo de Europa (2017a, 25 de enero). Recomendación 2098: Ending cyberdiscrimination and online hate. [Acabar con la discriminación y el odio en internet]. Disponible en: https://bit.ly/49Rosuy
Asamblea Parlamentaria del Consejo de Europa (2017b, 25 de enero). Resolución 2144: Ending cyberdiscrimination and online hate [Acabar con la discriminación y el odio en internet]. Disponible en: https://bit.ly/4aS3sVG
Babiker, S. (2020, 8 de abril). Antigitanismo y emergencia económica: la crisis sanitaria se ensaña con el pueblo gitano. El Salto diario. Disponible en: https://bit.ly/3JxlDUq
Canarias Ahora (2020, 10 de octubre). Vecinos de Las Palmas de Gran Canaria increpan al alcalde por destinar un colegio abandonado a la acogida humanitaria. elDiario.es. Disponible en: https://bit.ly/3xTCLRZ
Centeno, J. y Rodríguez, S. (2020, 7 de febrero). ¿Los chinos sufren el coronavirus por comer animales exóticos? Efe Verifica. Disponible en: https://bit.ly/4df7qte
Cereceda, J., Sánchez, F., Herrera, D. et al. (2020, 21 de julio). Informe de la evolución de los delitos de odio en España. Ministerio del Interior. Gobierno de España. Disponible en: https://bit.ly/49MIxC4
Circular 7/2019, de 14 de mayo, de la Fiscalía General del Estado, sobre pautas para interpretar los delitos de odio tipificados en el artículo 510 del Código Penal. Boletín Oficial del Estado, n.º 124, de 24 de mayo de 2019. Disponible en: https://bit.ly/4b7zOvi
Código deontológico de la Federación de Asociaciones de Periodistas de España (2017). Disponible en: https://bit.ly/4b9o9wa
Comisión Española de Ayuda al Refugiado CEA(R). Nuestros prejuicios son otra piedra en su camino. Disponible en: https://bit.ly/3WlZv74
Comisión Europea (2016, 30 de junio). Código de conducta para la lucha contra la incitación ilegal al odio en internet. Disponible en: https://bit.ly/3WlZBeW
Comisión Europea (2020, junio). 5.ª evaluación del Código de Conducta de la UE para combatir el discurso de odio ilegal en línea. Disponible en: https://bit.ly/49N3zk4
Comisión Europea (2022, noviembre). 7.ª evaluación del Código de Conducta de la UE para combatir el discurso de odio ilegal en línea. Disponible en: https://bit.ly/44hKi95
Comisión Europea (2023, 6 de diciembre). Sin sitio para el odio en Europa. La Comisión y el Alto Representante lanzan un llamamiento a la acción para unirse contra todas las formas de odio. Disponible en: https://bit.ly/3WhKDqq
Comisión Europea. El Código de conducta de la UE para combatir el discurso de odio ilegal en línea. Disponible en: https://bit.ly/49V3haX
Comisión Europea contra el Racismo y la Intolerancia (ECRI), del Consejo de Europa (2015, 8 de diciembre). Recomendación de Política General número 15, sobre lucha contra el discurso de odio y Memorándum explicativo, p. 10 y p. 28. Disponible en: https://bit.ly/3JAgWcH
Comité de Ministros del Consejo de Europa (1997, 30 de octubre). Recommandation N.º R (97) 20 du Comité des Ministres aux États membres sur le Discours de Haine [Recomendación N.º (97) 20 del Comité de Ministros para los Estados miembros sobre el discurso de odio]. Disponible en: https://bit.ly/4d9GhHT
Comité de Ministros del Consejo de Europa (2022, 20 de mayo). Recomendación CM/Rec(2022)16 del Comité de Ministros a los Estados miembros sobre la lucha contra el discurso de odio. Disponible en: https://bit.ly/3WeaMGw
Consejo Audiovisual de Andalucía (2021). Informe sobre la difusión on-line de contenidos audiovisuales que albergan elementos compatibles con el discurso de odio, en el contexto de la pandemia del Covid-19. Disponible en: https://bit.ly/3W8w1d0
Consejo de Europa (2022, 20 de mayo). El Consejo de Europa propone un marco jurídico y político integral para combatir el discurso de odio. Disponible en: https://bit.ly/3WapCOs
Decisión Marco 2008/913/JAI del Consejo, de 28 de noviembre de 2008, relativa a la lucha contra determinadas formas y manifestaciones de racismo y xenofobia mediante Derecho penal. Diario Oficial de la Unión Europea, n.º 328, de 6 de diciembre de 2008, pp. 55-58. Disponible en: https://bit.ly/3Uwtgkt
Díaz López, J.A. (2020). Informe de delimitación conceptual en materia de delitos de odio. Secretaría de Estado de Migraciones del Ministerio de Inclusión Seguridad Social y Migraciones. Observatorio Español del Racismo y la Xenofobia, p. 5. Disponible en: https://bit.ly/44hi7ah
Directiva (UE) 2010/13 del Parlamento Europeo y del Consejo de 10 de marzo de 2010 sobre la coordinación de determinadas disposiciones legales, reglamentarias y administrativas de los Estados miembros relativas a la prestación de servicios de comunicación audiovisual (Directiva de servicios de comunicación audiovisual). Diario Oficial de la Unión Europea, n.º 95, de 15 de abril de 2010, pp. 1-24. Disponible en: https://bit.ly/4aQBkCr
Directiva (UE) 2018/1808 del Parlamento Europeo y del Consejo de 14 de noviembre de 2018 por la que se modifica la Directiva 2010/13/UE sobre la coordinación de determinadas disposiciones legales, reglamentarias y administrativas de los Estados miembros relativas a la prestación de servicios de comunicación audiovisual (Directiva de servicios de comunicación audiovisual), habida cuenta de la evolución de las realidades del mercado. Diario Oficial de la Unión Europea, n.º 303, de 28 de noviembre de 2018, pp. 69-92. Disponible en: https://bit.ly/3xTEhUd
eldiarioclm.es (2020, 20 de julio). Decenas de personas se saltan el confinamiento en el asentamiento de Albacete donde se detectó coronavirus. elDiario.es. Disponible en: https://bit.ly/4aS9uWr
Forner, P (2024, 7 de febrero). Estadísticas del uso de redes sociales en 2024 (informe España y mundo). Una Vida Online. Disponible en: https://bit.ly/3WddrjN
Fuente, R (2020, 2 de diciembre). No son miles de cayucos de inmigrantes listos para «invadir» España, son pescadores mauritanos. Efe Verifica. Disponible en: https://bit.ly/4aP8vX2
García, Y. (2020, 3 de noviembre). No, esta no es la foto del ladrón de una bicicleta del Decathlon asaltado en Barcelona durante los disturbios. Newtral.es. Disponible en: https://bit.ly/3w9HX3z
Guterres, A. (2020, 8 de mayo). Solidaridad contra el odio propagado por el coronavirus. Naciones Unidas. Disponible en: https://bit.ly/3UjqL3A
Herraiz, P. (2020, 12 de noviembre). 100 expertos piden a España y otros 70 países luchar contra la desinformación de las redes sociales. El Mundo. Disponible en: https://bit.ly/4bdeWmw
Instituto de Derechos Humanos «Bartolomé de las Casas» de la Universidad Carlos III de Madrid (2022). Análisis sobre las normas y recomendaciones de las organizaciones internacionales, regionales y de la Unión Europea en materia de lucha contra la discriminación hacia la población migrante, el racismo y la xenofobia. Disponible en: https://bit.ly/4ba0SKh
Jubany, O. y Roiha, M. (2016). Antecedentes, experiencias y respuestas al discurso de odio en línea: un análisis comparativo entre países. Universidad de Barcelona. Disponible en: https://bit.ly/4b7uCaK
Jubany, O. y Roiha, M. (2018). Las palabras son armas. Discurso de odio en la red. Universidad de Barcelona. Disponible en: https://bit.ly/44jqKRG
Kaufman, G.A. (2015, octubre). Odium dicta Libertad de expresión y protección de grupos discriminados en internet. Consejo Nacional para Prevenir la discriminación. Secretaría de Gobernación de México. Disponible en: https://bit.ly/3UayTDw
Keen, E. y Georgescu, M. (2016). Orientaciones. Manual para combatir el discurso de odio en internet a través de la educación en derechos humanos. Instituto de la Juventud, pp. 165-167. Disponible en: https://bit.ly/4dfZxn9
Ley 13/2022, de 7 de julio, General de Comunicación Audiovisual. Boletín Oficial del Estado, n.º 163, de 8 de julio de 2022. https://bit.ly/4a2t1Co
Ley 7/2010, de 31 de marzo, General de la Comunicación Audiovisual. Boletín Oficial del Estado, núm 79, de 1 de abril de 2020. Disponible en: https://bit.ly/3w1kMZk
Ley Orgánica 1/2015, de 30 de marzo, por la que se modifica la Ley Orgánica 10/1995, de 23 de noviembre, del Código Penal. Boletín Oficial del Estado, n.º 77, de 31 de marzo de 2015. Disponible en: https://bit.ly/3UeajBD
Ley Orgánica 10/1995, de 23 de noviembre, del Código Penal. Boletín Oficial del Estado, n.º 281, de 24 de noviembre de 1995. Disponible en: https://bit.ly/3xT5NRP
Ley Orgánica 6/2022, de 12 de julio, complementaria de la Ley 15/2022, de 12 de julio, integrarl para la igualdad de trato y la no discriminación, de modificación de la Ley Orgánica 10/1995, de 23 de noviembre, del Código Penal. Boletín Oficial del Estado, n.º 167, de 13 de julio de 2022. Disponible en: https://bit.ly/4aSD263
Maldita.es (2020, 2 de noviembre). No, esta persona no ha sido detenida por robar una bicicleta tras los altercados de Barcelona. Maldita.es. Disponible en: https://bit.ly/3UASfmw
Meta (2024). Políticas. Normas comunitarias de Facebook. Lenguaje que incita al odio. Disponible en: https://bit.ly/3QiZAom
Miró Llinares, F. (2016). Taxonomía de la comunicación violenta y el discurso del odio en Internet. IDP. Revista de Internet, Derecho y Política, n.º 22, pp. 96 y 98-99. Disponible en: https://doi.org/10.7238/idp.v0i22.2975
Ministerio de Inclusión, Seguridad Social y Migraciones (2023, 11 de octubre). El Grupo de Alto Nivel de la UE para combatir discursos y delitos de odio presenta su propuesta para renovar el Código de Conducta firmado con empresas de internet. Disponible en: https://bit.ly/44idPj9
Ministerio del Interior (2020, 16 de octubre). La Policía Nacional neutraliza una célula yihadista que reclutaba mujeres para contribuir a extender la verdadera religión. Disponible en: https://bit.ly/3UjmME6
Movimiento contra la Intolerancia. Informe Raxen Especial 2020. Por una Migración segura, ordenada y regular. Racismo, Intolerancia y Coronavirus Crímenes de Odio y Terrorismo. Disponible en: https://bit.ly/3wkRuVo
Muniesa, M. P., Fernández, T., Máñez, C. J. et al. (2023). Informe de la evolución de los delitos de odio en España 2022. Ministerio del Interior. Gobierno de España. Disponible en: https://bit.ly/44jt7ny
Naciones Unidas (2019, mayo). La Estrategia y Plan de Acción de las Naciones Unidas para la lucha contra el discurso de odio, p. 3. Disponible en: https://bit.ly/4dgNxBI
Newtral (2020, 25 de febrero). El vídeo de un tejado con una plaga de murciélagos no tiene nada que ver con el Coronavirus: fue grabado en EEUU en 2011. Newtral.es. Disponible en: https://bit.ly/3UD26so
Ortega, P. (2020, 16 de octubre). Dos detenidos en España de una red internacional que reclutaba mujeres para hacer la «yihad activa». El País. Disponible en: https://bit.ly/3xXFyK0
Pacual, M. J. (2018, 11 de enero). El discurso del odio en las redes sociales es la antesala del delito. El Norte de Castilla. Disponible en: https://bit.ly/4aWsYJp
Requena, P. (dir.) (2018). Cuando la red no es social. Rtve Play. Documentos Tv. Disponible en: https://bit.ly/3xU0gu4
Rodríguez, L. (2020, 11 de noviembre). Este video en el que un hombre interrumpe una misa no está grabado «en una parroquia de Canarias»: es Guyana, en América del Sur. Newtral.es. Disponible en: https://bit.ly/4aT1oN2
YouTube (s.f.). Política de incitación al odio. [Consulta: 15 abril de 2024]. Disponible en: https://bit.ly/3QjOm36
1. Ficha técnica del informe del Consejo Audiovisual de Andalucía:
- Coordinación y supervisión: Felipe Rodríguez Fernández
- Estructura del trabajo, metodología y análisis: Marianela Castilla Trigo
- Revisión del manuscrito y edición: Mar Ramírez-Alvarado y Nuria Rodríguez Moreno
- Los informes del Consejo Audiovisual de Andalucía pasan por la Comisión de Contenidos y por el Pleno del CAA.
2. El artículo que aquí se publica constituye una actualización y adaptación del Informe sobre la difusión on-line de contenidos audiovisuales que albergan elementos compatibles con el discurso de odio en el contexto de la pandemia del Covid-19 de 2021. Puede ser consultado de forma íntegra en la web del Consejo Audiovisual de Andalucía en el siguiente enlace: https://bit.ly/3W8w1d0
3. Las declaraciones de Francesc Núñez e Ignacio Morgado aparecen en el reportaje Cuando la red no es social. Requena, P. (directora) (2018). Cuando la red no es social. Rtve Play. Documentos Tv. https://bit.ly/3xU0gu4