En defensa de la regulación obligatoria: La jurisprudencia muestra la necesidad de dejar atrás la autorregulación en el sector tecnológico
En la última década hemos asistido a la evolución de las normas reguladoras aplicables al sector tecnológico, al mismo tiempo que ha ido aumentando el número de violaciones de derechos humanos en las que han estado implicadas estas empresas. Con frecuencia, el rápido crecimiento de las empresas tecnológicas ha superado la capacidad de desarrollar leyes destinadas a vigilarlas lo que ha llevado a depender de la autorregulación, los tribunales y las medidas aplicadas a posteriori, mientras los gobiernos intentan seguir el ritmo y hacer frente a los daños que provoca este sector.
Por todo ello, el panorama tecnológico actual se define por una omnipresente falta de rendición de cuentas. Las empresas tecnológicas, que operan a escala mundial, suelen eludir las leyes y normativas nacionales. Cuando se les permite que se vigilen a sí mismas, a menudo parece primar el beneficio frente a las repercusiones de sus actos sobre los derechos, lo que ha dado lugar a numerosos escándalos relacionados con presuntas violaciones del derecho a la intimidad, acciones de censura, prácticas discriminatorias, así como toda una serie de diferentes daños para los derechos humanos.
Cada vez en mayor medida, los tribunales y los organismos encargados de hacer cumplir la ley observan los las deficiencias de las empresas a la hora de abordar la desinformación, impedir la vigilancia, luchar contra la explotación laboral y evitar que se vulnere el derecho la intimidad de las personas, con el consiguiente perjuicio para la sociedad.
Así, en Estados Unidos, el fiscal general de Nuevo México presentó una demanda contra Mark Zuckerberg, consejero delegado de Meta, para que tome medidas contra la explotación de menores en las plataformas de su empresa. Este caso surgió a raíz de una investigación encubierta de la oficina del fiscal general, que sacó a la luz prácticas alarmantes en las que las plataformas de Meta supuestamente dirigían contenidos sexuales explícitos a personas usuarias menores de edad, permitían a las personas adultas captar a menores, recomendaban a los niños y niñas unirse a grupos no moderados vinculados al comercio sexual e incluso permitían la venta de pornografía infantil. Las empresas han declarado que están implantando herramientas de moderación de contenidos y otras medidas para poner fin a estos abusos por iniciativa propia. Sin embargo, estos contenidos nocivos vuelven a aparecer con frecuencia. Todo ello pone de manifiesto las graves consecuencias de permitir que las empresas tecnológicas se autorregulen, especialmente las plataformas de redes sociales y las grandes tecnológicas.
Otro ejemplo preocupante es el caso de Booking.com, que se beneficia de la publicación de propiedades de alquiler en asentamientos ilegales israelíes, a pesar de que el derecho internacional reconoce que los asentamientos son ilegales. Esta práctica muestra un claro desprecio por las normas internacionales de derechos humanos y las obligaciones legales de las empresas. En una reciente denuncia presentada en los Países Bajos por varias organizaciones de la sociedad civil, se defiende la tesis de que, al beneficiarse de graves violaciones del derecho internacional humanitario, la empresa está introduciendo productos del delito en el sistema financiero neerlandés, por lo que incurre un blanqueo de capitales y estaría infringiendo el artículo 1.4 de la Ley neerlandesa sobre Delitos Internacionales. Todo ello pone asimismo de manifiesto que la falta de regulación y supervisión sólida de las tecnológicas hace posible que realicen este tipo de beneficios a expensas de los derechos.
Algunas empresas tecnológicas han intentado resolver esta falta de regulación clara creando sus propios consejos de supervisión. Aunque estas iniciativas suponen un paso hacia una mayor rendición de cuentas, no pueden sustituir a las medidas impuestas por el Estado. A menudo estos consejos carecen de independencia y capacidad para hacer cumplir las normas y con frecuencia reciben críticas por su carácter reactivo, ya que únicamente abordan los problemas cuando se convierten en escándalos públicos, como en el caso de Meta, que rechazó la recomendación de su consejo de supervisión de suspender la cuenta de Facebook del antiguo primer ministro de Camboya, Hun Sen, acusado de amenazar con violencia a sus oponentes, por motivos de procedimiento. Todo ello ocurrió a pesar de las consecuencias de estos contenidos en el mundo real, y pone de manifiesto las limitaciones de los organismos de autorregulación a la hora de exigir responsabilidades a las figuras poderosas.
Una supervisión normativa insuficiente también puede alimentar los conflictos, como muestra el caso contra Cognyte Software Ltd, una empresa israelí acusada de vender programas espía a los militares de Myanmar antes del golpe de 2021. A pesar de la postura oficial de Israel favorable a poner fin a las transferencias de tecnología de defensa a Myanmar, Cognyte continuó realizándolas, lo que permitió que se ejerciera una vigilancia generalizada sobre las personas defensoras de los derechos humanos y contribuyó a la represión de la disidencia.
A medida que estos daños empiezan a salir a la luz con más frecuencia en los tribunales de todo el mundo, parece que se va generando una concienciación mundial creciente sobre el papel de la regulación para mitigarlos y prevenirlos. La Unión Europea (UE) ha asumido un papel de liderazgo, con la promulgación del Reglamento General de Protección de Datos (RGPD), la Ley de Servicios Digitales (DSA), la Ley de Mercados Digitales y la Ley de Inteligencia Artificial. A través de esta normativa se ha tratado de establecer mecanismos y responsabilidades basados en principios de empresas y derechos humanos con el fin de que las empresas tecnológicas rindan cuentas. En Brasil se han promulgado normas similares, que las autoridades aplican activamente para luchar contra los abusos facilitados o causados por las empresas tecnológicas.
Aunque estas medidas no están exentas de defectos, suponen un importante paso en la dirección correcta.
Sin embargo, hace falta más, y ya existe una hoja de ruta para ello. Las leyes laborales, antimonopolio y del consumidor, así como la jurisprudencia, han desempeñado un papel fundamental en la regulación de otros sectores a la hora de proteger el derecho a la intimidad, garantizar las condiciones laborales y salvaguardar otros derechos fundamentales. Sería impensable permitir que otras industrias, como la minería, las finanzas y la sanidad, dependieran únicamente de la autorregulación. El sector tecnológico también debería estar sujeto a marcos reguladores concretos de obligado cumplimiento en cuestiones que van desde la protección del consumidor hasta las prácticas empresariales éticas.
Sería positivo para el mundo contar con una supervisión adecuada de la industria tecnológica, con una regulación basada fundamentalmente en los principios de empresas y derechos humanos. En otras palabras, basadas en la diligencia debida obligatoria en materia de derechos humanos y medio ambiente. Cuando un sector avanza tan deprisa como el tecnológico, la responsabilidad de identificar y mitigar los principales riesgos de sus productos para los derechos humanos debe recaer en las propias empresas, que deben rendir cuentas si no identifican y abordan estos riesgos. En lugar de que los gobiernos intenten regular los daños después de que se produzcan, las iniciativas de diligencia debida como la Directiva de la UE sobre la diligencia debida en la sostenibilidad empresarial, junto con otras leyes específicas para el sector tecnológico, son alentadoras y permiten pensar en una industria mejor regulada.
En este momento en que la tecnología desempeña cada vez un papel mayor en la sociedad y en los conflictos, aumentan también los riesgos para los derechos humanos. Para proteger los derechos humanos y garantizar que las empresas tecnológicas actúan de acuerdo con el interés público general, en lugar de limitarse a priorizar su cuenta de resultados, se necesitan leyes y políticas claras y aplicables que obliguen a las empresas tecnológicas a rendir cuenta por sus acciones, en parte exigiéndoles que identifiquen los riesgos de sus productos y servicios para la humanidad.