En el vertiginoso mundo de la tecnología, el Big Data ha emergido como un recurso inmensamente valioso capaz de desbloquear conocimientos profundos y revolucionar múltiples sectores. Sin embargo, esta ola de innovación también ha desatado una serie de cuestiones legales y éticas que requieren un análisis detenido. Desde la discriminación digital hasta la protección de datos personales, las implicaciones legales del Big Data son vastas y complejas.
- Responsabilidad civil:
¿Qué sucede si una Inteligencia Artificial, alimentada por bases de datos masivas (Big Data), causa un daño civil? En el mundo físico, una persona que sufre daño a su integridad, patrimonio o bienes, es indemnizada por la persona responsable para resarcir estos daños y perjuicios. Sin embargo, una IA, no es una persona física que tiene obligación para resarcir esos daños. Este ha sido tema de discusión y de preocupación, que aunque todavía no existe una normativa a nivel internacional que sirva como modelo, ya en el parlamento europeo se están hablando de la primera ley integral de Inteligencia Artificial del Mundo.
Aunque parece una problemática que no tiene un consenso, pues, el profesor de Derecho Civil de la Universidad de Extremadura, Alejandro Platero, nos presenta dos sistemas para responder por los daños causados: el primer sistema consiste en que, las tecnologías que son consideradas de alto riesgo, como por ejemplo, los daños causados por un automóvil autónomo como los Tesla, sí deberá responder de manera objetiva la compañía que creó esta tecnología, salvo que sean casos de fuerza mayor; y, el segundo sistema consiste en que, si la tecnología que causó el daño no es considerada de alto riesgo, se determinará que hubo un daño subjetivo, en el que los proveedores de esta tecnología podrán demostrar que se ha actuado con debida diligencia y no responsabilizarse de este daño.
Abrimos debate: ¿Consideras que ChatGPT podría ser un sistema de alto riesgo?
- Derecho de la competencia:
Imagina que en el mundo de los negocios hay un «árbitro» llamado «derecho a la competencia». Este árbitro supervisa y penaliza las acciones injustas de las empresas que intentan jugar sucio en el mercado.
Aquí es donde entra en juego el «Big Data». Las empresas que tienen acceso a una gran cantidad de información pueden usarla para diseñar estrategias que les den una ventaja competitiva, como si tuvieran un atajo secreto para ganar. Sin embargo, hay un límite: si utilizan esta ventaja de manera incorrecta, perjudicando a la competencia o afectando a los consumidores, el árbitro puede intervenir.
Por ejemplo, si una empresa usa su información especial para bloquear a sus competidores o manipular los precios de manera injusta, esto se considera «abuso de poder de mercado». En resumen, tener información puede ser una herramienta poderosa, pero no garantiza una ventaja justa. Las empresas deben recordar que el árbitro está observando y podrían enfrentar sanciones si cruzan la línea.
Dicho esto, el Big Data puede ser un medio óptimo para que las empresas que manejan estas bases de datos puedan analizar y desarrollar conductas que abusen del poder del mercado. La Ley Orgánica de Regulación y Control del Poder del Mercado define al abuso de poder de mercado:
“Se entenderá que se produce abuso de poder de mercado cuando uno o varios operadores económicos, sobre la base de su poder de mercado, por cualquier medio, impidan, restrinjan, falseen o distorsionen la competencia, o afecten negativamente a la eficiencia económica o al bienestar general”.
Por tal razón, las empresas deben entender que tener acceso a esta información no es sinónimo de ventaja competitiva en el mercado y que si desarrollan estas conductas serán sancionados por el ente de control.
- Derechos de propiedad intelectual:
Imagina los libros, la música y las películas que consumimos, todos tienen autores que tienen derechos sobre su trabajo. Con el Big Data, podemos recopilar información y usar la inteligencia artificial para crear nuevo contenido, incluso determinar la información que es necesaria para que una empresa tome una decisión y la organización de esta información para cualquier uso necesario. Sin embargo, en el caso de la inteligencia artificial como ChatGPT, aunque se basa en datos, no es una entidad humana y no puede ostentar derechos de autor. Esto se refleja en una respuesta que da la inteligencia artificial, donde menciona que no tiene los derechos de autor.
Fuente: información de Chat GPT
Este asunto plantea un debate legal intrigante. La cuestión principal es si los resultados generados por la inteligencia artificial a partir del Big Data deberían contar con derechos de propiedad intelectual. Dado que no hay una creación humana directa, este es un territorio aún sin explorar. Algunos argumentan que estos resultados deberían pertenecer al dominio público, mientras que otros creen que debería existir algún tipo de reconocimiento o regulación. Esta discusión pone en tela de juicio la autoría y la protección legal en una era marcada por la tecnología avanzada.
A continuación explicaremos dos posturas que diferentes jurisdicciones han tomado en relación a este tema. Según Andrés Guadamuz, profesor titular de Derecho de Propiedad Intelectual de la Universidad de Sussex, en su artículo del 2017 en la OMPI, expresó que, según su conocimiento, en ninguna legislación se ha prohibido de manera expresa, conceder derechos de autor sobre obras que han sido generadas por Inteligencia Artificial, sin embargo, ha sido abordada en dos ambigüedades:
- El Tribunal de Justicia de la Unión Europea, en su decisión “Infopaq” (asunto C-5/08, Infopaq International A/S c. Danske Dagblades Forening)”, determinó que el derecho de autor se aplica a las obras originales y que estas obras deben contener una creación intelectual propia del autor, esto quiere decir, que debe manifestarse la personalidad del autor por lo que debe ser realizada por un humano. Esta postura concluye con que una inteligencia artificial no puede ser titular de derecho de propiedad intelectual.
- Por otro lado, en Hong Kong, India, Irlanda, Nueva Zelandia y el Reino Unido, la legislación contempla en enfoque de que si alguna obra fue creada por computadora, se reconoce la capacidad del que creó esta Inteligencia Artificial, por ende, el creador es considerado el autor de la obra,
Abrimos debate: ¿Consideras que la Inteligencia Artificial puede ser titular de derechos de propiedad intelectual?
En conclusión, el debate comienza cuando nos preguntamos si los productos generados por inteligencia artificial alimentada por Big Data, debería considerar tener un autor o no, esto ha sido discutido en varias jurisdicciones.
- Prohibición de la discriminación:
En 2014, la Universidad Harvard, publicó una investigación sobre una posible discriminación digital en plataformas como Airbnb, mediante un análisis de anuncios, publicaciones, entre otros, se pudo encontrar que las personas de raza negra tenían el 16% menos de posibilidad para ser aceptados al reservar un alojamiento. Por lo que, Airbnb implementó una política para que los miembros de su comunidad estén obligados a no discriminar a ningún miembro de Airbnb, de igual manera, incluyeron opciones como las reservaciones inmediatas para disminuir esta problemática.
Este es un reto que se debe abordar en todos los sectores, las plataformas digitales pueden ser canales que faciliten la discriminación digital, por lo que las politicas anti-discriminación y un entrenamiento inclusivo al algoritmo pueden ser los primeros pasos para mitigar este problema tan grave que afecta no solo a la víctima sino a la sociedad en general.
Otro ejemplo, la inteligencia artificial está revolucionando la industria microfinanciera, al permitir una concesión de crédito más rápida y accesible a través de teléfonos móviles en países en desarrollo. Esto se alinea con la idea de que un algoritmo es como un mecanismo que utiliza información histórica para predecir un éxito futuro, como lo menciona Cathy O’Neil en su obra “Armas de destrucción matemática”.
Antes, las microfinancieras dependían de visitas físicas y referencias vecinales para evaluar el riesgo crediticio, lo que resultaba en altas tasas de interés y una población desatendida. Sin embargo, con la IA, se pueden otorgar créditos más pequeños de manera más eficiente y a un costo menor para el cliente, impulsando oportunidades para quienes buscan mejorar sus vidas. El mercado de préstamos digitales ha crecido considerablemente, especialmente en mercados emergentes donde se han adoptado los teléfonos inteligentes. Aplicaciones como Tala y Branch utilizan IA para analizar datos de los teléfonos y tomar decisiones de préstamo sin necesidad de intermediarios bancarios.
Sin embargo, es crucial abordar posibles problemas éticos, como el sobreendeudamiento y la falta de acceso de ciertos colectivos, como las mujeres de bajos ingresos, a la tecnología. Además, la protección de datos basada en el consentimiento individual es esencial.
El sesgo y discriminación se puede encontrar en el ámbito de los préstamos a pesar de que es una herramienta útil, donde datos históricos sesgados pueden llevar a algoritmos a discriminar a ciertos grupos, como mujeres o minorías. Es vital examinar la representatividad de los datos de entrenamiento en programas de inteligencia artificial para evitar amplificar o perpetuar estos sesgos.
- Protección de Datos
Con el fin de explicar este reto del Big Data, debemos comprender la situación actual y la importancia de la protección de los datos. ¡Empecemos con este tema importantísimo!
En 2019, los datos de 20 millones de ecuatorianos (vivos y fallecidos), fueron filtrados porque un servidor en Miami tuvo una falla, esto, porque no cumplía con los estándares de seguridad y protección de datos. Entre estos datos se encontraron, números de cédula, teléfonos, estados de cuenta, entre otra información sensible. Desde entonces, varias instituciones públicas y privadas del Ecuador fueron víctimas de varios ciberataques.
Por tal motivo, era necesario implementar políticas públicas sobre la protección de datos y ciberseguridad. Finalmente en 2021, se publica en el Registro Oficial la Ley Orgánica de Protección de Datos Personales (LOPDP) conforme al derecho de protección de datos reconocido en el artículo 66 numeral 19 de la Constitución de la República del Ecuador.
En esta Ley se establecen los lineamientos para garantizar el ejercicio del derecho a la protección de datos personales, desde su acceso a dicha información hasta los mecanismos de tutela. Para garantizar este debido tratamiento de datos, desde el artículo 69 hasta el 74, prevén sanciones y medidas cautelares para los que infrinjan el derecho de protección de datos, por ejemplo, a las empresas públicas y privadas se les aplicará una multa entre el 0,7% al 1%, sobre su facturación bruta del último ejercicio económico. Este es solo un ejemplo de la magnitud e importancia que todos los agentes del mercado deben tomar en cuenta para su tratamiento de datos.
Según un artículo de la Universidad Andina Simón Bolívar, la normativa ecuatoriana en esta materia contiene disposiciones similares al Reglamento General de Protección de Datos (RGPD), en el que se determinan los principales derechos y obligaciones sobre la protección de datos.
El Big Data y la protección de datos
Ahora, con esta base de conocimiento sobre la protección de datos, comenzaremos a explicar la relación entre el Big Data y la seguridad y protección de datos.
El Big Data contiene cantidad masiva de datos sensibles y no sensibles de las personas, estos datos son objeto de ciberataques constantes. El no tener implementado un sistema de gestión de la seguridad de la información de una empresa que trabaja con Big Data, podría repercutir en vulneraciones a la protección de datos en los siguientes aspectos: anonimización, consentimiento informado, toma de decisiones automática y, “minimización de datos” y “limitación de los fines”. A continuación, explicaremos cada una a detalle:
- La anonimización era una de las soluciones que se presentaba para tratar los datos protegiendo la privacidad de las personas, sin embargo, en los últimos años se han dado varios casos de re-identificación de bases de datos que habían sido anonimizadas. Cada vez se hace más sencillo re-identificar, gracias a que el Big Data permite cruzar datos personales y no personales procedentes de fuentes muy diversas.
- “Minimización de datos y “Limitación de los fines”: la minimización de datos es recabar los datos mínimos que son necesarios, pero esto se contrapone a la misma lógica del Big Data, deben existir cantidades masivas para extraer el conocimiento; por otro lado, la limitación de los fines, este principio establece que los fines deben ser determinados, explícitos y legítimos, sin embargo, el Big Data se basa en la reutilización de datos, esto quiere decir que los datos son recabados primero con una finalidad para después de su análisis ser reutilizados para otra finalidad.
- Consentimiento informado: para otorgar el poder de recopilación y tratamiento de datos de carácter personal se deben aceptar las políticas de privacidad, sin embargo, el individuo no suele leer estas políticas y acepta estos términos sin saber lo que implica.
- Toma de decisiones automática: los datos que son procesados por el algoritmo no siempre son precisos o veraces, por lo que puede este algoritmo tomar decisiones automáticas que afecten al individuo, como por ejemplo, el riesgo crediticio para aprobar o rechazar un préstamo.
Conclusión
En resumen, el auge del Big Data ha traído consigo beneficios transformadores y, al mismo tiempo, desafíos legales y éticos. Desde la discriminación en línea hasta la protección de datos, estos problemas han generado debates significativos. La regulación de la discriminación digital, la responsabilidad en daños causados por IA y el uso ético del poder del mercado son temas cruciales. Además, la cuestión de los derechos de propiedad intelectual en la IA y la protección de datos resaltan la complejidad de la era digital.
En última instancia, equilibrar la innovación con salvaguardias legales y éticas sigue siendo esencial para aprovechar plenamente el potencial del Big Data.
Bibliografía:
Airbnb. (2023, 25 enero). _Política contra la discriminación_. Airbnb. Recuperado 08 de septiembre de 2023, de https://www.airbnb.com.ec/help/article/2867
Airbnb. (s. f.). _Reserva inmediata_. Airbnb. Recuperado 08 de septiembre de 2023, de https://www.airbnb.com.ec/help/article/523?_set_bev_on_new_domain=1663360456_NTVkOTE2ODNhMmUy
BBC Mundo. (2016, 09 septiembre). _Por qué Airbnb tuvo que instaurar una política para combatir el racismo y en qué consisten las nuevas normas_. BBC News mundo. Recuperado 08 de septiembre de 2023, de https://www.bbc.com/mundo/noticias-37319032
Guadamuz, A.G. (2017, octubre). _La inteligencia artificial y el derecho de autor_. OMPI REVISTA. Recuperado 08 de septiembre de 2023, de https://www.wipo.int/wipo_magazine/es/2017/05/article_0003.html#:~:text=El%20derecho%20de%20autor%20pertenece,la%20m%C3%A1quina%20haga%20su%20trabajo
Herrera, C.H. (2019). _Big Data y Derecho de la Competencia_. Dialnet. Recuperado 08 de septiembre de 2023, de https://dialnet.unirioja.es/servlet/articulo?codigo=6837452
IND Industrias. (2021, 19 octubre). _Protección de datos personales – una obligación legal y moral en la era de Big Data_. IND Industrias. Recuperado 08 de septiembre de 2023, de https://revistaindustrias.com/proteccion-de-datos-personales-una-obligacion-legal-y-moral-en-la-era-de-big-data/
O’Neil, C.O. (2016). _Armas de destrucción masivas_. Libros maravillosos. Recuperado 8 de septiembre de 2023, de http://www.librosmaravillosos.com/armasdedestruccionmatematica/index.html
Parlamento Europeo. (2023, 12 junio). _Ley de IA de la UE: primera normativa sobre inteligencia artificial_. Europarl. Recuperado 8 de septiembre de 2023, de https://www.europarl.europa.eu/news/es/headlines/society/20230601STO93804/ley-de-ia-de-la-ue-primera-normativa-sobre-inteligencia-artificial
Parlamento Europeo y el Consejo. (2016, 04 mayo). _Reglamento (UE) 2016/679_. EUR-Lex. Recuperado 08 de septiembre de 2023, de https://eur-lex.europa.eu/legal-content/ES/TXT/?uri=CELEX%3A02016R0679-20160504
Platero, Alejandro, Profesor. (2021). _Breves notas sobre el régimen de responsabilidad civil derivado de los sistemas de inteligencia artificial: especial referencia al algoritmo de recomendaciones de Netflix_. Revistas científicas US. Recuperado 08 de septiembre de 2023, de https://revistascientificas.us.es/index.php/ies/article/view/16006/15120
Tribunal de Justicia de la Unión Europea. (2009, 16 julio). _Infopaq International A/S contra Danske Dagblades Forening._. EUR-Lex. Recuperado 08 de septiembre de 2023, de https://eur-lex.europa.eu/legal-content/ES/ALL/?uri=CELEX%3A62008CJ0005
Universidad Andina Simón Bolívar. (s. f.). _Protección de datos_. Universidad Andina Simón Bolívar. Recuperado 08 de septiembre de 2023, de https://www.uasb.edu.ec/ciberderechos/proteccion-de-datos/
