Lo que ChatGPT no puede hacer | El derecho al olvido

Con el auge que la IA ha experimentado en los últimos años como herramienta y como industria, la cantidad de posibilidades que ha presentado a los usuarios ha crecido exponencialmente. Desde la capacidad de revisar la escritura y comprobar la gramática hasta la generación de imágenes e incluso la asistencia en la creación de aplicaciones, todo apunta a que la Inteligencia Artificial seguirá rompiendo barreras que la sociedad creía imposibles hace tan solo unos años. Pero, a pesar de todo esto, algunos entusiastas de la IA se devanan los sesos intentando descubrir por qué una tarea sencilla está resultando imposible para uno de los modelos de IA más utilizados del mundo, ChatGPT.

Hace poco se descubrió en que al preguntar al famoso chatbot por un nombre en concreto, David Mayer, aparecía un mensaje de error. Una vez descubierto esto, los usuarios de ChatGPT empezaron a experimentar, tratando de encontrar una manera de engañar a la IA para que dijera el nombre, pero cualquier intento provocaba que el sistema se bloqueara para el usuario.

El descubrimiento de este fenómeno intrigó a los usuarios, lo que llevó a los investigadores de Internet a intentar encontrar información sobre quién era esta persona y qué podía tener ChatGPT contra ella. La persona más conocida con este nombre es David Mayer de Rothschild, un ecologista y productor de cine que también es el heredero de la fortuna Rothschild.

Desde que se descubrió esto, ChatGPT ha solucionado este problema, sin embargo el misterio no hace más que crecer. Después de que se revelara este error, un usuario de Reddit descubrió múltiples nombres que daban todos el mismo mensaje de error cada vez que se insertaban en ChatGPT, y muchas de las personas implicadas tenían alguna conexión con el servicio de IA:

• Jonathan Zittrain, un profesor de Derecho de Harvard que se centra en la IA y la censura en Internet, publicó recientemente un artículo en el que expresaba su creencia en la necesidad de controlar la tecnología de IA (incluyendo específicamente ChatGPT).
• Brian Hood es un alcalde australiano que fue la primera persona en amenazar con una demanda por difamación contra ChatGPT por afirmar falsamente que había cumplido condena por soborno.
• Jonathan Turley, abogado penalista y profesor de Derecho, también fue acusado falsamente de agresión por ChatGPT tras hablar abiertamente de los peligros que la IA supone para la libertad de expresión.

Sin embargo, hay un nombre en esta lista que no sorprende en absoluto. Guido Scorza, un abogado italiano, ha sido muy abierto sobre su aventura en la presentación de lo que se conoce como una “solicitud de derecho al olvido”. Incluso ha recurrido a X para ofrecer recursos a quienes quieran hacer lo mismo, dejando clara su postura al respecto. Pero cabe preguntarse qué es el derecho al olvido.

El derecho al olvido

Cuando la UE adoptó el Reglamento General de Protección de Datos (RGPD) en 2018, estableció un estándar para la privacidad, creando directrices para las empresas que recopilan y distribuyen datos. Este exhaustivo reglamento pone en manos de los ciudadanos el poder de garantizar una recopilación de datos segura y disciplinada, al tiempo que da a quienes los recopilan muchos pasos a seguir para mantener una sensación de seguridad entre ellos y los ciudadanos. Uno de los derechos que permite el GDPR es el Derecho al Olvido.

Esta parte del reglamento, que aparece en el artículo 17 de los documentos originales, esboza una serie de parámetros permitidos a los ciudadanos de la UE que hacen posible que se borren sus datos “sin dilaciones indebidas” cuando:

• los datos ya no sean necesarios para su finalidad original
• la persona ha retirado su consentimiento para las prácticas de recogida de datos
• los datos han sido tratados ilegalmente
• la entidad que recoge los datos debe borrarlos para cumplir una resolución judicial
• los datos pertenecen a un menor y se recogieron en relación con la oferta de servicios de la sociedad de la información

En casos como estos, cualquier persona puede solicitar la supresión de sus datos en virtud del RGPD. Las únicas excepciones son si dichos datos son necesarios para cumplir con solicitudes de información o procedimientos legales oficiales. Aparte de estas salvedades, cualquier persona bajo el GDPR puede ser “olvidada”, independientemente de si las empresas que recopilan los datos lo desean o no.

¿Deberíamos preocuparnos?

Al parecer, la revelación de ChatGPT ha puesto de manifiesto que numerosas personas se están aprovechando de su derecho a ser olvidadas. Los ejemplos mencionados anteriormente son sólo los que se han identificado hasta ahora, pero no se sabe cuántos nombres de personas que se aprovechan de ChatGPT han quedado sin descubrir o cuántas personas seguirán su ejemplo ahora que se está corriendo la voz de que es posible borrar tu nombre del servicio.

Aunque esto puede ser una gran noticia para la gente que quiere tener su información privada de servicios de IA como ChatGPT, saca a la luz otra cuestión: ¿hasta dónde puede llegar esta censura? A muchos les preocupa que esta posibilidad extienda la alfombra roja para que todo tipo de entidades soliciten la censura del servicio, ya sean personas, empresas o industrias enteras que quieran borrar de la plataforma malas acciones o errores anteriores para no llamar la atención sobre ellos.

Sin embargo, aunque la privacidad es importante hoy en día, también lo es mantenerse informado. Situaciones como ésta suscitan preocupación no tanto por nuestra incapacidad para conocer a estas personas concretas, sino más bien por el riesgo de censura en lo que se está convirtiendo rápidamente en uno de los servicios más populares e inteligentes de Internet.

Tomar medidas

Está claro que los derechos de privacidad, como el derecho al olvido, deben ampliarse más allá de un puñado de países. Todo el mundo merece poder controlar sus datos, especialmente en el mundo actual, donde la información se compra y se vende a la velocidad del rayo.

Pero esta situación también plantea grandes interrogantes. Aunque estos derechos protegen la privacidad individual, también podrían abrir la puerta a usos indebidos, permitiendo a personas u organizaciones poderosas borrar información que debería seguir siendo pública. El reto consiste en encontrar un equilibrio: dar a los individuos el control sobre sus datos sin perder el acceso a la información que mantiene a la sociedad informada y responsable.

Mientras la IA sigue avanzando, todos tenemos un papel que desempeñar. Mantente informado sobre tus derechos, defiende la transparencia y presiona para mejorar la normativa. Tanto los gobiernos como las empresas deben asegurarse de que estas leyes sean justas y no se tergiversen por razones equivocadas.

La IA tiene el poder de transformar nuestra forma de vivir, trabajar y comunicarnos, pero no debe ser una herramienta para reescribir la historia u ocultar la verdad. Ahora es el momento de plantear preguntas difíciles y asegurarnos de que nos dirigimos hacia un futuro en el que la privacidad y la transparencia pueden coexistir, sin que una socave a la otra.