La inteligencia artificial es ya una espada de doble filo para la tecnología y la ética. Tras la carta abierta de personalidades que pidieron poner un freno a la IA, Italia decidió prohibir ChatGPT, marcando el camino al resto de los países
Con más de mil personalidades influyentes del mundo de la tecnología firmando una carta abierta solicitando la pausa en experimentos en inteligencia artificial puesta sobre la mesa, hace poco más de una semana que Italia prohibía ChatGPT con efecto inmediato. Resumido de forma rápida y global, la culpa la tiene su política de protección de datos. El país transalpino se encuentra investigando la que es la inteligencia artificial más mainstream que existe y la plataforma que más ha crecido en la historia de internet. Italia ha sido el primer país europeo en prohibir ChatGPT, pero probablemente no será el último: estas son las razones para tener el chatbot de OpenAI bajo la lupa y en cuarentena.
Las razones de Italia para prohibir ChatGPT
El Garante per la Protezione dei Dati Personali (homólogo de la Agencia Española de Protección de Datos, al que nos refererimos desde ahora como GDPD) vela por el cumplimiento de las obligaciones generales descritas en la ley de privacidad de la UE y según sus investigaciones, el modelo de lenguaje por Inteligencia Artificial de OpenAI se queda corto: según este organismo, ChatGPT procesa datos personales violando sus leyes de privacidad. Y es que aunque fue entrenado previamente a su lanzamiento, el chatbot sigue recopilando y procesado datos de quienes lo usan para depurar la experiencia.
Recopilación no justificada de datos personales. Según el GDPD no existe una justificación legal para la recopilación y el procesamiento de datos personales masivamente por parte de OpenAI para entrenar los algoritmos de ChatGPT. Además, como la información aportada por ChatGPT no siempre se ajusta a la realidad, OpenAI podría usar datos personales falsificados.
Otro motivo para tener ChatGPT en cuarentena es la falta de transparencia y la dificultad de acceder a la información guardada. O lo que es lo mismo: que OpenAI no informa a sus clientes de los datos que recopila. Esto atenta directamente contra las leyes de privacidad europeas.
Aunque en sus condiciones de uso se especifica que se dirige a personas mayores de 13 años, ChatGPT carece de sistemas de verificación de edad, lo que implica tanto que pueda usarse por menores como que estos estén expuestos a información inapropiados. La RGPD de la UE establece que las personas deben dar su consentimiento claro para el procesamiento de sus datos personales, por lo que si eres menor de edad, no puedes dar tú mismo tu consentimiento.
El pasado 20 de marzo hubo un problema de seguridad detectada en ChatGPT, un hecho que el organismo regulador italiano expresase su preocupación sobre posibles incidentes futuros y el riesgo que estas suponen para los datos de los usuarios. Que la Europol alertase del uso de ChatGPT para cometer fraude y ciberdelincuencia no hizo más que aumentar la alarma. De acuerdo con las leyes de privacidad, todos los sistemas que procesan datos deben implementar medidas adecuadas de seguridad para evitar brechas.
Es importante destacar que la prohibición de ChatGPT de Italia aunque con efecto inmediato, tiene carácter temporal: OpenAI dispone de 20 días para demostrar que cumple con la ley. En caso contrario, esta prohibición se tornará en permanente, además de recibir sanciones económicas en forma de multas de 20 millones o de hasta el 4% de sus ingresos anuales mundiales.
La postura de Italia puede marcar la hoja de ruta para otros países
Italia adujo a dos razones para tomar esta medida, pero si has leído con atención el apartado anterior, habrás visto que en varios puntos aparecen prácticas sospechosas de incumplir la ley de privacidad europea, que como su nombre indica, tiene validez en toda la UE.
De hecho la subdirectora de la Organización Europea de Consumidores Ursula Pachi ha lanzado un aviso a navegantes sobre lo de Italia y su proceder en una entrevista a Euronews: "es una especie de llamada de atención para la Unión Europea (...) Aunque las instituciones europeas han estado trabajando en la Ley de IA, no será aplicable hasta dentro de cuatro años. Y vemos cómo de rápido se desarrollan".
La GDPR es probablemente la ley de privacidad más estricta del mundo e Italia puede ser la punta del iceberg: otros países de la UE miran con atención lo que sucede allí. Así, Reuters explica que los organismos de Francia e Irlanda ya se han puesto en contacto con sus homólogos italianos para solicitar más información. Eso sí, de momento el ministro galo para la Transición Digital ha declarado en contra de prohibir ChatGPT. Asimismo, el regulador del Reino Unido ha mostrado su apoyo a la IA siempre y cuando cumpla con las leyes. En Alemania, un portavoz del Comisario Federal de Protección de Datos, ha declarado seguir el caso y que la aplicación en el país también sería posible, según recoge el diario Handelsblatt.
En España la Agencia de Protección de Datos (AEPD) ya se ha pronunciado sobre el asunto explicando que aunque no ha recibido ninguna reclamación, "sigue de cerca estos desarrollos tecnológicos, que pueden tener una importante afectación para los derechos de las personas". No descartan una investigación futura de oficio. Por el momento, lo que sí ha hecho la AEPD es multar estos incumplimientos, si bien esta medida se queda corta ya que OpenAI no tiene sede en Europa. Como detalla el abogado especializado en privacidad y derechos digitales Samuel Parra para El Confidencial: "Si está fuera de tu territorio de aplicación, no tienes instrumentos jurídicos para exigir el pago. (...) Los bloqueos son lo que de verdad les duele. Si ningún europeo pudiera, por ejemplo, utilizar Facebook, es algo que les afectaría mucho más en su cuenta de resultados".
Mientras tanto, en OpenAI han publicado una entrada de su blog en el que detallan que "Aunque algunos de nuestros datos de entrenamiento incluyen información personal disponible en Internet, queremos que nuestros modelos aprendan sobre el mundo, no sobre particulares. Nos esforzamos por eliminar información personal del conjunto de los datos de entrenamiento siempre que es posible". Según Reuters, ya preparan su defensa ante el bloqueo de Italia: el resto de Europa mira.
