Recuerdo la primera vez que usé ChatGPT. Un amigo me enseñó qué pasaba cuando ponía un prompt para que el sistema escribiera un correo con un tono formal en el que decía a un cliente que no aceptaba un proyecto. Me quedé impactada al ver la respuesta que apareció en la pantalla en cuestión de segundos y me surgieron una lluvia de preguntas: si usas ChatGPT para redactar un correo, ¿de quién son las palabras? Ese texto, pensé, no “suena a mí”.
¿Quién es entonces la autora del texto? Y, si uso ChatGPT para escribir mis correos, ¿estoy engañando a la persona que los recibe, que cree que los he escrito yo? ¿Deberíamos poner un disclaimer diciendo que este correo, este poema o esa carta de amor, fue redactado por ChatGPT? Si lo uso para modificar un texto propio, ¿sigo siendo autora del mismo? O ¿se convierte ChatGPT en mi coautor? ¿Quién es la autora en la era de la IA generativa?
Entiendo las ventajas de su uso, como el ahorro de tiempo o la posibilidad de poder escribir en un idioma que no dominamos, con todo lo que eso conlleva. Una amiga lo usa para escribir propuestas y presentarse a licitaciones. Sin la herramienta, me dijo, le sería mucho más difícil redactar en catalán. ChatGPT le facilita el acceso a nuevas oportunidades laborales. Conozco a otra persona que usa la herramienta para escribir correos en inglés a clientes internacionales. No suenan “a ella” pero parece que sea inglesa nativa.
Si ahorra tiempo, qué más da, me pregunto, si suenan o no a mí. Y al pensar la respuesta veo que me inquieta, usar estas herramientas para redactar textos como un correo sin luego decir que lo he hecho. Pienso también en lo que implica y en lo que me aporta el proceso de escribir: el tiempo que a veces he dedicado a redactar un correo, a escoger las palabras que más se acercan a lo que quiero expresar, a las vueltas que he dado a un mensaje de muy pocas líneas pero de mucho contenido emocional. Escribir varios borradores, dejarlo reposar, volver al día siguiente, a veces contrastarlo con alguien de confianza para que lo lea con “ojos frescos”, y finalmente, el momento de apretar el botón de enviar.
Este proceso no solo consigue el resultado de comunicar algo a otra persona, me sirve también a mí, especialmente cuando son mensajes sensibles, para ordenar mis ideas, mis emociones y me exige tomar decisiones: esto lo digo, no lo digo, cómo lo digo. Con herramientas como ChatGPT resulta todo más rápido, nos saltamos el proceso y nos convertimos, una vez más, en editores. Esto lo retoco. Esto lo dejo. Esto lo saco. Y envío. O ni eso, simplemente lo envío, sin editar siquiera.
“La Inteligencia Artificial mata el proceso” dice la artista Ainara LeGardon, una de las ponentes en la mesa de debate “Derechos Digitales: el mundo sin Copyright”, uno de tres eventos sobre derechos digitales organizados por Espacio Fundación Telefónica y comisionados y moderados por la periodista Marta Peirano. El encuentro tuvo lugar el pasado viernes 18 de octubre y contó también con la participación de
Andres Guadamuz
, profesor universitario especialista en derecho e IA, y Jonás Trueba, cineasta y escritor.
Fue una hora y media de conversación intensa y súper interesante sobre la autoría y los derechos de propiedad intelectual en tiempos de IA. Todo un temazo. El ‘scraping’ o extracción de datos en forma de textos, obras, guiones y demás contenidos para desarrollar modelos de IA generativa como ChatGPT está suscitando un intenso debate legal sobre la protección de la propiedad intelectual en la era digital.
Aquí os dejo algunas de las joyas del debate con las que me quedé:
Crece la batalla legal del Copyright en el entrenamiento de la IA generativa
- Momsnet, el foro más popular sobre parenting en el Reino Unido, ha lanzado la primera acción legal británica contra OpenAI por extraer contenido del sitio web sin su consentimiento para alimentar modelos de IA. En el mismo país, GettyImages inició un procedimiento judicial contra Stability AI por haber copiado y procesado millones de sus imágenes.
- En Estados Unidos, hay más de 30 casos judiciales abiertos contra empresas que desarrollan IA Generativa. Entre los más notorios está el del New York Times que ha demandado a Microsoft y OpenAI por haber utilizado contenidos de los periódicos para entrenar sus modelos sin su permiso, acreditación o compensación. Tardaremos años antes de ver la resolución de muchos de estos casos judiciales. También se está poniendo en debate el concepto básico de “autor”. ¿Quién es autor en los tiempos de ChatGPT?
¿Es legal entrenar modelos con contenidos protegidos?
- Marta Peirano le hace la pregunta del millón a Andrés Guadamuz. La respuesta podría parecer corta y sencilla, pero no lo es, responde el ponente. "Para entrenar la IA se necesitan grandes cantidades de textos, imágenes, videos, fotografías o música. Y estas obras tienen que estar copiadas, sí o sí ha de existir una copia. Por lo tanto, podríamos decir que si se copian sin consentimiento hay infracción de derechos de autor y punto. Pero no es tan sencillo", advierte Andrés. Cuando potencialmente existe una infracción de derechos de autor tenemos que ver si hay límites, excepciones o defensas. Una de las excepciones es cuando la minería de textos y datos se realiza con fines científicos tal y como recoge la directiva europea 2019/790 sobre copyright y derechos relacionados en el Mercado Único Digital.
- Precisamente en septiembre de este año, el Tribunal Regional de Hamburgo desestimó la demanda del fotógrafo Robert Kneschke, quien había denunciado a la Red Abierta de Inteligencia Artificial a Gran Escala (LAION), una entidad sin ánimo de lucro, por usar imágenes del fotógrafo sin su permiso para crear conjuntos de datos para entrenar sistemas de IA. El tribunal consideró que el uso de imágenes por parte de LAION tenía un fin científico, y por tanto quedaba cubierto por la Ley Alemana de Derechos de Autor y por el artículo 3 de la directiva europea.
Copiar datos para entrenar la IA ¿es como leer, o es como grabar? Una máquina ¿copia o aprende?
- Algunos dicen que entrenar los modelos de IA es como cuando lees libros y luego tú escribes tu propio libro. Los autores por el contrario argumentan que si leyeran libros y luego usaran ese contenido sin citarlo estarían cometiendo plagio e infringiendo el copyright.
La primera guerra del copyright en la era digital no empieza ahora: el caso de la música
- Los músicos y cantantes saben mejor que nadie que el debate del copyright en el mundo digital empezó hace ya más de 20 años cuando en 1999, Shawn Fanning y Sean Parker, dos jóvenes estudiantes de computación en la Universidad de Michigan, crearon Napster. El programa permitía a usuarios de internet buscar y descargar archivos en formato mp3 de otros ordenadores. Se convertiría en la primera gran red P2P de intercambio de música y la primera gran empresa de distribución de archivos musicales en internet. Al poco tiempo, la Asociación Americana de Industrias Fonográficas (Recording Industry Association of America, RIAA) acusó a Napster de infracción de derechos de autor y argumentó que Napster alentaba a los usuarios individuales a compartir archivos de música que no son de su propiedad.
- Napster cesó sus operaciones en 2001 después de perder múltiples juicios y se declaró en quiebra en junio de 2002. Poco después fue relanzado como un servicio legal de música en el que los usuarios podían consumir canciones previo pago. Se podría decir que Napster allanó el camino para el modelo de suscripción y plataformas de música en streaming como la de Spotify. La música ya no se paga por disco o por canción y a los autores se les paga cantidades ínfimas: en Spotify la cotización por reproducción en 2023 se situaba entre los 0,0033 y 0,0044 euros.
Otro campo de batalla del copyright en tiempos de IA: el cine
- Además de los músicos, los guionistas de cine son otro gremio que también viven en carne propia los efectos de la digitalización y los retos que supone la IA Generativa para su oficio. En septiembre del 2023, tras una huelga de guionistas estadounidenses que duró varios meses, el principal sindicato del gremio (WGA, por sus siglas en inglés) llegó a un acuerdo con la patronal que agrupa a las grandes productoras de cine y televisión del país y se estableció que en ningún caso el contenido generado por una IA será considerado material literario.
Más allá del copyright: la importancia y el rol del PROCESO artístico
- Hay otro aspecto que surge en todo este debate que es el de la consecuencia del uso masivo de estas herramientas para los procesos creativos. Marta Peirano nos recuerda el libro recientemente publicado por Kyle Chayka, titulado Mundo filtro. Como los algoritmos aplanaron la cultura, sobre la globalización del gusto y la manera en que las plataformas aplanan la cultura.
- “Para un cine que no busca copiar un modelo, si no que busca hacer un cine que a uno mismo y al espectador le pueda sorprender, ¿nos podrá ayudar la IA?” pregunta Jonás Trueba. “Para mí lo importante es lo inesperado, la fragilidad, la torpeza. Las IAs son muy deductivas y asociativas, pero no sé si son intuitivas, impredecibles, que es lo que me gusta que sea el cine. No tienen ego, suena fatal decirlo, y el ego y otras muchas cosas es muy importante a la hora de crear. Las IAs son también torpes pero no del mismo tipo, yo me refiero a la torpeza artesanal.”
- “La IA no colorea fuera del borde, no pinta fuera de los márgenes. Lo que la IA puede hacer es estándar, no se saldrá de la media” añade Ainara LeGardon. “Cuando eliges que tu cine sea frágil y cuando abrazas una torpeza que quizás ha sido un error involuntario, estás tomando una decisión, y ahí está la clave. La persona autora toma decisiones estéticas e intelectuales que la máquina no puede tomar. Esa es una de las condiciones para que se de la originalidad y para que una obra sea obra. El output que sale de la máquina es un material, no una obra.”
Y cuando generas material en forma de guiones, música, cartas de amor usando estas herramientas ¿Qué tipo de derecho se generan?
- “La respuesta es también larga, y también se resume en 'depende'" dice Andrés Guadamuz, y depende de la jurisdicción. “Cuando protegemos los derechos de autor, protegemos la autoría humana, la creatividad que nace de nuestros cerebros, de nuestro ser, son los principios de los derechos de autor. Las máquinas sin alma y sensibilidad que tan solo reproducen los datos con los que fueron entrenados no tienen derechos de autor. Esta sería la respuesta principalmente en Estados Unidos.”
- Ante la incertidumbre que genera el panorama actual, el año pasado la oficina de registro de copyrights en EEUU publicó unas guías sobre el registro de trabajos que contienen material generado por tecnologías de IA en la cual recalca que el copyright puede proteger solo aquel material que es producto de la creatividad humana y que el concepto de autor que se usa en la Constitución y en el Copyright Act excluye a los no-humanos. Ahora bien, no es todo blanco y negro. La guía dice: “En el caso de obras que contengan material generado por IA, la Oficina considerará si las contribuciones de IA son el resultado de una ‘reproducción mecánica’ o si resultan de ‘la propia concepción mental original del autor, a la que [el autor] dio forma visible’. La respuesta dependerá de las circunstancias, en particular de cómo opera la herramienta de IA y cómo se utilizó para crear la obra final. Se trata necesariamente de una investigación caso por caso.”
- ¿Usamos la IA generativa como herramienta o como co-autora? Creado por y con IA son dos cosas diferentes...
En conclusión... El debate está servido. Pasarán años hasta que tengamos más jurisprudencia y quedan muchas preguntas todavía por responder. Una certeza es que con ChatGPT y otras herramientas de IA generativa el genio ha salido de la botella y será imposible volver a meterlo. Ahora bien puede que la IA nos ahorre tiempo, dinero y esfuerzo, pero nunca podrá reemplazar la experiencia del proceso creativo: esa fragilidad, esa torpeza, la magia de lo inesperado y los errores creativos que luego resultan ser auténticas joyas.
letrado y empresa
2 mesesLluís Sergi Sarri i Camargo si atribueixes drets de propietat inmaterial a ‘màquines’ el que fas es atribuïr un benefici indirecte a l’empresa propietaria de la infraestructura, el model, el frontend, etc. Una màquina no te patrimoni ni té capacitat per exercir drets, com tampoc te sentit atribuir-li responsabilitat donat que no pots utilitzar mecanismes retributius de cap manera (ni patrimoni ni res) i per tant tampoc pots satisfer els principis de prevenció (especial o general). Així mateix, els drets inmaterials mai van nèixer com a reconeixement, van nèixer per incentivar la producció humana i el tràfic econòmic, donat que es tradueix en un incentiu. D’aquí per exemple que a l’edat mitjana la producció dels copistes no tenia P.I., ja que no es destinava al tràfic econòmic. Si treus l’incentiu destrueixes el tràfic econòmic humà, la producció i innovació humana i beneficiaries indirectament a grans corporacions, i crees una roda terrible a tots els nivells.
Tech Innovation Specialist a Mobile World Capital Barcelona
2 mesesEl tema dels drets d'autor és realment molt interessant. Marina Valls Soler, fes-li un cop d'ull, t'agradarà llegir-lo. Tinc pensaments contradictoris amb aquest tema. Per una banda estic totalment d'acord amb què hi ha d'haver algun tipus de retribució pels autors en què les seves obres s'han fet servir per entrenar un algoritme amb ànim de lucre. Crec que guanyar o no diners amb el seu ús és la diferència clau. D'altra banda, també penso en el munt d'escriptors i artistes, de la història. La gran majoria han començat inspirant-se en alguna creació prèvia o en l'estil determinat d'algú que admiraven. I no crec que sigui res gaire diferent al que fa la IA. Llavors, perquè mirem amb recel el que pugui desenvolupar la IA i no pas altres humans que han seguit un procés similar? Amb els tempos dels humans i els processos dels humans, però similar al cap i a la fi. Potser hi ha un punt d'orgull aquí. De pensar que eren unes habilitats reservades només per als humans. Però tanmateix, la IA no deixa de ser una eina humana. I sí, no és el mateix que un martell ja que li podem donar la capacitat de decidir. Però conté, de moment, en ella mateixa les nostres virtuts i els nostres defectes.