Recientemente, la escritora Isabel Allende contó que su hijo, para demostrarle cómo en el futuro ya no iba a tener sentido el oficio de la escritura, le pidió a un programa de inteligencia artificial que redactara una historia sobre un niño tímido al que su perra lo salvaba del bullying. El resultado fue, según Allende, “casi igual” a su libro Perla, la súper perrita, aunque acaso un poco “más plano”. Aunque Allende comentaba el experimento con entusiasmo, no es difícil imaginar cómo esa misma perspectiva podría resultar preocupante para muchos otros escritores y actores de la industria editorial.
Según una encuesta llevada a cabo por la agencia Proyecto451, que ofrece servicios digitales a empresas editoriales, mientras que entre los editores de mayor experiencia prevalece una mirada positiva respecto del impacto de la IA en el mundo editorial, para los traductores, autores y sobre todo los ilustradores, la relación se invierte.
Ante cualquier revolución tecnológica, no es una novedad que surjan los temores de reemplazo laboral. Pero lo que tal vez resulta más inquietante en el caso de la IA es su capacidad generativa de piezas que, según cómo se mire, podrían considerarse artísticas, algo que hasta ahora se pensaba como dominio exclusivo de lo humano.
A partir de eso se desprende una gama de debates filosóficos en torno a qué implica verdaderamente un acto creativo, además de los desafíos jurídicos y problemáticas concretas en torno a la alteración de las formas de producción y circulación.
En 2023, más de 15.000 autores de la organización estadounidense The Authors Guild –entre ellos, Margaret Atwood y Jonathan Franzen– firmaron una carta abierta exigiéndoles a compañías como OpenAI y Meta que dejaran de usar sus trabajos sin permiso ni compensación. “Estas tecnologías imitan y regurgitan nuestro lenguaje, historias, estilos e ideas. Millones de libros con copyright, artículos, ensayos y poesías ‘alimentan’ a los sistemas de IA”, señalaban en la carta.
Según una investigación de The Atlantic, la compañía Meta habría utilizado como data set el sitio Library Genesis, uno de los mayores reservorios de libros pirateados que circulan en línea, violando así los derechos de autor de miles de escritores.
Actualmente, las normativas de copyright, sustentadas en las formas tradicionales de entender la autoría y la creatividad como un producto de la invención humana, no ofrecen respuestas suficientes para este nuevo escenario. Ante ese vacío y en sintonía con organizaciones de diversos países, la Unión de Escritoras y Escritores de la Argentina difundió en abril un comunicado firmado por más de 150 autores para exigir que los contratos de edición incluyan “cláusulas en las que se les confiera a los creadores la facultad de restringir, limitar o hasta impedir el uso de las IA en sus obras y/o para que éstas se utilicen en el entrenamiento de dichas tecnologías”. Por el momento, a falta de una legislación general, lo que se presenta como solución son los acuerdos entre particulares.
El reclamo, además de una defensa de los ya con frecuencia devaluados ingresos de los escritores, apunta a sostener la dimensión de calidad. Según la carta de The Authors Guild, el mercado podía verse inundado de libros “mediocres”. De hecho, Amazon se vio obligada a limitar la posibilidad de autopublicación después de que una avalancha de libros escritos por IA utilizara ese servicio.
La proliferación de pseudolibros abre la puerta a estafas: libros que prometen ser una cosa desde sus portadas digitales y luego tienen contenidos que no se corresponden, autores con identidades falsas y rostros generados por programas de computación. La escritora y editora Jane Friedman se enfrentó judicialmente a Amazon al descubrir casualmente que en esa plataforma figuraban libros con su nombre que ella no había escrito. Más allá de su caso personal, la autora también señalaba con preocupación otro fenómeno: había quienes, a partir de las pequeñas sinopsis de adelantos editoriales, estaban generando libros antes de que fueran publicados.
La perspectiva de que años de trabajo puedan saltearse a través de la mera escritura de un par de prompts podría, por ejemplo, desplazar el arduo trabajo que se realiza en talleres de escritura. Sin embargo, una vez más, ¿bastará pedirle a la IA que genere diez alternativas posibles para un mismo texto?
Mientras que sus usos para acelerar procesos de trabajo podrían ser más fácilmente bienvenidos por editores y autores, por ejemplo, para detectar errores ortográficos o de formato (o, incluso, como herramienta para reformular frases), su utilidad para definir la calidad de un texto es más ambigua.
La IA aprende en base al pasado, se nutre de lo ya producido para crear. En principio, esto no sería muy diferente al proceso de un ser humano que se inspira en sus antecesores. Sin embargo, mientras que los creadores de carne y hueso asumen responsabilidad por su palabra (o se les puede reclamar que la asuman), es incierto cómo se traslada esa noción a los objetos producidos por la IA.
El llamado “problema de los sesgos” apunta a advertir la huella social y cultural que subyace en estos sistemas, en la medida en que pueden reproducir y propagar prejuicios preexistentes según el recorte de los datos. Llegado el caso, la IA podría generar un texto en defensa de la tortura o que incitara al suicidio por puro mecanicismo, sin la mediación de una reflexión ética. Ante ese problema, las empresas han debido tomar medidas para contrarrestar los efectos nocivos, introducir restricciones y refinar las bases de datos.
Pero el arte, con frecuencia, transita la cornisa de los límites. La representación de la violencia en el contexto de una obra, por ejemplo, se resignifica, adquiere nuevas dimensiones que podrían escapar a la literalidad de una IA. ¿Podría, acaso, una IA restringida con pautas morales escribir Lolita, de Nabokov, o respondería negándose al prompt que le pide adoptar la perspectiva de ese narrador despreciable?
Recientemente, la ilustradora María Verónica Ramírez, descubrió que se había viralizado en redes una reproducción generada por IA de una obra suya hecha en apoyo al Hospital Garrahan. Sin embargo, la réplica había convertido a la imagen en una representación lineal, despojada de la metáfora presente en el dibujo original y ajena al universo de sentidos de su personaje Monstriña.
“Las mejores traducciones literarias ofrecen más que simple precisión, más que la fidelidad literal a las palabras que componen las oraciones”, decía la traductora Polly Barton al ser consultada por el diario The Guardian por el lanzamiento de GlobeScribe, un servicio de traducción literaria que, según prometen sus creadores, da resultados indistinguibles de las traducciones hechas por humanos. Para Polly Barton, como para otros colegas, el verdadero valor de una traducción radica en la interpretación de un contexto de origen, de la búsqueda de la reproducción de ritmos o atmósferas que los textos literarios producen en los lectores.
El reemplazo de estos oficios, aunque posible en lo potencial, no ocurrirá sin resistencias. En España, por ejemplo, varias librerías decidieron retirar de sus estantes el libro Juana de Arco, publicado por Planeta, cuando un reconocido ilustrador hizo público un mensaje demostrando que la portada había sido diseñada por una IA.
Acaso ese acto de solidaridad entre dos actores del ecosistema del libro también podría explicarse por un sentido de amenaza compartida. Si el oficio de un librero podía evaluarse por su capacidad, entre otras cosas, de ofrecer a los clientes recomendaciones, plataformas como Goodreads o The StoryGraph se comportan como imitadores artificiales que generan sugerencias a medida.
La pérdida de la complejidad en favor de la transparencia y la homogeneización del gusto a partir de la repetición algorítmica de lo mismo parecen propiciar un clima de “achatamiento” cultural. Sumado a ello, existen estudios que comprueban el impacto negativo en la capacidad cognitiva de las personas ante el uso constante de programas como ChatGPT, aunque esto bien podría recordar a las quejas de Platón contra el medio escrito.
A pesar de todas las alarmas, hay quienes, como Isabel Allende, encuentran en el desarrollo de la IA un desafío y una oportunidad para la experimentación. El escritor y crítico literario español Jorge Carrión publicó Los campos magnéticos, en el que acreditaba a dos sistemas de IA como coautores. Se trataba de un homenaje a la obra de los surrealistas André Breton y Philippe Soupault, en el que llevaba la idea de la escritura automática a un diálogo entre dos máquinas.
“Si durante años nos acostumbramos al corrector del procesador de textos, ahora somos los correctores y editores de los textos creados por el programa de OpenAI”, afirmaba Carrión en un artículo en La Vanguardia. Cuánto de cierto hay en ese diagnóstico se comprobará en los años por venir.
