Revista Luthor, nro. 57 (noviembre 2023) ISSN: 18573-3272
1
Escritura, subjetividad y
literatura en el amanecer de las
IA generativas
Letras, almas e interfaces de escritura
Mariano Vilar
En la era de las IAs generativas como ChatGPT, la escritura experimenta una
redefinición. El papel del autor se desdibuja, y la escritura se convierte en un acto
despersonalizado y automatizado. La literatura y la creatividad literaria enfrentan
nuevos desafíos, mientras que la lectura se desvincula de la subjetividad. Este cambio
plantea cuestiones fundamentales sobre la escritura, la lectura y la subjetividad en la
era digital.
* * *
All work and no play makes Jack a dull bot
(The Shining, Stanley Kubrick)
El presente
En 2022 hice un pequeño trabajo freelance para una startup
estadounidense que aspiraba a crear un sitio web. La idea del sitio era
que iba a estar centrado en libros sobre distintas áreas del saber (sobre
todo vinculado a las ciencias sociales y humanas) y buscaban personas
versadas en distintas disciplinas para generar contenido sobre esos
libros en forma de preguntas y respuestas. Es decir, yo tenía que generar
cuestionarios sobre libros clásicos (por ejemplo El príncipe de
Maquiavelo) pensando en un público lector no especialista que buscara
Revista Luthor, nro. 57 (noviembre 2023) ISSN: 18573-3272
2
de esa forma aprender más sobre el libro y luego testear su propia
capacidad de recordar lo que había leído. Pagaban 5 dólares la hora.
El primer proyecto en el que participé fue artesanal. Es decir, releí el libro
completo (las Meditaciones de Marco Aurelio), pensé una o dos preguntas
por capítulo con sus respectivas respuestas y se lo envié a mi
coordinadora. Aunque no era una tarea particularmente estimulante, me
parecía que el concepto del sitio, generar preguntas que no fueran para
ultra especialistas, podía más o menos articularse con uno de los
postulados esenciales de la hermenéutica de Hans-Georg Gadamer: lo
que vive de un texto son las preguntas que abre y no tanto las respuestas
que plantea, y que interpretar es adquirir la capacidad de revitalizar esas
preguntas (1999: 378-414).
Sin embargo, ya para el segundo libro que me encargaron, el CEO de la
startup había descubierto una forma más eficiente de realizar este
procedimiento: chatGPT. Tuvimos un pequeño seminario sobre cómo
generar preguntas para el play room de chatGPT y se nos informó que el
proceso iba a consistir en aprender a hacer los mejores prompts (es decir,
las “preguntas” o “instrucciones”) para que chatGPT generara tanto las
respuestas como las preguntas, y que nuestra tarea sería revisar esas
preguntas y respuestas, preferentemente usando resúmenes online de
los libros para ahorrar tiempo de lectura. Poco después dejé de trabajar
con la startup, pero confieso que quedé entre atemorizado por lo que
podía implicar a gran escala y por otro, embelesado con sus capacidades
tecnológicas.
Cuento esta experiencia para enmarcar la pregunta central sobre la que
me propongo reflexionar: la redefinición de la relación entre escritura y
Revista Luthor, nro. 57 (noviembre 2023) ISSN: 18573-3272
3
subjetividad a partir del desarrollo y la popularización de las inteligencias
artificiales (IA) generativas, cómo está impactando y cómo creo que
puede impactar en la institución de la literatura, que incluye también la
de la crítica y la teoría literaria.
Tecnología e interioridad
A riesgo de caer en el lugar común, creo que este archiconocido pasaje
del Fredro es (de nuevo) útil para iniciar la reflexión sobre la redefinición
del sentido de la escritura en el presente:
Pero, cuando llegaron a lo de las letras, dijo Theuth: «Este conocimiento, oh rey,
hará más sabios a los egipcios y más memoriosos, pues se ha inventado como un
fármaco de la memoria y de la sabiduría.» Pero él le dijo: «¡Oh artificiosísimo
Theuth! A unos les es dado crear arte, a otros juzgar qué de daño o provecho
aporta para los que pretenden hacer uso de él. Y ahora tú, precisamente, padre
que eres de las letras, por apego a ellas, les atribuyes poderes contrarios a los que
tienen. Porque es olvido lo que producirán en las almas de quienes las aprendan,
al descuidar la memoria, ya que, fiándose de lo escrito, llegarán al recuerdo desde
fuera, a través de caracteres ajenos, no desde dentro, desde ellos mismos y por sí
mismos. No es, pues, un fármaco de la memoria lo que has hallado, sino un simple
recordatorio. Apariencia de sabiduría es lo que proporcionas a tus alumnos, que
no verdad. [...].»
FED. – ¡Qué bien se te da, Sócrates, hacer discursos de Egipto, o de cualquier otro
país que se te antoje!
SÓC. – El caso es, amigo mío, que, según se dice que se decía en el templo de
Zeus en Dodona, las primeras palabras proféticas provenían de una encina. Pues
los hombres de entonces, como no eran sabios como vosotros los jóvenes, tal
ingenuidad tenían, que se conformaban con oír a una encina o a una roca, sólo
con que dijesen la verdad. (Fedro, 274e-275c)
1
Primer punto para resaltar: la oposición entre la exterioridad de las letras
y el alma humana, que está asociada en este pasaje (y en tantos otros en
Platón) a la memoria. Estamos, sin embargo, dentro de una concepción
de la escritura que podemos conectar fácilmente con la historia de la
informática previa a las AI generativas. Esto es lo que analiza Eric Sadin
1
Cito según la traducción de Lledó Íñigo.
Revista Luthor, nro. 57 (noviembre 2023) ISSN: 18573-3272
4
(2021) como característico del desarrollo de las tecnologías de la
información basadas en la creación de bases de datos cada vez más
minuciosas y exhaustivas pero que todavía parten del supuesto de que
esa información será analizada y procesada por mentes humanas que
retienen el pleno poder de sus decisiones. En ese sentido, podemos
trazar una genealogía más o menos lineal entre una planilla de Excel y
los primeros testimonios de escritura que tenemos en los que se realizan
inventarios de granos o de cobre.
La pregunta que podemos hacernos es si la memoria que se pone en
riesgo con las IA generativas ya no es la memoria de un saber entendido
como un contenido, sino más bien como un procedimiento. Lo que ahora
corremos el riesgo de olvidar son los procesos asociados con el mismo
acto de producir un texto, si es que no lo estábamos olvidando ya con
otros cambios tecnológicos previos. En este sentido podemos
reinterpretar las palabras de Platón respecto de que esta tecnología no
tendrá el efecto buscado (facilitar la escritura) sino más bien el contrario,
entumecer nuestra capacidad de ejercerla.
2
En segundo lugar, me parece especialmente relevante el planteo
platónico que opone, como en tantos otros textos, la verdadera sabiduría
y su apariencia, que es puramente externa. Nada hay más externo que la
relación que establece la escritura y el saber a partir de las inteligencias
artificiales generativas como chatGPT, ya que efectivamente, el sistema
no “sabe” nada. Puede generar un texto de 1000 palabras sobre el
significado del perro en la cultura armenia, pero no sabe qué es un pero
2
Tomo la expresión de la concepción de McLuhan (1996) del efecto doble de los medios
de extender las posibilidades del cuerpo y la mente humanas al mismo tiempo que los
someten a entumecimientos varios.
Revista Luthor, nro. 57 (noviembre 2023) ISSN: 18573-3272
5
ni jamás lo va a saber, porque en última instancia “perro” no es para el
sistema más que un token, una unidad abstracta que se combina más
frecuentemente con ciertas palabras (como “sarnoso”) y menos con
otras (como “fluorescente”) en el gigantesco corpus que tuvo como
insumo. El chatGPT no solo no conoce la idea pura y perfecta del perro:
tampoco conoce el significado de la palabra ni el conjunto de sus
referentes, ni necesita conocerlos en absoluto para generar una
impresión falsa de sabiduría.
Por último, quería referirme a la parte final de la cita, donde aparece lo
oracular, que en tiempos más simples provenía directamente de objetos
inanimados como una encina o una roca (y en última instancia los
microchips en los servidores que hacen posible que exista chatGPT son
eso: minerales). Quizás hay, en ese sentido, una especie de vuelta
completa: de la sabiduría real, propia de hombres ágrafos que confían y
desarrollan su propia memoria, a la caída en la escritura que externaliza
lo que debería permanecer en el interior y genera una falsa apariencia de
sabiduría. Finalmente,un retorno a algo todavía más primigenio, pre-
sabiduría, donde la verdad simplemente está ahí afuera, emergiendo de
las cosas. Al respecto dice Sadin:
Entramos en una era que nos muestra cómo nos rodea una palabra que emerge
de todos nuestros sistemas. A largo plazo, todo está destinado a hablar, todos los
objetos y todas las superficies, y entonces los asistentes digitales personales
ocuparán todo el terreno y se erigirán como las interfaces casi exclusivas, no
solamente entre los sistemas y nosotros, sino más ampliamente en la relación con
lo real, porque serán capaces de señalarnos en todo momento la constitución de
toda situación, así como la acción más pertinente a iniciar. (Sadin 2021: 88).
Como señalaba Derrida, Platón vehiculiza su ataque a las letras a partir
de la escritura misma, por más que esta escritura pretenda alojarse en la
sabiduría oral de Sócrates. Este artículo está siendo escrito por un ser
humano, y no voy a sucumbir a la tentación (ya tan rápidamente trillada)
Revista Luthor, nro. 57 (noviembre 2023) ISSN: 18573-3272
6
de incorporar párrafos escritos con ChatGPT. Sí creo que amerita
problematizar, sin embargo, qué significa decir que algo está escrito por
un ser humano en un contexto de hipermediaciones tecnológicas.
Historia de las interfaces de escritura
Hilemos más fino en el proceso de la despersonalización de la escritura.
Sin entrar en las complejidades del alfabeto fonético como ordenador del
habla individual y como tecnología de procesamiento de la información,
tenemos tres grandes hitos ineludibles. Por un lado, la imprenta que,
según Marshall McLuhan (1998), configuró una concepción del mundo (la
“Galaxia Gutenberg”) basada en los procesos lineales, mecánicos y
jerarquizados que a su vez posibilitaron (sino directamente
engendraron) algunas dimensiones centrales de la subjetividad
moderna. De ahí en más ya no leeremos sino excepcionalmente los
trazos manuscritos que implican necesariamente la singularidad de un
cuerpo presente con toda su carga emocional, física y subjetiva.
El siguiente hito, cuya importancia no ha sido reconocida hasta hace
poco, es la máquina de escribir. Friedrich (2006) plantea que este último
invento anticipa la cultura digital y crea un nuevo orden del significante
en el que finalmente las letras se separan, ya desde su producción
(porque antes de la máquina de escribir los imprenteros trabajaban
necesariamente con versiones manuscritas), del dominio difuso de lo
imaginario. El orden simbólico, en el sentido estructuralista-lacaniano, se
instaura en la separación de la mano y la letra y en la objetivación de la
cadena de significante QWERTY.
El paso siguiente es el que va de la máquina de escribir al procesador de
textos en computadora. La digitalización de la escritura implicó muchos
Revista Luthor, nro. 57 (noviembre 2023) ISSN: 18573-3272
7
cambios, como el de hacer correcciones puntuales sin necesidad de
reescribir una hoja completa o la posibilidad de visualizar un texto
completo en un estado previo a su forma física (o incluso, como en este
caso, prescindiendo por completo de ella).
3
Me interesa sobre todo
destacar uno en particular: el copypaste, que implica la posibilidad de
generar masas gigantes de texto con escasísimo esfuerzo.
Dos ejemplos cinematográficos sirven para ilustrar el contraste entre la
máquina de escribir y el procesador de textos. En The Shining, Wendy
Torrance confirma que su marido se ha vuelto loco cuando descubre que
todo lo que ha estado escribiendo es la frase “All work and no play makes
Jack a dull boy” en su máquina de escribir. La anécdota cuenta que
Kubrick se ocupó de que, cuando Jack aparece escribiendo, el sonido de
su máquina fuera efectivamente el del tipeo de estos caracteres, que fue
grabado por separado. Además, alguien (según la leyenda, el mismo
Kubrick) tuvo que de hecho tipear todas esas páginas, que muestran
3
Dos textos recientes indagan en detalle los efectos de la máquina de escribir, por un
lado, y del procesador de texto, por otro: El siglo de la máquina de escribir de Martyn
Lyons (2023) y Track Changes: A Literary History of Word Processing de Matthew
Kirschenbaum (2016).
Revista Luthor, nro. 57 (noviembre 2023) ISSN: 18573-3272
8
caracteres en disposiciones gráficas diferentes, así como también errores
(uno de ellos dice precisamente “All work and no play makes Jack a dull
bot”).
Comparemos esta escena (que por cierto no es parte de la novela de
Stephen King en que se basa la película) con la de una película
igualmente icónica aunque quizás no tan reverenciada. En Ghost (1990)
el ya fallecido Sam (Patrick Swayze) se ocupa de aterrorizar al autor
intelectual de su homicidio manipulando un procesador de texto
primitivo en una computadora. Para hacerlo no solo tipea su nombre en
teclado, sino que inmediatamente comienza a copypastearlo a un ritmo
acelerado. Este mecanismo tan sencillo pero a su vez tan definitorio de
los procesadores de texto contribuye al efecto de terror de una forma
distinta pero análoga a la que aparece en The Shining.
Las manos invisibles del fantasma de Patrick Swayze contribuyen a
acentuar otra diferencia con la máquina de escribir: la invisibilización
(casi) total del mecanismo que se produce gracias a los procesadores de
Revista Luthor, nro. 57 (noviembre 2023) ISSN: 18573-3272
9
texto.
4
Incluso una persona con escasos conocimientos técnicos podía
percibir fácilmente cómo la tecla de la máquina de escribir golpeaba una
tira cubierta de tinta. La impresión no era más misteriosa que la de una
imprenta de tipos móviles y todavía retenía su sentido etimológico. Con
el procesador de texto, la conexión entre el sujeto que presiona las teclas
y lo que la pantalla muestra se vuelve infinitamente más opaca. La
mayoría de quienes escribimos no tenemos idea de qué procesos están
sucediendo bajo la carcasa de la PC. La tecnología de la escritura se
convierte por primera vez en una caja negra y entramos en la lógica de la
interfaz como una entidad digital. El chatGPT es solo la siguiente fase de
ese mecanismo.
Este brevísimo recorrido por la historia de las tecnologías de la escritura
plantea una cierta linealidad que podríamos atribuir, en primer lugar, a
la ley de menor esfuerzo. Producir más texto más legible en menos
tiempo hace que las palabras valgan menos, o que, como en los ejemplos
de Jack Torrance y Sam, las palabras dejen de valer estrictamente por su
valor referencial y aparezcan como evidencia de un proceso más
ominoso.
Pero nuestro tiempo de lectura no parece dar saltos comparables a los
de nuestros tiempos de escritura. La pregunta por el límite de esa
pérdida de valor nos lleva a otro problema, que es la relación entre los
usos prácticos de la escritura y sus usos artísticos o literarios en el
contexto de la emergencia de las IA generativas.
4
Por otro lado, la misma película, en su escena más icónica (el moldeado de la vasija
con Demi Moore y Swayze) también escenifica los orígenes de la escritura: su impresión
en arcilla.
Revista Luthor, nro. 57 (noviembre 2023) ISSN: 18573-3272
10
La literatura en competencia con los usos prácticos del lenguaje
En toda esta historia, la escritura literaria (o si se prefiere, artística, no
destinada a describir eficientemente un estado de cosas, etc.) ocupó un
rol más bien marginal. Se escribe para guardar información contable
antes que para cualquier otra cosa. El chatGPT es, en lo inmediato,
también una tecnología empleada principalmente para funciones
utilitarias del lenguaje: traducciones automáticas de textos legales o a lo
sumo periodísticos, agilización y respuesta de consultas a bajo precio
para empresas, asistente en las tareas de programación, etc.
La literatura, en el sentido moderno del término, está en tensión con
estos usos pragmáticos y burocráticos del lenguaje al menos desde el
siglo XVIII. En Aufschreibesysteme 1800/1900 Friedrich Kittler (1985)
analiza cómo las reformas educativas alemanas en los primeros años del
1800 construyeron simultáneamente la figura del burócrata estatal y del
poeta, que son en gran medida codependientes porque surgen de una
(misma) forma de concebir la alfabetización. Para este autor, la aparición
de ejércitos de mecanógrafas a partir de la invención de la máquina de
escribir tuvo una incidencia radical en la relación entre literatura y autoría
femenina, así como en la modificación de los ideales románticos previos
a su invención.
El oficinista que escribía o dictaba a una mecanógrafa al mismo tiempo
que concebía una novela o el humanista que escribía cartas para un
príncipe y luego redactaba hexámetros al estilo de Virgilio en sus tiempos
de ocio todavía encontraban puntos de contacto entre esas tareas, pero
esos puntos quizás se pierdan para siempre. En el amanecer de las IA
generativas no es ocioso preguntarse cómo se redefinirán los nuevos
Revista Luthor, nro. 57 (noviembre 2023) ISSN: 18573-3272
11
roles de los especialistas en el lenguaje. La misma tecnología de OpenAI
depende a fin de cuentas de una subclase relativamente reciente: los
especialistas en “procesamiento de lenguaje natural” (NLP, por sus siglas
en inglés), es decir, quienes hacen de la lengua humana un conjunto de
datos computable. Estos desarrollos parecen fomentar a primera vista un
contraste todavía más fuerte que separe la escritura humana y creativa
de todos los otros tipos de escritura, más allá de que existan
experimentos variados en “E-lit” (literatura electrónica) que intentan
establecer algunos puentes. Ya el letrado, para ganarse el pan, se ha
convertido en un “generador de contenido”. Esta categoría es quizás su
último avatar antes de desaparecer.
Escritura, lectura y subjetividad
El chatGPT produce textos notablemente legibles en el sentido de que
podemos leer sus emisiones con una gran facilidad porque respetan
notablemente bien las reglas del lenguaje natural. Sin embargo, es más
difícil saber qué leemos en sus enunciados cuando no buscamos
respuestas puntuales a preguntas de índole práctica. Básicamente, la
pregunta es si en lo que el chatGPT “escribe” (y la palabra también es
discutible) hay un horizonte de lectura que puede ser análogo al que
produce un texto humano.
Esto nos lleva al problema de la intención autoral (y acá volvemos sobre
la cita de Platón), o incluso al de la intencionalidad en general. ¿Cuál es el
destino de una lectura que reconoce la muerte del horizonte
interpersonal de lo que está leyendo? La hermenéutica como la
comunión de dos almas a través del lenguaje escrito está en crisis hace
rato. Ya no se trata solo de “cartas muertas” como decía Peter Sloterdijk