La IA generativa es el mal
Quiero intentar describirles una de las sensaciones más desagradables que he tenido estas últimas semanas. Desde luego he sentido rabia e impotencia ante las acciones en Irán y para con Cuba del Gobierno norteamericano –debo decir “mi gobierno” ya que vivo en Estados Unidos y soy ciudadano naturalizado, pero no me sale–, y naturalmente he sentido frustración al ver cómo, a pesar de todos sus desmanes, se van imponiendo en muchas partes del mundo el fascismo y sus versiones light, mientras la izquierda no da pie con bola.
Pero si les soy honesto, la experiencia que más me sacó de quicio fue bastante más mundana. Les explico. Desde hace años, codirijo la revista trimestral de los Archivos de la Brigada Lincoln, The Volunteer. El otro día me tocaba editar un ensayo original sobre Juan Negrín que nos había enviado un joven historiador. El texto estaba bien escrito y documentado –el autor había gastado años en el archivo del último presidente del Gobierno de la República– pero era, eso sí, un pelín largo. (La revista la sacamos en papel, por lo que siempre nos falta espacio). A mi codirector se le ocurrió, como experimento, pasarle el texto a una IA y pedirle que lo reescribiera, dejándolo en la mitad, sin agregar o inventarse nada. El resultado, a primera vista, no estaba mal: el resumen resultaba legible y cubría los puntos más importantes. Pero una lectura más atenta reveló dos problemas. Primero, la voz del autor había desaparecido por completo y había sido sustituida por un tono genérico de difusión, de una ligereza insoportable, que encadenaba clichés estilísticos. Segundo, la IA, rebelde, había desoído las instrucciones y agregado elementos que no estaban en el texto original, incluida una especie de moraleja cutre sobre el valor de la investigación archivística. En otras palabras, la IA había tomado un texto humano y lo había convertido en un zombi.
Mi propia reacción me sorprendió. Me quedé descolocado, desquiciado, con una sensación de náusea y ganas de torcerle el cuello a la maldita IA. Cuando me calmé un poco, lo que me quedó fue un profundo desasosiego que no se me ha quitado desde entonces.
Según Freud, las cosas que producen la sensación que él describe en alemán como unheimlich (literalmente, ajeno a lo hogareño: es decir, falsamente familiar; se suele traducir al español como ominoso, siniestro o inquietante) nos incomodan porque nos enfrentan a ideas e imágenes antiguas, reprimidas, que creíamos haber superado. La sensación que sentí yo fue decididamente unheimlich, pero, creo, no tanto por una experiencia pasada –a no ser que fuera una pesadilla vagamente recordada– como por haber entrevisto un futuro horrible.
La IA “generativa” –nunca peor llamada– es el mal. Pero ya está por todas partes, de la misma manera que todos llevamos microplásticos incrustados en nuestros órganos. Cualquier persona que trabaje en la docencia o los medios o que, por otras razones profesionales, evalúe diariamente textos escritos por otros, sabe lo que se siente cuando, en el proceso de primera lectura, surge la sospecha de que las palabras no las ha escrito un ser humano. Es una comezón difícil de precisar, una impresión instintiva, como cuando entras a una habitación y sientes que algo raro está pasando, sin saber decir exactamente qué. Mis maravillosas compañeras editoras del equipo de CTXT –Vanesa, Mónica, Elena, Diego, las dos Adrianas o Álex– saben de qué hablo.
Una vez confirmada la sospecha inicial, la inquietud se transforma en ira. Porque lo ocurrido no deja de ser una traición. Más que comunicación, leer y escribir son actos de comunión, basados en la buena fe y en el presupuesto de una humanidad compartida. Descubrir la mentira se siente como una bofetada en plena cara.
La IA generativa, decía, es el mal. A pesar de ello, hay muchos medios y periodistas que, en lugar de atrincherarse y curarse en salud, le dan la bienvenida, o, al menos, dejan que se cuele por la puerta de atrás. Es tentador condenarlos por oportunistas y traidores. Pero hay que tener en cuenta cuál es el contexto. Desde hace al menos veinte años, las y los periodistas trabajan en la más completa precariedad. Las presiones diarias son muchas y muy pesadas. Y la disponibilidad de herramientas de IA solo ha servido para que las expectativas de producción sean aún menos realistas.
Hay un viejo cuento de Roald Dahl, El gran gramatizador automático, cuyo narrador, un cuentista, revela que, desde hace tiempo, la mitad de los cuentos y novelas publicados bajo nombres de diferentes autores en realidad han sido escritos por una máquina diabólica inventada por un tal Adolph Knipe. Al final del cuento, el narrador confiesa: “A medida que se divulga el secreto, aumenta el número de los que corren a asociarse con el señor Knipe, y la tuerca se va apretando con más fuerza sobre los que no se deciden a firmar. En este preciso momento, mientras oigo los alaridos de hambre de mis nueve hijos en la otra habitación, noto que mi mano se acerca más y más a ese contrato dorado que está al otro lado de la mesa. ¡Oh, Señor, danos fuerzas para dejar que nuestros hijos mueran de hambre!”. El cuento (¡de 1953!) da en el clavo. La libertad no es un fenómeno individual sino social, político, económico. Una libertad que obliga a las personas a ignorar lo que les piden sus instintos de supervivencia, o a sacrificar el bienestar de sus seres queridos, no es libertad.
La IA zombifica. Está diseñada por algoritmos para producir textos e imágenes genéricos. Es el enemigo de toda idiosincrasia. Poda, pule, desangra. Y, además, infecta. En CTXT lo hemos tenido claro desde el principio: apostamos por la resistencia, es decir, por lo humano. Lo que estamos comprometidos a darles no son meras “noticias” ni mucho menos “información” u –¡horror!– “entretenimiento”, sino periodismo. Y este tiene dos ingredientes básicos: el instinto (el olfato, la sospecha de una verdad entrevista que pide ser clarificada y compartida) y la deontología (la verificación, la exposición, la edición en equipo). En ambos, la IA falla estrepitosamente. Al apostar por un periodismo en modo artesanal, en CTXT admitimos la posibilidad, incluso la probabilidad, del error humano, claro está. Pero estamos empeñados en no traicionar: ni a ustedes, ni a nosotros mismos.
Todo esto no quiere decir que no seamos muy conscientes de que, a estas alturas, esta postura ética y deontológica nuestra es un lujo: un lujo que solo nos podemos permitir por el generoso apoyo que nos brindan todas y todos ustedes.
Gracias.
Sebastiaan Faber
Publicado en Carta a la Comunidad de Ctxt
