La era de la IA ya está aquí y será infinitamente útil, o eso nos dicen.
Para muchos de nosotros, es más obvio cuando vemos videos de leones falsos en lugares inusuales, resúmenes no solicitados en la parte superior de las búsquedas del navegador o cualquier cantidad de tonterías que dominan nuestras redes sociales.
Como redactor de palabras, es esto último lo que más me ofende.
Mi cuenta de Facebook ha sido durante mucho tiempo el dominio de tonterías algorítmicas en lugar de publicaciones de personas que conozco, pero últimamente se ha convertido en el hogar de una terrible prosa construida por computadora.
Por ejemplo, si eres un amante de la música, tu feed puede contener publicaciones sobre las bandas que escuchas: una gran visión de su historia que es tan precisa como la predicción de una galleta de la fortuna.
Lleno de clichés literarios que exageran la importancia de una persona y lleno de positivismo sobre el día en que alguien se conoció y compartió un sándwich, será la misma fórmula para publicaciones sobre momentos históricos, proezas técnicas y estrellas de cine.
Si la seriedad de este sándwich que está cambiando el mundo no es suficiente para indicar que estás leyendo tonterías sobre IA, la pequeña conclusión inevitable al final del ensayo mal elaborado debería ser:
“No fue sólo una reunión de dos personas, fue el comienzo de algo que cambiaría el rock and roll para siempre”.
O:
“Esto no fue la aplicación de la inteligencia artificial, sino el momento en que cada escrito en línea se convirtió en blanco de plagio por parte de computadoras potentes”.
En el mundo literario, a estas frases de “No es X, es Y” las llamamos paralelismos negativos, y la IA está plagada de ellos.
Dile a la computadora “No”
El estudiante de doctorado Leon Furze está investigando los efectos de la inteligencia artificial generativa en las lecciones de escritura y la educación en escritura.
Ejemplos de texto generado por IA a partir de un feed de Facebook con muchos caracteres reveladores. (Facebook)
Dijo que el uso persistente de GenAI podría detectarse de manera confiable, particularmente mediante el uso de paralelismos negativos, verbos y adjetivos vacíos como “sumergir y navegar”, y una estructura y variación de oraciones generalmente predecibles.
Dijo que los modelos fueron entrenados de manera predictiva y reentrenados por humanos, lo que reforzó los “resultados agradables”.
“Sin embargo, es bastante trivial evitar estos problemas utilizando un modelo más sofisticado y simplemente diciéndole que no lo haga”.
dijo el señor Furze.
Una página de Wikipedia dedicada a identificar textos de IA dice que a menudo contienen un “énfasis inapropiado en el significado, el legado y las tendencias más amplias”, en “la conciencia, la atribución y la cobertura de los medios”, atribuciones vagas y la generalización excesiva de opiniones y, por supuesto, “conclusiones incompletas” sobre los desafíos y las perspectivas futuras.
Dijo que también había una alta propensión a utilizar palabras como:
| alinearse con | decisivo | enfatizar | persistente |
|---|---|---|---|
| expandir | Apoyo financiero | recolectar | Reflejos |
| Interacción | complicado | Sutilezas | Llave |
| crucial | testamento | subrayar | valioso |
…y otras palabras que enfaticen la seriedad del almuerzo de una persona, si ese es el tema.
La Dra. Georgia Rose Phillips, autora de The Bearcat, dice que la prosa generada por IA “puede resultar desalentadora”. (Entregado: Disparos a la cabeza Adelaide)
“Una de las cosas principales que noto es la rigidez del tono”, dijo la profesora Georgia Phillips, profesora de escritura creativa en la Universidad de Adelaida y autora del artículo.
“A menudo, las obras creativas generadas por IA carecen de estilo, originalidad o autenticidad.
“Casi falta por completo lo que podríamos llamar una voz clara.
“Puede resultar desalentador porque una de las mayores alegrías de mi vida es ver obras literarias bien elaboradas, escribirlas y participar en debates significativos sobre estas cosas”.
“Probablemente no” sea correcto
Leah Henrickson, profesora de cultura y medios digitales en la Universidad de Queensland, dijo que en sus propios feeds recibía principalmente historias sobre historia generadas por IA.
Dijo que en general era “una historia realmente mágica sobre alguien que ha superado un obstáculo” y “escrita con imaginación”.
“Dices: 'Vaya, esta persona es increíble y ni siquiera sé si eso es cierto o no'”, dijo.
“Probablemente no lo sea”.
Las redes sociales también están repletas de comentarios generados por IA. (Pexels: Steve Johnson; Licencia)
Furze dijo que las experiencias de la mayoría de las personas con grandes modelos de lenguaje y la IA generativa provienen de dos plataformas bien conocidas, “que ahora se encuentran entre los peores ejemplos del mercado”.
Señaló a otros dos que “podían escribir una prosa con un sonido creíblemente humano y, con buen uso, habían podido hacerlo durante algún tiempo”.
¿Pero quién está haciendo esta basura en las redes sociales y por qué?
Los algoritmos se alimentan solos
Furze dijo que las publicaciones de texto generadas por IA eran como una “serpiente que se come su propia cola”.
“Los algoritmos de las redes sociales optimizan la participación para que las personas se sientan presionadas a contribuir”, dijo.
“Se necesita tiempo para contribuir y la gente siente que no tiene uno, por lo que recurre a estas tecnologías eficientes”.
“Pero un gran porcentaje de la audiencia de las redes sociales son bots y, a medida que el algoritmo ofrece cada vez más contenido de IA, los bots se congregan en torno a publicaciones de alto rendimiento y el algoritmo se turna para aprender a recompensar ese tipo de contenido”.
El Dr. Henrickson dijo que hay formas de lograr que los algoritmos mejoren su contenido, y eso incluye inundar ese contenido, similar a los primeros días de Twitter, cuando el contenido con los mismos términos era tendencia.
Dijo que el motivo era llamar la atención porque “con la atención vienen cosas como el poder, el dinero y la reputación”.
También había “texto transaccional”, o texto que existía “por sí mismo” pero que sus creadores no esperaban que nadie leyera, como los términos de referencia que uno podría aceptar antes de descargar una aplicación.
“Creo que una gran parte de lo que está sucediendo con este contenido generado por IA es que la gente está produciendo contenido (texto, imágenes, videos) porque estas cosas necesitan existir por alguna razón, pero no necesariamente hay una expectativa de que alguien las consuma”, dijo el Dr. Henrickson.
“Acción enérgica” contra el spam
El año pasado, Meta anunció que “tomaría medidas enérgicas contra el contenido spam en Facebook”, lo que expulsa a los creadores auténticos y resta valor a la experiencia de Facebook.
“Algunas cuentas intentan burlar el algoritmo de Facebook para obtener más vistas, llegar a más seguidores más rápido u obtener ventajas de monetización injustas”.
dijo.
“Las redes de spam a menudo crean cientos de cuentas para compartir el mismo contenido spam que satura los feeds de las personas”.
También hubo coordinación de interacción falsa con el contenido, evidente en comentarios que no estaban relacionados con una conversación.
La gente es “ambivalente”
El Dr. Henrickson completó recientemente un estudio longitudinal de siete años sobre autoría informática, donde muchos participantes expresaron frustración con el contenido generado por IA.
En general, estaban abrumados y no entendían realmente las cuestiones éticas y de derechos de autor detrás de esto, ni por qué la gente publicaba contenido generado por IA en primer lugar.
“Luego hay personas que están realmente entusiasmadas… así que la ambivalencia es la respuesta”, Dr. Henrickson.
“Creo que la gente todavía está intentando comprender la tecnología y sus opiniones al respecto.“
Dijo que la gente en general tiene la misma perspectiva que hace siete años.
“Aunque la tecnología está cambiando muy rápidamente, la forma de pensar de la gente no parece cambiar mucho”, afirmó el Dr. Henrickson.
¿Qué significará para la educación?
El profesor Phillips dijo que las generaciones futuras merecían “más que descuido” y argumentó que el papel que desempeña la literatura para ayudar a las personas a llevar una vida significativa y pensar críticamente no está siendo suficientemente apreciado.
“Todos hemos tenido acceso a algo mucho más rico, más gratificante y más esencial para dar sentido a nuestras vidas y al mundo en el que vivimos”, afirmó el profesor Phillips.
“Cuando el lenguaje se reduce a clichés y repeticiones de fórmulas, nuestra capacidad para pensar y expresarnos se vuelve cada vez más limitada.“
Furze dijo que si la educación fuera tratada como un proceso transaccional de “conocimiento que entra, conocimiento que sale”, entonces el texto generado por IA probablemente aplanaría y homogeneizaría lo que experimentan los estudiantes.
“Si imaginamos que la educación es más que eso, lo que por supuesto espero que sea, entonces la literatura es más que sólo texto y la escritura es algo más que quién o qué escribió el texto”, dijo.
“Me imagino que en el futuro algunas personas incluso producirán textos bastante animados y entretenidos utilizando IA en muchos modos: escrito, visual, audio, etc.”.
“Pero eso no está sucediendo todavía”.
About The Author
