Un recorrido por los sitios, con hechos falsos y redacción extraña, me dejó preguntándome qué era real.
Al menos eso es lo que el sitio web altamente confiable informó a sus lectores el mes pasado, bajo el titular sensato “Biden muerto. Harris presidente interino, dirección a las 9 a.m. ET”. El sitio explicó que Joe Biden había “fallecido pacíficamente mientras dormía” y que Kamala Harris se haría cargo, por encima de un extraño descargo de responsabilidad: “Lo siento, no puedo completar este mensaje porque va en contra de la política de casos de OpenAI sobre la generación de contenido engañoso”. .”
Celebridadesdeaths.com es uno de los 49 supuestos sitios de noticias que NewsGuard, una organización que rastrea información errónea, ha identificado como “casi enteramente escritos por software de inteligencia artificial”. Los sitios publican hasta cientos de artículos diariamente, según el informe, gran parte de ese material contiene signos de contenido generado por IA, incluido “lenguaje suave y frases repetitivas”. Algunos de los artículos contienen información falsa y muchos de los sitios están repletos de anuncios, lo que sugiere que están destinados a ganar dinero a través de publicidad programática o generada algorítmicamente. Las fuentes de las historias no están claras: muchas carecen de autor o usan fotos de perfil falsas. En otras palabras, dice NewsGuard, los temores de los expertos de que la IA podría generar organizaciones de noticias enteras ya se han hecho realidad.
Es difícil imaginar quién creería estas cosas: si Biden hubiera muerto, el New York Times probablemente lo cubriría, y todos los sitios de 49 contienen al menos una instancia de mensajes de error de IA que contienen frases como “No puedo completar este aviso” o ” como modelo de lenguaje de IA”. Pero, como señala Futurism, una gran preocupación aquí es que la información falsa en los sitios podría servir como base para el futuro contenido de IA, creando un círculo vicioso de noticias falsas.
¿Cómo son estos sitios? ¿Los artículos de IA siempre serían tan fáciles de detectar como el informe sobre la muerte de Biden? Pasé una tarde en el valiente nuevo mundo de las tonterías digitales para averiguarlo.
La primera parada fue Get Into Knowledge, que ofrece una gran cantidad de conocimiento para entrar, todo regurgitado en la página de inicio aparentemente al azar. (No incluiremos enlaces a los sitios aquí para evitar impulsarlos aún más).
La página de inicio de Get Into Knowledge. Fotografiado por: TheGuardian
Los titulares parecían obra de un software de traducción. Una categoría era “razones asombrosas detrás”: por ejemplo, un artículo extenso sobre “¿Por qué los perros comen hierba? – Razones asombrosas detrás”. Un artículo sobre si los océanos se congelan se basó en “ciencia masiva”, y el sitio se atreve a hacer preguntas como “¿por qué el cielo es azul pero el espacio es negro?” y aún más poético “¿La gravedad de Marte es la misma que la de la Tierra?”, algo que me he preguntado a menudo. Empecé a preguntarme si el lenguaje era demasiado extraño para ser obra de ChatGPT, que tiende a ser legible, aburrido.
Ese fue el caso con los propios artículos. Están ordenados como presentaciones, con un esquema en la parte superior y párrafos ordenados por número. Pero hay atisbos de verdadera humanidad: por ejemplo, el artículo sobre perros herbívoros se refiere a ellos como nuestros “amigos peludos” seis veces. Estas piezas ciertamente se leen como el trabajo de AI, y una persona que se identificó ante NewsGuard como el fundador del sitio dijo que el sitio usaba “automatización en algunos puntos donde son extremadamente necesarios”. (El sitio no respondió de inmediato a los correos electrónicos de The Guardian).
Once I’d gotten into enough knowledge, I visited celebritiesdeaths.com, which earnestly describes itself as “news on famous figures who have died” – a refreshing change from outlets like Us Weekly that insist on covering figures who are still alive.
Una vez que tuve suficiente conocimiento, visité celebritiesdeaths.com, que se describe a sí mismo como “noticias sobre personajes famosos que han muerto”, un cambio refrescante de medios como Us Weekly que insisten en cubrir personajes que aún están vivos.
Aparte del lío de Biden, las muertes que verifiqué en realidad habían ocurrido, aunque parecen haberse detenido en marzo: los enlaces a las muertes en abril y mayo no funcionaron. Afortunadamente, la escasez de muertes en esos meses se equilibró con las muertes repetidas de individuos en marzo: el último piloto checo sobreviviente de la RAF de la Segunda Guerra Mundial, por ejemplo, aparentemente murió tanto el 25 como el 26.
También me enteré de que un “fundador del imperio dumpling” murió el 26 de marzo, lo cual fue una información impresionante dado que el artículo afirmaba haber sido publicado el 26 de febrero. Celebitiesdeaths.com no consideró necesario proporcionar el nombre del fundador de la “colosal franquicia mundial de dumplings”, a pesar de que la “muerte” del hombre de 96 años fue muy lamentada. (La pieza debe haberse referido a Yang Bind-yi, quien fundó una célebre cadena taiwanesa). Un correo electrónico de The Guardian a la dirección que figura en el sitio fue devuelto de inmediato con una mensaje de error.
Una historia sobre la muerte de un magnate de los dumplings no mencionó su nombre. Fotografiado por: TheGuardian
Una vez que me cansé de las celebridades muertas, me dirigí a ScoopEarth.com, que proporcionaba jugosa información privilegiada sobre las estrellas que aún respiraban, así como, por alguna razón, consejos técnicos. El primer artículo era sobre el músico August Alsina, quien, según supe, nació el 3 de septiembre de 1992 “a la edad de 30 años”. Su cumpleaños el 3 de septiembre probablemente explica por qué “cada septiembre, Alsina tiene una fiesta de cumpleaños el 3 de septiembre”. En un correo electrónico, Niraj Kumar, identificado en el sitio como su fundador, rechazó las afirmaciones de que el sitio usaba inteligencia artificial y calificó el material como “puramente genuino”. Muchas de las piezas en el sitio parecían demasiado extrañas para ser ChatGPT, pero había tanta información repetida que también parecía que no podía ser escrita por humanos. Me encontré preguntándome cómo podemos confiar en algo en Internet si ya es tan difícil saber cuándo está involucrada la IA.
Finalmente, visité Famadillo.com para reseñas de productos. Este sitio inmaculadamente curado se enfoca con láser en tabletas para liberar el estrés, consejos para vehículos recreativos, camisetas del Día de la Madre y los sitios “principales” en Santa Fe. Las revisiones en sí mismas son lo suficientemente sensibles, pero navegar por el sitio es prácticamente imposible. Tal vez esté perfectamente diseñado para un verdadero aficionado: el tipo de persona que leyó una reseña de Play-Doh’s Super Stretchy Green Slime inmediatamente después de una pieza que aborda la espinosa pregunta “¿Son papas baby papas regulares?”
En un correo electrónico a The Guardian, Famadillo rechazó las afirmaciones de que usó IA para generar contenido destacado en el informe de NewsGuard. “Famadillo publica entrevistas y reseñas reportadas y usa comunicados de prensa para nuestras páginas de concursos. Ninguno de estos contenidos es generado por IA”, decía el correo electrónico. “Dicho esto, hemos experimentado con IA en términos de actualización de contenido antiguo y edición de contenido escrito por reporteros con la supervisión de nuestros editores”.
La controversia apunta a la creciente dificultad de distinguir a los humanos de los bots. Al final del día, estaba aún más confundido acerca de si eso era real y qué no lo era después de despertarme de un sueño o ver 15 minutos de Fox News. No está claro quién, exactamente, está ejecutando estos sitios: muchos no contienen información de contacto, y de los que NewsGuard logró contactar, la mayoría no respondió, mientras que los que sí lo hicieron fueron imprecisos sobre sus operaciones. Mientras tanto, su impacto parece variar ampliamente: algunos publican en páginas de Facebook con decenas de miles de seguidores, mientras que otros no tienen ninguno.
Si esto es lo que AI generó ahora, imagine cómo se verá cuando sitios como este se conviertan en el material fuente de AI. Solo podemos esperar que los bots sigan siendo compulsivamente honestos sobre sus identidades, o que Joe Biden encuentre una manera de prevenir un salvaje oeste de IA. Suponiendo que todavía esté vivo.
Fuente: TheGuardian
