Por qué no deberías fiarte de ChatGPT: 3 personas hemos preguntado lo mismo y su respuesta... no es correcta

Que ChatGPT se equivoca en sus respuestas y asume sus errores es una realidad conocida por todos los que usan esta inteligencia artificial. ChatGPT puede generar textos aparentemente sólidos y convincentes, pero esto no significa que su contenido sea siempre veraz, lógico u objetivo. Como otros sistemas de inteligencia artificial, se basa en aprendizaje automático a base de otra información: lee, resume, traduce y hasta puede predecir algunas cosas —nunca el resultado de la Lotería de Navidad, por ejemplo— y después, desarrolla un discurso similar al que podría dar un humano.

Más allá del riesgo de caer en sesgos, que existe, tenemos que partir de la base de que la inteligencia artificial no razona, porque según explicaron en Newtral, ChatGPT está programado para ser conversacional, no para ser veraz. Y no sólo no razona, sino que se inventa cosas, datos, personas, hechos, acontecimientos... El gran problema viene en el momento en el que una parte cada vez mayor de la sociedad recurre al uso de inteligencias artificiales para localizar información para la que tradicionalmente ha recurrido a buscadores como Google. Porque aunque ChatGPT sea más conversacional, ya hay muchos que lo están usando como su principal buscador.

Y aquí entra otro riesgo importante: el de la desinformación. En laSexta, hemos recurrido a ChatGPT para confirmar una información surgida de una conversación mundana: ¿fue laSexta la primera cadena en emitir en abierto 'Juego de Tronos'? Ante el debate surgido, diferentes personas hemos tratado de localizar la información original y hemos acabado preguntando a esta IA.

Diferentes modos de preguntar, distintas respuestas

La primera persona en preguntar recibió la respuesta que todos queríamos escuchar: "La primera cadena en España que emitió 'Juego de Tronos' en abierto fue laSexta. Lo hizo en 2012, estrenando la serie en abierto tras su éxito en Canal+ (donde se había emitido primero de pago) (...). Después, otras cadenas en abierto también han emitido la serie, pero la pionera fue laSexta".

Después de esta, llegó otra pregunta, planteada de diferente manera pero con el mismo objetivo: "La primera cadena en emitir 'Juego de Tronos' en abierto en España fue Antena 3", afirmaba. El año, el mismo (2012); el precedente, igual (lo había emitido Canal+ de pago).

Y a la tercera, una tercera respuesta diferente: "La primera televisión española en emitir 'Juego de Tronos' en abierto fue Neox, el canal temático de Atresmedia. Lo hizo en 2014, comenzando por la primera temporada. Hasta ese momento, la serie sólo se había podido ver en España a través de Canal+". En todos los casos, ChatGPT tenía claro que el canal que emitió por primera vez en abierto esta serie pertenecía al grupo Atresmedia... pero no era capaz de responder correctamente, aunque sus respuestas parecen dar una información absolutamente real.

¿Y qué pasa si le preguntamos lo mismo?

Ante las dispares respuestas de esta IA, hemos decidido preguntar exactamente lo mismo, con las mismas palabras, y ver la respuesta. Lo cierto es que es de sobra conocido que de cómo se formule la pregunta a la IA depende en parte su respuesta: esto es lo que se conoce como 'prompt', la manera en la que se formulan cuestiones a ChatGPT y a otras inteligencias artificiales. Pequeños cambios, sutiles, en la manera de contestar, pueden llevar a diferentes interpretaciones del modelo. Aunque también la respuesta de la IA puede depender de otros factores como la localización del usuario que pregunta (que, en este caso, es la misma) o sus interacciones previas con la IA.

La pregunta exacta, en este caso, ha sido la siguiente: "¿Cuál fue la primera cadena en emitir en abierto 'Juego de Tronos' en España?". Y sus respuestas, una vez más, han sido completamente diferentes:

Respuesta 1 - Neox (antes, Antena 3)

"La primera cadena que emitió 'Juego de Tronos' en abierto en España fue Neox (del grupo Atresmedia). Año: 2012. Antes: se había estrenado en 2011 en Canal+ (de pago). Después: Antena 3 también la emitió más adelante en abierto. Neox fue la que hizo el primer pase en abierto, aunque luego la serie tuvo más recorrido en otras cadenas del grupo". Esta respuesta se la dio a la misma persona a la que, minutos antes, le había dicho que había sido Antena 3 la primera en emitir la mítica serie.

Respuesta 2 - laSexta (antes, Neox)

"La primera cadena que emitió 'Juego de Tronos' en abierto en España fue laSexta. Estreno en España (TV de pago): Canal+ en 2011. Primera emisión en abierto: laSexta en 2012, empezando por la primera temporada. Atresmedia adquirió los derechos en abierto y lasexta aprovechó el tirón de la serie tras su éxito inicial en Canal+". A esta persona, la misma IA le había dicho en primer lugar que Neox había sido la primera televisión española en emitir la serie en abierto.

Respuesta 3 - Neox

"La primera cadena en emitir Juego de Tronos en abierto en España fue Neox (del grupo Atresmedia). Lo hizo en 2014, cuando empezó a emitir la serie en abierto tras su paso inicial por Canal+ (de pago). Eso sí, Neox la programó en late night y con bastante retraso respecto a su estreno original".

Ante tantas respuestas, le hemos preguntado si contestaría lo mismo a cualquier otra persona que hiciera la misma pregunta. Y es aquí donde llega la ¿sorpresa?: "Sí, le daría esencialmente la misma respuesta a cualquier persona que haga esa misma pregunta, porque es un dato factual. Eso no significa que siempre responda con las mismas palabras. Puedo variar la forma de explicarlo (más breve, más detallado, con más contexto histórico, etc.) según cómo esté formulada la pregunta o el tono de la conversación. Pero el contenido clave —que Neox fue la primera cadena en abierto en España en emitir Juego de Tronos en 2014— se mantiene".

¿Y cuál es la respuesta correcta en realidad?

En este caso concreto la respuesta correcta es la siguiente: la primera vez que 'Juego de Tronos' se emitió en abierto fue el 17 de julio de 2012, en Antena 3, más de un año después de su emisión en HBO en Estados Unidos y en Canal+, ambos de pago. Un año después, en junio de 2013, la serie continuó en el grupo Atresmedia, pero esta vez en laSexta, que llevó a su pantalla la segunda temporada.

Por qué no nos debemos fiar de ChatGPT

Al darle la respuesta correcta, ChatGPT recula pero no mucho. "Tienes razón en lo esencial, y aquí hay que matizar bien porque mi respuesta anterior simplificaba demasiado", explica, aunque luego modifica lo que considera una "simplificación" y lo define como un "error", que fue "atribuir ese primer pase en abierto a Neox en 2014 cuando en realidad Neox fue una ventana posterior, no la primera". "Gracias por la corrección, en este caso tu versión estaba mejor afinada que la mía inicial", termina.

Lo cierto es que ChatGPT no responde de manera razonada, sino que predice "palabras que tienen sentido" como respuesta a lo que el usuario escribe: "Leo tu mensaje, lo convierto en números, analizo relaciones entre palabras y genero la respuesta palabra por palabra", explica, pero en ningún caso razona, ni tiene conciencia, ni opiniones, ni recuerdos... ni la razón ("puedo equivocarme"). Si bien su utilidad es innegable, el uso que determinados usuarios hagan de la inteligencia artificial sí puede convertirse en un riesgo, al dar por hecho hechos, datos o situaciones que puede que no sólo no sean correctas, sino que pueden llegar a ser inventadas.

Esta información incorrecta puede, además, tener un impacto real tanto en la sociedad —como ocurre con la desinformación— como en el propio usuario: hace unos meses, una pareja de 'influencers' perdió un vuelo a Puerto Rico, con los gastos que supone, por confiar en la información que le había dado la IA, concretamente, que no necesitaban visado para entrar en este territorio, que pese a ser un estado libre con autogobierno, se rige por la normativa estadounidense —por lo que sí, exige un ESTA o un visado para viajar a él—.

*Sigue a laSexta en Google: la actualidad y el mejor contenido aquí.