"Usamos 10 prompts con exactamente la misma pregunta. Todo era idéntico", dijo Cicek en un comunicado de prensa. "Respondería que sí. Después, dice que es falso. Es verdad, es falso, falso, verdad. Hubo varios casos en los que cinco fueron verdaderos, cinco falsos."

Para el nuevo estudio, los investigadores introdujeron más de 700 afirmaciones en ChatGPT y le pidieron que juzgara si cada afirmación era verdadera o falsa, basándose en toda la investigación previa.

El programa de IA tenía alrededor del 80% de precisión, pero la puntuación bajó al 60% después de que los investigadores tuvieran en cuenta las suposiciones aleatorias, es decir, las probabilidades de que una suposición rápida tenga un 50-50 de probabilidad de acertar.

Los resultados refuerzan la necesidad de aplicar escepticismo y precaución al utilizar IA, especialmente en tareas que implican matices o razonamientos complejos, según los investigadores.

La capacidad de los chatbots con el lenguaje enmascara la falta de inteligencia conceptual de las IA, concluyó el equipo.

La IA puede producir un lenguaje fluido y convincente, pero su capacidad para razonar sobre preguntas complejas queda corta porque no puede realmente "pensar", dijeron los investigadores.

Como resultado, la IA puede ofrecer explicaciones persuasivas para respuestas incorrectas, lo que podría engañar a quienes se basan en ella, advirtieron los investigadores.

"Las herramientas de IA actuales no entienden el mundo como nosotros -- no tienen un 'cerebro'", dijo Cicek. Solo memorizan, y pueden darte alguna perspectiva, pero no entienden de lo que hablan."

¿El consejo de Cicek?

"Siempre sé escéptico", dijo. "No estoy en contra de la IA. Lo estoy usando. Pero tienes que tener mucho cuidado."