En una frase

Alucinación

La IA presenta información inventada o incorrecta como si fuera cierta, aunque suene convincente y la pregunta esté bien formulada.

Del diccionario sin conexión