Artículo de información
José Carlos Botto Cayo y Abel Marcial Oruna Rodríguez
4 de agosto del 2026
Hasta hace pocos años, reconocer una conversación automatizada era relativamente sencillo. Los asistentes repetían frases, ofrecían menús limitados y se detenían ante cualquier consulta imprevista. La inteligencia artificial generativa ha transformado esa experiencia. Los sistemas actuales interpretan preguntas abiertas, modifican el tono, recuerdan datos de la conversación y producen respuestas que parecen redactadas por una persona. Esta evolución mejora la rapidez de numerosos servicios, pero también debilita una certeza básica: saber quién se encuentra al otro lado de la pantalla. Cuando un usuario solicita orientación, entrega información privada o recibe una recomendación, la identidad del interlocutor deja de ser un detalle técnico y se convierte en una condición necesaria para valorar la respuesta con prudencia (Van der Goot et al., 2024).
La obligación de revelar que una conversación está siendo gestionada por una máquina responde a un problema concreto: la apariencia humana puede alterar la confianza. Un chatbot puede escribir “entiendo su preocupación” sin comprenderla realmente. También puede disculparse, bromear o formular preguntas personales sin poseer conciencia de lo que dice. La fluidez verbal no garantiza conocimiento ni responsabilidad (Folk et al., 2025).
La apariencia humana y sus efectos
Los chatbots incorporan nombres, fotografías, voces y estilos de conversación diseñados para hacer más agradable la interacción. Estas características pueden ser útiles, pero también pueden ocultar la verdadera naturaleza del sistema. Una investigación sobre atención al cliente comprobó que algunos usuarios no distinguían con claridad si habían conversado con una persona o con una máquina, incluso cuando existían señales sobre la identidad del asistente. La palabra “chatbot” tampoco era comprendida de la misma manera por todos los participantes. Esto demuestra que una advertencia ambigua, escondida o demasiado técnica no garantiza que el ciudadano sepa con quién está hablando (Van der Goot et al., 2024).
La identificación debe realizarse antes de que el usuario empiece a confiar en las respuestas. No basta con incluir una explicación en las condiciones generales del servicio ni con mostrar un aviso durante unos segundos. La transparencia debe formar parte del diseño de la herramienta, del mismo modo que la seguridad o la protección de datos. Heike Felzmann, Eduard Fosch-Villaronga, Christoph Lutz y Aurelia Tamò-Larrieux sostienen que la información relevante sobre una inteligencia artificial debe incorporarse desde las primeras etapas de desarrollo y mantenerse durante todo su funcionamiento. El objetivo no es abrumar al público con detalles matemáticos, sino explicar con claridad la identidad, las capacidades y las limitaciones del sistema (Felzmann et al., 2020).
La apariencia humana adquiere un peso mayor en conversaciones emocionales. Tobias Kleinert y sus colaboradores observaron que los participantes podían sentir más cercanía con respuestas generadas por inteligencia artificial cuando creían que procedían de una persona. Cuando el sistema era identificado correctamente como artificial, esa sensación disminuía. Las palabras podían ser las mismas, pero el origen atribuido cambiaba la forma de recibirlas (Kleinert et al., 2026).
Esta diferencia resulta importante porque muchas personas emplean asistentes digitales para combatir la soledad, buscar apoyo o hablar de asuntos íntimos. No todos los usuarios desarrollan el mismo vínculo con estas herramientas. Dunigan Folk, Steven Heine y Elizabeth Dunn encontraron que quienes tienden a atribuir características humanas a objetos y tecnologías también pueden sentir una conexión más intensa con los compañeros de inteligencia artificial. El problema no reside en conversar con una máquina, sino en confundir una simulación de cercanía con una relación realmente recíproca. Una respuesta puede parecer afectuosa y, al mismo tiempo, haber sido producida sin comprensión, experiencia ni compromiso con el bienestar de quien consulta (Folk et al., 2025).
Servicios cotidianos y responsabilidad humana
La atención al cliente es uno de los espacios donde la transparencia tendrá efectos más visibles. Bancos, aseguradoras, aerolíneas, comercios y empresas de telecomunicaciones utilizan asistentes automáticos para responder consultas, ofrecer productos o iniciar reclamaciones. El usuario puede interpretar la respuesta del chatbot como una decisión oficial de la compañía, aunque el mensaje haya sido generado sin revisión humana.
Identificar al sistema permite ajustar las expectativas, pero no libera a la empresa de responsabilidad. Una organización no debería limitarse a declarar que utiliza inteligencia artificial y luego atribuir al cliente todas las consecuencias de una respuesta incorrecta. También debe ofrecer mecanismos para corregir errores, presentar reclamos y solicitar la intervención de una persona. La transparencia solo resulta útil cuando está acompañada por una vía concreta de responsabilidad humana (Funke et al., 2023).
En la salud, la educación y la asistencia emocional, la diferencia entre una persona y una máquina puede tener consecuencias todavía más graves. Un asistente puede organizar una cita, explicar un concepto o proporcionar información general, pero su lenguaje convincente puede llevar al usuario a considerarlo una autoridad profesional. Un sistema que ofrece consejos médicos o psicológicos debe declarar con claridad sus límites y evitar presentarse como terapeuta, médico o consejero cuando no existe supervisión especializada. La amabilidad de una respuesta no demuestra que sea correcta, y la capacidad de reproducir expresiones de empatía no equivale a comprender el sufrimiento de quien consulta. En estos ámbitos, una advertencia visible no es una formalidad: es una medida de protección (Kleinert et al., 2026).
También existen servicios híbridos en los que la inteligencia artificial redacta respuestas y un trabajador revisa solo algunos casos. En otros, la máquina mantiene casi toda la conversación y transfiere al usuario cuando detecta una dificultad. Estas modalidades vuelven menos visible la frontera entre intervención humana y automatización (Al-Sulaiti et al., 2024).
La simple presencia de un supervisor no significa que cada mensaje haya sido evaluado por una persona. Por ello, las empresas deben explicar cuándo responde una máquina, cuándo interviene un trabajador y qué autoridad tiene cada uno. Presentar como atención personalizada un proceso dirigido casi totalmente por algoritmos puede producir una falsa sensación de acompañamiento. También puede dificultar la identificación de responsabilidades cuando una respuesta causa perjuicios, confusión o pérdida de tiempo. La transparencia debe describir el funcionamiento real del servicio, no la imagen comercial que la organización desea proyectar (Al-Sulaiti et al., 2024).
Una advertencia efectiva debe ser visible, directa y adecuada al contexto. Cuanto más sensible sea la conversación, mayor debe ser la información disponible sobre el sistema, el uso de los datos y la posibilidad de recibir atención humana. La sociedad no necesita conocer todos los detalles técnicos de un modelo para ejercer sus derechos, pero sí debe saber que está tratando con una máquina, quién responde por ella y qué recursos existen cuando se equivoca (Felzmann et al., 2020).
En una vida cotidiana cada vez más automatizada, reconocer la identidad del interlocutor será una garantía mínima. No se trata de frenar el uso de asistentes inteligentes ni de negar sus ventajas, sino de impedir que la comodidad tecnológica se construya sobre la confusión. Saber si una respuesta proviene de una persona, de una máquina o de un sistema híbrido permite evaluar mejor su alcance, sus límites y su credibilidad. La transparencia no elimina los riesgos de la inteligencia artificial, pero ofrece al ciudadano una base elemental para decidir cuánto confiar, qué información compartir y cuándo exigir la intervención de un ser humano (Van der Goot et al., 2024).
Bibliografía
Al-Sulaiti, Ghadah, Dick, Martin, y Thiebes, Scott. (2024). A pragmatic perspective on AI transparency at workplace. AI and Ethics, 4, 1083–1100. https://doi.org/10.1007/s43681-023-00257-w
Felzmann, Heike, Fosch-Villaronga, Eduard, Lutz, Christoph, y Tamò-Larrieux, Aurelia. (2020). Towards transparency by design for artificial intelligence. Science and Engineering Ethics, 26(6), 3333–3361. https://doi.org/10.1007/s11948-020-00276-4
Folk, Dunigan, Heine, Steven J., y Dunn, Elizabeth. (2025). Individual differences in anthropomorphism help explain social connection to AI companions. Scientific Reports, 15, 36548. https://doi.org/10.1038/s41598-025-19212-2
Funke, Nils, Horst, Jonas, y Benkenstein, Martin. (2023). An experimental study on the influence of chatbot disclosure and service outcomes on trust and customer retention. Journal of Applied Interdisciplinary Research, 1(1), 7–22.
Kleinert, Tobias, Waldschütz, Marie, Blau, Julian, Heinrichs, Markus, y Schiller, Bastian. (2026). AI outperforms humans in establishing interpersonal closeness in emotionally engaging interactions, but only when labelled as human. Communications Psychology, 4, 23. https://doi.org/10.1038/s44271-025-00391-7
Van der Goot, Margot J., Koubayová, Nathalie, y Van Reijmersdal, Eva A. (2024). Understanding users’ responses to disclosed versus undisclosed customer service chatbots: A mixed methods study. AI & Society, 39, 2947–2960. https://doi.org/10.1007/s00146-023-01818-7
