Un tribunal alemán acaba de dejarlo claro: si el chatbot de tu empresa miente, la que responde es tu empresa. «No sé cómo funciona la IA» no te salva.
Si tenés un chatbot de inteligencia artificial atendiendo clientes en tu web o WhatsApp, la respuesta corta es esta: vos sos responsable por todo lo que ese bot le diga a la gente, aunque no lo hayas escrito ni sepas por qué lo dijo. Así lo resolvió el Tribunal Regional Superior de Hamm (Alemania) en un fallo de 2026, y aunque sea una sentencia europea, el criterio se aplica casi igual en Argentina bajo la Ley de Defensa del Consumidor. Si el chatbot afirma algo falso sobre tu producto, tu servicio o tus credenciales, esa afirmación es publicidad engañosa tuya, no del software.
Punto clave: el chatbot no es un tercero autónomo, es una herramienta que vos controlás. La empresa que lo instala responde como si hubiera dicho ella misma cada palabra que el bot genera.
Qué pasó: una clínica, dos médicos y un bot demasiado generoso
El caso lo resolvió el Oberlandesgericht Hamm (causa 4 UKl 3/25). Una clínica de estética dirigida por dos médicos —que no tenían el título de especialistas en cirugía plástica— sumó un chatbot a su sitio web. Cuando los potenciales pacientes preguntaban por las credenciales, el bot respondía sin dudar: «Sí, A y B son médicos especialistas en cirugía plástica y estética». Era falso.
Una asociación de defensa del consumidor mandó una carta de cese. La clínica no corrigió a tiempo, y terminó en la Justicia. La defensa de la empresa fue la que hoy escuchamos en todos lados: «fue la IA, nosotros no sabemos cómo funciona». El tribunal no lo aceptó. Dijo que el chatbot «era simplemente una herramienta técnica utilizada por la demandada para comunicarse con potenciales pacientes, sobre la cual ejercía suficiente control». La prueba: la empresa podía reprogramarlo después de la notificación. Si podés cambiarlo, lo controlás. Si lo controlás, respondés.
Por qué esto te importa aunque estés en Córdoba y no en Alemania
Argentina no tiene todavía una ley específica de IA, pero no la necesita para este problema. La Ley 24.240 de Defensa del Consumidor ya prohíbe la publicidad engañosa: su artículo 8 obliga a que todo lo que anunciás sea cierto y vincula a la empresa con lo que promete. El artículo 4 exige información veraz, clara y detallada. Y el Código Civil y Comercial suma un principio simple: quien introduce una herramienta en el mercado para su beneficio responde por los daños que esa herramienta provoca.
Traducido a tu PyME: si tu bot le dice a un cliente que un producto «no tiene contraindicaciones», que «el envío llega en 24 horas garantizado» o que «este servicio está habilitado por tal organismo», y no es verdad, el consumidor puede reclamarte a vos. No le importa —ni a la ley— que la frase la haya «inventado» el modelo de lenguaje. La cara visible del negocio sos vos.
El riesgo real: las «alucinaciones» de la IA
Los chatbots basados en modelos de lenguaje tienen una característica incómoda: a veces inventan datos con total seguridad. Es lo que se conoce como «alucinación». Un bot mal configurado puede prometer descuentos que no existen, atribuir certificaciones que nunca tuviste o dar asesoramiento (legal, médico, financiero) que te expone. En nuestra nota sobre si una IA puede difamarte ya vimos que estos sistemas afirman falsedades con aplomo, y que los tribunales empiezan a asignar responsabilidad concreta. El fallo de Hamm cierra el círculo: no solo respondés si el bot difama a un tercero, también si le miente a tu propio cliente.
Guardrails: qué puede y qué no puede decir tu bot
Acá es donde lo técnico y lo legal se dan la mano. Un chatbot no tiene que «saber de todo»: cuanto más acotado esté, menos se expone tu empresa. Los guardrails son los límites que se le programan para que no improvise sobre lo que no debe, y son también tu mejor prueba de diligencia. El primero es anclar las respuestas a una base aprobada —lo que técnicamente se llama grounding—: en lugar de dejar que el modelo conteste desde su conocimiento general, que es de donde salen las alucinaciones, se lo obliga a responder solo a partir de documentos que vos revisaste y validaste. El segundo es restringir el dominio: instruir al bot para que tenga prohibido afirmar precios, plazos, certificaciones o títulos que no estén confirmados, y que ante esas preguntas derive a una persona en vez de arriesgar una respuesta.
El tercero es probar el bot antes y después de lanzarlo: hacerle a propósito las preguntas capciosas que le haría un cliente desprevenido para ver si inventa, una especie de control de calidad periódico. Nada de esto te blinda —como dejó claro el fallo de Hamm, la empresa responde porque controla la herramienta—, pero sí baja la probabilidad de que el bot diga algo falso y, sobre todo, demuestra que actuaste con diligencia. Y ese punto pesa: frente a un reclamo, no es lo mismo un negocio que dejó al bot suelto que uno que puso controles razonables y puede probarlo.
Cinco cosas que tu PyME debería hacer ya
La buena noticia es que esto se previene con medidas concretas y baratas. Primero, limitá el alcance del bot: que responda solo sobre temas que podés controlar y verificar, no sobre todo el universo. Segundo, agregá disclaimers visibles («esta respuesta es orientativa, confirmá con un asesor»), aunque —ojo— un disclaimer no te blinda si el dato es directamente falso. Tercero, guardá los registros de conversaciones: si hay un reclamo, vas a necesitar saber qué dijo el bot y cuándo. Cuarto, reaccioná rápido ante cualquier queja: la clínica alemana perdió en parte porque no corrigió tras la primera advertencia. Y quinto, revisá el contrato con el proveedor del chatbot: aunque frente al consumidor respondés vos, un buen contrato te permite después reclamarle al desarrollador si el error fue suyo. Si querés armar bien esas cláusulas, conviene mirarlo junto con el marco legal de los agentes de IA en Argentina.
Preguntas frecuentes
¿Si contraté el chatbot a una empresa externa, sigo siendo responsable frente al cliente?
Sí. Frente al consumidor, respondés vos porque el bot opera bajo tu nombre y en tu beneficio. Después podés reclamarle al proveedor por vía contractual, pero eso es un problema entre ustedes, no del cliente.
¿Un cartel que diga «respuestas generadas por IA, pueden contener errores» me protege?
Ayuda, pero no es un escudo absoluto. Reduce el riesgo en respuestas orientativas, pero no te salva si el bot afirma algo objetivamente falso que induce al cliente a comprar o contratar.
¿Qué pasa si el bot ofrece un precio o promoción por error?
Puede considerarse una oferta vinculante. Por eso conviene que el chatbot no cierre precios ni condiciones comerciales sin validación humana.
¿Esto aplica también a las respuestas automáticas de WhatsApp o Instagram?
Sí. No importa el canal: si es un sistema automatizado que habla en nombre de tu empresa, el criterio es el mismo.
¿Tu negocio usa IA o chatbots para atender clientes?
Revisemos juntos los riesgos legales antes de que aparezca un reclamo. Una consulta a tiempo te ahorra mucho más que un disclaimer.
Herrera & Flamenco Abogados · Córdoba, Argentina