Ilustración conceptual de un hombre con apariencia mitad humana y mitad robótica, sobre un fondo de circuitos azules.
Ilustración conceptual original generada con IA; no documenta un hecho real.

Resumen

La automatización y la inteligencia artificial pueden ampliar la capacidad de trabajo de una empresa. Su utilidad depende, sin embargo, de cómo se define el problema, se comprueban los resultados y se distribuye la responsabilidad. Este análisis propone una integración que preserve el conocimiento experto, el razonamiento y la posibilidad de disentir, sin idealizar la intuición humana ni convertir la supervisión en una aprobación automática.

La decisión que permanece detrás de la herramienta

Una empresa puede producir más informes, responder con mayor rapidez y procesar más información sin haber mejorado la calidad de sus decisiones. La diferencia aparece cuando alguien debe explicar por qué una conclusión es pertinente, qué evidencia la sostiene y qué consecuencias tendría actuar sobre ella.

La inteligencia artificial puede contribuir a ese trabajo: organizar documentos, identificar relaciones, proponer alternativas o preparar una primera síntesis. La automatización puede ejecutar actividades repetitivas y reducir intervenciones innecesarias. El problema surge cuando la facilidad de obtener un resultado reemplaza la obligación de examinarlo.

La expresión “pensar como un robot” se utiliza aquí como una metáfora de una práctica empresarial: aplicar respuestas y procedimientos sin revisar su finalidad, sus supuestos o sus excepciones. No describe cómo funcionan todos los sistemas de IA ni significa que las personas razonen siempre mejor. Una organización también puede actuar mecánicamente sin utilizar inteligencia artificial, cuando confunde obediencia al procedimiento con comprensión del problema.

La pregunta relevante es qué capacidad conserva la empresa para reconocer una respuesta insuficiente, cuestionarla y decidir de otra manera.

Automatización, generación y decisión requieren controles distintos

Conviene separar tres funciones que suelen aparecer juntas.

Una automatización basada en reglas puede ejecutar una secuencia previamente definida. Un modelo generativo puede producir un texto o una propuesta a partir de las instrucciones y la información disponibles. Un sistema conectado a herramientas puede, además, realizar acciones que alteran procesos, registros o comunicaciones.

Esta distinción es operativa, no una clasificación exhaustiva de tecnologías. Ayuda a precisar qué se debe comprobar. En una regla interesa, entre otros aspectos, si la condición está bien definida y si contempla excepciones. En una respuesta generada, si las afirmaciones tienen sustento y corresponden al caso. En una acción automatizada, si existe autorización, si su alcance está limitado y si puede detenerse o corregirse.

Recomiendo evitar aprobaciones genéricas como “podemos usar IA en el área”. Es preferible identificar la tarea, los datos permitidos, el resultado esperado y el límite de autonomía. Preparar un borrador para revisión y enviarlo a un cliente son operaciones diferentes, aunque ocurran dentro de una misma aplicación.

Qué permite afirmar la evidencia

La investigación disponible no respalda una conclusión universal de beneficio o perjuicio.

Un experimento con 758 profesionales de consultoría, publicado en Organization Science en 2026, encontró mejoras de desempeño en tareas seleccionadas dentro de las capacidades de la herramienta estudiada. En otra tarea gerencial, elegida por situarse fuera de esa frontera, el uso de IA redujo la proporción de respuestas correctas. El estudio trabajó con GPT-4 y condiciones específicas; sus resultados no representan una evaluación de todos los sistemas actuales ni de cualquier actividad empresarial. Su aportación es mostrar que tareas aparentemente similares pueden requerir tratamientos distintos. [1]

Por otra parte, una investigación presentada en CHI 2025 recogió respuestas de 319 trabajadores del conocimiento. Encontró una asociación entre mayor confianza en la IA generativa y menor ejercicio de pensamiento crítico reportado. Es importante conservar el alcance: se trata de percepciones y ejemplos autoinformados. No demuestra que utilizar IA cause una pérdida general de inteligencia o un deterioro irreversible de las capacidades profesionales. Los autores reconocen limitaciones de medición, incluida la posible confusión entre reducir esfuerzo y reducir pensamiento crítico. [2]

Estas evidencias justifican evaluar cómo se trabaja con la tecnología, no descalificarla ni atribuirle resultados que todavía no se han comprobado.

Una respuesta convincente necesita una revisión diferente

El perfil de riesgos de IA generativa del NIST incluye la producción de contenido erróneo expresado con seguridad y los riesgos derivados de una confianza excesiva en los sistemas. Es una referencia voluntaria de gestión, no una obligación general aplicable por sí misma a todas las empresas colombianas. [3]

Para la práctica empresarial, propongo distinguir tres preguntas:

• ¿Es correcto? Las cifras, fechas, citas y afirmaciones relevantes deben contrastarse con evidencia adecuada.

• ¿Es aplicable? Un argumento puede ser válido en otro contexto y resultar inadecuado para la organización, el período o la decisión analizada.

• ¿Es suficiente? Una respuesta puede omitir una condición que cambia la conclusión, aunque lo que contiene sea correcto.

La buena redacción facilita la lectura, pero no resuelve esas preguntas. Tampoco basta con solicitar al mismo sistema que confirme su respuesta. Una segunda revisión automatizada puede ayudar a detectar inconsistencias; no equivale, por sí sola, a una comprobación independiente.

Recomiendo identificar las afirmaciones cuyo error alteraría la decisión y verificar primero esas piezas. Revisar cada detalle con la misma intensidad puede consumir recursos sin atender los riesgos principales.

El criterio profesional también debe poder explicarse

Defender el juicio humano no significa conceder inmunidad al experto. La experiencia puede aportar conocimiento del contexto, reconocer anomalías y anticipar consecuencias; también puede acompañarse de exceso de confianza o resistencia a evidencia nueva.

El NIST advierte que los sesgos humanos intervienen a lo largo del ciclo de vida de los sistemas y que la interacción entre personas e IA puede producir resultados diferentes según su configuración. La complementariedad requiere diseño y evaluación, no se obtiene simplemente añadiendo una persona al proceso. [4]

Propongo exigir al juicio profesional la misma disciplina que se solicita al resultado automatizado: identificar hechos, separar inferencias, explicar supuestos y reconocer incertidumbres.

Cuando un experto discrepe de la herramienta, debería poder señalar la razón relevante: una fuente omitida, una condición contractual, una excepción operativa o un dato que cambia la interpretación. Cuando acepte su recomendación, también debería poder explicar qué comprobó. El propósito es evitar tanto la obediencia automática a la máquina como la prevalencia automática de la jerarquía.

Un ejemplo hipotético: la recomendación sobre un proveedor

Supongamos que una empresa utiliza IA para resumir expedientes de proveedores. El sistema recibe estados financieros, certificados y cuestionarios, y prepara una recomendación favorable porque los documentos parecen completos.

El analista identifica que parte de la información corresponde a otra sociedad del mismo grupo y que un certificado no cubre la actividad objeto del contrato. La integridad aparente del expediente no resuelve la pregunta empresarial.

En este ejemplo, la herramienta puede seguir siendo útil para ordenar documentos y localizar diferencias. La revisión profesional consiste en definir qué entidad se está evaluando, qué condición debe acreditarse y qué evidencia resulta pertinente. Un resumen fluido del expediente equivocado puede conducir a una conclusión inadecuada.

La respuesta organizacional propuesta sería corregir el alcance, obtener la documentación necesaria y conservar el fundamento de la decisión. Se trata de un caso ilustrativo, no de un incidente real ni de un procedimiento jurídico completo.

Diseñar una supervisión que tenga capacidad de intervenir

Una casilla de aprobación no demuestra que hubo revisión. Para que la intervención profesional sea sustantiva, recomiendo establecer cinco condiciones:

1. Competencia pertinente. El revisor debe comprender la materia y los límites del resultado. Saber utilizar una aplicación no sustituye el conocimiento del proceso evaluado.

2. Acceso a evidencia. Debe poder consultar documentos, datos y criterios, no recibir únicamente la conclusión generada.

3. Tiempo razonable. La carga de trabajo debe permitir una revisión proporcionada. Exigir aprobación inmediata de grandes volúmenes puede convertir el control en una formalidad.

4. Autoridad para detener o escalar. Una observación relevante debe tener un canal efectivo de resolución.

5. Registro de la decisión. Conviene conservar qué se aceptó, qué se corrigió y qué incertidumbres permanecieron, con el detalle necesario para reconstruir decisiones importantes.

Estas condiciones son una propuesta de gobierno del trabajo. Su intensidad debe ajustarse al impacto, la reversibilidad y la frecuencia de la actividad. No toda clasificación rutinaria requiere la misma intervención que una decisión con efectos relevantes sobre una persona o una relación comercial.

Utilizar la IA para ampliar el análisis

La tecnología puede incorporarse al razonamiento de una manera más exigente que pedir una respuesta final.

Recomiendo emplearla para explorar alternativas, identificar información faltante, examinar contradicciones y formular objeciones a una hipótesis. Antes de consultar, el profesional puede registrar una interpretación inicial y las condiciones que le harían cambiar de opinión. Después, comparar ese planteamiento con las propuestas recibidas.

Este ejercicio no garantiza independencia ni exactitud, pero deja visible qué aportó la herramienta y qué modificó el análisis. También permite detectar situaciones en las que una respuesta persuasiva desplaza una pregunta que todavía no ha sido resuelta.

La capacidad de pedir una explicación debe acompañarse de la capacidad de evaluarla. Una justificación generada no debe tratarse como prueba suficiente de cómo se obtuvo el resultado ni de que este sea correcto.

Conservar capacidades y medir el trabajo completo

La formación debería incluir tanto el uso de herramientas como la práctica de las competencias que permiten supervisarlas. Propongo ejercicios periódicos de análisis sin asistencia, revisión de errores y discusión de casos donde la respuesta automatizada parezca razonable pero resulte incompleta.

La finalidad no es imponer trabajo manual como virtud. Es comprobar que la organización mantiene capacidad para detectar fallas, continuar una operación crítica y formar profesionales que comprendan aquello que validan.

También recomiendo medir el proceso completo. El tiempo ahorrado al generar un documento debe examinarse junto con el tiempo de revisión, las correcciones posteriores y el impacto de los errores que alcanzan al destinatario.

Un piloto puede comparar modalidades asistidas y no asistidas con criterios definidos antes de observar los resultados. Conviene incluir casos habituales y excepcionales, registrar fallas importantes y reevaluar cuando cambien el modelo, los datos o el uso. Un indicador de adopción informa cuánto se utiliza la tecnología; no demuestra, por sí solo, que haya mejorado la decisión.

Conclusiones

Integrar automatización e inteligencia artificial exige decidir qué trabajo puede delegarse, qué evidencia debe comprobarse y quién conserva autoridad sobre el resultado. El conocimiento experto, el análisis y la lógica humana aportan valor cuando se ejercen de manera explícita, contrastable y abierta a corrección.

La empresa debería poder aprovechar una respuesta útil, rechazar una recomendación insuficiente y explicar ambas decisiones. Si nadie puede formular esa explicación, la rapidez del proceso habrá ocultado una debilidad de gobierno.

El riesgo de “pensar como un robot” aparece cuando dejamos de preguntar para qué hacemos algo, bajo qué condiciones funciona y cuándo corresponde apartarse de la respuesta habitual. Preservar esas preguntas permite utilizar la tecnología como apoyo sin convertir la aprobación humana en un trámite.

Sigue mis publicaciones sobre tecnología, riesgos y gestión empresarial. ¿Qué decisiones de tu organización requieren un criterio profesional que pueda explicarse y revisarse, incluso cuando interviene la inteligencia artificial?

Referencias verificables

1. Dell’Acqua, F., y colaboradores. Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of Artificial Intelligence on Knowledge Worker Productivity and Quality. Organization Science, publicación en línea, 11 de marzo de 2026.
https://doi.org/10.1287/orsc.2025.21838

2. Lee, H.-P., y colaboradores. The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. CHI 2025.
https://doi.org/10.1145/3706598.3713778

3. NIST. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1, julio de 2024. Apartados sobre confabulación e interacción humano-IA.
https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf

4. NIST. AI Risk Management Framework 1.0, Appendix C: AI Risk Management and Human-AI Interaction, 2023.
https://airc.nist.gov/airmf-resources/airmf/appendices/app-c-ai-risk-management-and-human-ai-interaction/

← Volver a publicaciones