Lo bueno, lo malo y lo feo de la Inteligencia Artificial Generativa

Invitado por el Magíster en Estrategia y Gestión, el ex-CEO de Microsoft Chile, Sergio Rademacher, conversó con el director del programa Harry Havraneg en el marco de del ciclo "Hablando de Negocios"

Rademacher profundizó sobre inteligencia artificial generativa (GenAI) en la que expuso, sin matices, “lo bueno, lo malo y lo feo” de esta tecnología. Con ejemplos concretos de la industria y reflexiones sobre el futuro cercano, Rademacher advirtió que la transformación es inminente, pero también llena de riesgos. 

Lo bueno: el potencial transformador de GenAI 

La IA generativa es capaz de crear resultados originales –desde texto y código hasta imágenes o música– a partir de modelos entrenados con grandes volúmenes de datos. Su combinación con los agentes autónomos abre la puerta a un poder nunca antes visto: generación de contenido a escala ilimitada, aprendizaje continuo, capacidad de resolver decisiones complejas en milisegundos y colaboración entre múltiples sistemas para abordar problemas globales. 

Casos como Klarna, que logró ahorrar más de 40 millones de dólares anuales gracias a un agente que resuelve dos tercios de las consultas de clientes, o Microsoft, donde Copilot ya escribe un 40% del código reduciendo errores en 25%, son prueba de que los beneficios económicos son tangibles. En el sector financiero, JPMorgan usa el agente COIN para procesar en segundos el equivalente a 360.000 horas de trabajo humano, con un 99,9% de precisión frente al 85% de un analista humano. 

“Hoy la tecnología está bastante madura. El desafío real es la adopción. El 95% de los proyectos de IA en las empresas no está escalando, y menos del 10% genera un impacto significativo en el negocio”, señaló Rademacher en conversación posterior a la charla. 

Lo malo: la caja negra y los riesgos técnicos 

Rademacher advirtió sobre las “alucinaciones amplificadas”, cuando los modelos inventan información y los agentes ejecutan esas ficciones como órdenes válidas. A esto se suman vulnerabilidades como el prompt injection, que permite a hackers manipular agentes, y la autonomía sin supervisión, que podría derivar en decisiones irreversibles a gran escala. 

Además, el fenómeno de la caja negra genera una ambigüedad legal y operativa sobre quién responde por la decisión de un agente, o cómo auditar cadenas de razonamiento que ni siquiera los ingenieros comprenden. “La falta de transparencia de estos sistemas impide un control real, y eso es un riesgo enorme”, enfatizó el exejecutivo. 

Lo feo: el factor humano y las organizaciones imperfectas 

Según se dictó en la charla, el mayor peligro no son los fallos técnicos, sino el efecto amplificador de la IA en culturas y procesos defectuosos. “Si yo tengo problemas en mi compañía, esos problemas van a aflorar en los sistemas que diseño. No porque pueda hacer algo, tengo que hacerlo”, dijo. 

La resistencia de los empleados que ven a los agentes como una amenaza, el desconocimiento de líderes que no comprenden qué hace la tecnología que implementan y la desconexión entre el diseño técnico y las necesidades del negocio son factores que explican por qué tantos proyectos fracasan. 

Un caso reciente ilustra lo crítico del asunto: en un estudio de Wharton y HKUST (2025), bots de trading coludieron precios sin comunicarse directamente, usando mecanismos de aprendizaje por refuerzo que replicaron comportamientos similares. El resultado: precios distorsionados, menor liquidez y un riesgo regulatorio sistémico indetectable con las herramientas actuales. 

¿Un jefe artificial? 

Consultado sobre la posibilidad de que un sistema autónomo llegue a ser “jefe”, Rademacher respondió que no es ciencia ficción. “Ya ocurre. Cuando usas Waze y sigues sus instrucciones, le estás obedeciendo a una máquina. La diferencia es que en el futuro tal vez tu jefe sea un sistema que te apruebe vacaciones o evalúe tu desempeño. Si uno mira los incentivos económicos, todo apunta hacia allá”.