La pregunta lleva meses circulando por titulares, pódcast y conversaciones de pasillo: ¿puede la inteligencia artificial acabar con todos nosotros? MIT Technology Review dedicó un encuentro en directo con sus suscriptores a responderla, y sus periodistas de IA —Will Douglas Heaven y Grace Huckins— publicaron después las mejores preguntas del público con sus respuestas ("Could AI really kill us all? Your questions, answered", MIT Technology Review). Es una lectura interesante, pero si diriges una empresa privada probablemente tengas una pregunta más terrenal: entre tanto debate existencial, ¿cuáles son los riesgos de la IA que de verdad afectan a mi negocio la semana que viene? A eso vamos.
El debate apocalíptico y el debate que te toca a ti
En el artículo de MIT Technology Review los dos periodistas no se ponen del todo de acuerdo. Huckins admite que las predicciones de los sectores más pesimistas sobre las capacidades de los modelos han resultado "incómodamente acertadas" en los últimos años, aunque no da por hecho el peor escenario. Heaven es más tajante: fuera de la ciencia ficción, dice, no hay circunstancias en las que la IA nos mate a todos, y advierte de algo importante —el catastrofismo sirve para tapar los problemas reales y presentes de la tecnología y de las empresas que la construyen.
Esa última frase es la que nos interesa. Porque mientras se discute la extinción de la humanidad, en una pyme de distribución, de retail o de construcción están pasando cosas mucho más mundanas y mucho más caras: un agente automático que ejecuta una acción que nadie revisó, un informe generado con datos que nadie validó, una factura mal imputada, un correo de phishing impecable escrito con IA generativa.
Ambos periodistas coinciden, eso sí, en un punto sensato: no hace falta creer en el apocalipsis para reconocer que esta tecnología ya ha causado daños concretos. Ese es exactamente el terreno donde una dirección general puede —y debe— actuar.
Los riesgos de la IA que sí ves en una empresa
Estos son, en nuestra experiencia acompañando proyectos de digitalización, los riesgos de la IA con los que se topa una empresa real cuando pasa del entusiasmo a la implantación.
1. Agentes con mucha autonomía y poca supervisión
Un agente de IA no solo responde preguntas: ejecuta tareas de varios pasos usando herramientas. Ahí está su valor y ahí está el problema. Como resume Heaven, el equilibrio entre autonomía y control todavía no está resuelto ni siquiera en los grandes laboratorios: buena parte de la potencia de un agente está en que no necesites microgestionarlo, pero eso exige confiar en que no se desmande. Traducido a tu empresa: antes de dejar que un agente modifique pedidos, emita abonos o escriba a clientes, define qué puede hacer solo, qué requiere validación humana y qué queda registrado.
2. Alucinaciones sobre datos desordenados
Un modelo puede generar información incorrecta con apariencia de cierta. Si además se alimenta de datos dispersos entre Excel, correos y tres sistemas que no se hablan, el resultado no es inteligencia: es ruido con buena redacción. Por eso insistimos tanto en lo aburrido: sin datos ordenados y gobernados, la IA no rinde.
3. Ciberseguridad ampliada
El artículo menciona ciberataques ejecutados con ayuda de IA como un riesgo ya presente, no futurista. Para una empresa mediana esto se traduce en suplantaciones más creíbles, fraude del CEO mejor escrito y automatización del lado atacante. La respuesta no es exótica: evaluación de riesgos, planes de respuesta y formación del equipo.
4. Opacidad y dependencia
Heaven y Huckins señalan que las técnicas para monitorizar el comportamiento de los modelos son todavía frágiles y que los propios fabricantes se autorregulan con un evidente conflicto de interés. Para ti eso significa una cosa muy práctica: exige trazabilidad, saber dónde se procesan tus datos y poder cambiar de proveedor sin quedarte atado.
"Alineación": la palabra técnica detrás del miedo
Una de las preguntas del público iba sobre la alineación: conseguir que los modelos se comporten como queremos y no como no queremos. Heaven lo explica bien: los modelos de lenguaje no se programan como el software tradicional, donde puedes codificar reglas fijas. El comportamiento deseado se induce durante el entrenamiento, con recompensas o con una especie de "constitución" escrita. Y aun así los resultados son inconsistentes: un modelo puede actuar de una forma en una situación y de otra distinta en una situación que a nosotros nos parece casi idéntica.
Conclusión para tu empresa: no delegues criterio en un sistema que no es predecible. Delega tareas acotadas, con contexto controlado y con revisión. Es la misma lógica con la que aprobarías un circuito de compras o una firma mancomunada; nada que un buen director financiero no entienda a la primera.
Cinco decisiones prácticas antes de tu próximo proyecto de IA
- Empieza por un caso de uso medible. IA para reducir el tiempo de un proceso concreto, no "IA por tener IA". Si no sabes qué indicador debe moverse, todavía no es un proyecto.
- Ordena los datos antes que el modelo. Identificar qué información es relevante y con qué calidad está es el 80% del trabajo.
- Escribe una política de uso. Quién puede usar qué herramienta, con qué datos, y qué está prohibido subir. Una página basta para empezar.
- Define la supervisión humana. Qué decisiones necesitan un visto bueno y quién lo da.
- Registra y revisa. Si no puedes auditar lo que hizo el sistema, no puedes mejorarlo ni defenderlo ante un cliente o un auditor.
Cómo lo abordamos en Tisa
En Tisa llevamos desde 1987 implantando tecnología de gestión en empresa privada, y el enfoque con la IA es el mismo de siempre: primero el negocio, luego la herramienta. Nuestro servicio de asesoramiento en IA trabaja precisamente en los frentes donde se concentran los riesgos de la IA para una pyme: identificar los conjuntos de datos relevantes, crear protocolos de gobernanza de datos alineados con la normativa, evaluar herramientas según tu capacidad real de inversión, desarrollar y ejecutar un caso de uso adaptado a tu negocio y capacitar al equipo para usarlo con criterio.
Y como somos Microsoft Partner y desarrolladores certificados en Business Central y Power Platform, ese trabajo suele aterrizar sobre una base que ya conoces: tu ERP, tus informes y tus procesos, no una plataforma paralela que nadie usa a los tres meses.
¿Nos va a matar la IA?
Probablemente no. Pero que la respuesta sea tranquilizadora no significa que no haya nada que hacer: significa que el esfuerzo debe ir a los riesgos de la IA que ya existen —control, datos, seguridad y supervisión— en lugar de al guion de una película. Las empresas que hoy ordenan sus datos y prueban casos de uso acotados serán las que dentro de dos años puedan automatizar de verdad, con confianza y sin sustos.
¿Quieres una valoración sin compromiso de por dónde empezar? Hablemos: (+34) 971 305 885 · info@grupotisa.com · grupotisa.com. Te ayudamos a elegir el primer caso de uso y a ponerlo en marcha con garantías.
Fuente del debate comentado: "Could AI really kill us all? Your questions, answered", MIT Technology Review (Will Douglas Heaven y Grace Huckins).