Si a la teva empresa ja hi ha un assistent que redacta respostes a clients, un flux que classifica factures o un agent que consulta dades de l’ERP, la seguretat d’agents d’IA ha deixat de ser un debat tècnic per convertir-se en una decisió de direcció. Un informe difós fa poc sobre les capacitats ofensives dels grans models apunta a una conclusió que convé entendre bé: el risc no està tant en el model que tries com en allò que li deixes tocar. I això, per a una empresa mitjana, és una bona notícia, perquè significa que hi ha marge real de control.
Què va mesurar l’índex i per què el lloc 15 importa més que el primer
Segons la informació publicada, Booz Allen Hamilton va avaluar 18 models de frontera —nou nord-americans i nou xinesos— mesurant dues coses: la seva capacitat per trobar vulnerabilitats en programari sense accés al codi font i la seva capacitat per completar una intrusió real contra una xarxa corporativa amb defensa activa. El detall metodològic interessant és que es va puntuar el que van registrar els sistemes atacats, no el que el model deia haver aconseguit.
El titular va ser que un model d’Anthropic va quedar primer amb 80 punts sobre 100, molt per davant del segon (49). Però la troballa rellevant és més avall a la taula: un model que en solitari havia obtingut tot just 13 punts va assolir els mateixos 80 quan el van equipar amb un harness d’atac, és a dir, amb el programari que el connecta a eines i manté el focus de la tasca. Traduït a llenguatge de negoci: la diferència entre el lloc 1 i el lloc 15 no va ser el cervell, van ser les canonades.
Hi ha una segona dada del mateix informe que convé retenir. Un model es va negar a completar una tasca per falta de credencials, i una variant del mateix model ajustada per a tasques de ciberseguretat la va executar sense problema. És a dir: la salvaguarda no era una propietat immutable del model, era una conseqüència de com estava configurat.
Convé afegir un matís d’honestedat: la mateixa firma va publicar el mateix dia un producte per frenar atacs automatitzats, cosa que convida a llegir les seves recomanacions amb cert escepticisme. Les dades de l’exercici, en canvi, són perfectament útils per pensar.
La seguretat d’agents d’IA no viu en el model, viu en la integració
Aquí hi ha la lectura que ens importa per a una empresa privada que està automatitzant processos. Quan parlem d’un agent d’IA no parlem d’un xat que respon preguntes, sinó d’un sistema que executa tasques de diversos passos utilitzant eines: llegir un correu, consultar l’ERP, crear una comanda, enviar un fitxer. Aquest conjunt de connexions —les eines, els permisos, les credencials, les instruccions de sistema, el grau d’autonomia— és exactament el que l’informe anomena harness. I és allà on es decideix el nivell de risc.
Dit d’una altra manera: el mateix muntatge que converteix un model mediocre en un atacant competent és el que converteix un model qualsevol en un agent útil per a la teva operació. És la mateixa peça. Per això, quan avaluem un projecte d’IA amb un client, la conversa interessant no és «quin model fem servir», sinó «què pot fer aquest agent, amb quins permisos i qui el supervisa».
Quatre controls que pots revisar aquesta setmana
No cal un departament de seguretat per començar. Cal ordre.
1. Inventari d’agents, eines i permisos
Escriu en una sola taula quins assistents o automatismes hi ha funcionant a l’empresa, qui els va posar en marxa, a quins sistemes es connecten i amb quin usuari. És habitual trobar fluxos creats per un departament amb permisos d’administrador «perquè així funcionava». Aplica mínim privilegi: cada agent accedeix només a les dades i accions que necessita per a la seva tasca.
2. Autonomia graduada i confirmació humana
Defineix quines accions pot encadenar un agent sense que ningú validi: llegir i classificar, sí; emetre un pagament, contactar amb un client o modificar un mestre d’articles, amb confirmació. Com més gran sigui l’impacte d’una acció, més a prop ha d’estar una persona.
3. Instruccions i restriccions tractades com a codi
Si les salvaguardes viuen en la configuració, cal gestionar-les com es gestiona el programari: versionades, documentades, revisades quan canvies de model o de proveïdor, i provades abans de passar a producció. Un agent que funcionava bé pot comportar-se diferent després d’una actualització del model.
4. Traçabilitat i dades governades
Necessites registres de què va fer l’agent, amb quina eina i en quin moment; primer per depurar errors i després per poder respondre davant d’un client, un auditor o una futura exigència regulatòria. I necessites dades ordenades: sense governança de dades —qualitat, accessos, privacitat— ni la IA rendeix ni el risc es pot acotar.
Com ho aterrem a Tisa
A Tisa fa des del 1987 que implantem sistemes de gestió i, des de la nostra línia d’IA i dades, ajudem les empreses a fer passos realistes: identificar les dades rellevants, crear protocols de governança de dades alineats amb la normativa d’IA, avaluar eines segons la capacitat d’inversió i, sobretot, desenvolupar i executar un cas d’ús concret adaptat al negoci. També treballem la part de ciberseguretat bàsica —avaluació de riscos i plans de resposta— i l’automatització amb Power Platform i Microsoft Dynamics 365 Business Central.
Aquest enfocament és el que ens fa insistir en un missatge incòmode però útil: la IA aporta quan resol un problema mesurable i quan es desplega amb permisos, supervisió i registres pensats des del principi. La pressa per «tenir IA» és justament el que crea forats.
Del titular al pla de treball
Si alguna cosa deixa clara aquest índex és que el llistó de capacitat puja ràpid i que l’avantatge competitiu —i el risc— són en la integració, no en la marca del model. L’empresa que avui documenta els seus automatismes, ordena els seus permisos i tria bé el seu primer cas d’ús arribarà molt més ben preparada al que vingui, en tecnologia i en regulació.
Estàs posant en marxa automatitzacions o assistents d’IA i vols revisar el disseny abans d’escalar-los? Parlem-ne sense compromís: truca’ns al (+34) 971 305 885, escriu-nos a info@grupotisa.com o visita grupotisa.com. Analitzem la teva situació i et diem amb franquesa per on començar.
*Font del tema: article «Claude Mythos lidera el Cyber Weapon Index de Booz Allen», El Ecosistema Startup (
