El reconocido experto en tecnología Jordi García Castillón, citado por Computer Hoy, señaló que el mayor error de las organizaciones al adoptar inteligencia artificial (IA) es hacerlo sin contar previamente con mecanismos de protección adecuados. La advertencia surge en un contexto donde la IA se vuelve cada vez más accesible y su uso se extiende a procesos críticos de negocio.
El error más frecuente
Según Castillón, muchas empresas se precipitan a integrar soluciones de IA con la expectativa de obtener ventajas competitivas inmediatas, pero descuidan la evaluación de riesgos y la implementación de controles de seguridad. Esta práctica, describió, puede generar vulnerabilidades que comprometan datos sensibles y la continuidad operativa.
Riesgos de una IA sin protección
El especialista explicó que una IA sin las salvaguardas necesarias puede ser objeto de ataques de manipulación de datos, suplantación de identidad y explotación de sesgos algorítmicos. Además, la falta de auditorías y de políticas de gobernanza puede dificultar la detección de comportamientos anómalos, exponiendo a la empresa a sanciones regulatorias.
Recomendaciones para una implementación segura
Castillón propone que las organizaciones establezcan, antes de la puesta en marcha, un marco de seguridad que incluya: evaluación de riesgos, pruebas de penetración específicas para modelos de IA, cifrado de datos en tránsito y en reposo, y la definición de roles y responsabilidades claras. Asimismo, sugiere la adopción de estándares internacionales como ISO/IEC 27001 y la participación de equipos multidisciplinarios que integren expertos en ciberseguridad, ética y desarrollo de IA.
Ejemplos de vulnerabilidades comunes
El experto menciona casos en los que modelos de IA han sido entrenados con datos contaminados, lo que lleva a decisiones erróneas y a la pérdida de confianza de clientes. Otro ejemplo recurrente es la exposición de APIs que permiten a actores malintencionados extraer información confidencial o manipular resultados de predicción.
Perspectivas para el futuro de la IA empresarial
Para Castillón, el camino hacia una adopción responsable de la IA pasa por la integración de la seguridad desde la fase de diseño. Señala que, a medida que la regulación evoluciona, las empresas que inviertan en protección proactiva estarán mejor posicionadas para aprovechar el potencial de la IA sin comprometer la integridad de sus operaciones.