La adopción de inteligencia artificial generativa (GenIA) en México muestra un crecimiento respecto al resto de América Latina; sin embargo también plantea nuevos riesgos empresariales. Especialistas de Palo Alto Networks alertaron sobre las problemáticas que las organizaciones aún no están preparadas para afrontar.
La Unit 42 elaboró el informe The State of Generative AI 2025, donde abordó no solo la incorporación de esta herramienta, sino el papel que ganó en nuestro país. Ejemplo de ello es que más de 60 aplicaciones de inteligencia artificial generativa se usan por cada organización.
TAMBIÉN LEE: Foxconn inyecta 168 mdd y eleva su inversión en México
Si bien reconocieron y celebraron el uso, pusieron los puntos sobre las íes porque al menos el 10% de estas aplicaciones se consideran de alto riesgo. Esto se debe a que abren la puerta a las siguientes posibilidades:
- Carga de archivos sensibles
- Carecen de un cifrado adecuado
- Utilizan datos ingresados para entrenar sus modelos
- No cumplen con los estándares básicos de privacidad y autenticación
México adopta la GenIA y aumentan los riesgos empresariales
La adopción de aplicaciones que carecen de todos los filtros de seguridad aumentan la posibilidad de fuga de información, uso indebido de datos y exposición a contenido malicioso. Esto no solo afecta a las organizaciones, sino a los empleados y que puedan cumplir los objetivos colectivos.
Los expertos de Palo Alto Networks sostuvo que incluso más del 70% de los asistentes de escritura evaluados eran vulnerables a las técnicas de jailbreak. Es decir, se manipula la IA para generar respuestas que normalmente se bloquearían, incluido el contenido inapropiado o riesgoso.
TAMBIÉN LEE. Google Pixel 10 llega a México con IA en la palma de tu mano
Uno de los detalles que sobresalió dentro del informe es que estas innovaciones no se aplican únicamente en el sector tecnológico, sino en industrias como los servicios de salud, educación, finanzas y manufactura, esta última clave para el desarrollo económico de México. Por ello es que apuntaron la necesidad de tener políticas de gobernanza claras.
Advirtieron que uno de los principales retos es el fenómeno de la IA en la sombra. Es decir cuando los empleados utilizan herramientas de IA sin conocimientos ni aprobación del departamento de TI.
Alertaron que la GenIA usada de formas equívocas aumentan los riesgos empresariales porque puede conducir a la exposición de información confidencial, incumplimientos regulatorios y pérdida de propiedad intelectual. Esto luego que los datos podrían ser almacenados y reutilizados por terceros.
