Todos sabemos ya a estas alturas que la inteligencia artificial está revolucionando la forma en la que trabajamos poco a poco y que esta tendencia será cada vez mayor pero, hay un aspecto en el que la aparición de la IA es especialmente delicado y es, en particular, la ciberseguridad.
El impacto de la IA en la seguridad informática, tanto de equipos como de datos, está siendo realmente brutal, si antes la existencia de bots ya suponía un gran quebradero de cabeza para mantener nuestros datos a salvo, imagina ahora que son capaces de aprender y perfeccionarse, pero no todo son amenazas, la IA también aporta muchas ventajas para poder mantener la seguridad de nuestros datos y equipos, vamos a ver estas dos vertientes analizando tanto las ventajas como las amenazas que supone la inteligencia artificial para la ciberseguridad.
Donde puedo usar IA para protegerme
Autenticación inteligente y detección de fraudes
Es muy común ver sistemas de autenticación que, mediante inteligencia artificial reconocen patrones nuestros como puede ser nuestra cara o nuestra voz y los aplica a reconocer que somos nosotros. Estos patrones cada vez están siendo más complejos ya que, de la misma manera que una IA puede reconocer nuestra cara, también le resulta más fácil replicarla por lo que se pasan a analizar otros muchos aspectos que, a la hora de desarrollarlos, sería bastante complicado cubrir, tales como descubrir patrones que no serían propios de un humano, tiempos demasiado cortos de respuesta. Este tipo de variables la IA las reconoce mucho mejor que nosotros y puede detectar de forma muy efectiva accesos sospechosos.
Análisis de vulnerabilidades y de código
Muchos modelos de IA bien entrenados nos pueden ayudar a identificar posibles puntos débiles en aplicaciones o infraestructuras que podrían ser explotados por atacantes. Por, ejemplo, un modelo entrenado con errores comunes podría detectar de forma muy rápida si dentro de una determinada pieza de código o proyecto hay errores que podrían provocar vulnerabilidades.
La inteligencia artificial es muy buena detectando, por ejemplo, posibles huecos donde se pueda inyectar SQL malicioso. Otro ejemplo en el que nos puede ayudar mucho sería vigilando cuando se deserializan datos que vienen de una fuente externa, comprobar que esa deserialización no incluye código malicioso que se pueda emplazar en nuestro servidor, por ejemplo.
Detección de amenazas y anomalías
Uno de los aspectos en los que más se está trabajando últimamente, nosotros entre otras muchas empresas, es en la monitorización de los paquetes del tráfico de red. Este punto suele ser uno de los más críticos a la hora de que se nos cuelen vulnerabilidades que nos pasen inadvertidas. Mediante IA, podemos tener un agente permanentemente monitorizando esta comunicación que puede detectar patrones inusuales o maliciosos en el tráfico de red y los archivos.
En un poco de tiempo profundizaremos más en este tema, ya que estamos actualmente trabajando en un proyecto que será muy disruptivo en este punto, está siendo uno de nuestros proyectos estrella. Os mantendremos informados.
Análisis preventivo o predictivo de amenazas
Podemos efectuar, usando inteligencia artificial, distintos escaneos y pruebas sobre nuestro software o infraestructura que detecte posibles errores o amenazas. También es muy útil para lanzar simulaciones de ataques y así identificar puntos débiles que podamos tener, seguro que se le ocurren opciones o formas de atacar que no teníamos previstas.
Este análisis predictivo, efectuado de forma regular, nos ayudará mucho a mejorar la seguridad tanto de nuestros equipos y redes como de nuestras aplicaciones y software.
Cuales son las principales amenazas que supone la IA para la ciberseguridad
Código creado con IA
Paradójicamente, una de las principales vulnerabilidades que nos estamos encontrando a día de hoy es el propio código creado con Inteligencia artificial. No olvidemos que los distintos modelos se han entrenado con una base de código escrito por humanos, y claro, gran parte de ese código es código no seguro por lo que la IA tiende a replicar estos patrones.
Una de las cosas que tenemos que tener en cuenta es que todo código creado mediante IA, a día de hoy, debe ser revisado por un humano y, si es posible, hacerle algún test de seguridad. Incluso podemos usar las herramientas que hemos mencionado anteriormente en este propio artículo para verificar que el código es, efectivamente, seguro.
Ya no podemos confiar en nuestros sentidos
Este sea quizá el punto que más nos va a costar aceptar como humanos. Probablemente sea la primera vez que en serio nos tenemos que preguntar si lo que estamos viendo, oyendo es realmente lo que parece que es.
Todos hemos visto ya videos, imágenes. Hemos escuchado audios generados por IA que realmente están creados artificialmente pero cuyo realismo nos hace dudar de si realmente, en esa imagen o video es esa persona o está generada con inteligencia artificial. Yo mismo tengo entrenado un modelo que crea fotos mías para redes sociales, miniaturas de youtube, etc… hasta el punto que yo mismo me sorprendo de lo bien generadas que están hechas la mayoría de hechas.
Sin duda vamos a tener que desarrollar esta capacidad de desconfiar de lo que estamos viendo, o al menos asumir que cabe la posibilidad de que esté generada por inteligencia artificial porque, además, esto va a ir a más. Cada vez nos encontraremos mejor contenido generado por IA así que, va a ser algo común y deberemos desarrollar medios que nos permitan poner en cuarentena cierto contenido.
Como resumen, la inteligencia artificial está revolucionando la ciberseguridad con beneficios como la autenticación inteligente, el análisis de vulnerabilidades y la detección de amenazas, mejorando significativamente la capacidad de prevención y respuesta ante riesgos.
Sin embargo, también plantea desafíos importantes, como el uso de código generado por IA que puede replicar errores humanos y la dificultad de discernir entre lo real y lo generado artificialmente. Este doble filo subraya la necesidad de combinar tecnologías avanzadas con revisiones humanas rigurosas para aprovechar sus ventajas sin comprometer la seguridad.
Si queréis ampliar sobre este tema, os comparto este artículo del CCN-CERT (Centro Criptológico Nacional) en el que precisamente se hace un estudio minucioso de buenas prácticas en este tema en la intersección entre la Inteligencia artificial y la ciberseguridad.
