En los últimos tiempos venimos oyendo hablar sin parar de cosas como «agente de IA», «IA Generativa», «ChatGPT» y de cómo está revolucionando el mundo pero en muchas ocasiones solo tenemos información bastante vaga que no termina de explicar en detalle el cómo podemos utilizar todas las herramientas que tenemos a nuestro alcance. En este artículo nos vamos a centrar en un caso de uso bastante concreto, a la par que bastante útil en muchas empresas, sobre todo aquellas que ya empiezan a tener un tamaño considerable.
Hoy vamos a hablar de cómo crear un agente de IA que nos ayude a conocer, encontrar y manejar información de nuestra empresa. Parece simple ¿verdad? Pero, qué ocurre cuando a lo largo del tiempo hemos ido acumulando infinidad de documentos, repartidos a su vez en infinidad de carpetas y con, para colmo, distintas versiones en distintas fechas. Muchos nos hemos encontrado en esta situación en la que simplemente encontrar esta información se convierte un poco en una quimera. Vamos a ver cómo podemos resolver esto usando IA.
Agente de IA con RAG ¿en qué consiste?
Para conseguir crear el sistema tenemos que manejar bien dos conceptos muy importantes:
- Base de conocimiento -> La base de conocimiento estará compuesta por la información de nuestra empresa, que puede constar de todos estos documentos, aplicaciones con documentación tipo Confluence, nuestra web, etc… Pero la base de conocimiento va más allá, lo que crearemos será una base de datos vectorial, concepto que explicaremos en otra ocasión, que unificará y relacionará toda esta información. Y tranquilo, el agente de IA la gestionará de forma automática, gran punto a favor para empezar ¿A que si?
- RAG (Retrieved Augmented Generation) -> Este concepto es el más importante para gestionar precisamente nuestra base de conocimiento. Para explicarlo mejor vamos a ver un esquema:
Como vemos en este esquema tenemos, a la izquierda, nuestro conjunto desordenado de cientos de documentos, documentación, webs, procesos, etc… a partir de aquí, tenemos nuestra BBDD vectorial, que contendrá “pedazos” de todos estos documentos, etc, junto con los embeedings generados por el modelo que hayamos escogido para alimentar dicha BBDD. Hasta aquí la base de conocimiento.
El otro elemento importantísimo dentro de nuestro sistema será el modelo que hayamos escogido para buscar en nuestra BBDD, ya existen muchos LLMs (Large Language Models) que nos realizan esta funcion, este será, por así decirlo, el cerebro de nuestro agente de IA, el que va a procesar nuestras peticiones.
A partir de este punto, el proceso es bastante simple
- El usuario hace una consulta, por ejemplo, algo relativo a un procedimiento para contactar a un cliente potencial y verificar si ya es cliente nuestro, o lo ha sido en algún momento
- El agente IA hará de intermediario entre el usuario, traduciendo su petición a una búsqueda en la base de conocimiento
- El resultado de esa búsqueda se le comunicará al usuario, de igual forma, en lenguaje natural, aquí pueden pasar varias cosas
- No se ha encontrado información acerca de la consulta
- Se encuentra información y se traslada al usuario
- El usuario no tiene permiso para acceder a dicha información -> Se le comunica a dicho usuario
Esto podría acabar aquí, pero aquí entra la magia del RAG. El usuario, a partir de esa respuesta se puede iniciar una conversación, en la que el agente IA mantiene el contexto de consultas anteriores. No solo eso, estas respuestas son procesadas también por el agente de IA y añadidas a la BBDD Vectorial con sus embeedings correspondientes, alimentando esta BBDD y mejorando con la interacción con los usuarios, incluso si el usuario aporta información relevante, esta se añadirá a la base de conocimiento, usándose en futuras interacciones con otros usuarios.
Ventajas de la base de conocimiento con RAG
Como podéis ver, las ventajas son enormes, vamos a destacar algunas:
- Rapidez a la hora de encontrar la información.- El uso de BBDD Vectoriales y de agentes IA minimiza el tiempo de obtención de la información. Solo por esto ya merece la pena su implantación.
- Mejora en la toma de decisiones.- Al tener acceso rápido a la información, las decisiones que tomen los empleados van a estar mucho mejor documentadas.
- Base de conocimiento consistente.- Una base de conocimiento centralizada y autogestionada impide, en gran medida, que la información se disperse o quede fuera de nuestro control.
- Escalabilidad.- Usando RAG y agentes de IA, la cantidad de información que podemos almacenar y, sobre todo, gestionar, crece de manera exponencial, esto hace que el crecimiento de la empresa no suponga un problema a nivel de mantener la información controlada.
- Muy efectiva a nivel de costes.- Podemos reducir de manera significativa el coste de personal asociado a mantener información, clasificarla, etc. A la larga, el ahorro puede ser muy importante manteniendo un sistema gestionado por IA para mantener la base de conocimiento y la información de nuestra empresa.
Conclusión
Crear una base de conocimiento usando RAG es una muy buena idea y, además, una muy buena aproximación al mundo de la Inteligencia Artificial aplicada a empresas. Combinando la potencia de modelos de IA generativa y bases de datos vectoriales proveeremos a nuestra empresa de una herramienta potentísima para encontrar información de manera rápida y eficiente, siendo especialmente útil en empresas que empiezan a tener un tamaño relativamente importante.
Por último, te invitamos a explorar nuestro artículo sobre eventos tecnológicos para 2024, donde encontrarás información sobre conferencias y eventos relevantes que pueden ayudarte a mantenerte actualizado con las últimas tendencias en inteligencia artificial y tecnología empresarial.