Integramos modelos de lenguaje extendido (LLM) tales como Llama2, ChatGPT, Falcon y muchos más, en el entorno de negocio de forma segura y sostenible con tecnologias estable sy robustas en el ecosistema Java EE.
Estos modelos permiten automatizar tareas, con un lenguaje más "humano" e interacción con el cliente; a través de aplicaciones que "inyectan el conocimiento/contexto de la empresa/negocio modelo" tales como RAG (retrieval augmented generation), es posible personalizar y lograr reutilizar el máximo de conocimiento y maximizar la experiencia de atención al cliente y de automatización de procesos.
Adicionalmente a las integraciones con LLM en la nube, para empresas con regulación alta en temas de seguridad/privacidad, los motores de IA locales, (de código abierto) permiten tener máximo control de privacidad,e interconexión segura con fuentes de datos documentales, integraciones con sistemas existentes (acceso directo por web services, buses de integración o frameworks flexibles para personalización y extensión , así como entrenar de forma personalizada el modelo y ejecutar de acciones en aplicaciones externas.
En nuestro caso, la integración se ofrece con frameworks robustos basados en el ecosistema Java empresarial (Java, Kotlin, Grrovy, etc) , pudiendo escoger opciones entre: Spring IA y LangChain4J.
Al efectuarse la integración con esta plataforma, es posible reutilizar todas las características, frameworks, herramientas disponibles para integración, que ya están disponibles en modelos de software libre en nuestro portafolio, desde mensajería con Apache Kafka, integración de apps con Redhat quarkus, Apache camel, WS02 microintegrator y muchos más.
Algunos ejemplos/casos de uso, para simplificar tareas pueden ser:
-Atención de PQR, chat informativos
-Procesamiento de documental
-Mejoramiento en atención a cliente y muchos más