Die neuesten Sprachmodelle von Cohere und Meta Llama 2 werden als Managed Service zur Verfügung gestellt, der über API-Anfrage genutzt werden kann. Die Modelle lassen sich durch den Einsatz Retrieval Augmented Generation (RAG)-Techniken mit eigenen Daten verfeinern, um interne Abläufe besser zu verstehen.
Beta-Version nutzt RAG-Agenten
Der OCI Generative AI Agents Service, aktuell in der Beta-Version, nutzt einen RAG-Agenten, um die Fähigkeiten von LLMs mit einer auf OCI Open Search basierenden Unternehmenssuche zu verbinden. Dadurch können kontextbezogene und mit Unternehmensdaten angereicherte Ergebnisse geliefert werden.