add llm sections

Author: fcomte

_quarto-en.yml

@@ -29,4 +29,12 @@ website:
         - text: "Course structure"
           href: content/tutorials/course-structure.qmd
         - text: "Set up an environment"
-          href: content/tutorials/set-up-environment.qmd
+          href: content/tutorials/set-up-environment.qmd
+      - text: "LLM as a service"
+        menu:
+        - text: "Introduction"
+          href: content/llm/introduction.qmd
+        - text: "Use chatbot"
+          href: content/llm/tchat.qmd
+        - text: "Use the api"
+          href: content/llm/api.md

_quarto-fr.yml

@@ -26,4 +26,12 @@ website:
         - text: "Structurer le cours"
           href: content/tutorials/course-structure.qmd
         - text: "Configurer l'environnement"
-          href: content/tutorials/set-up-environment.qmd
+          href: content/tutorials/set-up-environment.qmd
+      - text: "LLM à la demande"
+        menu:
+        - text: "Introduction"
+          href: content/llm/introduction.qmd
+        - text: "Utilisez le tchat"
+          href: content/llm/tchat.qmd
+        - text: "Utilsez l'api"
+          href: content/llm/api.md

content/llm/api.qmd

@@ -0,0 +1,82 @@
+::: {.content-visible when-profile="fr"}
+
+# Utiliser les LLM de façon programmatique
+
+## Générer une clé d'API
+
+Pour utiliser les Large Language Models (LLM) de façon programmatique, il est nécessaire de générer une clé d'API. Cette clé vous permettra d'authentifier vos requêtes et d'accéder aux fonctionnalités offertes par le service.
+
+1. **Connexion à la plateforme** :
+   - Accédez à la plateforme SSP Cloud via votre navigateur.
+   - Connectez-vous avec vos identifiants SSO.
+
+2. **Génération de la clé d'API** :
+   - Une fois connecté, rendez-vous dans la section dédiée à la gestion des clés d'API.
+   - Cliquez sur votre nom, puis sur "Paramètres" et ensuite sur "Compte".
+   - Une section dédiée permet de générer une clé d'API.
+
+3. **Sécurisation de la clé** :
+   - Vous pourrez accéder à votre clé à tout moment.
+   - Ne la partagez pas publiquement pour éviter tout accès non autorisé.
+
+## Comprendre l'API proposée par OpenWebUI
+
+L'API proposée par OpenWebUI permet d'interagir avec les LLM de manière programmatique. Voici quelques points clés pour comprendre et utiliser cette API.
+
+### Endpoints disponibles
+
+Une interface OpenAI est disponible :
+- **Endpoint de base** : `https://llm.lab.sspcloud.fr/api`
+- **Authentification** : Toutes les requêtes doivent inclure votre clé d'API dans l'en-tête `Authorization`.
+
+Un proxy vers l'interface Ollama est également disponible :
+- **Endpoint de base** : `https://llm.lab.sspcloud.fr/ollama`
+- **Authentification** : Toutes les requêtes doivent inclure votre clé d'API dans l'en-tête `Authorization`.
+
+::: {.callout-warning}
+Les clients programmatiques Ollama possèdent rarement la capacité d'ajouter une clé d'API. Ce proxy est donc difficilement utilisable.
+:::
+
+:::
+
+
+
+::: {.content-visible when-profile="en"}
+
+# Using LLMs Programmatically
+
+## Generating an API Key
+
+To use Large Language Models (LLM) programmatically, it is necessary to generate an API key. This key will allow you to authenticate your requests and access the features offered by the service.
+
+1. **Connecting to the Platform** :
+   - Access the SSP Cloud platform via your browser.
+   - Log in with your SSO credentials.
+
+2. **Generating the API Key** :
+   - Once logged in, go to the section dedicated to API key management.
+   - Click on your name, then on "Settings" and then on "Account".
+   - A dedicated section allows you to generate an API key.
+
+3. **Securing the Key** :
+   - You will be able to access your key at any time.
+   - Do not share it publicly to avoid unauthorized access.
+
+## Understanding the API Provided by OpenWebUI
+
+The API provided by OpenWebUI allows you to interact with LLMs programmatically. Here are some key points to understand and use this API.
+
+### Available Endpoints
+
+An OpenAI interface is available:
+- **Base Endpoint** : `https://llm.lab.sspcloud.fr/api`
+- **Authentication** : All requests must include your API key in the `Authorization` header.
+
+A proxy to the Ollama interface is also available:
+- **Base Endpoint** : `https://llm.lab.sspcloud.fr/ollama`
+- **Authentication** : All requests must include your API key in the `Authorization` header.
+
+::: {.callout-warning}
+Ollama programmable clients rarely have the capability to add an API key. This proxy is therefore difficult to use.
+:::
+:::

content/llm/introduction.qmd

@@ -0,0 +1,27 @@
+::: {.content-visible when-profile="fr"}
+
+# Introduction
+Le SSP Cloud est une plateforme de traitement de données dédiée à l'expérimentation autour des méthodes de data science, en utilisant des données ouvertes. Elle offre un environnement mutualisé pour les utilisateurs, leur permettant de lancer, personnaliser et gérer divers services de manière autonome. Parmi les services disponibles, la mise à disposition de Large Language Models (LLM) à la demande représente une avancée significative. Ces modèles permettent d'automatiser des tâches complexes, d'accélérer l'accès à l'information et d'optimiser les processus métiers. Les LLM facilitent les interactions via le traitement du langage naturel, offrant ainsi des solutions adaptées aux besoins spécifiques des utilisateurs. En intégrant ces technologies, le SSP Cloud se positionne comme un levier essentiel pour améliorer la formation et le maquettage dans le domaine de l'intelligence artificielle.
+
+# Architecture
+Le service de mise à disposition des Large Language Models (LLM) à la demande sur le SSP Cloud repose sur une architecture innovante et modulaire. Au cœur de cette architecture se trouve une instance OpenWebUI, qui sert d'interface utilisateur ouverte et flexible. Cette instance OpenWebUI interagit directement avec Ollama, une plateforme avancée de gestion et de déploiement de modèles de langage. Grâce à cette configuration, les utilisateurs peuvent facilement accéder, personnaliser et déployer des modèles LLM selon leurs besoins spécifiques. La liste des modèles disponibles est gérée par les administrateurs de la plateforme et est susceptible d'évoluer au fil du temps pour répondre aux nouvelles exigences et aux avancées technologiques.
+
+::: {.callout-warning}
+SSPCloud ne fournit pas d’accords de niveau de service (SLA) formels ni de garanties concernant la disponibilité du service. Cela signifie que les utilisateurs doivent être prêts à faire face à des interruptions ou des pannes de service potentielles.
+:::
+:::
+
+
+
+::: {.content-visible when-profile="en"}
+
+# Introduction
+SSP Cloud is a data processing platform dedicated to experimenting with data science methods using open data. It offers a shared environment for users to launch, customize, and manage various services autonomously. Among the available services, the on-demand provisioning of Large Language Models (LLM) represents a significant advancement. These models enable the automation of complex tasks, accelerate information access, and optimize business processes. LLMs facilitate interactions through natural language processing, thus offering solutions tailored to users' specific needs. By integrating these technologies, SSP Cloud positions itself as a key lever to improve training and prototyping in the field of artificial intelligence.
+
+# Why use SSP Cloud for Training?
+The service for providing Large Language Models (LLM) on demand in the SSP Cloud is based on an innovative and modular architecture. At the heart of this architecture is an instance of OpenWebUI, which serves as an open and flexible user interface. This OpenWebUI instance interacts directly with Ollama, an advanced platform for managing and deploying language models. Thanks to this configuration, users can easily access, customize, and deploy LLM models according to their specific needs. The list of available models is managed by the platform administrators and is likely to evolve over time to meet new requirements and technological advancements.
+
+::: {.callout-warning}
+SSPCloud does not provide formal service level agreements (SLAs) or guarantees regarding service availability. This means that users should be prepared for potential service interruptions or downtimes.
+:::
+:::

content/llm/tchat.qmd

@@ -0,0 +1,15 @@
+::: {.content-visible when-profile="fr"}
+
+# Comment utilisez le service ?
+La manière la plus simple d'utiliser le service est d'utiliser l'interface de chat proposée par OpenWebUI. Il suffit de se connecter au service via https://llm.lab.sspcloud.fr en utilisant l'authentification SSO de la plateforme, puis de démarrer une nouvelle conversation en sélectionnant le modèle souhaité.
+
+:::
+
+
+
+::: {.content-visible when-profile="en"}
+
+# How to use this service ?
+The easiest way to use the service is to utilize the chat interface provided by OpenWebUI. Simply log in to the service at https://llm.lab.sspcloud.fr using the platform's SSO authentication, and then start a new conversation by selecting the desired model.
+
+:::