Instructions to use akiroussama/bebe-gpt-ca-titres with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use akiroussama/bebe-gpt-ca-titres with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="akiroussama/bebe-gpt-ca-titres")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("akiroussama/bebe-gpt-ca-titres")
model = AutoModelForCausalLM.from_pretrained("akiroussama/bebe-gpt-ca-titres", device_map="auto")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

llama.cpp

How to use akiroussama/bebe-gpt-ca-titres with llama.cpp:

Install (macOS, Linux)

curl -LsSf https://llama.app/install.sh | sh
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf akiroussama/bebe-gpt-ca-titres
# Run inference directly in the terminal:
llama cli -hf akiroussama/bebe-gpt-ca-titres

Install from WinGet (Windows)

winget install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf akiroussama/bebe-gpt-ca-titres
# Run inference directly in the terminal:
llama cli -hf akiroussama/bebe-gpt-ca-titres

Use pre-built binary

# Download pre-built binary from:
# https://github.com/ggerganov/llama.cpp/releases
# Start a local OpenAI-compatible server with a web UI:
./llama-server -hf akiroussama/bebe-gpt-ca-titres
# Run inference directly in the terminal:
./llama-cli -hf akiroussama/bebe-gpt-ca-titres

Build from source code

git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-server llama-cli
# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama-server -hf akiroussama/bebe-gpt-ca-titres
# Run inference directly in the terminal:
./build/bin/llama-cli -hf akiroussama/bebe-gpt-ca-titres

Use Docker

docker model run hf.co/akiroussama/bebe-gpt-ca-titres

LM Studio
Jan

vLLM

How to use akiroussama/bebe-gpt-ca-titres with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "akiroussama/bebe-gpt-ca-titres"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "akiroussama/bebe-gpt-ca-titres",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/akiroussama/bebe-gpt-ca-titres

SGLang

How to use akiroussama/bebe-gpt-ca-titres with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "akiroussama/bebe-gpt-ca-titres" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "akiroussama/bebe-gpt-ca-titres",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "akiroussama/bebe-gpt-ca-titres" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "akiroussama/bebe-gpt-ca-titres",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Ollama
How to use akiroussama/bebe-gpt-ca-titres with Ollama:
```
ollama run hf.co/akiroussama/bebe-gpt-ca-titres
```
Unsloth Desktop
Docker Model Runner
How to use akiroussama/bebe-gpt-ca-titres with Docker Model Runner:
```
docker model run hf.co/akiroussama/bebe-gpt-ca-titres
```

Lemonade

How to use akiroussama/bebe-gpt-ca-titres with Lemonade:

Pull the model

# Download Lemonade from https://lemonade-server.ai/
lemonade pull akiroussama/bebe-gpt-ca-titres

Run and chat with the model

lemonade run user.bebe-gpt-ca-titres-{{QUANT_TAG}}

List all available models

lemonade list

Atomic Chat

bebe-gpt-ca-titres

Mini-transformer (architecture GPT2) entraîné de zéro (poids aléatoires au départ) qui route une demande client vers une filière bancaire. C'est un objet pédagogique : il sert à montrer, en formation, que « le LLM que vous utilisez tous les jours, c'est CECI — les mêmes briques (tokens, contexte, prédiction du token suivant, gradient), mais ~200 000 fois plus gros ».

On l'a fabriqué de A à Z (données → entraînement → format GGUF) et il tourne en local dans LM Studio comme n'importe quel vrai modèle.

Modèle jouet, entraîné sur 120 demandes fictives (aucune donnée réelle, aucun nom de client). À ne pas utiliser pour autre chose qu'une démo.

Fiche technique

Champ	Valeur
Architecture	GPT2 décodeur — `n_layer=4`, `n_head=4`, `n_embd=128`, `n_ctx=128`
Paramètres	~7,2 M (7 242 624)
Tokenizer	GPT2 BPE standard (vocab 50257)
Pré-entraînement	aucun (from scratch)
Entraînement	80 epochs, AdamW lr 5e-4, ~3 min sur CPU, perte finale 0,167
Format	`safetensors` (Hugging Face) et `bebe-gpt-ca-titres.gguf` (f16, 16 Mo)
Filières	VALEURS_MOBILIERES, EPARGNE_SALARIALE, EPARGNE_BANCAIRE, MOBILITE_BANCAIRE

Utilisation dans LM Studio (GGUF)

Le GGUF embarque un template de chat. Dans l'onglet Chat, tape la demande en français naturel et envoie — la filière sort :

passer un ordre d'achat sur une action   ->  VALEURS_MOBILIERES
cloturer mon depot a terme                ->  EPARGNE_BANCAIRE

Régler Temperature = 0. Runtime CPU (avx2) recommandé.

Utilisation en complétion brute (llama.cpp / API)

Modèle de complétion : amorcer avec {demande} => (sans espace après le => — l'espace casse la tokenisation BPE), greedy.

prompt : "passer un ordre d'achat sur une action =>"
sortie : " VALEURS_MOBILIERES"

Résultats

Sur un banc de 10 phrases tenues à l'écart de l'entraînement : 10/10 de bonne filière (en complétion brute et dans LM Studio).

Limites (le vrai enseignement)

Aucun « je ne sais pas ». Hors domaine, il force une filière avec aplomb (« quelle est la capitale de la France » → une filière au hasard). Il ne comprend pas : il complète.
Sur-apprentissage assumé sur 120 exemples ; sensible au format du prompt.
Pas de garde-fous (ton, refus, sûreté) : c'est ce qu'un vrai LLM ajoute, invisible sur 4 filières.

Données

120 demandes fictives, 4 filières équilibrées (30 chacune), 100 % neutres.

Licence

MIT. Fabriqué pour une formation GEN AI (Comundi / CA Titres).

Downloads last month: 36

Safetensors

Model size

7.24M params

Tensor type

F32