Strona główna Odkrywaj Pomoc
Zarejestruj się Zaloguj się
marx
/
llama-recipes
1
0
Forkuj 0
Pliki Problemy 0 Oczekujące zmiany 0 Wiki
Drzewo: 2f1154282f
Gałęzie Tagi
llama-recipes
/
recipes
/
responsible_ai
Beto 6f53f26e05 Merge branch 'main' into l3p/llama_guard 7 miesięcy temu
..
llama_guard 64bea6e60b updating readme ahead of release 7 miesięcy temu
CodeShieldUsageDemo.ipynb 81642c247d Create CodeShieldUsageDemo.ipynb 7 miesięcy temu
Purple_Llama_Anyscale.ipynb f53f17138b fix dead links after refactor 8 miesięcy temu
Purple_Llama_OctoAI.ipynb f53f17138b fix dead links after refactor 8 miesięcy temu
README.md 6d449a859b New folder structure (#1) 8 miesięcy temu
input_output_guardrails_with_llama.ipynb a404c9249c Notebook to demonstrate using llama and llama-guard together using OctoAI 8 miesięcy temu

README.md

Llama Guard

Llama Guard is a new experimental model that provides input and output guardrails for LLM deployments. For more details, please visit the main repository.

Note Please find the right model on HF side here.

Running locally

The llama_guard folder contains the inference script to run Llama Guard locally. Add test prompts directly to the inference script before running it.

Running on the cloud

The notebooks Purple_Llama_Anyscale & Purple_Llama_OctoAI contain examples for running Llama Guard on cloud hosted endpoints.