Pierwsze wydanie Modele LLaMA zostały zapowiedziane 24 lutego 2023 w poście na blogu oraz dokumencie opisującym szkolenie modelu, jego architekturę oraz możliwości. Kod potrzebny do uruchomienia modelu został publicznie udostępniony na licencji otwarto źródłowej GPLv3. Dostęp do wag modelu przyznawano poprzez proces aplikacji, by ograniczyć nadużycia. Dostęp miał być przyznawany w indywidualnych przypadkach badaczom akademickim, osobom powiązanym z organizacjami rządowymi, instytucjom pozarządowym, środowiskowi akademickiemu oraz laboratoriom badawczym w sektorze przemysłowym na całym świecie.

Llama została wytrenowana wyłącznie na podstawie publicznie dostępnych informacji i w różnych rozmiarach, co miało na celu uczynienie jej bardziej dostępnej dla różnego sprzętu. Model ten był wyłącznie modelem bazowym⁣, chociaż w dokumencie opisującym model zawarto przykłady wersji modelu dostrojonego pod kątem instrukcji.

Firma Meta AI podała, że wydajność modelu o 13 miliardach parametrów (13B) w większości testów NLP przewyższała wydajność znacznie większego modelu GPT-3 (175 mld parametrów), a największy model o 65 mld parametrów (65B) był konkurencyjny w stosunku do najnowocześniejszych ówcześnie modeli, takich jak PaLM i Chinchilla.