> For the complete documentation index, see [llms.txt](https://langtech-bsc.gitbook.io/aina-kit/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://langtech-bsc.gitbook.io/aina-kit/models/models-de-text.md). # Models de text ### Models llestos per utilitzar (instruïts)


_{Descripció / Funció}	LLM instruït (multilingüe)	_{Nom model}	ALIA-40b-instruct-2601	_{Model card}	https://huggingface.co/BSC-LT/ALIA-40b-instruct-2601	_Comentaris	Darrera versió de la família de models ALIA. Tot i que el desenvolupament continua en curs i s’esperen futures actualitzacions, aquesta versió ja incorpora diverses millores rellevants respecte a edicions anteriors, com ara un seguiment d’instruccions més acurat, una major robustesa davant entrades sorolloses o ambigües, una alineació de seguretat reforçada i capacitats ampliades per al tractament de contextos llargs.
_{Descripció / Funció}	LLM instruït (multilingüe)	_{Nom model}	ALIA-40b-instruct-2601-GGUF	_{Model card}	https://huggingface.co/BSC-LT/ALIA-40b-instruct-2601-GGUF	_Comentaris	Versió quantitzada GGUF del model ALIA-40b-instruct-2601
_{Descripció / Funció}	LLM instruït (anglès, castellà, català)	_{Nom model}	salamandra-7b-instruct	_{Model card}	https://huggingface.co/BSC-LT/salamandra-7b-instruct	_Comentaris	Model salamandra-7b entrenat amb 276.000 instruccions en anglès, castellà i català, recollides de diversos corpus oberts
_{Descripció / Funció}	LLM instruït (anglès, castellà, català)	_{Nom model}	salamandra-2b-instruct	_{Model card}	https://huggingface.co/BSC-LT/salamandra-2b-instruct	_Comentaris	Model salamandra-2b entrenat amb 276.000 instruccions en anglès, castellà i català, recollides de diversos corpus oberts.

### Models per a desenvolupadors (fundacionals i per a fine-tuning)

Descripció / Funció	Nom model	Model card	Comentaris
LLM (multilingüe)	ALIA-40b	https://huggingface.co/BSC-LT/ALIA-40b	Model generatiu multilingüe, entrenat des de zero en 35 idiomes europeus, amb 40.000 milions de paràmetres i 9,37 bilions de tokens.
LLM (multilingüe)	salamandra-7b	https://huggingface.co/BSC-LT/salamandra-7b	Model generatiu multilingüe entrenat des de zero en 35 llengües europees, amb 7.000 milions de paràmetres i 12,875 bilions de tokens.
LLM (multilingüe)	salamandra-2b	https://huggingface.co/BSC-LT/salamandra-2b	Model generatiu multilingüe, entrenat des de zero en 35 llengües europees, amb 2.000 milions de paràmetres i 12,875 bilions de tokens.
Model transformer (català–anglès)	MrBERT-ca	https://huggingface.co/BSC-LT/MrBERT-ca	Model bilingüe català–anglès basat en ModernBERT i derivat de MrBERT-es mitjançant una adaptació de vocabulari i ajust dels embeddings. Posteriorment, es continua el seu preentrenament amb 47.400 milions de tokens equilibrats entre ambdues llengües.
Model transformer (català)	RoBERTa-ca	https://huggingface.co/BSC-LT/RoBERTa-ca	Model per al català basat en RoBERTa, amb pesos inicialitzats des de mRoBERTa i ajustaments als embeddings per a diferències de tokenització. Preentrenat de manera contínua amb 95 GB de dades en català d'alta qualitat.
Model transformer (català)	DistilRoBERTa-base-ca-v2	https://huggingface.co/projecte-aina/distilroberta-base-ca-v2	Versió destil·lada del model RoBERTa-base-ca-v2. Això fa que el model sigui més lleuger i ràpid que l'original, a costa d'un rendiment lleugerament inferior.
Model longformer (català)	longformer-base-4096-ca-v2	https://huggingface.co/projecte-aina/longformer-base-4096-ca-v2	Versió longformer del model RoBERTa-base-ca-v2 que permet processar contextos de fins a 4096 tokens.
Model transformer (català)	RoBERTa-base-ca-v2	https://huggingface.co/projecte-aina/roberta-base-ca-v2	Model basat en el model RoBERTa base i entrenat amb la segona versió del corpus textual català.
Model transformer (català)	RoBERTa-large-ca-v2	https://huggingface.co/projecte-aina/roberta-large-ca-v2	Model basat en el model RoBERTa large i entrenat amb la segona versió del corpus textual català.
Model sentence-transformer (català)	ST-NLI-ca	https://huggingface.co/projecte-aina/ST-NLI-ca_paraphrase-multilingual-mpnet-base	Model sentence-transformer desenvolupat a partir del model multilingüe parafrase-multilingual-mpnet-base-v2 utilitzant dos conjunts de dades de NLI en català: TE-ca i XNLI-ca. Aquest model mapeja frases i paràgrafs a un espai vectorial de 768 dimensions i es pot utilitzar per a tasques com clustering o cerca semàntica.

### Adaptació de models a tasques específiques

Descripció / Funció	Nom model	Model card	Comentaris
Moderació de continguts	Salamandra-7b-instruct-guard	https://huggingface.co/BSC-LT/salamandra-7b-instruct-guard	Model de classificació de seguretat dissenyat per a la moderació de contingut en català, castellà i anglès. Està construït sobre Salamandra-7b-Instruct.
Pregunta-Resposta en un entorn RAG	Salamandra 7B aligned EADOP	https://huggingface.co/projecte-aina/salamandra-7b-aligned-EADOP	Prova de concepte per demostrar com l'ajustament amb dades dins i fora del domini millora un xatbot RAG específic, assegurant respostes adequades dins del seu àmbit i evitant respostes fora de context. El model s'ha adaptat al conjunt de dades alinia/EADOP-RAG-out-of-domain amb més de 2.000 missatges recollits en col·laboració amb l'Entitat Autònoma del Diari Oficial i de Publicacions.
Reconeixement d’entitats (NER)	DEBERTA_CIEL	https://huggingface.co/projecte-aina/DEBERTA_CIEL	Model de reconeixement d'entitats multilingües (castellà, català i anglès) basat en el model deberta-v3-large i adaptat amb el conjunt de dades CEIL.
Reconeixement d’entitats (NER)	multiner_ceil	https://huggingface.co/projecte-aina/multiner_ceil	Model de reconeixement d'entitats en català basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades CEIL.
Reconeixement d’entitats (NER)	roberta-base-ca-v2-cased-ner	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-ner	Model de reconeixement d'entitats en català basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades AnCora-Ca-NER.
Classificació textual	roberta-base-ca-v2-cawikitc	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cawikitc	Model de classificació textual zero-shot en català basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades de classificació CaWikiTC reformulat com a implicació.
Classificació textual	roberta-base-ca-v2-cased-tc	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-tc	Model de classificació textual basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades TeCla.
Classificació textual	roberta-base-ca-v2-cased-wikicat-ca	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-wikicat-ca	Model de classificació textual (seguint la classificació de la Viquipèdia) basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades WikiCAT_ca.
Similitud textual semàntica	roberta-base-ca-v2-cased-sts	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-sts	Model de similitud textual semàntica basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades STS-ca.
Annotació morfosintàctica (POS)	roberta-base-ca-v2-cased-pos	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-pos	Model d'anotació morfosintàctic basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades Ancora-ca-pos.
Pregunta - resposta	roberta-base-ca-v2-cased-qa	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-qa	Model de pregunta- resposta basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades CatalanQA.
Implicació textual	roberta-base-ca-v2-cased-te	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-te	Model d'implicació textual basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades TE-ca.
Paràfrasi	roberta-large-ca-paraphrase	https://huggingface.co/projecte-aina/roberta-large-ca-paraphrase	Model de paràfrasi basat en el model RoBERTa-large-ca-v2 i adaptat amb el conjunt de dades Parafraseja.
Classificació d’intents	roberta-base-ca-v2-massive	https://huggingface.co/projecte-aina/roberta-base-ca-v2-massive	Model de classificació d'intents basat en el model RoBERTa-base-ca-v2 i adaptat amb les dades en català incloses al conjunt de dades MASSIVE 1.1.
Classificació d’intents	roberta-large-ca-v2-massive	https://huggingface.co/projecte-aina/roberta-large-ca-v2-massive	Model de classificació d'intents basat en el model RoBERTa-large-ca-v2 i adaptat amb el conjunt de dades MASSIVE 1.1.

### Word Embeddings

Descripció / Funció	Nom model	Model card	Comentaris
Word embeddings	Catalan CBOW Word Embeddings in Floret	https://zenodo.org/records/7330331	Word embeddings Floret per al català, entrenats amb un corpus de més de 34 GB.