# Models de text ### Models llestos per utilitzar (instruïts)


_{Descripció / Funció}	LLM instruït (multilingüe)	_{Nom model}	ALIA-40b-instruct-2601	_{Model card}	https://huggingface.co/BSC-LT/ALIA-40b-instruct-2601	_Comentaris	Darrera versió de la família de models ALIA. Tot i que el desenvolupament continua en curs i s’esperen futures actualitzacions, aquesta versió ja incorpora diverses millores rellevants respecte a edicions anteriors, com ara un seguiment d’instruccions més acurat, una major robustesa davant entrades sorolloses o ambigües, una alineació de seguretat reforçada i capacitats ampliades per al tractament de contextos llargs.
_{Descripció / Funció}	LLM instruït (multilingüe)	_{Nom model}	ALIA-40b-instruct-2601-GGUF	_{Model card}	https://huggingface.co/BSC-LT/ALIA-40b-instruct-2601-GGUF	_Comentaris	Versió quantitzada GGUF del model ALIA-40b-instruct-2601
_{Descripció / Funció}	LLM instruït (anglès, castellà, català)	_{Nom model}	salamandra-7b-instruct	_{Model card}	https://huggingface.co/BSC-LT/salamandra-7b-instruct	_Comentaris	Model salamandra-7b entrenat amb 276.000 instruccions en anglès, castellà i català, recollides de diversos corpus oberts
_{Descripció / Funció}	LLM instruït (anglès, castellà, català)	_{Nom model}	salamandra-2b-instruct	_{Model card}	https://huggingface.co/BSC-LT/salamandra-2b-instruct	_Comentaris	Model salamandra-2b entrenat amb 276.000 instruccions en anglès, castellà i català, recollides de diversos corpus oberts.

### Models per a desenvolupadors (fundacionals i per a fine-tuning)

Descripció / Funció	Nom model	Model card	Comentaris
LLM (multilingüe)	ALIA-40b	https://huggingface.co/BSC-LT/ALIA-40b	Model generatiu multilingüe, entrenat des de zero en 35 idiomes europeus, amb 40.000 milions de paràmetres i 9,37 bilions de tokens.
LLM (multilingüe)	salamandra-7b	https://huggingface.co/BSC-LT/salamandra-7b	Model generatiu multilingüe entrenat des de zero en 35 llengües europees, amb 7.000 milions de paràmetres i 12,875 bilions de tokens.
LLM (multilingüe)	salamandra-2b	https://huggingface.co/BSC-LT/salamandra-2b	Model generatiu multilingüe, entrenat des de zero en 35 llengües europees, amb 2.000 milions de paràmetres i 12,875 bilions de tokens.
Model transformer (català–anglès)	MrBERT-ca	https://huggingface.co/BSC-LT/MrBERT-ca	Model bilingüe català–anglès basat en ModernBERT i derivat de MrBERT-es mitjançant una adaptació de vocabulari i ajust dels embeddings. Posteriorment, es continua el seu preentrenament amb 47.400 milions de tokens equilibrats entre ambdues llengües.
Model transformer (català)	RoBERTa-ca	https://huggingface.co/BSC-LT/RoBERTa-ca	Model per al català basat en RoBERTa, amb pesos inicialitzats des de mRoBERTa i ajustaments als embeddings per a diferències de tokenització. Preentrenat de manera contínua amb 95 GB de dades en català d'alta qualitat.
Model transformer (català)	DistilRoBERTa-base-ca-v2	https://huggingface.co/projecte-aina/distilroberta-base-ca-v2	Versió destil·lada del model RoBERTa-base-ca-v2. Això fa que el model sigui més lleuger i ràpid que l'original, a costa d'un rendiment lleugerament inferior.
Model longformer (català)	longformer-base-4096-ca-v2	https://huggingface.co/projecte-aina/longformer-base-4096-ca-v2	Versió longformer del model RoBERTa-base-ca-v2 que permet processar contextos de fins a 4096 tokens.
Model transformer (català)	RoBERTa-base-ca-v2	https://huggingface.co/projecte-aina/roberta-base-ca-v2	Model basat en el model RoBERTa base i entrenat amb la segona versió del corpus textual català.
Model transformer (català)	RoBERTa-large-ca-v2	https://huggingface.co/projecte-aina/roberta-large-ca-v2	Model basat en el model RoBERTa large i entrenat amb la segona versió del corpus textual català.
Model sentence-transformer (català)	ST-NLI-ca	https://huggingface.co/projecte-aina/ST-NLI-ca_paraphrase-multilingual-mpnet-base	Model sentence-transformer desenvolupat a partir del model multilingüe parafrase-multilingual-mpnet-base-v2 utilitzant dos conjunts de dades de NLI en català: TE-ca i XNLI-ca. Aquest model mapeja frases i paràgrafs a un espai vectorial de 768 dimensions i es pot utilitzar per a tasques com clustering o cerca semàntica.

### Adaptació de models a tasques específiques

Descripció / Funció	Nom model	Model card	Comentaris
Moderació de continguts	Salamandra-7b-instruct-guard	https://huggingface.co/BSC-LT/salamandra-7b-instruct-guard	Model de classificació de seguretat dissenyat per a la moderació de contingut en català, castellà i anglès. Està construït sobre Salamandra-7b-Instruct.
Pregunta-Resposta en un entorn RAG	Salamandra 7B aligned EADOP	https://huggingface.co/projecte-aina/salamandra-7b-aligned-EADOP	Prova de concepte per demostrar com l'ajustament amb dades dins i fora del domini millora un xatbot RAG específic, assegurant respostes adequades dins del seu àmbit i evitant respostes fora de context. El model s'ha adaptat al conjunt de dades alinia/EADOP-RAG-out-of-domain amb més de 2.000 missatges recollits en col·laboració amb l'Entitat Autònoma del Diari Oficial i de Publicacions.
Reconeixement d’entitats (NER)	DEBERTA_CIEL	https://huggingface.co/projecte-aina/DEBERTA_CIEL	Model de reconeixement d'entitats multilingües (castellà, català i anglès) basat en el model deberta-v3-large i adaptat amb el conjunt de dades CEIL.
Reconeixement d’entitats (NER)	multiner_ceil	https://huggingface.co/projecte-aina/multiner_ceil	Model de reconeixement d'entitats en català basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades CEIL.
Reconeixement d’entitats (NER)	roberta-base-ca-v2-cased-ner	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-ner	Model de reconeixement d'entitats en català basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades AnCora-Ca-NER.
Classificació textual	roberta-base-ca-v2-cawikitc	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cawikitc	Model de classificació textual zero-shot en català basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades de classificació CaWikiTC reformulat com a implicació.
Classificació textual	roberta-base-ca-v2-cased-tc	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-tc	Model de classificació textual basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades TeCla.
Classificació textual	roberta-base-ca-v2-cased-wikicat-ca	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-wikicat-ca	Model de classificació textual (seguint la classificació de la Viquipèdia) basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades WikiCAT_ca.
Similitud textual semàntica	roberta-base-ca-v2-cased-sts	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-sts	Model de similitud textual semàntica basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades STS-ca.
Annotació morfosintàctica (POS)	roberta-base-ca-v2-cased-pos	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-pos	Model d'anotació morfosintàctic basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades Ancora-ca-pos.
Pregunta - resposta	roberta-base-ca-v2-cased-qa	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-qa	Model de pregunta- resposta basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades CatalanQA.
Implicació textual	roberta-base-ca-v2-cased-te	https://huggingface.co/projecte-aina/roberta-base-ca-v2-cased-te	Model d'implicació textual basat en el model RoBERTa-base-ca-v2 i adaptat amb el conjunt de dades TE-ca.
Paràfrasi	roberta-large-ca-paraphrase	https://huggingface.co/projecte-aina/roberta-large-ca-paraphrase	Model de paràfrasi basat en el model RoBERTa-large-ca-v2 i adaptat amb el conjunt de dades Parafraseja.
Classificació d’intents	roberta-base-ca-v2-massive	https://huggingface.co/projecte-aina/roberta-base-ca-v2-massive	Model de classificació d'intents basat en el model RoBERTa-base-ca-v2 i adaptat amb les dades en català incloses al conjunt de dades MASSIVE 1.1.
Classificació d’intents	roberta-large-ca-v2-massive	https://huggingface.co/projecte-aina/roberta-large-ca-v2-massive	Model de classificació d'intents basat en el model RoBERTa-large-ca-v2 i adaptat amb el conjunt de dades MASSIVE 1.1.

### Word Embeddings

Descripció / Funció	Nom model	Model card	Comentaris
Word embeddings	Catalan CBOW Word Embeddings in Floret	https://zenodo.org/records/7330331	Word embeddings Floret per al català, entrenats amb un corpus de més de 34 GB.

--- # Agent Instructions: Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter: ``` GET https://langtech-bsc.gitbook.io/aina-kit/models/models-de-text.md?ask= ``` The question should be specific, self-contained, and written in natural language. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.