Aina Kit
Aina Kit
  • Inici
  • 🤗Models
    • 🔠Models de text
    • 🗣️Models de parla
    • ↔️Models de traducció automàtica
    • 🏆Avaluació de models en llengua catalana
  • 📚Datasets
    • 🔠Dades i eines per a models de text
    • 🗣️Dades i eines per a models de veu
    • ↔️Dades per a la traducció automàtica
  • ▶️Testing
    • 🤗Via Hugging Face
    • ☁️Via integració amb serveis al núvol
    • 🐋Via Docker
    • 🧰Via pre-integració amb entorns de codi obert per a tecnologies del llenguatge
  • ▶️EINES D'INTEGRACIÓ
    • ☁️MTUOC
  • 🕹️Demostradors
    • 🤗A Spaces de Hugging Face
    • Page
Powered by GitBook

Social

  • Web
  • Twitter
  • Linkedin
  • Contacte

Tech

  • Blog
  • Huggingface
  • Github
  • Dockerhub

© Projecte Aina | Language Technologies Unit at BSC

On this page
  1. Testing

Via Docker

Last updated 7 months ago

També s’han preparat alguns models que requereixen poca capacitat de còmput en fer l’inferència com a “dockers” auto-continguts als quals es pot accedir mitjançant una RestFUL API.

  • RestFUL API i interfície web per servir models de síntesi de la parla

    • Accés al Docker:

    • Accés a GitHub:

  • RestFUL API per servir models de traducció automàtica

    • Accés al Docker:

    • Accés a GitHub:

Si teniu interès en que posem a disposició altres models en format "Docker", feu-nos arribar la .

Requisits mínims/recomanats per als models disponibles

Model
Type
MINIMUM GPU vRAM MEMORY
RECOMMENDED HARDWARE
Works on CPU?
Model
Type
MINIMUM GPU vRAM MEMORY
RECOMMENDED HARDWARE
Works on CPU?
Model
Type
MINIMUM GPU vRAM MEMORY
RECOMMENDED HARDWARE
Works on CPU?
Model
Type
MINIMUM GPU vRAM MEMORY
RECOMMENDED HARDWARE
Works on CPU?
Model
Type
MINIMUM GPU vRAM MEMORY
RECOMMENDED HARDWARE
Works on CPU?
Model
Type
MINIMUM GPU vRAM MEMORY
RECOMMENDED HARDWARE
Works on CPU?
▶️
🐋

Text Generation

24 GB

Minimum/Suggested:

NVIDIA A10G 24GB NVIDIA L4 24GB Next level: NVIDIA T4 60GB (4 GPUs) NVIDIA A10G 96GB (4 GPUs) NVIDIA A100 NVIDIA H100

No

Text Generation

24 GB

Minimum/Suggested:

NVIDIA A10G 24GB NVIDIA L4 24GB Next level: NVIDIA T4 60GB (4 GPUs) NVIDIA A10G 96GB (4 GPUs) NVIDIA A100 NVIDIA H100

No

Text Generation

-

Minimum: CPU with 4 cores and 8GB of RAM Suggested: NVIDIA T4 16GB Next level: NVIDIA A10G 24GB NVIDIA L4 24GB NVIDIA T4 60GB (4 GPUs) NVIDIA A10G 96GB (4 GPUs) NVIDIA A100 NVIDIA H100

Yes, but response times increase considerably.

Text Generation

-

Minimum: CPU with 4 cores and 8GB of RAM Suggested: NVIDIA T4 16GB Next level: NVIDIA A10G 24GB NVIDIA L4 24GB NVIDIA T4 60GB (4 GPUs) NVIDIA A10G 96GB (4 GPUs) NVIDIA A100 NVIDIA H100

Yes, but response times increase considerably.

Speech Recognition

16GB

Minimum/Suggested: NVIDIA T4 16GB NVIDIA L4 24GB NVIDIA A10G 24GB Next level: NVIDIA T4 60GB (4 GPUs) NVIDIA A10G 96GB (4 GPUs) NVIDIA A100 NVIDIA H100

No

Text to Speech

-

Minimum: CPU with 4 cores and 8GB of RAM NVIDIA GTX1060 (minimum tested by us, lower may work) Suggested: NVIDIA T4 16GB Next level: NVIDIA A10G 24GB NVIDIA L4 24GB NVIDIA T4 60GB (4 GPUs) NVIDIA A10G 96GB (4 GPUs) NVIDIA A100 NVIDIA H100

Yes

https://hub.docker.com/r/projecteaina/tts-api
https://github.com/projecte-aina/tts-api
https://hub.docker.com/r/projecteaina/mt-api
https://github.com/projecte-aina/mt-api
petició a través del formulari de contacte
BSC-LT/salamandra-7b-instruct
BSC-LT/salamandra-7b
BSC-LT/salamandra-2b-instruct
BSC-LT/salamandra-2b
projecte-aina/whisper-large-v3-ca-3catparla
projecte-aina/matxa-tts-cat-multiaccent