Senetic Blog IT – Microsoft, Office 365, Azure, Ubiquiti, MikroTik

La generación de la tarjeta GPU determina con qué formatos numéricos (precisiones) el chip ejecuta más rápido los cálculos de IA, qué ancho de banda tiene la memoria y cuánta energía necesita la tarjeta. En la oferta de tarjetas GPU profesionales NVIDIA coexisten tres generaciones: Ampere (p. ej., RTX A6000), Ada Lovelace (p. ej., RTX 6000 Ada) y Blackwell (p. ej., RT...

Un LLM local es un modelo de lenguaje de gran tamaño que se ejecuta en el ordenador o servidor de la empresa, no en la nube de un proveedor. Resulta rentable cuando la empresa trabaja con datos que no quiere enviar al exterior, utiliza la IA a diario y cuenta con alguien en el equipo que pueda mantener ese entorno. Si no se cumple ninguna de estas condiciones, bastan la nube ...