LM Studio es una aplicacion que sirve para correr modelos de inteligencia artificial en nuestra PC, los modelos de Inteligencia artificial pueden ser de Vision, Razonamiento o Uso de herramientas.
LM Studio es un software gratis y libre que se puede descargar desde lmstidio.ai es su pagina oficial, se descarga y se instala como cualquier otro programa.
Instalando LM Studio
Al abrir el LM Studio nos vamos a encontrar con un Chat, en esta ventana vamos a poder conversar o hacerle preguntas al modelo de inteligencia que configuremos, inicialmente no vamos a tener un modelo.
Para descargar un modelo vamos a ir a el ultimo boton en la parte de la izquierda, el icono que tiene un robotcito y una lupa, esta es la opcion para descargar modelos, y la opcion penultima que tiene unos cuadritos es donde aparece el listado de los modelos que tenemos instalados.
Vamos a descargar el modelo: deepseek-r1-distill-llama-8b
Una vez que lo descarguemos se van a activar las opciones para seleccionar el modelo e iniciar un nuevo chat.
LM Studio puede descargar y correr casi cualquier modelo de Inteligencia Artifical en PC siempre y cuando nuestra PC lo soporte, si un modelo de IA no lo soporta nuestra PC aparecera un mensaje de Likely too large en rojo, indicando que no lo va a soportar nuestra computadora.
Que es Deepseek R1 Distill 8B ?
El modelo DeepSeek R1 Distill 8b es un modelo preparado para 8 billones de parametros
Este modelo de Deepseek esta preparado para entregar una mejor eficiencia en razonamiento, matematicas, y tareas de codigo manteniendo su exactitud.
Es ideal para computadoras de pocos o medios requerimientos.
En general es un buen modelo para empezar.
Chateando con DeepSeek en LM Studio
Ahora que ya tenemos descargado el modelo, LM Studio nos da la opcion de seleccionar el modelo, en caso de que tengamos mas modelos, podemos seleccionar y cambiar de modelo en cualquier momento.
En la parte superior se muestra el modelo seleccionado, y en la parte de abajo se muestra la caja de texto para hacer preguntas, se puede detener una respuesta si vemos que esta tardando mucho.
Las respuestas que nos devuelve el modelo las podemos copiar y si preguntamos cosas de programacion se van a mostrar en un formato de codigo que tambien podremos copiar.
Los chats los podemos guardar, pausar y continuar despues, los podemos organizar en carpetas dentro del LM Studio.
El tiempo que tarda en responder va a depender de las capacidades de nuestra computadora, por que la inteligencia artificial esta corriendo en nuestro propio hardware.
Ventajas y Desventajas
Hay muchas ventajas y desventajas.
Una de las mayores desventajas es el tiempo, ya que si no tenemos un buen hardware puede que tarde mucho en algunas preguntas.
Otra desventaja es el tamaño del promp que le podemos dar, el es muy largo no va a poder analizarlo ya que hay un limite en la entrada que se le puede dar.
La gran ventaja es que lo podemos correr en nuestra PC para hacer pruebas, no hay limite de tokens ni nada.
Otra gran ventaja es la privacidad, ya que los datos estan guardados en nuestra PC.
Y la mejor ventaja es que podemos usarla como queramos para aprender y experimentar con todos los modelos que queramos y ver y comparar cual sirve para una tarea y cual sirve para otra.