{"id":5222,"date":"2025-02-02T23:49:15","date_gmt":"2025-02-02T22:49:15","guid":{"rendered":"https:\/\/diocesanos.es\/blogs\/equipotic\/?p=5222"},"modified":"2025-02-02T23:49:15","modified_gmt":"2025-02-02T22:49:15","slug":"modelos-de-ia-basados-en-la-nube-frente-a-modelos-locales-cual-es-la-mejor-opcion-para-la-educacion","status":"publish","type":"post","link":"https:\/\/diocesanos.es\/blogs\/equipotic\/2025\/02\/02\/modelos-de-ia-basados-en-la-nube-frente-a-modelos-locales-cual-es-la-mejor-opcion-para-la-educacion\/","title":{"rendered":"Modelos de IA basados en la nube frente a modelos locales: \u00bfcu\u00e1l es la mejor opci\u00f3n para la educaci\u00f3n?"},"content":{"rendered":"\n

Aviso:<\/strong> imagen de portada y art\u00edculo generado en su mayor parte por una de \u00abesas IAs\u00bb<\/em><\/p>\n\n\n

\n
\"\"<\/a><\/figure>\n<\/div>\n\n\n

En el \u00e1mbito de la educaci\u00f3n y la tecnolog\u00eda, la inteligencia artificial (IA) est\u00e1 revolucionando la forma en que aprendemos y ense\u00f1amos. Una de las decisiones cruciales al implementar IA es elegir entre modelos basados en la nube y aquellos que se ejecutan en m\u00e1quinas locales. A continuaci\u00f3n, exploraremos las ventajas y desventajas de cada opci\u00f3n, y analizaremos el caso de Mistral<\/strong><\/a>, una opci\u00f3n europea interesante, compar\u00e1ndola con la competencia internacional.<\/p>\n\n\n\n\n\n\n\n

Los modelos de lenguaje a gran escala<\/h2>\n

ChatGPT<\/a><\/strong>, DeepSeek<\/strong><\/a>, Gemini<\/strong><\/a> y otros son llamados Modelos de Lenguaje a Gran Escala.<\/em> B\u00e1sicamente permiten que un usuario interact\u00fae con un ordenador en un lenguaje parecido al que usa para comunicarse con otro ser humano.<\/strong> Para lograr esto son entrenados con grandes cantidades de texto y reglas que les permiten producir nueva informaci\u00f3n a partir de la que ya tienen. Se clasifican por la cantidad de par\u00e1metros llamados \u00abtokens\u00bb\u00a0 medidos ya en billones<\/strong> que son capaces de manejar simult\u00e1neamente. Su uso principal es responder preguntas, realizar res\u00famenes de textos, hacer traducciones y reproducir contenido.<\/p>\n\n\n\n

IA en la Nube<\/h2>\n

Ventajas<\/h3>\n
    \n
  1. \n

    Acceso a Potencia de C\u00f3mputo Escalable:<\/strong>
    Los modelos de IA en la nube se benefician de infraestructuras potentes y escalables, lo que permite ejecutar tareas intensivas en recursos sin necesidad de contar con hardware local costoso o de \u00faltima generaci\u00f3n.<\/p>\n<\/li>\n

  2. \n

    Actualizaciones y Mantenimiento Continuo:<\/strong>
    Los proveedores de servicios en la nube se encargan de actualizar y mantener los sistemas, facilitando el acceso a las \u00faltimas versiones y mejoras de los modelos de IA sin requerir intervenci\u00f3n t\u00e9cnica por parte del usuario.<\/p>\n<\/li>\n

  3. \n

    Facilidad de Integraci\u00f3n y Uso:<\/strong>
    Muchos proveedores ofrecen APIs y herramientas que simplifican el desarrollo de aplicaciones y la integraci\u00f3n de la IA en plataformas educativas.<\/p>\n<\/li>\n

  4. \n

    Acceso Remoto y Colaboraci\u00f3n:<\/strong>
    La nube permite que estudiantes y profesores accedan a las herramientas de IA desde cualquier lugar, potenciando el aprendizaje colaborativo y a distancia.<\/p>\n<\/li>\n<\/ol>\n

    Inconvenientes<\/h3>\n
      \n
    1. \n

      Dependencia de Conectividad:<\/strong>
      Se requiere una conexi\u00f3n a Internet estable y de alta velocidad para garantizar el correcto funcionamiento, lo que puede limitar su uso en zonas con conectividad deficiente.<\/p>\n<\/li>\n

    2. \n

      Costes Recurrentes:<\/strong>
      Aunque la inversi\u00f3n inicial puede ser baja, el uso continuo de servicios en la nube puede generar gastos recurrentes que, a lo largo del tiempo, podr\u00edan superar el coste de una infraestructura local.<\/p>\n<\/li>\n

    3. \n

      Preocupaciones de Seguridad y Privacidad:<\/strong>
      Al manejar datos sensibles, es imprescindible que el proveedor cumpla con normativas de seguridad y protecci\u00f3n de datos (por ejemplo, el RGPD en Europa).<\/p>\n<\/li>\n<\/ol>\n\n\n\n

      Ejecuci\u00f3n Local de Modelos de IA<\/h2>\n

      Implementar modelos de IA en m\u00e1quinas locales es una opci\u00f3n atractiva, especialmente cuando se dispone de soluciones como Ollama<\/a><\/strong> o LM Studio<\/strong><\/a>, que permiten gestionar la ejecuci\u00f3n de modelos sin depender exclusivamente de la nube.<\/p>\n

      Ventajas<\/h3>\n
        \n
      1. \n

        Control Total del Entorno:<\/strong>
        Ejecutar modelos de IA localmente otorga un control completo sobre la configuraci\u00f3n, actualizaciones y, sobre todo, la privacidad de los datos, algo fundamental en entornos educativos.<\/p>\n<\/li>\n

      2. \n

        Independencia de la Conectividad:<\/strong>
        Al tener los modelos instalados localmente, no se depende de una conexi\u00f3n a Internet para su funcionamiento, lo que garantiza una mayor estabilidad en \u00e1reas con conectividad limitada.<\/p>\n<\/li>\n

      3. \n

        Costos a Largo Plazo M\u00e1s Predecibles:<\/strong>
        Aunque la inversi\u00f3n inicial en hardware puede ser elevada, a largo plazo los costes son fijos y, en muchos casos, resultan m\u00e1s econ\u00f3micos que los gastos recurrentes de la nube.<\/p>\n<\/li>\n

      4. \n

        Implementaci\u00f3n con Herramientas Especializadas:<\/strong>
        Soluciones como Ollama y LM Studio ofrecen interfaces amigables y optimizaciones para ejecutar modelos de IA, facilitando la instalaci\u00f3n y gesti\u00f3n de estos modelos en hardware local.<\/p>\n<\/li>\n<\/ol>\n

        Inconvenientes<\/h3>\n
          \n
        1. \n

          Requisitos de Hardware y Mantenimiento:<\/strong>
          Ejecutar modelos de IA localmente exige contar con hardware adecuado (especialmente GPUs de alto rendimiento), lo que puede representar una inversi\u00f3n considerable. Adem\u00e1s, el mantenimiento y las actualizaciones son responsabilidad del usuario o la instituci\u00f3n.<\/p>\n<\/li>\n

        2. \n

          Escalabilidad Limitada:<\/strong>
          A diferencia de la nube, la escalabilidad de recursos en una infraestructura local es limitada y, para aumentar la capacidad de procesamiento, puede requerirse una inversi\u00f3n adicional en hardware.<\/p>\n<\/li>\n

        3. \n

          Curva de Aprendizaje:<\/strong>
          La implementaci\u00f3n y optimizaci\u00f3n de modelos en m\u00e1quinas locales pueden requerir conocimientos t\u00e9cnicos avanzados, lo que podr\u00eda ser una barrera para algunos usuarios o instituciones con recursos t\u00e9cnicos limitados.<\/p>\n<\/li>\n<\/ol>\n\n\n\n

          Coste y Hardware: Comparativa de Modelos<\/h2>\n

          Para quienes opten por la ejecuci\u00f3n local, es importante conocer qu\u00e9 tipo de hardware es necesario para ejecutar distintos modelos de IA con fluidez. A continuaci\u00f3n, se presenta una tabla comparativa que relaciona algunos modelos populares en funci\u00f3n de su tama\u00f1o y el hardware recomendado:<\/p>\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n
          Modelo<\/th>\nBillones de Par\u00e1metros<\/th>\nTama\u00f1o descarga (GB)<\/th>\nRequisitos de Hardware<\/th>\n<\/tr>\n<\/thead>\n
          DeepSeek-R1<\/td>\n1,5B<\/td>\n1,1<\/td>\nCPU potente, 16GB RAM<\/td>\n<\/tr>\n
          DeepSeek-R1<\/td>\n7B<\/td>\n4,7<\/td>\nGPU con 8GB VRAM, 32GB RAM<\/td>\n<\/tr>\n
          DeepSeek-R1<\/td>\n70B<\/td>\n50<\/td>\nGPU con 24GB VRAM, 64GB RAM<\/td>\n<\/tr>\n
          DeepSeek-R1<\/td>\n671B<\/td>\n300<\/td>\nGPU con 300GB VRAM, 128GB RAM<\/td>\n<\/tr>\n
          Llama 3.2<\/td>\n1B<\/td>\n2,8<\/td>\nCPU est\u00e1ndar, 8GB RAM<\/td>\n<\/tr>\n
          Llama 3.2<\/td>\n7B<\/td>\n13<\/td>\nGPU con 8GB VRAM, 16GB RAM<\/td>\n<\/tr>\n
          Llama 3.2<\/td>\n70B<\/td>\n90<\/td>\nGPU con 24GB VRAM, 64GB RAM<\/td>\n<\/tr>\n
          Qwen<\/td>\n1,5B<\/td>\n1,5<\/td>\nGPU con 12GB VRAM, 16GB RAM\n
          8<\/a><\/div>\n<\/td>\n<\/tr>\n
          Qwen<\/td>\n7B<\/td>\n7<\/td>\nGPU con 16GB VRAM, 32GB RAM\n
          9<\/a><\/div>\n<\/td>\n<\/tr>\n
          Gemma<\/td>\n2B<\/td>\n2<\/td>\nGPU NVIDIA T4, 16GB RAM\n
          7<\/a><\/div>\n<\/td>\n<\/tr>\n
          Gemma<\/td>\n9B<\/td>\n9<\/td>\nGPU NVIDIA L4, 32GB RAM\n
          7<\/a><\/div>\n<\/td>\n<\/tr>\n
          Phi-3<\/td>\n1,5B<\/td>\n1,8<\/td>\nGPU con 4GB VRAM, 8GB RAM\n
          10<\/a><\/div>\n<\/td>\n<\/tr>\n
          Phi-3<\/td>\n7B<\/td>\n7<\/td>\nGPU con 24GB VRAM, 32GB RAM\n
          10<\/a><\/div>\n<\/td>\n<\/tr>\n
          Mistral<\/td>\n7B<\/td>\n13,4<\/td>\nGPU con 6GB VRAM, 16GB RAM\n
          11<\/a><\/div>\n<\/td>\n<\/tr>\n
          Mistral<\/td>\n123B<\/td>\n250<\/td>\nGPU con 250GB VRAM, 128GB RAM\n
          12<\/a><\/div>\n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n\n\n\n

          Nota de un humano que ha probado algunos de estos modelos<\/strong>: Los mejores resultados se consiguen con modelos por encima de los 10 billones de par\u00e1metros. Con un ordenador \u00abreciente\u00bb con 16Gb RAM sin una tarjeta gr\u00e1fica dedicada las respuestas a preguntas \u00absencillas\u00bb se demoran m\u00e1s de 5 minutos! Los modelos con menos par\u00e1metros suelen \u00abalucinar\u00bb y dar respuestas equivocadas, sobre todo si no tienen acceso a internet.<\/em><\/p>\n\n\n\n

          Mistral: Una Opci\u00f3n Interesante para Europa<\/h2>\n

          Dentro del panorama de modelos de IA, Mistral<\/strong><\/a> se posiciona como una opci\u00f3n atractiva para aquellos que trabajan en Europa. Algunas de sus ventajas son:<\/p>\n