Stability AI, una empresa reconocida por comercializar Stable Diffusion, está tomando acciones estratégicas para dar prioridad a los modelos de lenguaje con el objetivo de mejorar su situación financiera. La compañía ha lanzado recientemente su primer modelo de la serie ‘Stable LM 2’, llamado ‘Stable LM 2 1.6B’, el cual es un modelo de lenguaje robusto a pesar de su tamaño compacto de 1.6 mil millones de parámetros.
El desarrollo de Stable LM 2 1.6B involucró entrenarlo con una gran cantidad de datos, que consisten en dos billones de tokens, a lo largo de dos ciclos de entrenamiento. Este modelo multilingüe fue entrenado con datos de siete idiomas, incluyendo inglés, español y francés.
Uno de los principales objetivos al crear Stable LM 2 1.6B es reducir las barreras para los desarrolladores. Stability AI busca permitir que más desarrolladores participen en el ecosistema de IA generativa al brindarles acceso a este poderoso modelo de lenguaje. De hecho, este modelo ha superado a otros modelos con menos de 2 mil millones de parámetros, superando a sistemas conocidos como Phi-1.5 de Microsoft, TinyLlama 1.1B y Falcon 1B en diversas tareas.
Con el lanzamiento de Stable LM 2 1.6B, Stability AI está esforzándose por empoderar a los desarrolladores y creadores de modelos al ofrecer total transparencia sobre los detalles del entrenamiento. La compañía no solo ha presentado el modelo base, sino también una versión afinada mediante instrucciones. Ha puesto a disposición los detalles de los datos y el checkpoint final de pre-entrenamiento para facilitar a los desarrolladores la continuación fluida de los procesos de pre-entrenamiento y ajuste fino.
En los últimos meses, Stability AI ha ido cambiando gradualmente su enfoque hacia los modelos de lenguaje. Este cambio de dirección puede atribuirse a la creciente presión que enfrenta la compañía por parte de los inversores debido a dificultades financieras. Incluso se ha informado que Stability AI está considerando una venta, con posibles compradores como Cohere y Jasper mostrando interés. Aunque la compañía continúa invirtiendo fuertemente en costos informáticos y salarios, sus ingresos siguen siendo relativamente bajos. Sin embargo, Stability AI está decidida a dar prioridad a la investigación y desarrollo.
Enfatizar en sistemas basados en el lenguaje se alinea bien con las capacidades existentes de Stability AI en la generación de imágenes y videos. Este cambio estratégico también posiciona a la compañía como competidora frente a proveedores de modelos basados en texto.
El acceso a Stable LM 2 1.6B está disponible tanto para fines comerciales como no comerciales, aunque con ciertas restricciones. El uso no comercial requiere una membresía gratuita de Stability AI, mientras que se ofrece un nivel profesional para creadores y desarrolladores que cumplan con criterios específicos. Se requieren negociaciones con Stability AI para acceder a nivel empresarial.
Si bien Stable LM 2 1.6B ofrece capacidades significativas, es importante tener en cuenta que aún puede tener ciertas limitaciones, como la posibilidad de generar lenguaje tóxico. Stability AI insta a la comunidad a usar el modelo de manera responsable y tomar medidas apropiadas para garantizar prácticas éticas de desarrollo.
Estos desarrollos recientes de Stability AI demuestran la determinación de la compañía de aprovechar los modelos de lenguaje para su crecimiento y éxito futuro en la industria de la IA.
Preguntas frecuentes (FAQ)
The source of the article is from the blog crasel.tk