Microsoft estaría trabajando en un proyecto para crear una inteligencia artificial (IA) más pequeña y barata que la de OpenAI, la empresa que lidera el desarrollo de los modelos de lenguaje grandes (LLM) como GPT-4 o Gemini. Según un reporte de The Information, la compañía de Redmond habría formado un nuevo equipo para desarrollar una IA conversacional que requiere menos poder de cómputo que ChatGPT, el software que usa actualmente para sus servicios de chatbot.
El nuevo equipo, conocido como GenAI, estaría liderado por Misha Bilenko, antiguo director de Azure AI, la plataforma de servicios de IA en la nube de Microsoft. La compañía habría reubicado a algunos de sus desarrolladores de IA con más experiencia en GenAI desde este mes, con el objetivo de construir una IA que esté al nivel de lo que ofrecen OpenAI y otras empresas, pero sin los requerimientos de hardware y mantenimiento que implica esta tecnología.
Un modelo de lenguaje pequeño optimizado para consumir menos recursos
La tarea de Bilenko y su equipo sería construir un modelo de lenguaje pequeño (SLM) optimizado para consumir menos recursos que los LLM. Los SLM tienen menos parámetros y pueden ejecutarse en dispositivos móviles, lo que los hace más eficientes y accesibles. Además, requieren menos cantidad de datos para entrenarlos, lo que reduce el riesgo de sesgos o errores.
Microsoft ya tiene dos modelos de este tipo: Phi 2 y Orca 2, este último basado en Llama 2, un modelo de lenguaje multilingüe que puede generar texto, código e imágenes. Con estos modelos, Microsoft quiere ofrecer una alternativa a GPT, el modelo de OpenAI que domina el mercado de la IA generativa, pero que tiene un alto costo económico y ecológico.
Una iniciativa para reducir la huella de carbono de la IA
Microsoft también busca con este proyecto reducir la huella de carbono que representan los modelos grandes, que consumen una gran cantidad de energía y producen muchas emisiones de CO₂. Un estudio realizado por investigadores de la Universidad de California encontró que el entrenamiento de un LLM puede costar hasta 100.000 millones de dólares y producir la misma cantidad de emisiones de CO₂ que la ciudad de Nueva York durante un mes.
La compañía de Redmond se ha comprometido a seguir los principios de la IA responsable, para asegurar que sus modelos sean éticos, transparentes y confiables. Además, ha anunciado que será una empresa con emisiones negativas para 2030, lo que implica que eliminará más carbono del que emite.
La primera evidencia de que Microsoft trabajaba en este modelo surgió en septiembre de 2023, cuando presentó una solicitud de patente para un sistema de generación de texto basado en un SLM. Aunque todavía no hay una fecha de lanzamiento oficial, se espera que el nuevo modelo de Microsoft sea una revolución en el campo de la IA conversacional.
