Thinking Machines Lab presenta Inkling, su primer modelo de inteligencia artificial de pesos abiertos

Qué pasó

Thinking Machines Lab dio a conocer Inkling en la manana del miercoles 15 de julio, marcando su primera prueba publica tras un ano y medio de desarrollo de infraestructura de inteligencia artificial largely fuera del foco publico. El modelo fue entrenado con 45 billones de tokens de texto, imagen, audio y video, y segun la compania razona de manera nativa en las cuatro modalidades, aunque por ahora sus salidas se limitan a texto, incluyendo codigo, artefactos con estilo y datos estructurados.

Inkling opera como un sistema de mezcla de expertos (MoE, por su sigla en ingles) con 975 mil millones de parametros totales, aunque solo activa alrededor de 41 mil millones para cada tarea. Este diseno, habitual en modelos de gran escala, permite reducir los costos computacionales y acelerar la respuesta.

La empresa no pretende posicionar a Inkling como el modelo mas potente del mercado. En sus materiales de prensa, la compania senala explicitamente que el sistema 'no es el modelo mas fuerte disponible hoy, sea abierto o cerrado'. Su apuesta apunta mas bien al rendimiento equilibrado y a la capacidad de personalizacion, a traves de Tinker, la plataforma que permite a las organizaciones ajustar el modelo segun sus necesidades.

Entre los datos de desempeno divulgados, la compania sostiene que Inkling utiliza un tercio de los tokens que requiere el modelo abierto Nemotron 3 Ultra de Nvidia para alcanzar el mismo rendimiento en tareas de programacion. Adicionalmente, el modelo fue disennado para entregar respuestas calibradas, senalando su nivel de incertidumbre en lugar de responder con datos inferidos, y permite a los usuarios ajustar el nivel de 'esfuerzo de razonamiento' para priorizar velocidad o profundidad.

Contexto

El lanzamiento de Inkling se inscribe en una creciente fragmentacion del mercado de inteligencia artificial, donde los modelos cerrados de OpenAI, Anthropic y Google dominan la atencion mediatica pero enfrentan el avance de alternativas de pesos abiertos. Esta categoria permite a las organizaciones descargar el modelo y ejecutarlo en infraestructura propia, una caracteristica valorada por sectores con requerimientos especificos de privacidad, costos o cumplimiento normativo.

Thinking Machines Lab se fundo en 2024 bajo el liderazgo de Mira Murati, quien previamente se desempeno como directora de tecnologia en OpenAI. La startup ha captado rondas de financiamiento significativas y ha optado por una estrategia deliberadamente diferenciada: no competir directamente por el modelo mas capaz, sino por la flexibilidad que ofrece a empresas que requieren adaptar la tecnologia a sus propios casos de uso.

En mayo, la compania habia adelantado una vista previa de investigacion sobre 'modelos de interaccion', sistemas disennados para escuchar, hablar e incluso interrumpir, en contraposicion al esquema tradicional de pregunta y respuesta de los chatbots convencionales. Inkling recoge parte de esa filosofia al entregar a los usuarios un mayor control sobre el comportamiento del modelo.

Impacto para empresas chilenas

Para las empresas chilenas, la disponibilidad de un modelo de pesos abiertos con 975 mil millones de parametros abre una alternativa relevante frente a las APIs cerradas de proveedores internacionales. Organizaciones de mayor tamano, particularmente en sectores como finanzas, mineria y retail, podrian evaluar la descarga de Inkling para ejecutarlo en infraestructura propia y reducir la dependencia de proveedores externos, aunque requeririan capacidades tecnicas especializadas para su ajuste.

La barrera principal para el mercado local es el talento requerido para ajustar modelos de esta escala. El ajuste fino demanda profesionales con formacion en aprendizaje automatico e infraestructura computacional avanzada, un perfil escaso y costoso en Chile. Startups y empresas con departamentos tecnicos consolidados tendrian ventaja para aprovechar esta oportunidad, mientras que las pequenas y medianas empresas probablemente accederian a traves de integradores o partners.

En terminos de costos, un modelo de pesos abiertos permite a las organizaciones evitar el pago recurrente por uso de APIs y potencialmente reducir el gasto en suscripciones a proveedores cerrados, aunque la inversion inicial en hardware y personal tecnico puede ser elevada. Para empresas chilenas que procesan grandes volumenes de texto o codigo, esta alternativa podria resultar competitiva frente a soluciones como las ofrecidas por OpenAI o Anthropic.

Qué sigue

En los proximos meses se observara la velocidad de adopcion de Inkling entre desarrolladores y empresas, asi como la respuesta de los competidores que comercializan modelos cerrados. La estrategia de Thinking Machines Lab dependera de cuantos clientes opten por construir sobre Tinker en lugar de contratar servicios llave en mano.

El rendimiento del modelo en evaluaciones independientes y la calidad de las personalizaciones que logren las primeras organizaciones usuarias seran determinantes para validar la tesis de la compania. Si la propuesta gana traction, podria intensificarse la presion competitiva sobre los modelos cerrados y acelerar la tendencia hacia soluciones de inteligencia artificial mas adaptables.