Together AI desde operaciones

Destacado

Together AI lanza Post-Training para ajustar modelos abiertos

Together AI ha lanzado Together Post-Training, un servicio para crear modelos propios a partir de LLM de pesos abiertos con SFT o aprendizaje por refuerzo. El cliente escribe el bucle de entrenamiento en GPU dedicadas y Together gestiona la infraestructura. Durante las primeras ocho semanas rige un precio inicial de $9 por hora de GPU B200.

Qué cambia en operaciones — Para una empresa B2B de 10 a 200 personas, esto solo importa si una tarea concreta y de mucho volumen, como priorizar leads o puntuar candidatos, le cuesta demasiado en un modelo cerrado. El caso de Jack & Jill en la fuente tiene justo esa forma: un modelo abierto igualó a uno cerrado en pruebas offline y sale más barato de servir. Como se factura por GPU-minuto, conviene presupuestar un experimento antes de empezar. Sin personal de ML, habría que apoyarse en los ingenieros desplegados de Together, que la fuente ofrece como opción de acompañamiento.

Together AI publica una receta de 17 dólares para tickets

Para un equipo de soporte que gestiona unos cientos de tickets al día, esto es un plano concreto para un bot de triaje de primera línea: se le pasa el mensaje del cliente junto con la lista de intenciones ya existente y devuelve una única etiqueta con menos de un token de salida, lista para enrutar. El costo de entrenamiento (~17 dólares) y el tiempo (~25 minutos) lo vuelven lo bastante barato como para iterar sobre los tickets históricos propios en lugar de depender de una llamada a un LLM genérico por cada clasificación, y la configuración fija de temperature=0, max_tokens=8 hace que las salidas sean lo bastante predecibles para alimentar directamente una regla de enrutamiento o un webhook del CRM sin revisión humana en los casos de alta confianza.