Código aberto
FreeToken executa modelos MoE gigantes em GPUs de consumo
FreeToken usa execução CPU-GPU adaptativa e caching semântico para servir modelos MoE de 35B a 753B em hardware local.
FreeToken usa execução CPU-GPU adaptativa e caching semântico para servir modelos MoE de 35B a 753B em hardware local.