【
国联民生计算机】‼️重点关注Token工厂推理优化\"三杰\"
集智股份 、
星环科技 、
信测标准 ：\n\nToken工厂\"星火燎原\"的兵家\"必争之地\"\n\nKimi K3 License模式激活开源模型商业空间，实现【开源模型+云/算力租赁】商业正循环，Token工厂将星火燎原‼️\n\nK3采用自定义License，年收入超2000万美元的推理服务商须签署商业协议，预计算力租赁厂商有望加速普及Token分成模式。\n\n‼️【Token工厂核心差异化竞争力】在于单位算力、存力资源下Token吐量的多少，优化越多，Token成本越低，利润率越高越有竞争力。推理优化三杰：\n\n1） 集智股份 ：ARM CPU方案采用GPU+ARM AI CPU混合架构，支持48+模型渠道，面向1M长文本与代码专家场景的复杂推理，有望成为ARM底座的\"硅基流动\"。\n\n2） 星环科技 ：GPU直连数据库，通过GIDS（GPU-Initiated Direct Storage）等技术，由GPU直接发起存储访问，绕过CPU与主机内存，减少数据中转、内存拷贝和I/O等待，进一步缩短从数据读取、处理和检索到模型推理的端到端链路。\n\n3） 信测标准 ：AI SSD主控芯片，向文生视频、生成式 AI 推理、图像与视频处理等大吞吐场景，模组通过让计算更靠近数据，减少模型权重与中间数据在 SSD、CPU 和 GPU 之间的反复搬运。