Nebius, 通过收购 EigenAI 加入“AI推理优化”竞争

荷兰人工智能数据中心运营商 Nebius Group NV 宣布将以 6.43 亿美元（约合 9,485 亿韩元）收购软件公司 EigenAI。此举被解读为旨在超越单纯的基础设施扩展，将“AI 推理”和“模型优化”能力内部化。 Nebius 表示，此次交易将通过现金和股票方式进行，并计划在数周内完成收购。该公司为开发者提供可用于 AI 模型训练和推理的图形处理器（GPU）集群，同时还运营着减轻 GPU 运营负担的托管推理服务“Token Factory”。 此次收购的核心在于将 EigenAI 的技术整合到 Token Factory 中，以提升开源 AI 模型的速度和硬件效率。Token Factory 目前支持基于十多种开源 AI 模型的推理，而 EigenAI 的软件通过将这些模型的部分基本“内核”替换为更快的定制模块来提升性能。据悉，这些模块是通过与英伟达芯片协作的“CUDA”和针对 AI 开发优化的编程语言“Triton”实现的。 内存节省与响应速度提升：优化开源模型性能 除了内核替换，EigenAI 还会同时优化开源 AI 模型的多个要素。其原理是压缩影响输入数据处理方式的“权重”，以减少内存使用量，并改进大型语言模型在生成提示响应时使用的“KV 缓存”，从而提高处理效率。 Nebius 尤其关注 EigenAI 的“后训练”功能。后训练是进一步提升已训练模型输出质量的过程，通常需要重新调整大量参数，消耗大量计算资源。而 EigenAI 采用“LoRA”方式减轻了这一负担。 LoRA 是在现有神经网络上附加少量外部参数，在微调过程中仅重新校准这些新参数的方式。相较于大规模广泛修改现有设置，这种方法被认为更快、更高效。对于 AI 基础设施企业而言，这意味着能用更少的资源提供更好的推理质量，商业潜力巨大。 AI 基础设施竞争：从硬件扩展至软件优化 除了核心模型优化技术，EigenAI 还提供可加快训练数据集构建速度的“Eigen 数据”，以及能降低 AI 模型延迟的云服务“Eigen 推理”。收购完成后，EigenAI 的员工将加入 Nebius，Nebius 计划以他们为核心，在美国湾区建立一个新的工程中心。 此次交易显示出 AI 行业的竞争轴心正从单纯确保 GPU 转向“基于软件的优化”。虽然高性能半导体的供需仍是重要变数，但在实际市场中，利用相同基础设施提供更快、更便宜推理服务的能力正变得愈发重要。Nebius 对 EigenAI 的收购，很可能在这一趋势下进一步加速“AI 基础设施效率化”的竞争。 TP AI 注意事项 使用 TokenPost.ai 基础语言模型对文章进行了摘要。可能遗漏了正文主要内容或与事实存在差异。