Together AI 作为领先的 AI 加速云平台,正在赋能开发者和企业,让他们能够在 Llama 等开源模型上无缝设计、开发和管理整个生成式 AI 应用生命周期。
为了激发开发者在 Llama 上的创新,Together AI 推出了 LlamaCoder 应用:一款开源网络应用,允许用户仅通过提示就能使用 Llama 3.1 405B 模型生成完整的应用程序。
自发布仅一个多月以来,LlamaCoder 便引发了病毒式传播。该项目在 GitHub 上已获得2000多颗星,数百名开发者克隆了代码库,并通过 LlamaCoder 生成了超过20万个应用程序。
Together AI 负责开发者关系的软件工程师 Hassan El Mghari 表示: "开发者们对此爱不释手。看到人们仅凭提示就能生成测验 APP、番茄钟计时器、预算管理工具等各种应用,并加以个性化定制,这种景象令人振奋。这充分展示了 Llama 3.1 405B 模型的强大实力。"
他补充道,Llama 3.1 405B 是首个能在这一特定编码场景中表现出色的开源模型。Together AI 还开发了多个使用 Llama 3.1 的示例应用,包括旨在辅助学习的 LlamaTutor 和 AI驱动的搜索引擎 TurboSeek。
El Mghari 还指出: "Llama 系列模型已将开源大语言模型的边界推向了新的高度,其性能可与顶尖闭源模型媲美,同时还提供了负责任开发所需的安全工具。" 他表示,Llama 3.1 405B 在通用知识、可控性、数学运算、工具使用和多语言翻译等方面的先进能力,有望迅速推动开发者和企业对开源 AI 的采用。
随版本迭代不断拓展应用场景
超过15万名开发者和企业正在使用 Together 平台,涉及游戏、客户服务、基准测试和文本摘要等广泛用例。虽然他们依托Together平台来驱动生成式AI应用,但每个开发者和企业都保留其微调权重的所有权,并可下载用于其他场景。
El Mghari 阐述了公司愿景:"我们致力于以最快速度将研究创新转化为生产实践。基于我们领先的推理优化研究,Together 推理引擎整合了多项创新,包括 FlashAttention-3 内核、基于 RedPajama 的定制推测器,以及市场上最精准的量化技术。这些进步使开发者能够在 Llama 3.1 模型上构建和运行生成式 AI 应用,在生产规模上实现无与伦比的性能、准确性和成本效益。"
采取开放方式是实现这一切的关键。El Mghari 表示,许多使用 Together AI 的公司都是从闭源供应商转投而来,因为他们渴望获得开源带来的益处。
他总结道: “开源 AI 已成为 AI 社区的变革力量。这符合所有开发者的最佳利益,将引领最快速的进步与创新。更重要的是,它使组织能够真正掌控自己的数据和模型,拥有充分的灵活性,避免被锁定在特定平台。"
访问 Together AI
评论(0)