OpenAI Blog当日精选
OpenAI 与 Broadcom 联合推出专为大语言模型推理优化的定制芯片 Jalapeño，旨在提升 AI 系统的性能、效率和可扩展性
AI 摘要
OpenAI 与 Broadcom 联合推出专为大语言模型推理优化的定制芯片 Jalapeño，旨在提升 AI 系统的性能、效率和可扩展性。该芯片针对 LLM 推理场景进行专门设计，有望降低推理成本并提高响应速度，对开发者和研究者而言，意味着未来可能获得更高效、更低成本的 AI 推理基础设施。
推荐理由重磅首发或硬核洞察
原文
无法获取正文，可打开下方原始链接查看。
定制芯片LLM推理性能优化成本优化75/100
讨论
暂无评论。