Oracle 推出 HeatWave GenAI 的数据库内 LLM 和自动向量存储功能
realtime news Jun 27, 2024 07:02
Oracle 的 HeatWave GenAI 现在提供数据库内 LLM 和自动向量存储功能，使生成式 AI 应用无需 AI 专业知识或额外成本。
Oracle 宣布 HeatWave GenAI 正式推出，其中包括行业首个数据库内大语言模型（LLM）和自动化数据库内向量存储功能。据 oracle.com 称，这一开发使客户无需 AI 专业知识、数据迁移或额外成本即可构建生成式 AI 应用。
HeatWave GenAI 现在在所有 Oracle Cloud 区域、Oracle Cloud Infrastructure (OCI) 专属区域和其他云中免费提供给 HeatWave 客户。这个新产品提供了使用内置嵌入模型，通过单个 SQL 命令为企业非结构化内容创建向量存储库的能力。用户可以使用数据库内或外部 LLM 一步执行自然语言搜索，提高性能和数据安全性，同时减少应用复杂性。
创新功能
HeatWave GenAI 引入了几个创新功能：
- 数据库内 LLM： 通过 HeatWave 向量存储，简化了生成式 AI 应用的开发，降低了成本，使客户能够搜索数据、生成或摘要内容，并执行检索增强生成 (RAG)。与 OCI 生成式 AI 服务集成，可以访问领先 LLM 提供商的预训练模型。
- 自动化数据库内向量存储： 使企业文档的生成式 AI 使用无需将数据转移到单独的向量数据库。所有创建向量存储和向量嵌入的步骤都是自动化的，提高了效率和易用性。
- 扩展向量处理： 使用新的原生 VECTOR 数据类型和优化的距离函数，在不损失准确性的情况下提供快速语义搜索结果。这允许使用标准 SQL 进行语义查询，并将语义搜索与其他 SQL 操作符结合进行全面数据分析。
- HeatWave Chat： 一个 MySQL Shell 的 Visual Code 插件，为 HeatWave GenAI 提供图形界面，可以进行自然语言或 SQL 查询。此功能保留上下文，并允许用户验证生成答案的来源。
性能基准
HeatWave GenAI 显示了显著的性能优势。在各种格式文档创建向量存储时，HeatWave GenAI 比使用 Amazon Bedrock 的知识库快 23 倍，成本为四分之一。基准测试显示 HeatWave GenAI 比 Snowflake 快 30 倍，费用低 25%；比 Databricks 快 15 倍，费用低 85%；比 Google BigQuery 快 18 倍，费用低 60%。此外，HeatWave 类似性搜索处理比 Amazon Aurora PostgreSQL 使用 pgvector 快 80 倍，提供准确的结果和可预测的响应时间。
客户和分析师的见解
SmarterD CEO Vijay Sundhar 强调了使用 HeatWave GenAI 轻松利用生成式 AI，显著减少了应用复杂性和成本。EatEasy CEO Safarath Shafi 强调了HeatWave 在数据库内 LLM 和向量存储的支持所带来的差异化，为他们的客户提供了新的功能和改进的性能。包括 Constellation Research 的 Holger Mueller 在内的分析师称赞 HeatWave 集成生成式 AI 的方法，称其具有成本效益和性能优势。
HeatWave 概述
HeatWave 是唯一提供自动化和集成生成式 AI 和机器学习的云服务，用于交易和湖仓规模分析。它可在 OCI、亚马逊网络服务、通过 Oracle 与 Azure 的互连在 Microsoft Azure 上使用，也可通过 OCI 专属区域和 Oracle Alloy 在客户数据中心部署。
Image source: Shutterstock