Oracle HeatWave GenAI 通过数据库内大语言模型 (LLM)、自动化和安全的数据库内向量存储、横向扩展向量处理、基于自然语言的情境化对话功能提供集成、自动化的生成式 AI 支持,让您无需移动数据和支付额外成本就能充分利用生成式 AI — 即使您不具备 AI 专业知识。HeatWave GenAI 现已在 Oracle Cloud Infrastructure (OCI)、Amazon Web Services (AWS) 和 Microsoft Azure 上可用。
观看首席企业架构师 Edward Screven 在甲骨文全球云大会上发表的《构建生成式 AI 应用 — 通过 HeatWave GenAI 集成并实现自动化》主题演讲的视频回放
跨云和跨云区域使用数据库内 LLM 来检索数据,生成内容或摘要,整个过程不需要劳心劳力地选择和集成外部 LLM。
使用 LLM 来搜索您的专有文档内容,捕获更准确、相关度更高的情境化答案,整个过程不需要将数据移动到一个单独的向量数据库 — 即使您不具备 AI 专业知识。Oracle HeatWave GenAI 将自动化执行嵌入生成。
通过自然语言对话来快速从文档中捕获洞察。HeatWave Chat 界面能够保留上下文,实现以跟进问题为特点的类人对话。
在所有 Oracle Cloud Infrastructure (OCI) 区域、OCI Dedicated Region 和跨云端使用内置 LLM,凭借可预测的性能在各种部署环境下获得一致的结果。无需预配 GPU,可降低基础设施成本。
在 OCI 和 AWS 上使用 HeatWave GenAI 时,分别通过 OCI Generative AI 服务和 Amazon Bedrock 访问 Cohere 与 Meta 预训练的基础模型。
使用自然语言,基于 HeatWave Vector Store 中的非结构化数据进行情境化对话。使用集成的 Lakehouse Navigator 引导 LLM 搜索特定文档,从而在更快速获得更准确的结果的同时降低成本。
HeatWave Vector Store 能够存储您各种格式的专有文档,进而为检索增强生成 (RAG) 提供一个知识库,帮助您获得更准确、相关度更高的情境化答案 — 无需您将数据移动到一个单独的向量数据库。
利用自动化管道,帮助在 HeatWave Vector Store 中发现和摄取专有文档,让没有 AI 专业知识的开发人员和分析人员也可以轻松使用向量存储。
向量处理在多达 512 个 HeatWave 集群节点上并行化,以内存带宽执行,有助于快速提供结果并降低影响准确性的可能性。
“HeatWave GenAI makes it extremely simple to take advantage of generative AI.The support for in-database LLMs and in-database vector creation leads to significant reduction in application complexity, predictable inference latency, and, most of all, no additional cost to us to use the LLMs or create the embeddings.This is truly the democratization of generative AI, and we believe it will result in building richer applications with HeatWave GenAI and significant gains in productivity for our customers.”
— SmarterD 首席执行官 Vijay Sundhar
“We heavily use the in-database HeatWave AutoML for making various recommendations to our customers.HeatWave’s support for in-database LLMs and in-database vector store is differentiated and the ability to integrate generative AI with AutoML provides further differentiation for HeatWave in the industry, enabling us to offer new kinds of capabilities to our customers.The synergy with AutoML also improves the performance and quality of the LLM results.”
— EatEasy 首席执行官 Safarath Shafi
“HeatWave in-database LLMs, in-database vector store, scale-out in-memory vector processing, and HeatWave Chat are very differentiated capabilities from Oracle that democratize generative AI and make it very simple, secure, and inexpensive to use.Using HeatWave and AutoML for our enterprise needs has already transformed our business in several ways, and the introduction of this innovation from Oracle will likely spur growth of a new class of applications where customers are looking for ways to leverage generative AI on their enterprise content.”
— Aiwifi 创始人 Eric Aguilar
内置 LLM 和 HeatWave Chat 能够帮助开发人员轻松交付支持自然语言情境化对话的预配置应用,整个过程无需使用外部 LLM 和 GPU。
Oracle HeatWave GenAI 支持分析师轻松与数据“对话”,跨文档执行相似性搜索,从专有数据中检索所需信息。
开发人员和业务团队可使用集成式功能和自动化技术来充分利用生成式 AI,轻松实现自然语言对话和检索增强生成 (RAG)。
您可以使用数据库内 LLM,基于非结构化文档来生成内容或内容摘要。具体而言,用户可在应用中以自然语言提出问题,LLM 将处理用户请求,交付内容。
您可以结合使用生成式 AI 和其他 HeatWave 内置功能(例如机器学习)来降低成本,更快速获得更准确的结果。在这一案例中,一家制造企业以此开展预测性维护。具体而言,工程师使用 Oracle HeatWave AutoML 来自动化生成异常生产日志报告;使用 Oracle HeatWave GenAI,通过使用自然语言提问(而不是手动分析日志)来快速定位问题根因。
以企业内部政策为例,聊天机器人可使用 RAG 技术来为用户解疑答惑。企业内部政策文档将作为嵌入存储在 HeatWave Vector Store 中;对于特定用户查询,HeatWave Vector Store 将对所存储的嵌入执行相似性搜索,识别最相似的文档;这些文档将增强面向 LLM 提交的提示,以确保 LLM 提供准确解答。
开发人员可以在 HeatWave 中开发更强大的、具有内置机器学习和生成式 AI 特性的应用来向用户提供个性化建议。在本案例中,应用可使用 HeatWave AutoML 推荐系统,基于用户偏好或用户历史订餐记录来向用户推荐餐馆。得益于 HeatWave Vector Store,应用还可以额外搜索餐馆菜单(PDF 格式)来推荐菜肴,为用户创造更多价值。
相似性搜索专注于基于语义来查找相关内容,它考察底层含义而不仅仅只是搜索特定标签,因此是对关键字搜索的一种超越。在本案例中,一名律师希望快速查找合同中的问题条款。
甲骨文公司 HeatWave 和 MySQL 开发高级副总裁 Nipun Agarwal
Oracle HeatWave 在一个完全托管的云技术服务中提供自动化、集成、安全的生成式 AI 和机器学习,支持事务处理和湖仓一体规模的分析。OCI 和 AWS 均提供 HeatWave 产品组合中的新功能。
“HeatWave’s engineering innovation continues to deliver on the vision of a universal cloud database.The latest is generative AI done ‘HeatWave style’—which includes the integration of an automated, in-database vector store and in-database LLMs directly into the HeatWave core.This enables developers to create new classes of applications as they combine HeatWave elements.”
“HeatWave is taking a big step in making generative AI and Retrieval-Augmented Generation (RAG) more accessible by pushing all the complexity of creating vector embeddings under the hood.Developers simply point to the source files sitting in cloud object storage, and HeatWave then handles the heavy lift.”
Oracle 提供分步说明和示例代码,助您轻松、快速地构建 HeatWave GenAI 驱动的新型应用。
立即注册,免费试用 HeatWave GenAI。您可获得价值 300 美元的储值,在 30 天内试用 HeatWave GenAI,以及免费、无限时使用众多 HeatWave 功能。
注:为免疑义,本网页所用以下术语专指以下含义: