1. 案例目标本案例展示了如何使用LlamaIndex的Cassandra数据库工具使AI代理能够高效地与Cassandra数据库交互。Apache Cassandra®是一个广泛用于存储事务性应用程序数据的数据库。大型语言模型中函数和工具的引入为现有数据在生成式AI应用中的使用开辟了一些令人兴奋的用例。2. 技术栈与核心依赖llama-index- LlamaIndex核心框架用于构建AI代理llama-index-tools-cassandra- Cassandra数据库工具规范llama-index-agent-openai- OpenAI代理集成llama-index-llms-openai- OpenAI语言模型集成cassio- Cassandra数据库连接库python-dotenv- 环境变量管理Apache Cassandra®/DataStax Enterprise™/DataStax Astra™- 支持的Cassandra部署3. 环境配置3.1 安装依赖pip install ipykernel python-dotenv cassio llama-index llama-index-agent-openai llama-index-llms-openai llama-index-tools-cassandra3.2 环境变量配置创建.env文件并设置以下环境变量对于CassandraCASSANDRA_CONTACT_POINTS CASSANDRA_USERNAME CASSANDRA_PASSWORD CASSANDRA_KEYSPACE对于AstraASTRA_DB_APPLICATION_TOKEN ASTRA_DB_DATABASE_ID ASTRA_DB_KEYSPACE示例# Connection to Astra: ASTRA_DB_DATABASE_IDa1b2c3d4-... ASTRA_DB_APPLICATION_TOKENAstraCS:... ASTRA_DB_KEYSPACEnotebooks # Also set OPENAI_API_KEYsk-....3.3 初始化Cassandra连接from dotenv import load_dotenv import os import cassio from llama_index.tools.cassandra.base import CassandraDatabaseToolSpec from llama_index.tools.cassandra.cassandra_database_wrapper import CassandraDatabase from llama_index.core.agent.workflow import FunctionAgent from llama_index.llms.openai import OpenAI # 加载环境变量 load_dotenv(overrideTrue) # 初始化Cassandra连接 cassio.init(autoTrue) session cassio.config.resolve_session() if not session: raise Exception( Check environment configuration or manually configure cassio connection parameters )4. 案例实现4.1 创建测试数据# 测试数据准备 session cassio.config.resolve_session() # 删除已存在的测试键空间 session.execute(DROP KEYSPACE IF EXISTS llamaindex_agent_test; ) # 创建新的测试键空间 session.execute( CREATE KEYSPACE if not exists llamaindex_agent_test WITH replication {class: SimpleStrategy, replication_factor: 1}; ) # 创建用户凭据表 session.execute( CREATE TABLE IF NOT EXISTS llamaindex_agent_test.user_credentials ( user_email text PRIMARY KEY, user_id UUID, password TEXT ); ) # 创建用户表 session.execute( CREATE TABLE IF NOT EXISTS llamaindex_agent_test.users ( id UUID PRIMARY KEY, name TEXT, email TEXT ); ) # 创建用户视频表 session.execute( CREATE TABLE IF NOT EXISTS llamaindex_agent_test.user_videos ( user_id UUID, video_id UUID, title TEXT, description TEXT, PRIMARY KEY (user_id, video_id) ); ) # 插入测试数据 user_id 522b1fe2-2e36-4cef-a667-cd4237d08b89 video_id 27066014-bad7-9f58-5a30-f63fe03718f6 session.execute( f INSERT INTO llamaindex_agent_test.user_credentials (user_id, user_email) VALUES ({user_id}, patrickdatastax.com); ) session.execute( f INSERT INTO llamaindex_agent_test.users (id, name, email) VALUES ({user_id}, Patrick McFadin, patrickdatastax.com); ) session.execute( f INSERT INTO llamaindex_agent_test.user_videos (user_id, video_id, title) VALUES ({user_id}, {video_id}, Use Langflow to Build an LLM Application in 5 Minutes); ) session.set_keyspace(llamaindex_agent_test)4.2 创建Cassandra工具规范# 创建CassandraDatabaseToolSpec对象 db CassandraDatabase() spec CassandraDatabaseToolSpec(dbdb) tools spec.to_tool_list() # 查看可用工具 for tool in tools: print(tool.metadata.name) print(tool.metadata.description) print(tool.metadata.fn_schema)4.3 创建代理# 选择驱动代理的LLM llm OpenAI(modelgpt-4-1106-preview) # 使用我们的工具创建代理 agent FunctionAgent(toolstools, llmllm)4.4 使用代理查询数据# 向代理提出一系列问题观察代理如何使用工具获取答案 await agent.run(What tables are in the keyspace llamaindex_agent_test?) await agent.run(What is the userid for patrickdatastax.com ?) await agent.run(What videos did user patrickdatastax.com upload?)5. 案例效果通过Cassandra数据库工具我们实现了以下功能快速数据访问- 通过优化查询实现快速数据访问大多数查询应在个位数毫秒内完成模式内省- 增强LLM推理能力的模式内省功能多部署兼容- 兼容各种Cassandra部署包括Apache Cassandra®、DataStax Enterprise™和DataStax Astra™安全查询- 目前仅限于SELECT查询和模式内省操作确保安全性智能查询路径- 代理能够推理并选择适当的工具或工具链来满足请求6. 案例实现思路本案例的实现基于以下思路工具封装- 将Cassandra数据库操作封装为LlamaIndex工具规范安全限制- 限制仅支持SELECT查询和模式内省操作确保数据库安全智能推理- 使用特定的提示指导代理使用Cassandra特定的逻辑进行推理查询路径- 代理能够创建查询路径可能需要查询其他表来获取最终答案最佳实践- 代理遵循Cassandra数据建模最佳实践使用分区键和聚簇列代理查询路径示例{query_paths: [{description: Direct query to users table using email,steps: [{table: user_credentials,query: SELECT userid FROM user_credentials WHERE email exampleexample.com;},{table: users,query: SELECT * FROM users WHERE userid ?;}]}]}7. 提供的工具7.1 cassandra_db_schema收集连接数据库或特定模式的所有模式信息。代理在确定操作时至关重要。7.2 cassandra_db_select_table_data从特定的键空间和表中选择数据。代理可以为谓词传递参数并限制返回记录的数量。7.3 cassandra_db_querycassandra_db_select_table_data的实验性替代方案它接受由代理完全形成的查询字符串。警告这可能导致不寻常的查询可能性能不佳甚至无法工作。这可能会在未来的版本中被移除。8. 扩展建议更多查询类型- 扩展支持更多CQL查询类型如INSERT、UPDATE等查询优化- 添加查询优化建议和自动优化功能数据可视化- 集成数据可视化工具如图表生成批量操作- 支持批量数据操作提高处理效率事务支持- 添加事务支持确保数据一致性多数据库支持- 扩展支持更多NoSQL数据库类型9. 总结Cassandra数据库工具为LlamaIndex代理提供了强大的数据库交互能力使其能够安全、高效地查询和分析Cassandra数据库中的数据。通过提供专门的工具和指导代理使用Cassandra特定的推理逻辑该工具大大提高了代理处理数据库任务的准确性和效率。这种能力特别适合需要从大型分布式数据库中检索和分析数据的应用场景如用户分析、内容推荐、业务报告等。