Skip to content

关于 LakeMind

LakeMind 是一款本地优先的 AI 智能数据探索工作台

传统的现代数据栈(Modern Data Stack)往往极其沉重:需要搭建复杂的云端数据管道(ETL)、将敏感的企业数据上传至第三方云平台,并为昂贵的云端计算支付溢价。

LakeMind 彻底颠覆了这一模式。

作为一个本地运行的 AI 智能数据探索客户端,它打破了传统云端问数工具的局限,无缝打通了本地文件与关系数据库的零 ETL 混合联邦执行。它深度集成了嵌入式分析型计算内核(DuckDB)与自主运行的智能数据助手(Agent),是一个能够主动进行数据清洗加工、DDL 物化落盘、并随数据沉淀谷歌开源 OKF 统一语义标准的普惠分析工作台。


💡 源自痛点,归于极简:为什么设计 LakeMind?

市面上并不缺“问数(Chat-with-Data / Text-to-SQL)”产品。然而,在深度参与并开发过多款此类产品后,我们深切痛感于目前市面上绝大多数问数产品所面临的尴尬困境:

  • 数据隐私红线:传统方案要求企业必须将敏感数据上传到云端才能进行大模型推理,面临不可逾越的安全与合规壁垒。
  • 上下文幻觉泥潭:大模型由于缺乏真实的业务背景,写出的 SQL 频繁出错;而传统企业级的元数据治理系统又重如泰山,根本无法轻量部署。
  • “单次正确率”的虚无纠结:许多问数产品过度纠结于如何让 LLM 第一步就写出 100% 正确的 SQL,为此设计了极其繁琐、沉重的规则树。然而现实表结构与数据状况千差万别,单次完美的正确率存在天然瓶颈。
  • “问完即走”,无法沉淀:普通产品通常只贴出 SQL 和纯文本,AI 无法像真实分析师一样主动对数据执行清洗、多表 JOIN 并通过 DDL 动作在本地物化落盘(Materialization),也无法积累分析经验。
  • 数据孤岛与异构隔离困境:现实场景下,数据散落在各处(桌面上的 CSV/Excel 文件、本地磁盘的 Parquet 归档、以及远程生产库 PostgreSQL/MySQL)。传统方案必须先搭建复杂的 ETL 管道将它们同步搬运到同一个云端数仓,这使得临时性的联合交叉探索变得极其困难。

我们深知,花 2 分钟去冥思苦想写出 1 个所谓“绝对正确”的语句,不如花 1 分钟根据真实数据和报错反馈快速尝试 10 次。Agent 对数据分析带来的革命性改变,根本不是成为“一击即中”的编译器,而是将数据探索的“尝试-报错-修正”反馈环效率提升到极致

在传统认知中,AI 问数往往是一个“高门槛、高算力成本”的奢侈场景,似乎非绑定昂贵的旗舰大模型不可。但在实际开发与深度体验 LakeMind 过程中,我们惊喜地发现:得益于本地毫秒级执行和瞬时错误代码捕获,deepseek-v4-flash 这样快速的轻量级模型,在我们的反馈纠错探索环中完全能展现出惊艳的实际效果,最重要的是它的 Token 成本低廉到了极致

这让我们坚信,LakeMind 绝不是少数企业独占的重型方案,而是一个能够真正走进每一个数据分析师日常工作场景的普惠效率工具


核心设计哲学

与单纯生成 SQL 代码段的普通 AI 问答工具不同,LakeMind 围绕着“自主分析、就地计算、知识演化”构建了其底层架构:

1. 本地优先与就地关联 (Local-First & In-Place)

您的机器就是您的高性能计算中心。LakeMind 采用嵌入式 DuckDB 作为其高性能分析计算引擎。

  • 大文件就地关联 (In-Place):对于单机百万行级别的 Parquet 或 Delta Lake 湖仓文件,通过符号视图直接关联,由引擎直接利用 OS 指针读取,免去重复复制与载入时间
  • 数据不出网与计算本地化 (Data Privacy):虽然系统支持对接云端大模型 API,但 LakeMind 仅将列名 Schema 与业务逻辑提供给 AI 用于 SQL 生成,物理表中的原始数据绝不上网。所有查询、清洗与合并计算全部在本地 DuckDB 中执行,兼顾了云端大模型的极速响应与本地数据的绝对安全。

2. 主动加工与物化沉淀 (Active Processing & DDL Materialization)

LakeMind 的 Agent 不仅是回答问题,更能主动治理数据。 当分析任务涉及去重、过滤脏数据、类型转换等复杂清洗步骤,或需要多表关联(JOIN)时,Agent 不会只在对话框里贴一段 SQL,而是会主动调用 DDL 工具将结果物化沉淀下来

  • 自动创建 tmp_ 中间表/视图来分步搭建计算链。
  • 自动创建 t_(物理表)或 v_(视图)来物化最终结果,供后续分析直接复用。

3. 混合计算与联邦执行(解决 SQL 在哪里执行的难题)

面对多源异构数据,很多问数产品从一开始就没有想明白“写好的 SQL 到底应该在哪里运行”——在远程库跑读不到本地文件,在本地跑又会因为把大表明细全拉过来而导致网络阻塞崩溃。

LakeMind 给出了一套优雅的高性能答案:以本地嵌入式 DuckDB 作为中央查询协调器,进行“混合联邦执行(Hybrid Federated Execution)”

  • 本地文件本地算:桌面上的 CSV、Excel、Parquet 等本地文件,直接利用本地多核 CPU 进行向量化(SIMD)就地极速计算,零网络延迟。
  • 远程大表下推算:针对外部数据库(PostgreSQL/MySQL),Agent 绝对不会盲目将千万级明细行拉到本地,而是自动生成原生计算下推(Query Pushdown)函数(如 postgres_query),将重度的 GROUP BY 和聚合操作送入源头服务器执行,仅拉回轻量级的结果集
  • 跨源 JOIN 本地合:DuckDB 将下推拉回的小结果集与本地的 Excel 文件在本地内存中瞬间完成联合(JOIN)汇总。当需要频繁 OLAP 分析时,支持调用 materialize_remote_table 进行分区按需拉取、增量更新与断点续传本地物化。

4. 谷歌开源 OKF 统一标准与便携式上下文 (Google OKF Standard & Portable Context)

数据共享的最大障碍是“上下文断层”(不知道表含义、不知道口径)。LakeMind 深度采用了由谷歌开源的统一知识表示标准——Open Knowledge Format (OKF),实现了知识与数据的无缝随行:

  • 便携式知识包:分析过程中自动沉淀的表描述、主外键 JOIN 关联图、商业指标(Metrics)定义及数据清洗配方,均以 Markdown 和 YAML 纯文本存储在工作区 .okf/ 目录下(Git 友好),可随项目代码一同打包流转。
  • 零度冷启动:当其他团队成员(或其 AI 助手)接入共享的数据工作区后,系统可瞬间恢复 100% 的业务记忆与历史排障上下文,消除重复的探索与沟通壁垒。

5. 智能可视化决策与渲染 (Intelligent Chart Rendering)

不同于普通问答工具机械地展示图表,LakeMind 的 Agent 能够对数据结构进行敏感性分析,自动在表格与图表之间做出最合理的呈现抉择:

  • 精确表格 (Table):对于单值查询、少于 5 行的非趋势数据、或正在执行数据对账/排障场景,自动以纯表格结构输出,确保查询精度与核对直观。
  • 智能渲染图表 (Chart):若数据存在趋势(时间)、对比(分类)或占比等统计特征且行数 ≥3,Agent 会智能匹配并调用 render_chart 在对话中直接渲染出精美的 ECharts 图表(如折线、柱状、饼图、漏斗图等),并允许用户自由交互切换。

目标群体

  • 数据分析师 (Data Analysts):快速处理零碎的临时本地报表、提取大文件数据并生成可视化图表,无需单独编写 Python 脚本。
  • 数据工程师 (Data Engineers):离线对本地 Delta 湖仓或 Hive 分区数据进行 Schema 探查、运行 SQL 预处理以及快速物化沉淀。
  • 安全敏感型团队 (Privacy-Sensitive Teams):需要享受 AI 带来的智能数据探索效率,但由于严格的合规与数据隐私限制,任何数据都不能上传到云端。
  • 数据库开发者 (DBA / Developers):对外部关系型数据库进行轻量化采样探索、性能优化的查询下推和物化缓存分析。

Released under the MIT License.