Skip to content

Liam0205/pineapple

BranchesTags

Repository files navigation

English | 简体中文

Pineapple

高性能 DAG 流水线引擎。Python 声明，Go/Java 执行，JSON 解耦。

算子只需声明输入/输出字段，引擎自动推导依赖、构建 DAG、并行调度——你专注业务逻辑，Pineapple 负责把它跑快。

适用于任何需要多步骤数据处理流水线的场景：搜索/推荐/广告排序、特征工程、实时数据加工、规则引擎、ML 推理前后处理，等等。

⚠️ Pre-1.0 阶段：API 和行为语义可能在版本间发生不兼容变更。生产环境使用请锁定具体版本。

架构

Python DSL (Apple)  ──compile──>  JSON Config
                                      │
                          ┌───────────┼───────────┐
                          v           v           v
                   Pine-Go (Go)  Pine-Java    Pine-Python
                   构建 DAG       构建 DAG      构建 DAG
                   并行执行       并行执行      顺序执行
组件 语言 职责
Apple Python 声明式 DSL，编译输出 JSON 配置
Pine-Go Go 主执行引擎：解析配置、构建 DAG、并行调度
Pine-Java Java 第二执行引擎，与 Pine-Go 行为一致
Pine-Python Python 第三执行引擎，用于原型验证和测试
Pine-C++ C++ 初始 MVP 切片：本地 CLI 执行与 DAG 渲染

工程团队用 Go/Java 开发高性能算子；业务团队用 Python DSL 编排逻辑。两侧通过 JSON 配置彻底解耦。Pine-Python 提供纯 Python 运行时，适合快速原型验证和单元测试。

核心特性

  • 隐式构图 — 算子声明输入/输出字段，引擎自动推导 DAG 依赖并执行传递性归约
  • 无锁并行 — DAG 中无依赖的算子自动并行执行
  • 编译期校验 — 死代码、字段缺失、写后未读等问题在部署前拦截
  • Lua 嵌入 — 内置 Lua 算子支持轻量自定义计算，仅比 Go 原生慢约 1.3x
  • 配置热加载 — 服务运行时自动无停机重载引擎配置
  • 动态资源 — 后台定时刷新的内存资源管理器，无锁读
  • 白盒可观测 — 算子级 trace、/stats 端点、可插拔 Prometheus 接口
  • 行存/列存可切换 — DataFrame 支持两种存储模式
  • 三引擎一致性 — Go/Java/Python 引擎通过 CI 交叉验证保证 schema、DAG、执行结果一致
  • Pine-C++ 初始 MVP 已入仓 — 提供自包含 CMake 工程、pineapple-run 与 pineapple-render-dag CLI，当前聚焦本地可编译的纵向切片

从旧版迁移（Breaking Change）

自 v0.7 起，Go 引擎从仓库根目录迁移至 pine-go/ 子目录，Go module path 随之变更。

变更内容

项目 迁移前 迁移后
Module path github.com/Liam0205/pineapple github.com/Liam0205/pineapple/pine-go
Import github.com/Liam0205/pineapple/internal/... github.com/Liam0205/pineapple/pine-go/internal/...
Import github.com/Liam0205/pineapple/pkg/... github.com/Liam0205/pineapple/pine-go/pkg/...
Import github.com/Liam0205/pineapple/operators github.com/Liam0205/pineapple/pine-go/operators
Binary go build ./cmd/pineapple-server go build ./pine-go/cmd/pineapple-server

下游迁移步骤

# 1. 批量替换 import path
find . -name '*.go' -exec sed -i \
  's|github.com/Liam0205/pineapple/|github.com/Liam0205/pineapple/pine-go/|g' {} +

# 2. 修正 module 自身的引用（避免多余的 pine-go/pine-go）
find . -name '*.go' -exec sed -i \
  's|github.com/Liam0205/pineapple/pine-go/pine-go/|github.com/Liam0205/pineapple/pine-go/|g' {} +

# 3. 更新 go.mod
go get github.com/Liam0205/pineapple/pine-go@latest
go mod tidy

如果你的项目通过 pine.NewEngine / pine.BuildOperator 等公共 API 使用 Pineapple，上述步骤即可完成迁移。

配置与运行时语义变更

以下变更影响 JSON 配置和算子运行时行为：

1. row_dependency 重命名为 consumes_row_set

JSON 配置中算子的 "row_dependency": true 字段已移除，改用 "consumes_row_set": true（语义不变：标记算子需要等待行集稳定后才执行）。

 {
   "type_name": "transform_size",
-  "row_dependency": true,
+  "consumes_row_set": true,
   "$metadata": { ... }
 }

Apple DSL 侧同步变更：OpCall(..., row_dependency=True) → OpCall(..., consumes_row_set=True)。

2. DAG 调度模型变更：barrier → row-set marker interfaces

旧模型中 Filter/Merge/Reorder 算子被视为"barrier"——在它们执行前所有前驱必须完成，所有后继必须等它完成。

新模型通过三个 marker interface 精确声明 row-set 依赖：

Marker 含义 典型算子
ConsumesRowSet 迭代所有 item，需要行集稳定 filter_, merge_, reorder_*, transform_size
MutatesRowSet 删除或重排 item filter_, merge_, reorder_*
AdditiveWritesRowSet 追加 item（与其他追加者并行） recall_*

影响：仅操作 common 字段的 Transform 算子不再被 barrier 阻塞，可与 Filter/Merge/Reorder 并行执行。这提升了并行度但不改变最终结果——正确性由字段级数据冒险分析保证。

自定义算子迁移：如果你实现了自定义的 Recall 类型算子，需要嵌入 types.AdditiveWritesRowSetMarker。

3. Field Accessor 严格模式

BuildInput 现在区分 Strict 和 Defaulted 字段：

  • Strict（无 common_defaults / item_defaults 条目的字段）：运行时值为 nil 时立即报错，而非将 nil 透传给算子
  • Defaulted（有 default 的字段）：运行时值为 nil 或缺失时替换为默认值

影响：如果你的流水线依赖"nil 值透传给算子由算子自行处理"的行为，需要在配置中为该字段添加 common_defaults 或 item_defaults 条目（值可以是 null）来保持旧行为：

{
  "$metadata": { "common_input": ["optional_field"], ... },
  "common_defaults": { "optional_field": null }
}

Quick Start

环境要求

  • Go 1.22+（Pine-Go）
  • Java 21+（Pine-Java）
  • Python 3.11+（Apple DSL + Pine-Python）

1. 编写 Pipeline

from apple.flow import Flow

flow = Flow(
    name="demo",
    common_input=["user_age"],
    item_output=["item_id", "item_final_price"],
)

flow.recall_static(
    item_output=["item_id", "item_price"],
    items=[
        {"item_id": "a", "item_price": 100.0},
        {"item_id": "b", "item_price": 200.0},
    ],
)

flow.transform_by_lua(
    common_input=["user_age"],
    item_input=["item_price"],
    item_output=["item_final_price"],
    lua_script="""
function discount()
  if user_age < 18 then return item_price * 0.8
  else return item_price end
end
""",
    function_for_item="discount",
)

flow.reorder_sort(
    item_input=["item_final_price"],
    field="item_final_price",
    order="desc",
)

with open("pipeline.json", "w") as f:
    f.write(flow.compile())

2. 启动服务

go run ./pine-go/cmd/pineapple-server -config pipeline.json -addr :8080

3. 发送请求

curl -s -X POST http://localhost:8080/execute \
  -H "Content-Type: application/json" \
  -d '{"common": {"user_age": 16}, "items": []}' | python3 -m json.tool

修改 Python 后重新编译，服务自动热加载，无需重启。

项目结构

pineapple/
├── apple/                  # Python DSL (Apple)
│   ├── flow.py             #   Flow/SubFlow 声明
│   ├── compiler.py         #   编译器：DSL → JSON
│   ├── validator.py        #   静态校验器
│   └── tests/              #   Python 测试
├── apple_generated/        # codegen 自动生成的 Python 绑定
├── pine-go/                # Go 执行引擎 (Pine-Go)
│   ├── cmd/                #   CLI 工具
│   │   ├── pineapple-server/   # HTTP 服务
│   │   ├── pineapple-codegen/  # 代码 & 文档生成
│   │   ├── pineapple-dag/      # DAG 渲染
│   │   └── pineapple-run/      # 单次执行
│   ├── internal/           #   内部包（config/dag/dataframe/runtime）
│   ├── operators/          #   内置算子
│   ├── pkg/                #   可复用库（server/codegen/metrics/resource）
│   ├── integration/        #   集成测试
│   └── benchmarks/         #   性能基准测试
├── pine-java/              # Java 执行引擎 (Pine-Java)
│   ├── src/main/java/      #   引擎实现 + CLI 工具
│   └── src/test/java/      #   测试 + 基准 + fuzz
├── pine-cpp/               # C++ 初始 MVP (Pine-C++)
│   ├── include/pine/       #   公共头文件
│   ├── src/                #   config/dag/runtime/render
│   ├── operators/          #   MVP 内置算子实现占位
│   └── cmd/                #   pineapple-run / pineapple-render-dag
├── fixtures/               # 共享测试 fixtures（Go/Java 公用）
│   ├── operators/          #   算子级单元 fixtures
│   ├── pipelines/          #   Pipeline 级端到端 fixtures
│   └── errors/             #   错误路径 fixtures
├── scripts/                # 开发者脚本
├── design_doc/             # 设计文档
└── doc/                    # 生成的算子文档 & 报告

Pine-C++ 初始 MVP

仓库现已包含 pine-cpp/ 初始纵向切片，目标是先提供一个不依赖系统级 JSON/Lua 头文件、可在本地直接编译的 C++ 运行时最小骨架，而不是宣称已与其余运行时完整 parity。

当前能力：

  • CMake 工程：cmake -S pine-cpp -B pine-cpp/build && cmake --build pine-cpp/build
  • CLI：pine-cpp/build/pineapple-run -config ... -request ...
  • CLI：pine-cpp/build/pineapple-render-dag -config ... -format dot|mermaid [-collapse N]
  • 自包含最小 JSON 解析/序列化（object / array / string / number / bool / null）
  • 支持的 MVP 算子：transform_copy、filter_truncate、recall_static、reorder_sort
  • 支持 pipeline_group 展开、单一非 main group fallback、pipeline_map 递归展开、skip 归一化、strict/default field accessor、storage_mode 接受、基础 DAG 构建与渲染

明确未实现：Lua、HTTP server、/stats、热加载、resource 管理、完整算子集合、跨运行时 parity 校验接入。

常用脚本

脚本 用途
scripts/go-test.sh Go 全量测试
scripts/java-test.sh Java 全量测试
scripts/test-all.sh Go + Java + Python 全量测试
scripts/lint.sh Go + Java + Python lint
scripts/go-bench.sh Go 性能基准
scripts/java-bench.sh Java 性能基准
scripts/go-fuzz.sh Go fuzz 测试
scripts/java-fuzz.sh Java fuzz 测试
scripts/cross-validate.sh Go/Java 交叉验证（schema + DAG + 执行）
scripts/codegen.sh 代码生成（支持 --backend go|java）
scripts/render-dag.sh DAG 可视化（支持 --backend go|java）
scripts/apple-compile.sh Apple DSL 编译为 JSON
scripts/run-pipeline.sh 单次执行 pipeline
scripts/bump-version.sh 版本号同步更新

CI 流水线

CI 在每次 push/PR 时自动运行：

  • Lint — Go (golangci-lint)、Java (checkstyle)、Python (ruff)
  • Test — Go/Java/Python 全量测试 + 覆盖率
  • Fuzz — Go/Java fuzz 测试
  • Benchmark — Go/Java 性能基准
  • Cross-validation — Go/Java schema parity + DAG parity + 执行结果一致性
  • Codegen check — 确保生成代码与源码同步

交叉验证

scripts/cross-validate.sh 验证 Go 和 Java 引擎的一致性：

  1. Schema parity — 两端 codegen 导出的算子 schema（名称、参数类型、必填项、默认值）必须一致
  2. DAG parity — 相同配置输入，两端渲染的 DAG（DOT + Mermaid，含 collapse）必须一致
  3. Execution parity — 相同配置 + 请求，两端执行结果（JSON 归一化后）必须一致
  4. Column-store parity — 以列存模式重复上述执行验证
  5. Error parity — 非法配置/请求，两端返回相同的错误分类和消息
  6. Server parity — HTTP 端点的 status code、body 结构、Content-Type 一致
  7. Cancellation parity — 超时和运行时错误的取消行为一致

为下游构建 Cross-Validation 体系

如果你在 Go 和 Java 中同时实现了自定义算子并需要保证跨语言一致性，可以复用 Pineapple 的 parity 校验框架。

设计原则

  1. Fixture 驱动 — 所有验证基于共享 JSON fixture 文件，而非各语言硬编码 expected 值
  2. CLI 接口统一 — 每个引擎提供相同的 CLI 工具（-config、-request），输出 JSON 结果
  3. JSON 归一化比对 — 通过 sort_keys + 数值类型统一消除平台差异（Go map 无序、float64/Double 表示差异）
  4. 增量友好 — 新引擎只需实现 CLI 接口即可纳入验证

Fixture 格式

算子级 fixture（单算子行为验证）：

{
  "operator": "your_operator_name",
  "cases": [
    {
      "name": "描述性测试名",
      "params": { "param1": "value" },
      "metadata": {
        "common_input": [], "common_output": [],
        "item_input": ["field"], "item_output": ["result"]
      },
      "input": { "common": {}, "items": [{"field": 1}] },
      "expected": { "items": [{"result": 2}] }
    }
  ]
}

Pipeline 级 fixture（端到端执行验证）：

{
  "name": "fixture 描述",
  "config": { "pipeline_config": {...}, "pipeline_group": {...}, "flow_contract": {...} },
  "cases": [
    {
      "name": "case 描述",
      "request": { "common": {...}, "items": [...] },
      "expected": { "common": {...}, "items": [...] }
    }
  ]
}

错误路径 fixture：

{
  "name": "error 描述",
  "config": { ... },
  "expected_error": { "type": "ConfigError", "message_contains": "关键词" }
}

JSON 归一化策略

比对两端输出时，必须消除以下平台固有差异：

def normalize_json(text):
    """Go map 顺序不确定，数值类型表示不同"""
    import json
    obj = json.loads(text)
    # 递归将所有 int 统一为 float（消除 Go int vs Java Double）
    def unify(v):
        if isinstance(v, int): return float(v)
        if isinstance(v, list): return [unify(x) for x in v]
        if isinstance(v, dict): return {k: unify(x) for k, x in v.items()}
        return v
    return json.dumps(unify(obj), sort_keys=True)

下游接入步骤

  1. 在两侧各实现算子，保证参数名和 $metadata 声明一致
  2. 创建 fixture 文件，放入共享目录
  3. 编写验证脚本：分别调用两端 CLI，归一化输出后逐字节比对
  4. 纳入 CI：失败即阻断合并

参考 scripts/cross-validate.sh 的完整实现了解实战细节。

Benchmark

跨引擎性能对比（HTTP server 模式，小/中型 pipeline）。

延迟 (sequential requests, median ms)

Fixture Go Java Python
small_010 (10 items) 0.28 1.10 0.79
small_050 (50 items) 0.33 1.17 0.90
small_100 (100 items) 0.36 1.14 1.02
medium_0100 (100 items) 0.53 1.58 1.60
medium_0500 (500 items) 1.68 2.10 3.52
medium_1000 (1000 items) 2.96 2.92 5.84

吞吐量 (RPS, concurrency=16)

Fixture Go Java Python
small_010 3205 3367 1619
small_050 3000 3411 1393
small_100 2782 3308 1159
medium_0100 2189 3042 706
medium_0500 859 2506 301
medium_1000 591 1786 176

Pine-Python 建议用法

Pine-Python 受 CPython GIL 限制，并发吞吐量无法随核数线性扩展。建议用途：

  • 单元测试 — 无需编译 Go/Java 即可验证 pipeline 逻辑正确性
  • 原型验证 — 快速迭代 pipeline 配置，确认 DAG 结构和算子行为
  • CI cross-validate — 作为第三方校验源，确保三引擎行为一致
  • 低 QPS 场景 — 内部工具、离线批处理、开发环境

生产高并发场景请使用 Pine-Go 或 Pine-Java。

文档

类别 链接
设计文档 design_doc/ — 架构、数据模型、算子注册、可观测性等
算子参考 doc/operators/ — 所有内置算子详细说明
Pipeline 编写 doc/guide_pipeline.md — Apple DSL 使用指南
算子开发 doc/guide_operator.md — Go 算子开发指南
第三方扩展 design_doc/12_distribution.md — 不修改源码添加自定义算子
API 参考 doc/api.md — HTTP 接口说明

License

Apache-2.0

About

Multi-runtime DAG pipeline engine — declare in Python, execute in Go / Java / Python, decouple with JSON.

Topics

python java go lua dsl parallel-computing hot-reload dag data-pipeline operator-framework multi-runtime pipeline-engine

Resources

Readme

License

Apache-2.0 license
Activity

Stars

8 stars

Watchers

0 watching

Forks

2 forks
Report repository

Releases

53 tags

Packages

 
 
 

Contributors

Languages