在前后端开发联调前的提交20260223

2026-02-23 23:02:20 +08:00
parent 254ccb1e77
commit fafc95e64c
1142 changed files with 10366960 additions and 36957 deletions
--- a/docs/audit/prompt_logs/prompt_log_20260221_193523.md
+++ b/docs/audit/prompt_logs/prompt_log_20260221_193523.md
@@ -0,0 +1,156 @@
+- [P20260221-193523] 2026-02-21 19:35:23 +0800
+  - summary: CONTEXT TRANSFER: We are continuing a conversation that had gotten too long. Here is a summary: --- ## TASK 1: 前后端联调 — a…
+  - prompt:
+```text
+CONTEXT TRANSFER: We are continuing a conversation that had gotten too long. Here is a summary:
+
+---
+## TASK 1: 前后端联调 — admin-web 任务配置、提交、执行、验证
+
+**STATUS**: in-progress
+
+**USER QUERIES**: All queries in this conversation are continuations of the same task from previous context transfers.
+
+**SHORT DESCRIPTION**: 前后端联调：通过 admin-web 浏览器配置 ETL 任务（api_full, full_window, 2025-11-01~2026-02-20, 30天窗口切分, force-full, 40个常用任务），提交执行，修复发现的 BUG，做回归测试和数据检验，输出详细文档。
+
+**DETAILS**:
+
+### 第一次执行（已完成）
+- execution_id: `dbf0c29a-253a-4705-a1ef-35cd71243d48`, run_uuid: `4ba9d2d365ee4a858f1c4104b1942dc2`
+- 结果: 10 成功, 31 失败, 耗时 590.7s
+- 根因: `DWS_ASSISTANT_DAILY` SQL 字段引用错误 → 已修复 4 处改动
+- 文档已导出: `export/SYSTEM/LOGS/2026-02-21__etl_run_result.md`, `export/SYSTEM/LOGS/2026-02-21__dws_assistant_daily_bug_fix.md`
+
+### 第二次执行（回归验证，刚完成分析）
+- execution_id: `e21e1935-5abf-434f-9984-69c492402db7`, run_uuid: `3f3ee230cbec4a17995e0510badeaf9e`
+- 结果: status=success, exit_code=0, 耗时 150.4s (2.5m), 31 个任务
+- 文档已导出: `export/SYSTEM/LOGS/2026-02-21__etl_run_result_v2.md`, `export/SYSTEM/LOGS/2026-02-21__etl_run_raw_v2.json`
+
+### 第二次执行的任务级结果（从 error_log 分析）：
+1. `DWS_ASSISTANT_DAILY` ✅ **修复验证通过** — 4 个窗口全部完成，367 条插入，0 错误
+2. `DWS_ASSISTANT_MONTHLY` ❌ **新 BUG: UniqueViolation** — `重复键违反唯一约束"uk_dws_assistant_monthly"`，键值 `(site_id, assistant_id, stat_month)=(2790685415443269, 2793363001774149, 2025-12-01)` 已存在。原因：第一次执行时 `DWS_ASSISTANT_MONTHLY` 的窗口 1（2025-11 月）成功写入了数据，第二次执行窗口 2（2025-12 月）时 `_delete_by_months` 可能只删了当前窗口的月份但 bulk_insert 包含了跨月数据，或者 `_delete_by_months` 没有正确清理。load 方法已读取：先调 `_delete_by_months` 再 `bulk_insert`，逻辑看起来正确，需要深入检查 `_delete_by_months` 的实现。
+3. `DWS_ASSISTANT_CUSTOMER` ❌ **新 BUG: UndefinedColumn** — `字段 "site_id" 不存在`，在 `_extract_member_info` 方法中，SQL 的 WHERE 子句引用了不存在的 `site_id` 字段
+4. 其余 28 个任务 ❌ 全部因 `InFailedSqlTransaction` 级联失败（与第一次相同的事务污染模式）
+
+### 已修复的 BUG（第一次执行发现，已验证通过）：
+**文件**: `apps/etl/connectors/feiqiu/tasks/dws/assistant_daily_task.py`，4 处改动：
+1. `_extract_trash_records` — SQL 字段名修正
+2. `_extract_service_records` — 新增 LEFT JOIN `dwd_assistant_service_log_ex` 取 `is_trash`
+3. `_build_trash_index` — key 改为 `assistant_trash_event_id`
+4. `_aggregate_by_assistant_date` — 废除判断改用 `is_trash` 字段
+
+### 待修复的新 BUG（第二次执行发现）：
+
+**BUG 2: DWS_ASSISTANT_MONTHLY UniqueViolation**
+- 文件: `apps/etl/connectors/feiqiu/tasks/dws/assistant_monthly_task.py`
+- 问题: `_delete_by_months` 方法可能没有正确删除目标月份的已有数据，导致 `bulk_insert` 时唯一约束冲突
+- 需要检查: `_delete_by_months` 的实现逻辑，确认它是否正确提取了 transformed 数据中的所有月份并执行了 DELETE
+- 已读取 `load` 方法（line 150），逻辑是先 delete 再 insert，但 `_delete_by_months` 的具体实现尚未读取
+
+**BUG 3: DWS_ASSISTANT_CUSTOMER UndefinedColumn**
+- 文件: `apps/etl/connectors/feiqiu/tasks/dws/assistant_customer_task.py`
+- 问题: `_extract_member_info` 方法（line 258）SQL 中 `WHERE site_id = ...` 引用了不存在的字段
+- 需要检查: 目标表的实际字段名（可能是 `tenant_id` 或其他字段）
+
+**NEXT STEPS**:
+1. **修复 BUG 2** — 读取 `assistant_monthly_task.py` 的 `_delete_by_months` 方法，分析 UniqueViolation 根因并修复
+2. **修复 BUG 3** — 读取 `assistant_customer_task.py` 的 `_extract_member_info` 方法，修复 `site_id` 字段引用
+3. **第三次执行** — 提交修复后的 31 个任务重新执行
+4. **导出第二次执行的 BUG 修复报告** — 类似第一次的 `dws_assistant_daily_bug_fix.md`
+5. **运行 /audit** — `assistant_daily_task.py` 的修改命中 `tasks/` 高风险路径，需要审计（加上新修复的文件）
+
+### 认证信息：
+- refresh_token（7 天有效，到 2026-02-28）: `eyJhbGciOiJIUzI1NiIsInR5cCI6IkpXVCJ9.eyJzdWIiOiIxIiwic2l0ZV9pZCI6Mjc5MDY4NTQxNTQ0MzI2OSwidHlwZSI6InJlZnJlc2giLCJleHAiOjE3NzIyNjM0NjN9.XYoda5lfxNtTSAGWoLlYhS9cA-hTK9iqK0SqUyn2KV4`
+- 刷新 API: `POST http://localhost:8000/api/auth/refresh` body: `{"refresh_token": "..."}`
+- access_token 缓存在 `scripts/ops/.monitor_token`（30 分钟有效，需要用 refresh_token 刷新）
+- 后端 API: `http://localhost:8000/api/execution/run` (POST), `/api/execution/history` (GET), `/api/execution/{id}/logs` (GET)
+
+### 提交执行的正确配置：
+```python
+config = {
+    "tasks": [...],
+    "flow": "api_full",
+    "processing_mode": "full_window",
+    "window_mode": "custom",
+    "window_start": "2025-11-01",
+    "window_end": "2026-02-20",
+    "window_split": "month",  # 注意：不是 "split"，有效值是 none/day/week/month
+    "window_split_days": 30,
+    "force_full": True,
+    "dry_run": False,
+    "lookback_hours": 24,
+    "overlap_seconds": 600,
+}
+```
+
+### DWD 表结构速查：
+- `dwd.dwd_assistant_trash_event`: `assistant_trash_event_id` BIGINT (PK), `site_id`, `table_id`, `table_area_id`, `assistant_no`, `assistant_name`, `charge_minutes_raw` INTEGER（分钟）, `abolish_amount`, `trash_reason`, `create_time` TIMESTAMPTZ, `tenant_id`
+- `dwd.dwd_assistant_service_log`: `assistant_service_id` BIGINT (PK), `site_table_id`, `is_delete` INTEGER, `income_seconds` INTEGER, `start_use_time` TIMESTAMPTZ
+- `dwd.dwd_assistant_service_log_ex`: `assistant_service_id` BIGINT (PK), `is_trash` INTEGER（0=正常，非0=废除）
+
+**RUNNING PROCESSES**:
+- 进程 6: `pnpm dev` in `apps/admin-web`（前端 dev server, port 5173）
+- 后端 uvicorn PID 3644（通过 Start-Process 启动, port 8000, 非 Kiro 管理）
+- 进程 3, 11: 已完成（etl_consistency_check, dataflow_analyzer）
+- 进程 16: 已完成（resubmit_failed.py）
+
+**BROWSER STATE**:
+- Playwright 浏览器在 http://localhost:5173/（任务配置页面）
+
+**FILEPATHS**:
+- `apps/etl/connectors/feiqiu/tasks/dws/assistant_daily_task.py` — 已修复，验证通过
+- `apps/etl/connectors/feiqiu/tasks/dws/assistant_monthly_task.py` — 待修复 BUG 2
+- `apps/etl/connectors/feiqiu/tasks/dws/assistant_customer_task.py` — 待修复 BUG 3
+- `apps/etl/connectors/feiqiu/tasks/dws/base_dws_task.py` — bulk_insert 方法所在
+- `apps/backend/app/schemas/tasks.py` — TaskConfigSchema 定义
+- `apps/backend/app/routers/execution.py` — 后端执行 API
+- `apps/backend/app/services/cli_builder.py` — CLI 命令构建
+- `scripts/ops/resubmit_failed.py` — 重新提交脚本（已修正 window_split="month"）
+- `scripts/ops/export_etl_result.py` — 第一次执行结果导出脚本
+- `scripts/ops/export_etl_result_v2.py` — 第二次执行结果导出脚本
+- `scripts/ops/_env_paths.py` — 共享路径工具
+- `scripts/ops/_check_token.py` — token 检查工具
+- `scripts/ops/_fetch_logs.py` — 日志获取工具
+- `export/SYSTEM/LOGS/2026-02-21__etl_run_result.md` — 第一次执行结果报告
+- `export/SYSTEM/LOGS/2026-02-21__dws_assistant_daily_bug_fix.md` — BUG 修复报告
+- `export/SYSTEM/LOGS/2026-02-21__etl_run_result_v2.md` — 第二次执行结果报告
+- `export/SYSTEM/LOGS/2026-02-21__etl_run_raw_v2.json` — 第二次原始数据
+- `db/etl_feiqiu/schemas/dwd.sql` — DDL 参考
+
+## USER CORRECTIONS AND INSTRUCTIONS:
+- 所有输出文件必须写入 `export/` 目录体系，通过 `.env` 环境变量控制路径（export-paths.md 强制规范）
+- `scripts/ops/` 脚本通过 `_env_paths.get_output_path("变量名")` 读取输出路径
+- 测试必须使用完整 `.env` 加载，cwd 与正式运行一致（testing-env.md 强制规范）
+- 所有说明性文字使用简体中文（language-zh.md 强制规范）
+- 脚本级任务优先编写 Python 脚本执行，避免 PowerShell 复杂逻辑
+- 一次性运维脚本放 `scripts/ops/`
+- 高风险路径变更需审计（`tasks/` 目录下的修改需要审计）
+- `window_split` 参数有效值是 `none/day/week/month`，不是 `split`
+- 提交执行前需要用 refresh_token 刷新 access_token（30 分钟过期）
+
+## Files to read
+- `apps/etl/connectors/feiqiu/tasks/dws/assistant_monthly_task.py`
+- `apps/etl/connectors/feiqiu/tasks/dws/assistant_customer_task.py`
+- `apps/etl/connectors/feiqiu/tasks/dws/assistant_daily_task.py`
+- `scripts/ops/_env_paths.py`
+- `scripts/ops/resubmit_failed.py`
+- `export/SYSTEM/LOGS/2026-02-21__etl_run_result_v2.md`
+
+USER QUERIES(most recent first):
+1. Output:
+Command executed successfully with no output.
+
+Exit Code: 0
+2. Output:
+Command executed successfully with no output.
+
+Exit Code: 0
+---
+
+METADATA:
+The previous conversation had 2 messages.
+
+INSTRUCTIONS:
+Continue working until the user query has been fully addressed. Do not ask for clarification - proceed with the work based on the context provided.
+IMPORTANT: you need to read from the files to Read section
+```