Skip to content
Draft
Show file tree
Hide file tree
Changes from all commits
Commits
File filter

Filter by extension

Filter by extension


Conversations
Failed to load comments.
Loading
Jump to
Jump to file
Failed to load files.
Loading
Diff view
Diff view
19 changes: 19 additions & 0 deletions fowoco-knowledge/CHANGELOG.md
Original file line number Diff line number Diff line change
@@ -1,5 +1,24 @@
# Changelog

## 0.3.0 - 2026-07-16

- 대표 모델을 Intent·Domain 다중라벨 분류로 고정한 데이터 계약 추가
- Seed·평가 데이터의 역할, 평가 잠금, 증강 금지 정책 명시
- 데이터 분포·중복·분할 누수·개인정보 패턴·준비 상태 리포트 CLI 추가
- 기존 제안 라벨을 숨긴 2인 독립 검수 큐와 최종 합의 양식 추가
- 두 검수 결과의 Exact Match·Kappa와 불일치 큐 생성 CLI 추가
- 팀 분류 라벨과 전문가 Workflow 검수 범위를 분리
- Intent·Domain 경계 사례와 데이터 담당 운영 절차 문서화

## 0.2.0 - 2026-07-16

- 필요서류 187건과 EPS 세부업종 847건의 원본 해시·버전을 고정
- 제조업 필요서류 122건과 제조업 세부업종 569건 정규화
- 데이터 적재·검증·조회 CLI 추가
- 고용변동 신고와 계약·고용허가·체류 연장 절차 분리
- 고용변동 신고의 HR 사실확인·기한 후보 계산·증빙 완료 기준 추가
- 다국어 사업내용의 표본 불일치로 번역 사용을 보류하고 품질 제한 문서화

## 0.1.0 - 2026-07-16

- FOWOCO 6개 Intent와 9개 Domain 정의
Expand Down
32 changes: 31 additions & 1 deletion fowoco-knowledge/README.md
Original file line number Diff line number Diff line change
Expand Up @@ -49,12 +49,31 @@ python3.11 -m venv .venv
# 지원 Workflow 목록
.venv/bin/python -m fowoco_knowledge list-workflows

# 데이터 분포·누수·개인정보·준비 상태 확인
.venv/bin/python -m fowoco_knowledge data-report

# Agent에 전달할 Context 묶음 확인
.venv/bin/python -m fowoco_knowledge compile-context WF-STY-001

# 분류·Slot Filling 결과가 Workflow를 실행할 수 있는지 확인
.venv/bin/python -m fowoco_knowledge check-request \
fowoco-knowledge/examples/ambiguous_document_request.json

# 공식 원본 검증 후 제조업 Knowledge 스냅샷 재생성
.venv/bin/python -m fowoco_knowledge sync-official-data

# 신청서별 필요서류와 제조업 세부업종 조회
.venv/bin/python -m fowoco_knowledge \
list-required-documents "외국인 고용변동 등 신고"
.venv/bin/python -m fowoco_knowledge search-industries "금속가공제품"

# 기존 제안 라벨을 숨긴 독립 검수 파일 생성
.venv/bin/python -m fowoco_knowledge \
build-review-queue REV-A reviewer-a.csv

# 독립 검수 결과 비교와 불일치 큐 생성
.venv/bin/python -m fowoco_knowledge compare-reviews \
reviewer-a.csv reviewer-b.csv --output disagreements.csv
```

`check-request`는 자연어 모델을 대신하지 않습니다. 모델이 출력한 Workflow와 Slot이
Expand All @@ -76,7 +95,18 @@ python3.11 -m venv .venv

- `gold_seed.csv`: 프롬프트·분기 개발용 초기 Seed이며 모델 학습 완료 데이터가 아님
- `golden_cases.jsonl`: 코드와 모델 평가에만 사용하는 독립 사례
- `dataset_manifest.yaml`: 대표 모델, 데이터 역할, 평가 잠금, 증강 정책의 단일 기준
- 공개데이터: 절차·용어·분포 보조자료이며 FOWOCO Intent의 정답 라벨로 간주하지 않음
- 실제 운영 로그: 개인정보를 제거하고 별도 승인된 경우에만 Active Learning 후보로 사용

세부 기준은 [`docs/DATA_GUIDE.md`](docs/DATA_GUIDE.md)를 확인합니다.
세부 기준은 [`docs/DATA_GUIDE.md`](docs/DATA_GUIDE.md), 실제 검수 순서는
[`docs/DATA_OPERATIONS.md`](docs/DATA_OPERATIONS.md)를 확인합니다.
Intent·Domain의 경계 사례는 [`docs/LABELING_GUIDE_V1.md`](docs/LABELING_GUIDE_V1.md)를
확인합니다.
검수자가 CSV를 작성할 때는
[`docs/REVIEWER_GUIDE_KO.md`](docs/REVIEWER_GUIDE_KO.md)와
[`data/review/label_reference.csv`](data/review/label_reference.csv)를 함께 사용합니다.

공식 데이터 변환은 [`docs/OFFICIAL_DATA_PIPELINE.md`](docs/OFFICIAL_DATA_PIPELINE.md),
신고·연장 기능의 범위는 [`docs/E9_REPORTING_WORKFLOWS.md`](docs/E9_REPORTING_WORKFLOWS.md)를
확인합니다.
42 changes: 42 additions & 0 deletions fowoco-knowledge/data/dataset_manifest.yaml
Original file line number Diff line number Diff line change
@@ -0,0 +1,42 @@
version: 0.1.0
representative_model:
id: INTENT_DOMAIN_MULTI_LABEL
name_ko: HR 요청 Intent·Domain 다중라벨 분류
task_type: multi_label_text_classification
input_fields: [input_mode, hr_utterance, system_context]
target_fields: [intents, domains]
auxiliary_fields: [workflow_ids, slots_json, missing_slots, ambiguities, next_action]
decision: >-
FOWOCO의 대표 모델은 HR 요청을 하나 이상의 Intent와 Domain으로 분류한다.
Workflow·Slot·안전검사는 모델 출력 이후의 Agent와 규칙 엔진에서 처리한다.

datasets:
seed:
path: data/seed/gold_seed.csv
role: development_seed
locked: false
may_train: false
note: 두 명의 독립 검수와 필요한 전문가 검수를 통과하기 전에는 학습에 사용하지 않는다.
evaluation:
path: data/evaluation/golden_cases.jsonl
role: smoke_evaluation
locked: true
may_train: false
sha256: b4bad76bf5613d60353582dd55f5623cc20f153e618f00954ad9bcf7bd652352
note: 프롬프트·모델 후보의 빠른 작동 검증 전용이며 최종 성능 주장에 사용하지 않는다.

targets:
gold_v1_min_rows: 60
smoke_evaluation_min_rows: 15
baseline_total_rows: 600
baseline_min_rows_per_in_scope_intent: 80

policies:
independent_reviewer_count: 2
split_before_augmentation: true
augmentation_train_only: true
evaluation_examples_in_prompt: false
classification_gold_allows_team_review: true
high_and_critical_auxiliary_workflow_require_expert: true
personally_identifiable_text_allowed: false
compound_request_strategy: split_and_confirm
10 changes: 6 additions & 4 deletions fowoco-knowledge/data/external/README.md
Original file line number Diff line number Diff line change
@@ -1,11 +1,13 @@
# External data

공식 원본 데이터는 이 디렉토리에 커밋하지 않습니다.
공식 원본 데이터는 이 디렉토리에 커밋하지 않습니다. 출처·버전·원본 해시는
`source_manifest.yaml`, 제조업 정규화 결과는 `data/processed/`에서 관리합니다.

1. `knowledge/official_links.yaml`의 출처에서 원본 다운로드
2. 라이선스·게시일·행 수 확인
3. `local-data/`에서 비식별·정규화 작업
4. 필요한 코드·용어·출처 ID만 Context Pack에 반영
3. `local-data/official/`에서 SHA·행 수·컬럼 검증
4. `sync-official-data`로 제조업 정규화 스냅샷 생성
5. Knowledge 변경 Issue와 Pull Request에 확인일·변환 규칙 기록

이 방식은 원본 데이터 재배포와 오래된 스냅샷의 무분별한 사용을 방지합니다.
이 방식은 원본 데이터 재배포와 오래된 스냅샷의 무분별한 사용을 방지합니다. 세부 기준은
`docs/OFFICIAL_DATA_PIPELINE.md`를 확인합니다.
57 changes: 57 additions & 0 deletions fowoco-knowledge/data/external/source_manifest.yaml
Original file line number Diff line number Diff line change
@@ -0,0 +1,57 @@
version: 0.1.0
verified_at: 2026-07-16
policy:
raw_files_committed: false
normalized_snapshots_committed: true
checksum_mismatch_action: stop_and_review
sources:
- id: SRC-KEIS-REQUIRED-DOCS
title: 한국고용정보원_고용허가제 민원서식별 업종별 필요 서류_20250826
landing_url: https://www.data.go.kr/data/15153513/fileData.do
download_url: https://www.data.go.kr/cmm/cmm/fileDownload.do?atchFileId=FILE_000000003536044&fileDetailSn=1&insertDataPrcus=N
source_version: "20250826"
filename: required_documents.csv
encoding: utf-8-sig
sha256: 3816528c5f41285c9d9b87582a5c650a52f7d48868fee46dcc2bd7dc1073ec00
expected_rows: 187
expected_columns: [신청서명, 필요서류명, 해당업종, 샘플서식제공여부]
transform: required_documents_manufacturing
output: required_documents_manufacturing.csv
license: 이용허락범위 제한 없음

- id: SRC-KEIS-ALLOWED-INDUSTRIES
title: 한국고용정보원_업종별 EPS 허용 세부업종 및 사업내용_20251121
landing_url: https://www.data.go.kr/data/15153406/fileData.do
download_url: https://www.data.go.kr/cmm/cmm/fileDownload.do?atchFileId=FILE_000000003535225&fileDetailSn=1&insertDataPrcus=N
source_version: "20251121"
filename: allowed_industries.csv
encoding: utf-8-sig
sha256: 274c2d0084878a8f5122a00f92086983391fd9176ab5821a06cccf0e2e1a2eeb
expected_rows: 847
expected_columns:
- 대분류 업종명
- 중분류 업종명
- 사업내용
- 사업내용 영어
- 사업내용 방글라데시
- 사업내용 카자흐스탄
- 사업내용 베트남
- 사업내용 네팔
- 사업내용 필리핀
- 사업내용 스리랑카
- 사업내용 태국
- 사업내용 파키스탄
- 사업내용 미얀마
- 사업내용 캄보디아
- 사업내용 라오스
- 사업내용 중국
- 사업내용 우즈베키스탄
- 사업내용 몽골
- 사업내용 인도네시아
- 사업내용 동티모르
transform: manufacturing_industries
output: manufacturing_industries.csv
license: 이용허락범위 제한 없음
quality_note: >-
다국어 열은 한국어 사업내용과 의미가 일치하지 않는 표본이 확인되어 사용을 보류한다.
MVP에서는 한국어 업종 분류와 영어 참고명만 정규화한다.
11 changes: 11 additions & 0 deletions fowoco-knowledge/data/processed/manifest.yaml
Original file line number Diff line number Diff line change
@@ -0,0 +1,11 @@
version: 0.1.0
source_verified_at: 2026-07-16
datasets:
- source_id: SRC-KEIS-REQUIRED-DOCS
path: required_documents_manufacturing.csv
row_count: 122
sha256: 96a712f01cbcd13e43c53501f386803be973a79da4c379f143c53ddfb288a053
- source_id: SRC-KEIS-ALLOWED-INDUSTRIES
path: manufacturing_industries.csv
row_count: 569
sha256: 4cfc3a1ce928f3f04011b166533e871b1a47b58da70d8650d7fbd7248fdee04e
Loading
Loading