Skip to content

[Data] Seed 문장 교차 검수와 Gold V1 확정 #4

Description

@hywznn

배경

초기 Seed는 라벨·분기 구조를 확인하기 위한 DRAFT이며 실제 학습 완료 데이터가 아닙니다. 대표 모델은 Intent·Domain 다중라벨 분류로 고정하고, Workflow·Slot은 Agent 보조 정답으로 분리합니다.

완료한 기반 작업

  • 대표 모델과 데이터 역할을 dataset manifest로 고정
  • Smoke Evaluation 18건 checksum 잠금
  • REV-A·REV-B 블라인드 독립 검수 큐 생성
  • Intent·Domain 경계 사례 가이드 V1 작성
  • 분포·중복·누수·PII·준비 상태 리포트 자동화
  • 검수 일치도와 불일치 큐 생성 자동화
  • 팀 분류 검수와 전문가 Workflow 검수 범위 분리

남은 작업

  • REV-A Intent·Domain 1차 검수
  • REV-B Intent·Domain 1차 검수
  • Exact Match·Macro Kappa와 불일치표 생성
  • 불일치 합의 및 라벨 가이드 V1.1 반영
  • 인터뷰 유래 문장의 동의·비식별 범위 확인
  • 추가 2040건 작성으로 Gold Seed 6080건 확보
  • 고위험 Workflow·필수서류·조치안 전문가 표본 검수
  • 최종 평가셋 확장 계획 확정

완료 기준

  • 분류용 Gold 모든 행에 두 명의 독립 검수와 합의 기록 존재
  • 개인정보 패턴, Seed 중복, 평가셋 누수 0건
  • Intent·Domain Macro Kappa 0.70 이상
  • 고위험 Workflow는 전문가 확인 전 Agent 정답으로 사용하지 않음

관련 구현: PR #19

Metadata

Metadata

Assignees

Labels

area:dataSeed·Gold·평가·출처 데이터 관리priority:P0MVP 진행을 막는 최우선 핵심 작업security:privacy개인정보·접근권한·보안 영향이 있는 작업status:in-progress담당자가 작업을 진행 중type:data데이터셋 제작·라벨링·검수 작업

Type

No type

Fields

No fields configured for issues without a type.

Projects

No projects

Relationships

None yet

Development

No branches or pull requests

Issue actions