Skip to content

feat(ci): judge.yml — choix du modèle juge (OpenRouter)#46

Open
benoitvx wants to merge 2 commits into
mainfrom
ci/judge-model-input
Open

feat(ci): judge.yml — choix du modèle juge (OpenRouter)#46
benoitvx wants to merge 2 commits into
mainfrom
ci/judge-model-input

Conversation

@benoitvx

Copy link
Copy Markdown
Contributor

Pourquoi

judge.yml ne permettait pas de choisir le modèle juge : single était câblé sur Albert/Mistral, panel utilisait le modèle OpenRouter par défaut (sonnet-4.5). Impossible de lancer un juge plus récent (ex. claude-opus-4.8) en CI → on était contraint au local.

Changement

Deux inputs workflow_dispatch :

  • judge_provider (albert | openrouter) — pour single.
  • judge_model (string) — override du modèle, ex. anthropic/claude-opus-4.8.

Câblage : singlejudge --judge-provider <prov> [--judge-model <model>] ; panel--judge albert --judge openrouter:<model> si un modèle est fourni. Le nom du rapport inclut un slug du modèle pour ne pas écraser le run Mistral (gravite-single.md vs gravite-single-anthropic_claude-opus-4.8.md).

Note

Le barème G0–G3 est inchangé (on ne fait varier que le modèle juge, pour garder les scores comparables à la baseline).

🤖 Generated with Claude Code

Permet de lancer le LLM-as-a-judge en CI avec un modèle OpenRouter au choix
(ex. anthropic/claude-opus-4.8) au lieu du seul défaut. single respecte
--judge-provider/--judge-model ; panel accepte un modèle openrouter custom. Le
nom du rapport inclut un slug du modèle → pas d'écrasement du run Mistral
(gravite-single.md vs gravite-single-anthropic_claude-opus-4.8.md).

Co-Authored-By: Claude Opus 4.8 (1M context) <[email protected]>
@gemini-code-assist

Copy link
Copy Markdown

Note

Gemini is unable to generate a review for this pull request due to the file types involved not being currently supported.

Ajoute inputs `judges` (CSV PROVIDER[:MODEL], 2..N juges) et `consensus_min`
(nb min de juges confirmant un G3). Permet un vrai consensus N-juges en CI :
panel --judge ... --judge ... --judge ... --mode consensus --consensus-min K.
Rétro-compatible : panel sans `judges` garde l'ancien comportement.

Co-Authored-By: Claude Opus 4.8 (1M context) <[email protected]>
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant