Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

ЛР-8 / lab8_models

.py
Скачиваний:
0
Добавлен:
15.11.2026
Размер:
3 Кб
Скачать
☆
"""Выбор модели GitHub Models (Marketplace) для lab8."""

from __future__ import annotations

import os
import sys
import time
from pathlib import Path

from lab8_github_client import GitHubModelsClient

MODEL_CACHE = Path(__file__).resolve().parent / ".lab8_model"

CANDIDATE_MODELS: tuple[str, ...] = (
    "openai/gpt-4o-mini",
    "openai/gpt-4.1",
    "deepseek/deepseek-v3",
    "deepseek/deepseek-r1-0528",
)


def _probe(client: GitHubModelsClient, model: str) -> None:
    client.chat_completion(
        model=model,
        messages=[{"role": "user", "content": "Ответь одним словом: ок"}],
        temperature=0,
        max_tokens=5,
    )


def pick_model(
    client: GitHubModelsClient | None = None,
    preferred: str | None = None,
    *,
    use_cache: bool = True,
) -> str:
    if client is None:
        client = GitHubModelsClient()

    if preferred is None:
        preferred = os.environ.get("GITHUB_MODEL")

    if use_cache and MODEL_CACHE.exists():
        cached = MODEL_CACHE.read_text(encoding="utf-8").strip()
        if cached:
            try:
                _probe(client, cached)
                return cached
            except Exception:
                pass

    available: set[str] = set()
    try:
        available = set(client.list_models())
    except Exception:
        pass

    order: list[str] = []
    if preferred:
        order.append(preferred)
    for model in CANDIDATE_MODELS:
        if model not in order:
            order.append(model)
    if available:
        order = [m for m in order if m in available] + [
            m for m in sorted(available) if m not in order
        ]

    last_error: Exception | None = None
    for model in order:
        try:
            _probe(client, model)
            MODEL_CACHE.write_text(model, encoding="utf-8")
            return model
        except Exception as exc:
            last_error = exc
            time.sleep(2)

    raise RuntimeError(
        "Модель GitHub Models недоступна. Проверьте PAT (scope models:read) "
        "и каталог: https://github.com/marketplace/models\n"
        "При 402/429 добавьте запасные PAT в github_credentials.txt (по строке) — "
        "сработает автозамена токенов.\n"
        "Или задайте: $env:GITHUB_MODEL='deepseek-v4-flash'\n"
        f"Последняя ошибка: {last_error}"
    )


def main() -> None:
    try:
        client = GitHubModelsClient()
        model = pick_model(client)
    except Exception as exc:
        print(f"Ошибка: {exc}", file=sys.stderr)
        sys.exit(1)

    print(f"Доступная модель: {model}")
    print(f"Сохранено в {MODEL_CACHE.name}")
    print("Запуск генерации:")
    print("  python lab8_generate.py --test")
    print("  python lab8_generate.py --resume")


if __name__ == "__main__":
    main()
Соседние файлы в папке ЛР-8