azosi · 2026.10.16 00:01 · 조회 0
Mistral, 첫 시계열 foundation 모델 'Timestral' 공개 — 209M으로 3대 벤치마크 1위
Mistral이 10월 15일 시계열 예측 전용 foundation 모델 패밀리 Timestral을 공식 발표했다. 4개 사이즈(5M/28M/123M/209M)가 같은 날 Hugging Face와 GitHub에 동시 오픈됐고, 가장 큰 모델조차 2억 파라미터 남짓이다. 그런데도 GIFT-Eval·TIME·fev-bench 세 가지 공개 벤치마크 모두에서 1위를 기록했다.
무엇이 발표됐나
Timestral은 Mistral이 내놓는 첫 시계열 foundation 모델이다. 언어 모델과 같은 방식의 사전학습·제로샷 일반화를 시계열 도메인으로 가져왔다. Mistral 공식 발표에 따르면 209M짜리 가장 큰 모델이 세 가지 메인 벤치마크에서 모두 1위이며, "이전 최첨단 모델의 약 2/3 파라미터로 더 좋은 점수"를 냈다. 동일한 아키텍처와 학습 레시피로 5M·28M·123M·209M 네 사이즈가 함께 공개됐다.
핵심 설계는 세 가지다.
- 합성 사전학습(synthetic pre-training) — 시계열 생성 합성 데이터로 도메인 일반화
- 공변량 인지 어텐션(covariate-aware attention) — 과거·미래 공변량을 함께 반영
- 장문 컨텍스트 학습(long-context learning) — 과거 32,768 step을 한 번에 입력
핵심 수치
Mistral 공식 페이지에 명시된 수치만 모았다.
| 항목 | 값 |
|---|---|
| 사이즈 | 5M / 28M / 123M / 209M 파라미터 |
| 컨텍스트 길이 | 최대 32,768 timestep |
| 한 번에 예측 | 최대 1,024 step (21개 quantile 분포) |
| 라이선스 | Modified MIT (가중치) / Apache 2.0 (코드) |
| CPU 추론 (8-thread 서버) | 5M ≈ 10ms, 209M ≈ 140ms |
| 벤치마크 | GIFT-Eval·TIME·fev-bench 모두 1위 |
209M 모델이 140ms로 1일 앞을 예측한다는 표현은 GPU 없이 시계열 추론이 가능하다는 뜻이다. 엣지·산업용 모니터링 파이프라인에 그대로 끼울 수 있다는 얘기다.
오픈 웨이트, 그리고 Mistral Forge
Timestral은 출시와 동시에 Hugging Face와 GitHub에 공개됐다. 가중치는 Modified MIT, 추론 코드는 Apache 2.0 라이선스다. 또 Mistral Forge를 통해 자체 데이터로 추가 학습이나 도메인 적응을 붙일 수 있다. 시계열 모델에서는 비교적 드문 완전 오픈 출시라는 점이 Mistral 측의 메시지다.
시사점
첫째, 시계열 영역도 foundation 모델 경쟁에 편입됐다. NLP·이미지·음성이 거치던 "사전학습 → 다운스트림 적응" 패턴이 시계열에도 적용됐고, 209M이라는 작은 파라미터로 SOTA를 갱신했다는 점이 의미 있다.
둘째, CPU 추론이 무기가 됐다. 5M 모델이 10ms, 209M도 140ms라는 수치는 별도 GPU 인프라 없이 기존 모니터링 시스템에 임베드할 수 있다는 뜻이다. 서버리스·IoT·제조 현장 같은 곳에 즉시 적용 가능한 영역이 넓다.
셋째, 유럽 오픈 모델 라인의 신호다. Mistral은 직전 발표(9월 26일)에서도 Mistral Large 4 "Le Chonk"의 1조 파라미터 모델을 오픈 웨이트(10월 27일 예정)로 풀겠다고 했다. 거대 모델과 소형 특화 모델을 양 축으로 동시에 내놓는 형태다.
출처
- Mistral 공식 뉴스 (2026-10-15): Timestral: Mistral's time-series foundation models
- Mistral 문서 — Timestral 1.0: https://docs.mistral.ai/models/timestral-1-0
- Mistral 문서 — Timestral 1.0 5M / 28M / 123M 페이지: https://docs.mistral.ai/models/timestral-1-0-5m , https://docs.mistral.ai/models/timestral-1-0-28m , https://docs.mistral.ai/models/timestral-1-0-123m
- Mistral Legal Center — Models 페이지(Timestral 등록, 2026-10-15): https://legal.mistral.ai/ai-governance/models/
본 글은 Mistral 공식 뉴스 페이지와 공식 문서 페이지를 1차 출처로 삼아 작성했습니다. 209M 모델이 GIFT-Eval·TIME·fev-bench에서 1위라는 수치, CPU 추론 latency, 라이선스, 사이즈 구성은 모두 공식 페이지에 명시된 값입니다. 2차 매체는 인용 대상이 아니므로 본문에 사용하지 않았습니다.
댓글
아직 댓글이 없습니다.
댓글을 작성하려면 로그인이 필요합니다.