ML Model Deployment'a Başlangıç

Makine öğrenmesi modellerini deploy etmek ilk başta bunaltıcı gelebilir. Bu yazıda FastAPI'yi serving katmanı olarak kullanan minimal ama production-ready bir kurulumu adım adım anlatıyorum.

Modeli paketle

Modelinizi net bir inference arayüzüyle paketleyerek başlayın. Preprocessing ve postprocessing mantığını model tanımına yakın tutun; böylece eğitim ve serving arasında davranış tutarlı kalır.

from fastapi import FastAPI

app = FastAPI()

@app.get("/health")
def health():
    return {"status": "ok"}

@app.post("/predict")
def predict(payload: dict):
    return {"prediction": model.predict(payload)}

Yayına al

Servisi Docker ile containerize edin, health check ekleyin ve basit bir /predict endpoint'i açın. Oradan itibaren çekirdek API'yi yeniden yazmadan monitoring, scaling ve CI/CD üzerinde iterasyon yapabilirsiniz.

İlk günden mükemmellik değil; eğitim ile serving arasında net bir sınır koyup zamanla iyileştirmek yeterli.