Vortrag Tech & KI Fortgeschritten Deutsch

LLM-Kosten im Griff behalten

Was ein KI-Feature wirklich kostet, wenn es Leute benutzen – und wo man sinnvoll spart.

Worum es geht

Nour Haddad rechnet das Kostenmodell eines produktiven Retrieval-Features vor: Caching, Modellwahl, Kontextlänge. Mit einem Beispiel, bei dem eine Änderung die Rechnung um 70 Prozent gesenkt hat.

Speakerin oder Speaker

Nour Haddad

ML Engineer · Klarsicht Labs

Nour baut Retrieval-Systeme, die auch dann funktionieren, wenn das Budget dreistellig ist. Sie mag Benchmarks, die man nachbauen kann.