Llm

LLMs lokal betreiben: Was du wissen musst

Noch vor zwei Jahren war das lokale Betreiben großer Sprachmodelle Forschungsteams mit Hochleistungsrechnern vorbehalten. Heute läuft Llama 3 auf einem MacBook Pro. Was hat sich geändert — und was bedeutet das für Unternehmen?