Lokale KI·
Lokale KI, mit laufendem Zähler
Jeder hat eine Meinung zu lokaler KI. Fast niemand hat Zahlen. Also haben wir für einen Kunden einen lokalen LLM-Stack aus zwei Rechnern gebaut, einen Strommesser drangehängt und jeden Token mit der Cloud verglichen.
