Cache-Reads sind das eigentlich Teure bei AI Coding
Schaut man sich die Preislisten für AI Coding Modelle an, scheinen die erzeugten Tokens das Teure zu sein. Dabei sind es die Cache-Reads, die die wirklichen Kosten erzeugen. ...
Schaut man sich die Preislisten für AI Coding Modelle an, scheinen die erzeugten Tokens das Teure zu sein. Dabei sind es die Cache-Reads, die die wirklichen Kosten erzeugen. ...
Ich habe mit ein paar Coding Agents Erfahrungen gesammelt, dann habe ich noch ein paar mehr ausprobiert. Es ist interessant wie ähnlich die sind und dass die Unterschiede teilweise an unerwarteten Stellen sind. ...
An die Softwareentwicklung mit KI habe ich mich inzwischen ziemlich gewöhnt, entsprechend nutze ich das auch gerne für meine privaten Projekte. Aufgrund der Abo-Kosten und Anfragen-Limitierungen in der Cloud habe ich versucht auf eigener Hardware ein ähnliches Setup aufzubauen. Es funktioniert allerdings nicht, für sinnvolle Programmierfähigkeiten braucht es deutlich größere Modelle als meine (oder bezahlbare) Hardware hergeben kann. Ein Erfahrungsbericht mit eingestreutem Hintergrundwissen. ...
Schon sehr lange war ich für verschriftlichte Dokumentation, konnte allerdings nur begrenzt damit überzeugen. Nun wollen auch Leute ohne technischen Hintergrund Informationen für KI erreichbar machen und sind plötzlich für das Dokumentieren von Dingen. Eine faszinierende Wendung. ...
Auf der Arbeit habe ich Claude gebeten, eine Confluence-Seite zu bearbeiten. Danach waren alle Bilder verschwunden sowie die ganze Formatierung verändert. Das ist wirklich das Gefühl von damals, als Word einem bei einer kleinen Änderung das Layout zerstört hatte. Nur eben jetzt mit moderner KI. ...
Ich programmiere gerne von Hand. Ich habe jetzt ein bisschen LLM-erzeugten Code gesehen und war nicht wirklich angetan. Ich habe es dann einmal ausprobiert und verglichen. ...