es war mal wieder wwdc. da wurde siri ai vorgestellt. spannend für mich war daran, dass mehrere modelle nur lokal laufen. eines auf apple hardware (im entsprechenden rechenzentrum) und eines bei google im rechenzentrum. soweit so gut. aber wie oft wenn so etwas vorgestellt wird, hat mich interessiert ob man das ganze auch lokal nachbauen kann. davon abgesehen überlege ich ja schon länger ob ich openclaw mal testen sollte. ziel war also so etwas wie einen lokalen assistenten zu haben. viele ansprüche hatte ich nicht. regelmäßige suchen zu bestimmten themen und erinnerungen wäre erstmal ok. chat mit dem assistenten via discord, weil schon vorhanden. meine voraussetzungen: pc mit radeon 6700xt 12gb ramalama zum hosten vom lokalen llm
webseite von openclaw aufgerufen, script ausgeführt und mich durch das tui gedrückt. erste feststellung: ramalama ist schonmal nicht der einfachste weg. also hab ich zu lm-studio (headless) gewechselt. dann konnte clawbot immerhin schon bisschen was. zweite feststellung: die websuche bietet kaum freie version. danach habe ich noch den discord-bot eingerichtet und der chat ging los. erstmal einen name vergeben: james, so als klassiker für einen butler fand ich naheliegend :) der chat funktionierte soweit ok, gestartet wird direkt mit einem token-verbraucht von 16k. jede noch so kleine anfrage verbraucht 1k. das wäre alles noch garnicht so schlimm für das was ich damit vor hatte, was ein wirklicher showstopper für mich war: die websuche. also vergleich nehme ich mal mistral, wirklich nicht das beste vom beste. da habe ich eine automatisierte suche anfrage mit folgendem konzept/prompt: suche nach konzerten von genre xy in region xz für die nächsten 6 wochen. gib das ganze als tabelle aus und füge ein linkliste an. das macht mistral sehr gut. openclaw scheitert an der suche und muss zwischendurch 3x neu angeschubst werden damit es überhaupt weitergeht. so kann ich den hype erstmal nicht nachvollziehen, ich hatte kurz überlegt ob ich mal paar euro für minimax oder deepseek ausgebe nur um zu sehen ob es damit besser ist, aber was hätte das gebracht? ich weiß ja schon dass mistral das besser kann. selbst wenn es mit minimax/deepseek funktioniert hätte bringt das ja keine vorteile. und meine daten gebe ich lieber an mistral als woanders hin. mir ist auch klar dass der anwendungsfall vielleicht nicht typisch für die openclaw nutzung ist. für andere dinge ist es evtl besser geeignet, aber trotzdem mit vorsicht zu genießen. man liest ja immer wieder dass ki random dinge löscht.