Test Adapter AI Toolbox v0.1.3 GitHub/Latest
-
@haselchen haha, kann ich verstehen das es am Anfang etwas überfordernd wirkt. Ich beschäftige mich schon sehr lange mit der ganzen Materie deswegen ist es für mich nicht so leicht das ganze aus den Augen eines Laien zu betrachten.
Aktuell ist der Adapter noch in der Alpha/Test Phase, sobald die Prüfung für die Beta abgeschlossen ist werde ich hier im Forum einige umfangreichere Beispiele präsentieren wie man den Adapter effektiv einsetzen kann. Ein paar gute use cases wurden hier im thread ja bereits genannt.
Schau dir doch zum Einstieg in das Thema mal den AI Assistent Adapter von mir an. Dieser bietet dir eine einfache Möglichkeit per natürlicher Sprache mit deinem iobroker zu interagieren. Solltest du dort an die Grenzen stoßen kannst du den Assistenten dann auch mit weiteren Funktionen erweitern für welche du zb auch den Toolbox Adapter einsetzen kannst. (In Kombination bieten diese beiden Adapter dann eine sehr umfangreiche Möglichkeit sich einen persönlichen KI-Assistenten zu schaffen)
Einfach beschrieben könnte man sagen:
Per Chat/Sprache mit deinem ioBroker interagieren -> AI Assistent
Funktionen, Auswertungen oder Konvertierungen aus komplexen Daten mit KI durchführen -> AI Toolbox
-
@mick70 Kannst Du grob umreißen, wie Du die Sache mit Alexa machst?
Ich bin immer davon ausgegangen, dass der iot-Adapter nur ganz wenig Zeit lässt, eine Antwort in Javascript zu formulieren. So schnell wird ja bestimmt nichts kommen
-
OK, war wohl nicht wichtig.
-
@mick70 said in Test Adapter AI Toolbox v0.1.3 GitHub/Latest:
OK, war wohl nicht wichtig.
Was meinst Du?
-
Hallo,
Ich verwende nun seit einiger Zeit den ai-toolbox-Adapter in Kombination mit Openrouter.
Es hat sich gezeigt, dass das beste Ergebnis mit Gemini erzeugt wird. DeepSeek ist nicht schlecht aber nicht aud dem gleichen Niveau.
Leider verlangt seit einigen Tagen "Openrouter", dass man Credits in Verbindung mit Gemini haben muss.
Da bei Gemini bis zu 1 Mio Tokens frei sind, frage ich mich, ob man nicht direkt auf Gemini über den Adpater zugreifen kann. Einen API key habe ich.
Hat das schon jemand hinbekommen ? -
@randyandy sagte in Test Adapter AI Toolbox v0.1.3 GitHub/Latest:
Hallo,
Ich verwende nun seit einiger Zeit den ai-toolbox-Adapter in Kombination mit Openrouter.
Es hat sich gezeigt, dass das beste Ergebnis mit Gemini erzeugt wird. DeepSeek ist nicht schlecht aber nicht aud dem gleichen Niveau.
Leider verlangt seit einigen Tagen "Openrouter", dass man Credits in Verbindung mit Gemini haben muss.
Da bei Gemini bis zu 1 Mio Tokens frei sind, frage ich mich, ob man nicht direkt auf Gemini über den Adpater zugreifen kann. Einen API key habe ich.
Hat das schon jemand hinbekommen ?Keiner eine Antwort ?
-
Wie im Adapter beschrieben ist openrouter.ai gut zum Lernen. Damit kann man erste Schritte gut erledigen. Alle anderen Dienste die im Adpater angeboten werden sind aber nicht oder nur gegen Entgeld nutzbar wie OpenAI. Spannender finde ich hier aber die Google Gemini Lösung die für den Heimgebrauch kostenlos ist (bzw. ich kann mir nicht vorstellen dass man 1 Mio Token per Monat verbrauchen kann). Da Google Gemini nicht unterstützt wird und offensichtlich der Adapter nicht mehr gepflegt wird (Schade eigentlich) mache ich das nun über pyton oder cURL. Die ersten Tests sind recht vielversprechend und ich bin dann hier wieder raus.
Aber Danke an die Entwickler, für den Einstieg war der Adapter recht brauchbar. -
@randyandy Guter Hinweis mit Gemini! Ich für meinen Teil fahre mit Qwen-12B unter Ollama (via Open WebUI) auch ganz gut.
Ich glaube, der Adapter ist einfach "zu früh". Will sagen, es fehlen vielleicht noch richtige Use-Cases mit praktischen Beispielen. Dann könnte das vielleicht noch zünden...
-
@oxident
Ich fahre mit Ollama ebenfalls sehr gut! Funktioniert im Adapter leider noch nicht. Auf GitHub habe ich bereits ein Feature Request für Ollama angefragt. Es wird scheinbar bereits daran gearbeitet.
Leider reagiert der Großteil der Community gegenüber AI use cases sehr abweisend - anders als bei HA…
Ich denke ebenfalls das es hierfür noch zu früh ist und noch keiner der großen Streamer etwas bahnbrechendes dazu veröffentlicht hat.
Ich verwende meine AI aktuell lediglich um regelmässige Benachrichtigungen Kreativer zu gestalten und trainiere meine AI mit Bildern der Kameras um irgendwann zu Personen, Tieren usw. korrekte Namen zuweisen zu können. Als Nächstes möchte ich meine AI mit Datenpunkten usw. trainieren. Alles Lokal versteht sich.
Was sind eure use cases denn so? -
mein use case ist es automatisiert eMails zu beantworten.
DeepSeek ist da nicht schlecht und 90% - 95% der Antworten sind echt brauchbar. Ich habe parallel mal Gemini (manuel) verwendet und die Antworten wären besser und DeepSeek ist schon recht erfinderisch. Ich bin hier aber noch beim Beobachten und testen und habe die automatisierte Antwort noch nicht scharf geschaltet.
Tendentiell werde ich aber vermutlich mit den POST-Funktionen und Gemini in Zukunft weiter arbeiten und nicht mit DeepSeek. Dazu benötige ich aber ein wenig Zeit, die ich derzeit nicht habe, da mich etwas anderes noch wichtigers aufhält.Andreas
