[gelöst] Hohe (30-90%) Prozessorlast seit einigen Tagen

[Pedder007]

Hallo zusammen, leider stelle ich seit einigen Tagen eine recht hohe Prozessorlast fest, welche sich sehr schleichend bemerkbar gemacht hat, durch Latenzen bei meinen deConz Zigbee Devices (Schalter klick -> 1-3 Sek. warten -> Lampe an). Auch das View-Wechseln in der VIS dauerte plötzlich länger.
Ein Blick auf den Raspi per htop ergab folgendes Bild mit 'iobroker.js-controller' CPU Lasten zwischen 20 und 90% in der Spitze, wobei es sich im Mittel so zwischen 20 und 60% bewegt. Wenn ich mich recht entsinne, lag das bis vor kurzem bei halbwegs konstant irgendwo um die 15%.

Achso und dann fiel mir noch auf, dass es zu ganz vielen Adaptern jeweils eine ganze Menge 'doppelter' Prozesse zu geben scheint. oft bis zu 10 Stück. Ist das normal?

Das ganze scheint auch fortwährend so zu sein, da die Lastspitzen kontinuierlich da sind (hier ein Historie Mitschnitt meiner 3 Raspis über die letzten 12 Stunden, wobei sich dagegen selbst der MotionEye PI fast langweilt. Der Peek um 12:30 kam vom node.js (4.0.24) update, daran kanns also auch nicht liegen.

Kann mir da jemand einen Tipp geben was ich noch checken könnte. System ist komplett auf dem allerneuesten Stand, daran kanns also nicht liegen.

Systemdata	Bitte Ausfüllen
Hardwaresystem:	Raspi4B
Arbeitsspeicher:	8GB
Festplattenart:	SD-Karte 16GB
Betriebssystem:	Linux 11 (bullseye)
Node-Version:	16.19.0
Nodejs-Version:	16.19.0
NPM-Version:	8.19.3
Installationsart:	Manuell, vor ~2Jahren
Image genutzt:	das war mal ein Noobs Image
Ort/Name der Imagedatei:

pi@raspberrypi:~ $ iobroker info
Platform : linux
os : linux
Architecture : arm
CPUs : 4
Speed : 1500 MHz
Model : ARMv7 Processor rev 3 (v7l)
RAM : 7.7 GB
System uptime : 8d. 00:22:37
Node.js : v16.19.0
time : 1672490960631
timeOffset : -60
adapters count : 450
NPM : v8.19.3
Disk size : 14.3 GiB
Disk free : 2.6 GiB

[Homoran]

@pedder007 sagte in Hohe (30-90%) Prozessorlast seit einigen Tagen:

eine recht hohe Prozessorlast fest, welche sich sehr schleichend bemerkbar gemacht hat, durch Latenzen bei meinen deConz Zigbee Devices (Schalter klick -> 1-3 Sek. warten -> Lampe an)

das hat rein gar nichts miteinander zu tun.

eine Load average von ca. 2 ist durchaus normal, eine CPU Nutzung von 68% bremst auch nichts.
leicht erhöht, aber nicht so dass es bremst.

eher bremst irgendwas anderes was dann als Folge die erhöhte Last hat.

vom node.js (4.0.24) update, daran kanns also auch nicht liegen.
ich hoffe da bist du deutlich aktueller unterwegs

[Thomas Braun]

@pedder007

Schalt den Desktop aus.

[Pedder007]

@homoran said in Hohe (30-90%) Prozessorlast seit einigen Tagen:

eher bremst irgendwas anderes was dann als Folge die erhöhte Last hat.

vom node.js (4.0.24) update, daran kanns also auch nicht liegen.
ich hoffe da bist du deutlich aktueller unterwegs

Sorry, verschreibsel, dass war natürlich der js-controller.

@Thomas-Braun, ich weiß, dass schreibst Du immer, aber daran kanns nicht liegen, weil VNC bei mir schon immer mitläuft und noch nie Probleme gemacht hat. Das muss irgend etwas anderes sein.
Ich komme als Gelegenheits Linux-/Shell-Nutzer nunmal leider nicht alleine mit ssh klar.

[Thomas Braun]

@pedder007

Werde ich auch immer wieder schreiben, wenn ich das sehe. Auf einem Server läuft keine Desktop-Umgebung, kein VNC, kein lxpanel und was da sonst bei dir noch alles unnötig mit läuft.

[Pedder007]

@thomas-braun
Selber, bzw. zusätzlich, konfiguriert, hatte ich tatsächlich nur VNC. Der Rest muss bei irgendeinem Update/Uprade mitgekommen sein. Leider breche ich mir schon damit einen ab, zu bewerten was lebensnotwendig ist und was nicht ... wie gesagt Linux-Noob

Ich habe jetzt gerade aber mal in meinen Log geschaut und da habe ich zum javascript Adapter ein paar Sachen gefunden, welche evtl. zur hohen Auslastung beitragen können. Könnte es evtl. daran liegen?

javascript.0
2022-12-31 12:56:57.481	error	npm notice npm notice New major version of npm available! 8.19.3 -> 9.2.0npm notice Changelog: <https://github.com/npm/cli/releases/tag/v9.2.0>npm notice Run `npm install -g npm@9.2.0` to update!npm notice

javascript.0
2022-12-31 12:55:28.883	error	WARN deprecated request@2.88.2: request has been deprecated, see https://github.com/request/request/issues/3142

javascript.0
2022-12-31 12:55:28.882	error	npm

javascript.0
2022-12-31 12:55:28.760	error	WARN deprecated uuid@3.4.0: Please upgrade to version 7 or higher. Older versions may use Math.random() in certain circumstances, which is known to be problematic. See https://v8.dev/blog/math-random for details.

javascript.0
2022-12-31 12:55:28.758	error	npm

javascript.0
2022-12-31 12:55:28.643	error	WARN deprecated node-inspect@2.0.0: This module is part of Node.js core and does not need to be installed separately. It is now unmaintained.

javascript.0
2022-12-31 12:55:28.636	error	

javascript.0
2022-12-31 12:55:28.633	error	npm

javascript.0
2022-12-31 12:55:28.235	error	deprecated har-validator@5.1.5: this library is no longer supported

javascript.0
2022-12-31 12:55:28.222	error	WARN

javascript.0
2022-12-31 12:55:28.219	error	

javascript.0
2022-12-31 12:55:28.216	error	npm

mikeal created this issue in request/request

open Request’s Past, Present and Future #3142

[Thomas Braun]

@pedder007 sagte in Hohe (30-90%) Prozessorlast seit einigen Tagen:

Leider breche ich mir schon damit einen ab, zu bewerten was lebensnotwendig ist und was nicht

Wenn man es anklicken kann ist es für einen Server entbehrlich.

[Segway]

@pedder007 sagte in Hohe (30-90%) Prozessorlast seit einigen Tagen:

Ich habe jetzt gerade aber mal in meinen Log geschaut und da habe ich zum javascript Adapter ein paar Sachen gefunden, welche evtl. zur hohen Auslastung beitragen können. Könnte es evtl. daran liegen?

Da hilft nur eines:
ALLE Skripte ausschalten und nach und nach EINZELN alle anschalten und schauen welches Skript da ggf den LOAD verursacht. Anders geht es nicht.

Und ich kann auch nur nochmal betonen wie @Thomas-Braun schon sagte --> der ganze Ballast gehört da nicht drauf !

[Pedder007]

@thomas-braun ich befürchte, dass ist für Noobs nicht ganz so einfach, Wenn ich mir hier DeCONZ weg-haue, dann wars das mit dem SmartHome, zumal ich öfter auch mal in die deCONZ-GUI gehe um das ein oder andere, z. B. bei 'komischen' Tuya Devices, zu checken.

Selbst bei so simplen Dingen wie eine SD-Card zu clonen ist das halt deutlich einfacher für den Noob.

[Thomas Braun]

@pedder007

Deconz läuft auch headless.

[Pedder007]

@segway said in Hohe (30-90%) Prozessorlast seit einigen Tagen:

Da hilft nur eines:
ALLE Skripte ausschalten und nach und nach EINZELN alle anschalten und schauen welches Skript da ggf den LOAD verursacht. Anders geht es nicht.

Ok, danke @Segway, das wäre ja vielleicht mal ein Ansatz. Werde ich mal probieren!

und @Thomas-Braun, ja das weiß ich und das tut es bei mir auch größtenteils, allerdings wie gesagt, manchmal braucht man ein paar Infos mehr zu den Devices per deCONZ GUI.
Mittelfristige Umstellung auf Zigbee Adapter ist ja geplant, aber das ist echt viel Arbeit - ich stecke immer noch mitten in der Migration der ganzen Datenpunkte (~100 ZigBee Devices) in Aliase und es sind auch noch lange nicht alle Variablen in die Userdata-Objekte umgezogen. Mir fehlt dazu einfach oft die Zeit, leider

Ich werds mal mit den Scripten probieren, ist halt mühselig ...

Ich wünsche Euch allen aber einen guten Rutsch und viel Gesundheit fürs neue Jahr

[Pedder007]

So, ich habe dann mal ein wenig rumprobiert und weiter beobachtet:

• Scripte aktiviert/deaktiviert
• Einige Adapter aktiviert/deaktiviert
  Hat alles nicht wirklich was gebracht.

Danach dann mal ein kompletter Reboot und nochmals weitere Beobachtung per 'htop':

Interessanter-weise hat der Neustart die Auslastungsspitzen komplett eliminiert, wenn auch die Grundlast noch recht hoch bleibt.
Darüber hinaus scheint allerdings mein deCONZ Setup auch eine solide Last zu produzieren, was dann natürlich auch die Latenzen erklären würde, wenn ggf. die App oder der ConBee II Stick ein Problem haben.
Ich habe nun, da ich mir ohnehin bereits ein ZigStar LAN Gateway von Dmitrij bestellt hatte, mal angefangen einige Devices auf den ZigBee Adapter umzuziehen, der dann auch auch direkt auf einem ioBroker Slave läuft, welcher sich bisher zu Tode gelangweilt hatte (nur PiHole und Unifi-Console drauf).
Das hat jetzt nochmal die Latenzen deutlich reduziert und dem ioBroker Master scheints (gefühlt) auch besser zu gehen. Ich werde da mal weitermachen, auch wenn es teils (trotz Aliasen) aufwändig ist, da er ZigBee Adapter die Datenpunkte teils signifikant anders einliest und verarbeitet als deCONZ. In Folge also, trotz Aliasen, auch nochmals Scripte angepasst werden müssen ...

Aber naja, ist ja ein schönes Hobby und man lernt ständig dazu

der Peter

[Pedder007]

Nur nochmal als Abschluss hier:
Ich bin jetzt auf der deCONZ/Conbee II Seite auf 85 Devices runter und die Probleme scheinen nicht mehr aufzutreten.
Sprich: Keine Latenzen mehr beim manuellen Remote-Schalten an den ZigBee Devices und auch die Last (gesamt als auch durch die deCONZ App) bleibt wieder auf einem normalen Niveau.
Also irgendwie scheint es da einen Zusammenhang gegeben zu haben, da ich ansonsten nichts verändert habe.

Es scheint allerdings noch irgendwas zu geben, was sehr oft (nicht jeden Tag) um ca. 22:16/22:18Uhr passiert, dem gehe ich jetzt nochmal über die Scripte und Instanzen auf den Grund: