[gel.] Script: Adresse ermitteln -> axios ändern in httpget

[fastfoot]

@haus-automatisierung also hier lag das Problem nur daran dass httpGet gar keinen user-agent mitsendet. Mit axios wurde er ja auch nie blockiert und das ändert den user-agent ja nicht. Ist halt alles schwierig für Nichtprogrammierer, aber immerhin gibt es ja das Forum...

[haus-automatisierung]

@fastfoot sagte in Script: Adresse ermitteln -> axios ändern in httpget:

also hier lag das Problem nur daran dass httpGet gar keinen user-agent mitsendet

Natürlich wird im Standard ein Agent gesendet. Siehst Du ja im verbose mode sofort.

[fastfoot]

@haus-automatisierung upps, meine Annahme beruhte darauf dass ich ohne Angabe eines UA sofort gesperrt wurde, nach dem Setzen eines beliebigen UA (siehe codeschnipsel) ich aber sofort eine Antwort bekam. Tja, wieder was gelernt, man(ich!) sollte aus Schlussfolgerungen keine Tatsachen ableiten. Sorry for that! Dann bleibt nur die Vermutung dass der Inhalt des UA geprüft wird

[haus-automatisierung]

@fastfoot Alles gur. Ich wäre schon zufrieden, wenn viele Aussagen im Forum bei Unsicherheit als Frage formuliert würden

[bahnuhr]

@fastfoot sagte in Script: Adresse ermitteln -> axios ändern in httpget:

dass ich ohne Angabe eines UA sofort gesperrt wurde

war bei mir auch so. Und 2500 Abfragen hab ich nie erreicht.
Ablehnung kam sofort.

@DJMarc75
@fastfoot
@haus-automatisierung
@Homoran
@Ro75

Danke an alle für die Antworten. Damit kann ich was anfangen.

mfg
Dieter

[OliverIO]

@bahnuhr

Zum Testen, welche headers und sonstige Daten dein request so alles übermittelt, kannst du dir hier eine individuelle Server Adresse generieren lassen. Auf der Seite dann, siehst du dann die requests mit all seinen Daten Und headers
https://webhook.site/

Wenn du dann beide Informationen hast, kann man vergleichen, wo die Unterschiede liegen und ob man die eventuell über die Parameter von HTTPget beeinflussen kann.

[bahnuhr]

@oliverio sagte in Script: Adresse ermitteln -> axios ändern in httpget:

Zum Testen, welche headers und sonstige Daten dein request so alles übermittelt, kannst du dir hier eine individuelle Server Adresse generieren lassen. Auf der Seite dann, siehst du dann die requests mit all seinen Daten Und headers

starker Text.
Hab ich so auf Anhieb nicht verstanden.

Komm ich aber noch dahinter

Danke dir.

[OliverIO]

@bahnuhr

Axios oder httpget sendet Daten.
Irgendwo wohl auch unterschiedlich, obwohl hinter httpget auch axios steht.
Genau anhand diesem Unterschied wird der request aber abgelehnt.
Das es der User Agent String ist ist nur eine Vermutung. Serverbetreiber geben meistens nicht bekannt anhand welchen Kriterien sie ablehnen.

Mit diesem Test findest du hoffentlich dann den Unterschied auch wirklich raus, weil du siehst, was am anderen Ende ankommt und nicht nur was du weg sendest.

[bahnuhr]

So, habe mal als Muster das von @DJMarc75 genommen.
Also ohne dieses async und await; aber mit random

sieht so aus:

var lat = 48.46567; var lon = 9.7107;
var v_random = String(Math.floor(Math.random() * 100)); log (v_random);

    httpGet(`https://nominatim.openstreetmap.org/reverse?format=geojson&lat=${lat}&lon=${lon}`,
        { timeout: 15000, headers: { 'User-Agent': "iob" + v_random, }, },
        (err, response) => {
            if (!err  && response.statusCode == 200) { const info = JSON.parse(response.data); const address = info.features[0].properties.address;
                log ("Str= " + address.road); log ("Nr= " + address.house_number); 
                log ("Plz= " + address.postcode); log ("Ort= " + address.municipality);
            } else { console.error(`Nominatim: ${response.statusCode}`); }
        }
    );

[Ro75]

@oliverio sagte in Script: Adresse ermitteln -> axios ändern in httpget:

Das es der User Agent String ist ist nur eine Vermutung. Serverbetreiber geben meistens nicht bekannt anhand welchen Kriterien sie ablehnen.

Da bin ich für mich weiter. Für mich steht es fest, dass der USER-Agent zu 95% daran beteiligt ist. Ich hatte, als ich gesperrt wurde mein Abfrage-URL in meinen Windows-Browser eingegeben und da ging es. Im iobroker wiederholt mit dem Ergebnis = NO.

Also mal die IP gewechselt. Ein Teil war anders, aber selbiges Ergebnis 1xJa und 1xNein. Nochmal die IP gewechselt. Komplett anderer Bereich, aber auch hier war das Ergebnis identisch.

Für mich steht also fest, die prüfen IP ind Verbindung mit USER-Agent und Anzahl Aufrufe.

Ich wechsel aller 6 Stunden den USER-Agent für Nominatim.

httpGet('https://nominatim.openstreetmap.org/reverse?format=geojson&lat='+lat+'&lon='+lon, { timeout: 15000,"headers":{"User-Agent":"'" + RUA() + "'"}}, (error, response) => {

Ro75.

[fastfoot]

@oliverio also der einzige Unterschied auf der Seite ist der UA. axios sendet da als default nur axios/1.7.7 während httpGet da einen UA sendet der für mich wie der eines Browsers aussieht. Ich sehe keinen Grund den UA zu wechseln wie es einige hier tun, das ist nur der Versuch Restriktionen zu umgehen und schadet somit letztlich der Community

[OliverIO]

@fastfoot

Das Script bei dem axios verwendet wird und funktioniert, wird kein ua gesetzt. Siehe gleich erster Post.

[fastfoot]

@oliverio axios setzt den selbst! Quasi als default

[bahnuhr]

@fastfoot sagte in Script: Adresse ermitteln -> axios ändern in httpget:

Ich sehe keinen Grund den UA zu wechseln wie es einige hier tun,

Naja; als normaler user bekommt man aber immer wieder gesagt:
man soll httpget nehmen.
request und axios sind alt.

Dass bei httpget axios im Hintergrund ist, war mir bis jetzt neu.
Und ein Wechsel des UA bei httpget scheint notwendig zu sein, denn ohne dies klappt es offensichtlich nicht.

[OliverIO]

@fastfoot sagte in Script: Adresse ermitteln -> axios ändern in httpget:

@oliverio axios setzt den selbst! Quasi als default

Das weiß ich.
Wo siehst du den jetzt den Unterschied warum der request abgesetzt wird, wenn bei beiden wahrscheinlich der Standard axios ua Header gesetzt wird?
Wenn, dann sollte doch der request mit axios header gesperrt werden, wie ein request der so aussieht als ob er von einem Browser kommt.

Aber wie gesagt alles Vermutung.
Sobald Bahnuhr den Test durchgeführt hat werden wir den Unterschied kennen.
Oder er liefert noch seinen httpget code dann kann ich mal schauen

[fastfoot]

@oliverio sagte in Script: Adresse ermitteln -> axios ändern in httpget:

Wo siehst du den jetzt den Unterschied ...

ich habe den Test bereits durchgeführt, dachte das sei aus meiner Antwort herauszulesen

[bahnuhr]

@oliverio sagte in Script: Adresse ermitteln -> axios ändern in httpget:

Oder er liefert noch seinen httpget code dann kann ich mal schauen

Ne, der ist schon weg.

[OliverIO]

@bahnuhr

Gut, wenn dann alles funktioniert, dann auf gelöst setzen

[fastfoot]

@oliverio sagte in Script: Adresse ermitteln -> axios ändern in httpget:

Wenn, dann sollte doch der request mit axios header gesperrt werden, wie ein request der so aussieht als ob er von einem Browser kommt.

meine Vermutung ist dass die Website erkennt ob der UA wirklich von einem Browser kommt und dann entsprechend zurückweist. Wissen tu ich es nicht aber wenn der einzige Unterschied der UA ist was soll es dann sonst sein? Der UA header ist ja auch nur ein Hinweis für die Website, wenn da jetzt von Chrome zB tausende Anfragen kommen welche einen Fehler verursachen dann kann man da gut darauf reagieren. Dazu ist es aber notwendig den Header richtig zu setzen und nicht zu faken, siehe hier zur Erläuterung

[bahnuhr]

@oliverio sagte in [gel.] Script: Adresse ermitteln -> axios ändern in httpget:

dann auf gelöst setzen

musste es abkürzen
Text war zu lang.