Factor 2 error in roughness, numba version

[richard-ciesielski]

Hi Mika!

Da gibt es leider einen Fehler in der Matrix-Methode, den wir nun, nach vielen, vielen Jahren, die wir sie schon benutzen, auch endlich mal gefunden haben :)

Folgendes:
in mm_numba.py steht auf Zeilen 113 & 114:

rp = cmath.exp(-np.square(m) * s2h[j])
rm = cmath.exp(-np.square(p) * s2h[j])

Korrekt wäre:

rp = cmath.exp(-np.square(m) * s2h[j] / 2)
rm = cmath.exp(-np.square(p) * s2h[j] / 2)

In den Varianten mit "_pure_python" scheint es aber zu stimmen.

VG

[mikapfl]

Möchtest du die maintenance von diesem Repo übernehmen oder so? Oder jemand anderes aus der PTB? Vielleicht macht ja auch jemand ein JOSS paper draus.

Ich könnte das natürlich korrigieren hier und vielleicht auch mal ein paar Tests schreiben, die das auch catchen würden, aber eigentlich ist es ja etwas Banane, wenn ich daran arbeite, obwohl ich gar nichts mehr mache mit XRR. Und auch schade, dass das etwas wenig sichtbar ist.

[richard-ciesielski]

Ja, keine schlechte Idee, das können wir gern so machen. VG Mika Pflüger ***@***.***> schrieb am Mi. 17. Apr. 2024 um 11:59:

…

Möchtest du die maintenance von diesem Repo übernehmen oder so? Oder jemand anderes aus der PTB? Vielleicht macht ja auch jemand ein JOSS paper draus. Ich könnte das natürlich korrigieren hier und vielleicht auch mal ein paar Tests schreiben, die das auch catchen würden, aber eigentlich ist es ja etwas Banane, wenn ich daran arbeite, obwohl ich gar nichts mehr mache mit XRR. Und auch schade, dass das etwas wenig sichtbar ist. — Reply to this email directly, view it on GitHub <#1 (comment)>, or unsubscribe <https://github.com/notifications/unsubscribe-auth/ANSBRQR2KC47QTICTKN3UZDY5ZBXPAVCNFSM6AAAAAA33NI3UOVHI2DSMVQWIX3LMV43OSLTON2WKQ3PNVWWK3TUHMZDANRQHA3TOMZTGU> . You are receiving this because you authored the thread.Message ID: ***@***.***>