challenge.py では、素数
f(p) を数式で表すと
$f(p) = \left\lfloor \sqrt{p^2 + (2^{512}-6)p + \left\lfloor \sqrt{p\sin p} \right\rfloor} \right\rfloor + 2^{1023}$
となります。
$\lim_{p\to \infty} \sqrt{p^2 + (2^{512}-6)p + \left\lfloor \sqrt{p\sin p} \right\rfloor} - p = 2^{511}-3$
となることが計算するとわかります。
整数部分を取り出していることも考慮すると、$f(p)-p = 2^{1023} + 2^{511} - 4$ となるため
$(pf(p) = \ )\quad p(p + 2^{1023} + 2^{511} - 4) = N$
という二次方程式を解くことで
1024 ビットのいくつかの
TSGCTF{From which angle did you solve this, binary search or convergence of f(p)-p?}