Optimize binary encoding and decoding

[maksbotan]

С чего всё началось: заметил, что сервис, ходящий в Neo4j, под нагрузкой начинает много аллоцировать и много делать GC, при этом конечно время обработки запроса прыгает до нескольких секунд.

Профилировка с -hT указала, что на запросах создаётся много thunk'ов, а профилировка с -hc указала на unpackAction в hasbolt.

Изучение кода показало, что при декодинге происходят противоестественные манипуляции с ByteString и пакетом binary. Санки могут быть из-за нестрогого modify, а ещё постоянное создание конструкторов BS при откусывании по паре байт не есть хорошо. Плюс было много перегонов между ленивыми и строгими строками.

В итоге решил переписать чтение и запись полностью на binary, отказавшись от ручных методов. Результаты бенчмарков:

Было:

                    | lower bound | estimate | upper bound
OLS regression      | 24.0 μs     | 24.1 μs  | 24.2 μs
R² goodness-of-fit  | 1.00.       | 1.00     | 1.00
Mean execution time | 23.6 μs     | 23.8 μs  | 24.0 μs
Standard deviation  | 445 ns      | 586 ns   | 806 ns

Стало:

                    | lower bound | estimate | upper bound
OLS regression      | 3.92 μs     | 3.94 μs  | 3.97 μs
R² goodness-of-fit  | 0.999       | 1.00     | 1.00
Mean execution time | 3.91 μs     | 3.93 μs  | 3.97 μs
Standard deviation  | 57.1 ns     | 84.0 ns  | 139 ns

TLDR: распаковка ускорилась в 6 раз, упаковка в ~2.

На потреблении памяти так же сказалось хорошо:

Было:

Стало:

Потребление меньше, пики не такие резкие, по статистике GC тоже видно, что стало лучше.