Платформа Big Pineapple, обеспечивающая работу сервиса 1.1.1.1, хранит 250 миллиардов записей кэша. Инженеры Cloudflare внесли пять изменений в механизм хранения, сократив объем памяти на одну запись более чем вдвое.
В результате оптимизации удалось освободить около 100 ТБ оперативной памяти, что сопоставимо с объемом RAM 130 серверов 13-го поколения. Пропускная способность при вставке записей выросла на 43%, а задержка поиска сократилась на 19%.
Разработчики заменили типы Vec и String на Box, что позволило избавиться от лишних полей емкости. Также они заменили 8-байтовые указатели на 2-байтовые смещения для разделов DNS и упаковали логические поля в битовые флаги для уменьшения паддинга.
Для оптимизации записей владельцев доменов инженеры убрали поле владельца, если оно совпадает с запрашиваемым доменом, восстанавливая его при чтении. Крупные варианты перечислений (enum) были вынесены в Box, чтобы записи типов A и AAAA не занимали место, выделенное под самые большие варианты.
Для управления памятью в условиях частых аллокаций использовался аллокатор jemalloc. Несмотря на риски ухудшения локальности данных при использовании Box, предпринятые меры позволили повысить общую скорость работы кэша при значительной экономии ресурсов.
