Я не знаю как это поправить, изначально не хватало 3х ячеек, я попытался сбросить некоторые настройки в about:config касательно newtab, но стало только хуже, теперь ячеек не хватает уже 4х.

Эмм... Каких ячеек не хватает?? Где не хватает??
Если про иконки топ сайтов которых 12, то там же в нет табе их количество и увеличивается
browser.newtabpage.columns;   5

browser.newtabpage.rows;  3

browser.newtabpage.activity-stream.topSitesCount; (по умолчанию 12) Ставь кратно 6 12,18,24 30, 36 и тд.

Ну это если я правильно понял вопрос