Столкнулся с такой же проблемой. Система Win7 Home Basic (x64), Thunderbird (3.1.6) установлен в дефолтовую директорию, раздел С в NTFS. Размер файла Inbox порядка 4 Гб. Решал следующим образом:
сделал копию всей почты и настроек при помощи утилиты MozBackup, затем удалил профиль и развернул бекап.
Но все же хотелось бы понять как правильно действовать в данной ситуации и почему происходит такая ошибка.

З.Ы. Проблема почтового клиента наблюдалась при работе с  POP сервером.