Ну что же, сам спросил, сам и отвечаю.

Все дело в переводе из Unicode16 в ASCII. После того как логин и пароль к прокси-серверу были введены FireFox перевод их в Unicode (он называет его UTF16). А перед отправлением на прокси-сервер переводит обратно в ASCII, но не верно!!! Он просто берет младшую часть Unicode! Для английских букв это не важно их Unicode имеет 0 в старшей части, а вот русские буквы превращаются в какую-то ерунду.

Пример преобразования букв ASCII->Unicode->ASCII

Char    ASCII        Unicode          ASCII
А     0xC0        0x0410           0x10
Б     0xC1        0x0411           0x11
В     0xC2        0x0412           0x12

A     0x41        0x0041           0x41
B     0x42        0x0042           0x42
C     0x43        0x0043           0x43

Для знатоков скажу, что это происходит в mozilla\netwerk\protocol\http\src\nsHttpBasicAuth.cpp

Функция называется nsHttpBasicAuth::GenerateCredentials

    [b]// we work with ASCII around here
    nsCAutoString userpass;
   

LossyCopyUTF16toASCII

(user, userpass);
    userpass.Append(':')

Буквы "а" и "б" я привел для примера показать, что код русских букв у IE и FireFox отличается ровно на 0xB0.
Авторизация на прокси сервере выглядит так:
   Запрашивается у пользователя логин и пароль ( к пример это будут "логин" и "пароль" соотвественно)
   Формируется строка "логин:пароль"
   Строка кодируется с помощью BASE64, получиться 6+7j6O067+Dw7uv8==

А вот FireFox выдает строку как будто из каждого русского символа строки "логин:пароль" вычли 0xB0, а потом
преобразовали с помощью BASE64.