оно же в отдельном окне "плавает"? можно выкинуть дефолтный css, будет прозрачным.
xul:stack тоже вроде прозрачный

если создать отдельное окошко, но дефолтный для xul стиль

<?xml-stylesheet type="text/css" href="chrome://global/skin/global.css"?>

не указывать - окно будет прозрачным (с "дыркой по середине", грубо говоря). можно отключить оформление окна - будет полностью прозрачным.
сталкивался с таким, но не уверен, что так допустимо делать