Ловите эскиз того, что по-идее должно работать.
p.s. Ага, добавили... Надо было просто отредактировать (кнопка "Правка") сообщение со схемой. Ладно. Схема там правильная. Но рассчитана на применение довольно высоковольтных решений (12 В в аккумуляторе - это 14,5 вольт на выходе КРЕН'ки). Просто копирование для нашего случая приведёт к неработоспособности. Упростите схему до предлагаемой (КРЕН'ка показана упрощённо, конечно необходимо оставить резисторы в ОС и настроить её выход на примерно на 5.1 вольта. В итоге на аккумуляторе должно получиться то, что нужно. Резистор, шунтирующий диод, во-первых ограничивает ток заряда аккумулятора (хотя он и так небольшой), и при небольшом потреблении немного снижает падение напряжения на диоде. Диод обязательно Шоттки (т.е. с малым падением напряжения на переходе). Защитный диод на КРЕН'ке - это чтобы её не спалить, когда при выключеннй сети вдруг захочется подсоединить аккумулятор.
Да, полный заряд аккумулятор при таком питании набирает достаточно долго, аж несколько суток, более-менее быстро только первые процентов 30 заряда. Потому и называется "капельный" заряд...
А вот почему греется трансформатор - вопрос отдельный. Сам по себе, без нагрузки тоже греется? или нет?


