А не наоборот?
ноль на порту означает низкое.

Условность. Фактически да, при этом напряжение между обкладками уменьшается по модулю. Просто под процессом разряда я как-то умозрительно принял отдачу энергии в нагрузку (светодиод). Можно сменить полярность диодов, если хочется строгости формулировок. Смысл не поменяется.

"условность"??
Если на порту низкое(земля) то кто заряжает конденсатор когда у него оба конца на земле?
По твоей схемке конденсатор заряжается когда на порту высокое, и разряжается когда на порту 0.
И вообще, заряжать сколько-нибудь большой конденсатор током из порта - это занятие дурацкое, порт может дать максимум 40ma

Да хрен с ним, пускай разряжается при нуле и заряжается на светодиод. Легче стало? Ну и хорошо. А теперь предлагаю поискать на схеме резистор, который ограничивает ток порта.
ПОДСКАЗКА: он там один.

Уже сделал?

Разумеется.