Windows ME - однозначно не ставить. Это проходной продукт, примерно как Vista. Ее поддержка закончилась раньше, чем даже у 98SE (у последней, к слову сказать - в 2006 году). Плюс в нем только один по сути - нативная поддержка USB Mass Storage - флешки и внешние HDD заработают сразу. Ну может еще встроенное средство защиты как в XP (с откатами по контрольным точкам), хотя для меня, например, это ни разу не аргумент. При этом по слухам ME страдает утечками памяти, связанными с какими-то проблемами в библиотеках GDI. DOS в ней недоступен без специальных мер.
Windows 98SE - в принципе, неплохо. На forum.ru-board.com есть ветка, посвященная ее доработке, после которой она абсолютно ничем не уступает WinME, а превосходит ее во многом. Минусы - она, как и любая из семейства 9x довольно падуча: где NT просто не работает, 9x начинает сыпать непонятными ошибками и BSODами. Также будут проблемы с новым софтом: например, для Firefox семейство 9x уже не числится в списке поддерживаемых (я уж молчу о Flash - просто чудо, что будучи больше официально не поддерживаемым на Windows 2000, он таки на нем заработал). IE старше 6SP1 туда также не установить, а он современный интернет переваривает уже с трудом. Единственный браузер, который еще вроде как поддерживает даже 95 винду - Opera, но вряд ли ее тестируют на таких древностях, да и говорят, проблемы под 98SE тоже есть (глюки интерфейса). В принципе, есть некий KernelEx, позволяющий запускать новые приложения, но особо рассчитывать на него не стоит.
Windows XP Embedded - не для настольных ПК. Если уж на то пошло, то нужна Windows For Legacy PCs. Это усеченная XP, список отличий можно посмотреть в википедии, вроде бы.
Но на мой взгляд, остановиться стоит на XP. Она из предложенных вариантов будет работать наиболее стабильно и безпроблемно. Ее можно усечь с помощью nLite, выгадав при этом приличный объем оперативки. Запускать старое ПО можно в виртуальной машине, выделив ей, например, 16мб памяти и установив туда Windows 95. Касательно антивирусов - если уж без кликанья по порнобаннерам и скачки файлов из сомнительных мест никак, можно создать две учетные записи - одну с правами администратора (создастся сама при установке), вторую - с правами пользователя. При установке софта выбирать из контекстного меню "Запуск от имени" - получим такой аналог UAC из Windows 7. Да, Fast User Switching (быстрое переключение между профилями нажатием Win+L) лучше отключить - говорят, отжирает прилично ресурсов.


