1. Скачать c сайта VMware образ установочного диска ESX Server 3i
(на момент написания статьи VMware-VMvisor-InstallerCD-3.5.0_Update_3-123629.i386.iso)
2. Открыть .iso с помощью winrar или 7-zip и извлечь
VMware-VMvisor-big-3.5.0_Update_3-123629.i386.dd (размер dd около 750мб)
VMware-VMvisor-InstallerCD-3.5.0_Update_3-123629.i386.iso
?
?->install.tgz
?
?->/usr/lib/vmware/installer/VMware-VMvisor-big-3.5.0_Update_3-123629.i386.dd.bz2
?
?-> VMware-VMvisor-big-3.5.0_Update_3-123629.i386.dd
3. С помощью winimage записать VMware-VMvisor-big-3.5.0_Update_3-123629.i386.dd на USB flash. В ОС Windows Vista winimage должен запускаться с правами администратора)
4. После записи в консоли управления дисками, можно увидеть следующую структуру USB flash
(для флешки размером 4Гб)
5. В BIOSе материнской платы выставляем загрузку с USB, и запускаем сервер VMware ESX 3i
Рекомендую еще почитать здесь