Instalei na semana passada o Vmware Esxi em um Dell Optiplex 755 (isso mesmo um desktop)
Como muitas coisas, essa não foi simples,,, Mas vou explicar o caminho das pedras hehehe

Na BIOS do Optiplex existem 2 opções que devem ser alteradas:
1º Intel VM de Disable para Enable
2º A configuração do HD deve ser alterada para SATA, se não o Esxi não reconhece o disco.

Siga a instalação como nesse video: http://www.vm-help.com/esx/esx3i/ESX_3i_install/ESX_3i_install.html
A instalação não demorou mais que 7 minutos.

Após carregar a interface de administração pressione F2 para acessa o modo de configuração, coloque uma senha de root e tente colocar o endereço IP da placa, quando pressionar enter para acessar a placa ele informará que resetará as configurações da placa e pede para pressionar F11, pressione F11 e nada vai acontecer
Pressione ALT+F1 e digite unsupported (você não conseguirá ler o que está digitando) e pressione enter, em seguida coloque a senha de root, feito isso digitar lspci -v | grep -i “network” se ele não retornar resultado o Esxi não tem suporte para sua placa de rede (o que deve acontecer se você está instalando no Optiplex 755).
O que acontece, a placa de rede Intel que acompanha esse desktop é um modelo e1000e e o Esxi só reconhece e1000 nesse caso, você terá que colocar outra placa de rede. (tentei vários outros métodos, até instalar o pacote de atualização do Esx SP2 em cima da instalação do Esxi mas não funcionou).
Quando você colocar uma nova placa de rede, para ver os modelos compativeis acesse esse link: http://www.vmware.com/resources/compatibility/search.php (aproveite e veja se a sua maquina/servidor é compativel com a versão Esxi), vá nas opções de rede e coloque o IP para seu servidor Vmware.

Depois de instalado e configurado vamos habilitar modo de SSH (ele vem desabilitado por padrão):
Na tela do desktop pressione ALT+F1 e digite unsupported pressione enter em seguida a senha do root.
no prompt digite:
vi /etc/inetd.conf
localize a linha referente ao #SSH e apague o #
salve o arquivo usando :wq
e reinicie a maquina

Quase tudo pronto, após a maquina iniciar acesse-a através do IE ou Firefox e clique em Download VMware Infrastructure Client e instale o cliente do VMware em sua maquina.

Após estes passos o seu servidor de virtualização está pronto para uso.

DETALHE: se você fez o cadastro correto no site da VMware, redeberá o número de série para ativar seu Esxi, caso contrário ele expira em 60 dias.