При загрузке компьютера нажать F8 и загрузить в режиме VGA, либо в безопасном режиме, и выставить нужное разрешение. Вероятно, заданные характеристики не поддерживает видеокарта и/или монитор. Эти характеристики меняются либо в утилитах к устройствам, либо в Диспетчере устройств.