A grafia das palavras decorre normalmente da sua etimologia, mas também de mera convenção ortográfica. Assim, nem sempre é possível estabelecer regras. No entanto, vou referir-lhe algumas a respeito do emprego de s ou z entre vogais, com valor de /z/.
 
1. Utiliza-se s:
 
a) na maior parte dos substantivos comuns: asa, atraso, aviso, casa, confusão, dose, frase, mesa, peso, tesoura;
b) na generalidade dos adjectivos: confuso, difuso, preciso, tísico;
c) no sufixo -esa, quando este diz respeito ao feminino dos nomes de naturalidade que no masculino se escrevem-se com s: portuguesa, francesa;
d) no sufixo -esa, quando este forma o feminino de cargos ou títulos: baronesa, duquesa, marquesa;
e) em substantivos com origem no particípio passado de verbos com radical terminado em d: defesa (de defender), despesa (de despender), presa (de prender), surpresa (de surpreender);
f) na terminação -isar de verbos da mesma família de palavras com s: alisar (de liso), analisar (de análise), avisar (aviso), bisar (de bis), frisar (de frisa), guisar (de guisa = modo, maneira, guisado), improvisar de improviso), paralisar (paralisia), pesquisar (de pesquisa), pisar (piso), precisar (de preciso), sisar (de sisa), visar (visão, visto);
g) sempre nos sufixos -oso e -osa: famoso, guloso, harmonioso orgulhoso, pavoroso, preguiçoso, saudoso, ventosa;
h) normalmente antes do sufixo -eiro (a): baboseira, braseira, caseiro, louseiro, raposeira, roseira, traseira. Excepções: arcabuzeiro (de arcabuz), banzeira (de banzé), cruzeiro (de cruz), maracujazeiro;
i) como elemento do prefixo des- (separação, acção contrária, negação): desatento, deselegante; desiludir, desobedecer, desusado (não confundir com palavras formadas a partir do numeral dez);
j) nas formas dos verbos que não têm z no infinitivo: quiseram, quiseste (querer), puseram, puseste (pôr), coseram, coseste (coser a roupa, do lat. consuere).
 
2. Utiliza-se z:
 
a) como evolução de t ou c de palavras latinas: avaritia- > avareza; cocere > cozer (cozinhar); dicere > dizer, facere > fazer, placere prazer;
b) muitas vezes a seguir a a que inicia palavra: azáfama, azagaia, azálea, azar, azedo, azeite, azémola, azenha, azevinho, azia, aziago, ázimo, azimute, azinheira, azo, azul, azulejo.
Excepções: asa e derivados, Ásia e derivados, asilo e derivados, asinha (depressa), asinino.
c) no sufixo -eza da maior parte dos substantivos abstractos: avareza, beleza, franqueza, riqueza;
d) nos aumentativos e diminutivos, quando a palavra da qual são formados não termina em s, ou seja, nos sufixos -ázio, -zão, -zarrão, -zada, -zona, -zinho, -zito: copázio, mauzão, homenzarrão, paizinho, rapazito;
e) na maior parte dos verbos terminados em -izar e palavras da mesma família: ajuizar, juízo, civilizar, civilização, utilizar, utilização, deslizar, deslize, matizar, matiz, envernizar, verniz, finalizar, organizar, realizar;
f) na maior parte dos verbos terminados em -ir: cerzir, desfranzir, estrezir, franzir, desparzir, esparzir, aduzir, conduzir, deduzir, induzir, introduzir, luzir, produzir, reconduzir, reduzir, reproduzir, seduzir, traduzir, transluzir, tremeluzir, zurzir. Excepções: asir, desasir e requisir.
 
Como reparou, as regras não dão resposta a todas as dúvidas. O melhor mesmo é a leitura continuada, até o olhar se familiarizar com a grafia das palavras e a interiorizar sem custo. Poderá consultar os prontuários, que contêm este tipo de palavras em listas, o que facilita a memorização.