Kolego, tutaj to już mały kod nie wystarczy, ale mogę podpowiedzieć jak zrobić to krok po kroku (kodu nie przestawię):
1. Skrypt/plik (PHP) który zapytaniem MySQL sprawdza czy użytkownik/email istnieje w bazie. Skrypt zwraca rezultat w postaci XML, JSON, a nawet zwykłego tekstu (ja ostatnio preferuję XML

).
2. Skrypt AJAX (warto skorzystać z jakiegoś frameworka, chociażby z polskiego mintAjax - www.mintajax.pl, w dokumentacji znajdziesz wszystko na temat pobierania), który pobiera rezultat z pliku PHP (punkt pierwszy) i odpowiednio reaguje (np. alert('Użytkownik istnieje!')).
3. Na koniec wszystko to podpinasz pod formularz (albo w onSubmit, albo tworzysz oddzielny button do sprawdzania unikalności nazwy/adresu email).
W razie czego służę pomocą na PW (aczkolwiek kodu nie zamierzam pisać za kogoś).

Natomiast co do drugiego pytania:
- obok inputa umieść np. element liniowy SPAN (<span></span) o unikalnym identyfikatorze.
- zamiast "alert('Hasło jest zbyt krótkie!');" umieść:
Kod
document.getElementById('unikalnyIdElementuSPAN').innerHTML = 'Hasło jest zbyt krótkie!';
Oczywiście można to również zrobić przy wykorzystaniu DOM, ale w tak prostym przykładzie można posłużyć się "mniej eleganckim" rozwiązaniem (aczkolwiek równie efektywnym).