AFAIK przy stosowaniu formularza HTML nie ma takiej możliwości aby to skutecznie sprawdzić.
Ustawianie w formularzu MAX_FILE_SIZE nic nie da w tym konspekcie.
Nie pamiętam już jak się ma sprawa z ustawieniami upload_max_filesize i post_max_size w PHP - czy one nie zwrócą od razu błędu gdy plik będzie za duzy - musisz to sprawdzić.
Ogólnie najlepszą metodą chyba jednak jest użycie do celu uploadu plików apletu Javy lub flash'a (z czego to drugie ma mnogość rozwiązań i gotowych skryptów które Ci polecam)
Dodatkowo Flash i Java applet pozwolą Ci w łatwy sposób na implementacji postepu uploadu