Musisz najpierw stworzyć diva, a dopiero go ukrywać. Teraz wywołujesz:
var div = $('#msg').hide();
pomimo tego, że div o takim id jeszcze nie istnieje.

Kod
<script src="http://code.jquery.com/jquery-1.8.2.js" type="text/javascript"></script>
<div id="msg">tekst</div>
<input type="text" id="txt"/>
<script type="text/javascript">
var div = $('#msg').hide();
$('#txt').keyup(function() {
var value = this.value;
if (value < 5) {
div.fadeIn();
} else {
div.fadeOut();
}
});
</script>