[HTML] pobierz, plaintext 
(function($){
  $.fn.aaa=function(){ alert('dziala');}
})(jQuery)
 
$(document).ready(function(){
  $('#nieMaTakiegoElementuWDOM').aaa();
});
[HTML] pobierz, plaintext 

Czy takie coś powinno zadziałać, czy ja już za długo przed kompem siedzę, wydaje mi się że powinien pokazać błąd, iż takiego elemetu nie ma, a on sobie beztrosko pokazuje alert.

W wewnątrz funkcji nie dostajesz elementów wybranych przez selektor, ale funkcja wykonuje się, a co za tym idzie alert.

Zmień trochę ciało funkcji:

[HTML] pobierz, plaintext 
$.fn.aaa=function(){this.each(function(){console.log(this)});alert('dziala');}
[HTML] pobierz, plaintext 

i porównaj wynik w konsoli na znalezionych i nieznalezionych elementach.

no dobra to, że wykonuje funkcję to jeszcze spoko, mogę sprawdzić rzeczywiście czy taki element istnieje, ale mam przycisk, po którym powinien się pojawić ten alert i po kliknięciu przycisku funkcja się nie wykonuje

[HTML] pobierz, plaintext 
 
    (function($){
      $.fn.aaa=function(){ alert('dziala'); $(this).click(function(){ alert('no to dziala'); }); }
    })(jQuery)
 
    $(document).ready(function(){
      $('#pokazalert').aaa();
    });
 
 
[HTML] pobierz, plaintext 

i po załadowaniu strony pokazuje alert (aaa) ale po kliknięciu na przycisk o ID pokazalert już nie pokazuje nic

Powinieneś przeiterować przez tablicę elementów zwróconych dzięki selektorowi.
https://jsfiddle.net/ztsa6xu1/

To nie w tym rzecz, któryś ze skryptów mi musi blokować, bo żaden przycisk na stronie nie działa, poza tym tutaj selektorem jest ID elementu, a w DOMie powinien być tylko jeden element o takim ID.

[HTML] pobierz, plaintext 
(function($){
      $.fn.aaa=function(){ alert('dziala'); this.click(function(){ alert('no to dziala'); }); }
})(jQuery)
[HTML] pobierz, plaintext