Znacie jakiś plugin który po kliknięciu w dany przycisk otwiera małe okno z szarym tłem?

Masz na mysli okienko dialogowe?
google-> js modal dialog
pełno tego w necie

dokładnie tak, z resztą myślę że sobie dam rade.

Chyba że chcesz mi dać jakieś w skazówki

wskazowka:
Jeśli używasz już jQuery oraz jQeryUI to ten lib ma już modal dialog

A jak nie to jak pisałem jest kupa innych

Właśnie chce zastosować ten dialog()

http://jqueryui.com/dialog/#modal-message

W jaki sposób zrobić włącznie tej funkcji po kliknięciu w przycisk?

jak dodać tutaj modal: true??

[PHP] pobierz, plaintext 
$(function() {
$( "#dialog" ).dialog({ autoOpen: false });
$( "#opener" ).click(function() {
 $( "#dialog" ).dialog( "open" );
});
});
[PHP] pobierz, plaintext 

Klikniecie juz masz.
A jak zrobić modal? No wszystko masz napisane w przykładach na stronie, którą sam podałes
modal: true