xm - координата мыши относительно окна по х
x - координата квадрата по х относительно окна.
h - ширина квадрата.
x<=xm<=x+h
аналогично по у. искать самый верхний квадрат, удовлетворяющий условиям.