C or C++ : Invalid mask