это дополнение множества
то есть M':=X\M
https://en.wikipedia.org/wiki/Complement_(set_theory)

Тогда нахуя удалять {a} из M \cap U?

"a" удалаяют не из M \cap U, а из U
там имеется в виду пересечение по всем U\{a} - проколотым окрестностям "a"
где-то в доказательствах и других построениях дальше по тексту (из которого взяли это определение) удобны такие обозначения