Каковы, собственно, приметы жанра и критерии его отграничения от "настоящей" литературы?

Наличие персонажей нечеловеческой (или не совсем человеческой) природы? А что, их не было в "Илиаде", "Одиссее", "Прометее прикованном", - да "Фаусте", в конце концов? 
Перенесение места действия в несуществующую или в принципе не могущую существовать реальность, некий условный мир, вымышленный город, космическое пространство? Всякий легко отыщет множество примеров из самой высокой классики, где именно это и происходит. Взять хоть, помимо того же "Фауста"... ну, скажем, "Бурю" Шекспира. Или "Микромегаса" Вольтера. Уж про свифтовские "Путешествия Гулливера" не говорю... Вообще любое произведение творит свой собственный мир. И классики 19 века прекрасно понимали, что делали, обозначая местом действия "уездный город NN" - даже если они списывали картины тамошней жизни с реальности, получалось немного не так и не то.
Наличие мистических происшествий и мотивов? Да сколько угодно и где угодно! Причём даже в 19 веке, когда все требовали от искусства "правды, только правды, и ничего, кроме правды". Но гони мистику в дверь - она пролезет в окно. "Медный всадник", "Майская ночь" и "Вий", диалоги с чёртом в "Братьях Карамазовых"... 

Ну, и так далее.
Конечно, есть некие жанровые стереотипы. Если автор пишет про Средиземье, эльфов и гоблинов, он явно эксплуатирует массовый интерес к Толкиену (или сам является толкиенутым); если про галактические империи - шлёт эпигонский привет Азимову. 

Однако дело не в сюжетах и не в материале как таковом.
Дело в таинственном качестве мысли и материала, которое одно только и превращает (или не превращает) развлекательную беллетристику в Литературу. А с общим количеством этого качества во все времена дело обстояло трудно. Рыцарских романов были десятки или даже сотни, а "Дон Кихот" - один. Тоже, кстати, отчасти фэнтези...