Бесами мучим
1. В старославянском и древнерусском как раз таки писали просто по произношению: "без-" перед звонкими согласными звуками, "бес-" перед глухими, "бе-" перед з, с, ж, ш, щ ("удвоения" звука не было), "бещ-" вместо "без + ч-", "безд-" перед р (сочетания "зр" язык не принимал); в ст.-сл. также "бежд-" вместо "без + ж-".

2. Потом славянская письменность потихоньку отошла от чисто фонетической: произношение много где изменилось, а писали часто по-старому. Возник новый принцип: независимо от произношения, писать элементы слова единообразно. Вот тогда победило "без-", хотя у большинства приставок на з/с колебание осталось, например: "из-" перед звонкими согласными буквами, "ис-" перед глухими (и, как исключение, "из-" перед с, а иногда и перед ц, ч, ш).

3. По последним дореволюционным правилам осталось: всегда без-, ч(е)рез-, с-, остальные с чередованием: из-/ис-, вз-/вс- (воз-/вос-), раз-/рас- (роз-/рос-) -- "с" перед глухими (кроме "с"), а перед звонкими, "с" и гласными -- "з".

4. По-нынешнему -- проще: всегда с-, остальные с чередованием: на "с" перед всеми глухими согласными, а перед всеми звонкими и перед гласными -- "з". То есть "рациональное объяснение" очень ясное: чтобы правило про приставки на з/с было проще.

5. По-старому писать можно (тюрьма/штраф за такое не предусмотрены), но это будет орфографической ошибкой.

6. Совпадение в произношении предлога/приставки "без-" с "бесом" вообще не связано с правилами про приставки на з/с. Оно объясняется тем, что звук, обозначавшийся буквой ять (который был в слове "бес"), совпал с обычным "е".
http://community.livejournal.com/pishu_pravilno/3376419.html?thread=61264675#t61264675