Линус то свое ядро где написал?
Компиляторы, конечно, сложнее, но тоже уже поставлены на поток.

Проблемы в разработке ОС в дизайне, а не в кодировании.

Что качается действительно сложных систем, то это САПР, системы управления производством, управление боем, управление робототизированными комплексами. Следующий уровень - СУБД и системы обработки транзакций в реальном времени.
ОС до этих задач по сложности очень далеко.