Его можно из L^2 от прямой в L^2 определить, а это уже довольно много.

Пусть f сначала с компактным носителем и два раза гладкая. Тогда её преобразование фурье асимптотически меньше чем 1/(1+x^2) и, значит, лежит в L^2.

Если носитель у f лежит в [-N\pi,N\pi], то можно её продолжить до периодической с таким периодом и разложить в ряд фурье. Формула планшереля говорит, что квадрат L^2 нормы f это 2N\pi на сумму квадратов модулей коэффициентов фурье (коэффициенты занумерованы целыми числами, деленными на N). А коэффициенты фурье равны значениям преобразования фурье в целых точках, деленных на N. Поэтому эта сумма - это интегральная сумма для квадрата модуля преобразования фурье, которая стремится к интегралу и не зависит от N.

То есть преобразование фурье это изометрия. Поэтому его можно замкнуть и продолжить с гладких функций с компактным носителем на всё L^2.

Собственно, у нас это на втором курсе было: http://vyshka.math.ru/pspdf/1112/calculus-2/lecture5.pdf