А при чем тут интегрирование? Поскольку давление в жидкости линейно зависит от глубины, недостаток давления в верхней части пробки компенсируется избытком в нижней части (т.е. (pg(H+h)+pg(H-h) = 2pgH). Пробка круглая, симметричная, стало быть. Давление на боковые части пробки не учитываем, так как сила давления перпендикулярна поверхности и направлению движения пробки.

Следовательно, полная энергия складывается из составляющих E1 - повышение уровня воды и E2 - работа по вдвиганию пробки.
E1, очевидно, определяется изменение уровня воды в сосуде (объем вдвинутой пробки известен)
deltaH (изменение уровня) = (r^2/R^2)*l,
=> энергия E1 = pi*плотность*g*l^2*(r^4/R^2)

E2 посчитать сложнее, однако опять же нетрудно доказать, что давление на пробку растет линейно по мере вдвигания, в зависимости от l: deltaP ~ deltaL, так что интегрирования не надо, хватит простого среднего арифметического того, что было до и после.
У меня получилось нечто подобное:
E2 = pi*плотность*g*l^2*r^2(h/l + r^2/2R^2)

Eсум = E1 + E2.

Вот как-то так.