Задача, о которой упоминает еще Галилей, после исследований И. Бернулли 1696 г послужила толчком к появлению методов решения широкого класса подобных задач, составивших впоследствии основу вариационного исчисления

Пусть в вертикальной плоскости имеются две точки и (первая выше второй). Данные точки могут быть соединены различными плоскими кривыми (в частности, и прямой линией). Предположим, что в помещена материальная точка массы , которая под действием силы тяжести может «скатываться» из точки в по различным кривым, соединяющим и . Геометрически задача о брахистохроне заключается в отыскании такой кривой (если она существует), по которой материальная точка достигнет за кратчайшее время. Эту кривую называют брахистохроной.

Для того, чтобы дать математическую формулировку задачи, введем на рассматриваемой плоскости прямоугольную систему координат. Поместим ее начало в точку и направим ось ординат вертикально вниз. Обозначим координаты точки через . По условию, материальная точка начинает двигаться из без начальной скорости, поэтому согласно закону сохранения энергии можно записать

Где ­ скорость, ­ ордината материальной точки ( ­ ускорение свободного падения). Отсюда находим . Будем считать, что ­ уравнение кривой, по которой «скатывается» материальная точка. Если обозначить через длину пройденного точкой пути, а через ­ время, то можно записать

Следовательно,

Интегрируя, получаем следующее выражение:

где ­ время, в течение которого материальная точка движется вдоль кривой из в .

Равенство (9.1) задает функционал , определенный на множестве кривых (точнее функций) вида , подчиненных граничным условиям

(9.2)

Из физических соображений ясно, что рассматриваемые кривые не должны иметь «изломов» («углов») и поэтому функции можно считать гладкими (непрерывно дифференцируемыми): .

Математическая постановка задачи о брахистохроне такова: среди всех функций вида пространства , которые удовлетворяют условиям (9.2), требуется найти функцию (если она существует), реализующую минимум функционала ,определяемого формулой

(9.3)

Решение задачи: В задаче о брахистохроне

Здесь , поэтому можно воспользоваться уравнением (9.18), которое в данном случае имеет вид

Отсюда следует, что . Вводя новую константу , получаем

Далее придется дифференцировать уравнение (9.21), поэтому, прежде чем приступить к его решению, обоснуем возможность такого действия. Для этого убедимся в существовании второй производной , т. е. проверим, что первая производная является дифференцируемой на интервале функцией. Предположим, что решение задачи о брахистохроне существует. Тогда оно удовлетворяет уравнению (9.21), а значит . Поскольку ­ непрерывно дифференцируемая функция, согласно последнему равенству, функция также непрерывно дифференцируема. Далее, суперпозиция для двух непрерывно дифференцируемых функций , является непрерывно дифференцируемой функцией. Очевидно, что для всех . Остается показать, что , т. е. что

Справедливость соотношения (9.22) проверим в три этапа.

1) Экстремаль не может быть постоянной ни на одном интервале . В самом деле, если , для всех , то, подставляя в левую часть уравнения Эйлера­Лагранжа (9.16)

2) Производная экстремали может обращаться в нуль не более чем в одной точке. Если это не так, то можно выбрать такие точки , что , причем при всех . Тогда в силу (9.20) верно равенство и, по теореме Ролля, производная обращается в нуль в некоторой внутренней точке интервала , что противоречит выбору и .

3) Производная экстремали может обратиться в нуль только при . Поскольку в выбранной системе координат ось направлена вниз , производная на не отрицательна. Значит, функция не убывает и, согласно равенству (9.21), в точке , в которой , она принимает наибольшее возможное значение. Следовательно, не может быть внутренней точкой и поэтому .

Решение у задачи о брахистохроне является экстремалью, а значит, для этого решения неравенство (9.22) выполняется. Тем самым двукратная непрерывная дифференцируемость оптимального решения доказана.

Используя двукратную непрерывную дифференцируемость решения задачи о брахистохроне, с помощью аналогичных рассуждений можно доказать трехкратную, а затем четырехкратную непрерывную дифференцируемость и т. д. Это означает, что решением задачи о брахистохроне является бесконечно дифференцируемая функция.

Решение уравнения (9.21) будем искать в параметрическом виде. Воспользовавшись подстановкой

запишем уравнение (9.21) в виде

или

Для того чтобы найти функцию , продифференцируем (9.24) по и воспользуемся подстановкой (9.23):

Отсюда имеем

а значит,

Итак, общее решение уравнения Эйлера­Лагранжа (9.21) в параметрической форме имеет вид

и задает на плоскости семейство циклоид, зависящих от двух произвольных постоянных и . Значения этих постоянных определяют из краевых условий , что приводит к решению следующей системы уравнений: