Цифровая обработка сигналов

Тема 14. АППРОКСИМАЦИЯ СИГНАЛОВ И ФУНКЦИЙ

На фабрике будущего будут заняты только двое служащих: человек и собака. Человек будет нужен для того, чтобы кормить собаку. Собака будет нужна для того, чтобы не позволять человеку прикасаться к оборудованию.

Уоррен Беннис, американский экономист.

Блестящий пример линейной экстраполяции по двум узловым точкам – прошлому и настоящему. Потребуется конкретизация – повышайте степень аппроксимации введением новых точек: что производит фабрика, есть ли на ней профсоюз, чем кормят собаку. Появление председателя профсоюза гарантировано.

Станислав Игумнов, Уральский геофизик.

Введение.

1. Приближение сигналов рядами Тейлора.

2. Интерполяция и экстраполяция сигналов. Полиномиальная интерполяция. Кривые Безье.

3. Сплайновая интерполяция.

4. Спектральный метод интерполяции. Спектр дискретного сигнала. Интерполяционный ряд Котельникова-Шеннона.

5. Децимация и интерполяция цифровых сигналов. Децимация с целым шагом. Интерполяция с целым шагом. Преобразование частоты дискретизации с нецелым шагом.

6. Методика аппроксимации эмпирических данных. Мера приближения. Аппроксимирующая функция. Порядок модели. Оценка качества приближения.

Математика часто оперирует с математическими функциями решения дифференциальных уравнений и интегралов, которые не имеют аналитических выражений и представляются табличными числовыми значениями y_i для дискретных значений независимых переменных x_i вместо аналитических выражений в виде y=s(x). Это означает, что любому значению x из области определения поставлено в соответствии определенное числовое значение y. Аналогичными таблицами {y_i, x_i} могут представляться и экспериментальные данные, для которых неизвестна явная связь между y и x или эта связь только подлежит выяснению. Точки, в которых определены числовые значения функций или данных, называются узловыми.

Однако на практике могут понадобиться значения данных величин совсем в других точках, отличных от узловых, или с другим шагом дискретизации аргументов. Возникающая задача вычисления значений функции в промежутках между узами называется задачей интерполяции, за пределами семейства узловых точек вперед или назад по переменным – задачей экстраполяции или прогнозирования.

Даже при известных зависимостях y=s(x) формулы этих зависимостей, детально и точно описывающие определенные физические объекты и процессы, могут быть очень сложными и мало пригодными для практического использования как при математическом анализе физических данных, так и в прикладных задачах, особенно при расчетах ожидаемых результатов измерений и при математическом моделировании физических процессов. Кроме того, практическая регистрация физических данных выполняется, как правило, с определенной погрешностью или с определенным уровнем шумов, которые по своим значениям могут быть выше теоретической погрешности прогнозирования сигналов при расчетах по сложным, хотя и очень точным формулам. Не имеет смысла и проектирование систем обработки и анализа сигналов по высокоточным формулам, если повышение точности расчетов не дает эффекта в повышении точности обработки данных. Во всех этих условиях возникает задача аппроксимации. Аппроксимация, это представление сложных функций s(x) или дискретных выборок из этих функций s(x_i) простыми и удобными для практического использования функциями аппроксимации f(x) таким образом, чтобы отклонение f(x) от s(x) в области ее задания было наименьшим по определенному критерию приближения.

Если приближение строиться на заданном множестве точек {x_i}, то аппроксимация называется точечной. К ней относятся интерполирование, среднеквадратичное приближение и др. При построении приближения на непрерывном множестве точек, например на отрезке [a,b], аппроксимация называется непрерывной или интегральной.

Сглаживание статистических данных или аппроксимация данных с учетом их статистических параметров относится к задачам регрессии. Как правило, при регрессионном анализе усреднение данных производится методом наименьших квадратов (МНК).

Классические математические методы аппроксимации, интерполяции, экстраполяции и регрессии функций имеют многовековую историю. В рамках настоящего курса мы не будем углубляться в строгую математическую теорию этих операций. Все современные математические системы (Mathcad, Matlab, Maple и пр.) имеют в своем составе универсальный аппарат выполнения таких операций, дающий пользователю возможность реализации любых практических задач по обработке данных. В качестве основной математической системы для примеров будем использовать систему Mathcad.

14.1. Приближение сигналов рядами тейлора [39]

Разложение функций в ряд Тейлора явилось одним из первых методов приближения функций в окрестностях точек х₀:

f(x)  f(x₀) + _(x-x₀) + _(x-x₀)² + … + _(x-x₀)ⁿ.

f(x)  f(x₀) +_(x-x₀)ⁱ.

При разложении функции в окрестностях точки х₀=0 ряд Тейлора принято называть рядом Маклорена.

Первый член ряда f(x₀) представляет собой отсчет функции в точке х₀ и грубое приближение к значениям функции в окрестностях этой точки. Остальные члены ряда детализируют значения функции в окрестностях точки х₀ по информации в соседних точках и тем точнее приближают сумму ряда к значениям функции, чем больше членов суммы участвуют в приближении, с расширением интервала окрестностей точного приближения. Наглядно это можно видеть на примере двух функций, приведенном на рис. 14.1.1 (с усечением отображения членов рядов f2(x) и f4(x)).

Рис. 14.1.1. Примеры разложения функций в ряд Маклорена.

Приближение функций рядом Тейлора применяется, в основном, для непрерывных гладких функций в локальных интервалах задания. Для разрывных и периодически повторяющихся функций использовать его практически невозможно, равно как и для непрерывных не дифференцируемых функций. Операция дифференцирования тоже может быть далеко не простой, а получаемые ряды могут сходиться очень медленно.

14.2. интерполяция и экстраполяция сигналов [39, 55].

Полиномиальная интерполяция. Одним из основных типов точечной аппроксимации является интерполирование. Сущность его заключается в том, что функции y_i = s(x_i) сопоставляется интерполяционный многочлен

f(x) = а₀ + а₁х + а₂х² + … + a_nxⁿ =_a_i·xⁱ, (14.2.1)

принимающий в точках x_i те же значения y_i, что и функция f(x). Для выполнения полиномиальной интерполяции достаточно по выражению (14.2.1) составить систему линейных уравнений для n узловых точек и определить n значений коэффициентов a_i.

При N точках функции y_i максимальная степень интерполяционного многочлена n=N-1, и в этом случае говорят о глобальной интерполяции с прохождением f(x) через все значения точек y_i. Однако в этом случае при большом количестве узлов получается очень высокая степень многочлена. Кроме того, экспериментальные табличные данные могут содержать ошибки измерений, а глобальная интерполяция повторит все допущенные при измерениях ошибки. Для исключения этого фактора стараются подобрать аппроксимирующий многочлен как можно меньшей степени (как правило, n=1, 2, 3), график которого проходит близко от узловых точек. На практике мерой отклонения многочлена f(x) от заданной функции на множестве точек (x_i,y_i) является величина  среднеквадратичного приближения ² = _i(f(x_i)-y_i)², минимальное значение которой обеспечивается подбором коэффициентов a_i.

Пример выполнения глобальной интерполяции приведен на рис.14.2.1. Равномерной дискретизации данных для интерполяции не требуется. Максимальная степень полинома на практике обычно устанавливается не более 8-10, а большие массивы данных интерполируются последовательными локальными частями.

Рис. 14.2.1. Интерполяция данных.

f(x)_лин = а₀ + а₁х. f(x)_кв = а₀+а₁х+а₂х².

При линейной интерполяции вычисления дополнительных точек выполняются по линейной зависимости. Графически это означает простое соединение узловых точек отрезками прямых. В системе Mathcad для этого используется функция linterp(X,Y,x), где X и Y – вектора узловых точек. Функция linterp(X,Y,x) возвращает значение функции при её линейной интерполяции по заданным аргументам х. При небольшом числе узловых точек (менее 10) линейная интерполяция оказывается довольно грубой. Для целей экстраполяции функция linterp не предназначена.

Для практического использования более удобны формулы аппроксимации, не требующие предварительного определения коэффициентов аппроксимирующих полиномов. К числу таких формул относится интерполяционных многочлен по Лагранжу /40/. При аппроксимации функции у(х) многочленом n-й степени Y(x):

Y(x) = _ + _ +…

…+ _. (14.2.2)

Пример интерполяции по Лагранжу приведен на рис. 14.2.2.

Рис. 14.2.2. Интерполяция по Лагранжу.

Метод построения кривых был предложен де Кастелье в 1959 году и основан на разбиении отрезков, соединяющих исходные точки в отношении t, а затем в рекурсивном повторении этого процесса для полученных отрезков:







где нижний индекс - номер точки, верхний индекс - уровень разбиения. Уравнение кривой n-ого порядка задается уравнением: P(t) = _(t).

Рис. 14.2.3.

Для каждого t[0, 1] определим точку _:











и тем самым получим кривую второго порядка.

Рис. 14.2.3.

























Общая аналитическая запись для кривых Безье по N+1 опорной точке:

P^N(t) = _P_{i }, _= _tⁱ (1-t)^N-i,

_= N!/(i! (N-i)!) – биномиальные коэффициенты.

Кривые Безье всегда проходят через начальную P₀ и конечную P_N точки. Если рассматривать опорные точки в противоположном порядке, то форма кривой не изменяется. Если опорные точки лежат на одной прямой, то кривая Безье вырождается в отрезок, соединяющий эти точки. Степень многочлена, представляющего кривую в аналитическом виде, на 1 меньше числа точек.

При сплайновой интерполяции обычно используются локальные полиномы не выше третьей степени. Так, например, кубические сплайны проходят через три смежные узловые точки (текущие опорные точки вычислений), при этом в граничных точках совпадают как значения полинома и функции, так и значения их первых и вторых производных. Коэффициенты полиномов, проходящих через три узловые точки, рассчитываются так, чтобы непрерывными были их первая и вторая производные. Линия, которую описывает сплайн-функция, напоминает по форме гибкую линейку, закреплённую в узловых точках. Это создает высокую плавность сплайнового полинома по сравнению с другими методами аппроксимации и наглядно видно на рис. 14.3.1. Полиномы более высоких порядков чрезмерно громоздки для практики.

Рис. 14.3.1. Сплайновая интерполяция и интерполяция по Лагранжу.

Сплайновая аппроксимация может применяться для достаточно быстро изменяющихся функций, не имеющих разрывов функции и ее производных. Основной недостаток сплайнов – отсутствие единого аналитического выражения для описания функции. Заметим также, что результаты экстраполяции функций, как это можно видеть на рис. 14.3.1, существенно зависят от метода аппроксимации, и, соответственно, к их достоверности нужно подходить достаточно осторожно.

Сплайновая интерполяция обычно применяется в составе математических пакетов по определенной технологии. Так, в системе Mathcad при выполнении сплайновой интерполяции по узловым точкам функции (векторам X и Y) сначала вычисляется вектор (обозначим его индексом S) вторых производных входной функции y(x) по одной из программ:

S:= cspline(X,Y) – возвращает вектор S вторых производных при приближении в опорных точках к кубическому полиному;

S:= pspline(X,Y) – возвращает вектор S при приближении в опорных точках к параболической кривой;

S:= lspline(X,Y) – возвращает вектор S при приближении в опорных точках к прямой.

По значениям вектора S функцией interp(S,X,Y,x) вычисляются значения аппроксимирующей функции по аргументам х.

На рис. 14.3.2 приведен пример кубической сплайновой интерполяции двумерных цифровых данных с одновременным повышением узловой сетки цифровых данных в 4 раза.

Рис. 14.3.2. Сплайн - интерполяция двумерных данных.

При дискретизации данных с равномерным шагом по аргументу наиболее точную интерполяцию финитных сигналов обеспечивает спектральный метод. При условии, естественно, что в спектре сигнала не содержится частотных составляющих, превышающих частоту Найквиста.



s_(t) = s(t) Ш_(t) = s(t)_(t-kt) =_s(kt)(t-kt). (14.4.1)

С учетом известного преобразования Фурье гребневой функции Ш_(t)  FШ_F(f) фурье-образ дискретной функции s_(t):

S_F(f) = S(f) ③ FШ_F(f). (14.4.2)

Ш_F(f) =_(f-nF). (14.4.3)

Отсюда, для спектра дискретного сигнала имеем:

S_F(f) = FS(f) ③_(f-nF) = F_S(f-nF). (14.4.4)

Спектр дискретного сигнала представляет собой непрерывную периодическую функцию с периодом F, совпадающую с функцией FS(f) непрерывного сигнала s(t) в пределах центрального периода от -f_N до f_N, где f_N = 1/2t = F/2 - частота Найквиста. Частота дискретизации сигнала должна быть минимум в два раза выше максимальной частотной составляющей в спектре сигнала (F = 1/t  2f_max). Умножая функцию (14.4.2) на прямоугольную весовую функцию П_F(f), равную 1 в пределах главного частотного, получаем непрерывный спектр в бесконечных по частоте границах, равный спектру FS(f) в пределах главного частотного диапазона:

FS(f) = F[S(f) ③ Ш_F(f)] П_F(f). (14.4.5)

Обратное преобразование Фурье этого спектра, с учетом коэффициента F, должно восстанавливать непрерывный сигнал, равный исходному аналоговому сигналу s(t).

На рис. 14.4.1 приведен пример интерполяции и экстраполяции равномерных по аргументу дискретных данных в сравнении с сплайн-методом и методом по Лагранжу. Исходная аналоговая кривая дискретизирована корректно (f_max < 1/2t) и восстановленная по дискретным данным кривая fS(z) полностью ее повторяет. Близкие результаты к исходному сигналу дает также и сплайн-интерполяция, но доверять сплайн-экстраполяции, особенно по концевой части интервала задания данного сигнала, не приходится. Что касается интерполяции по Лагранжу, то можно видеть существенную погрешность интерполяции на концевых частях интервала сигнала и полную непригодность для задачи экстраполяции.

Рис. 14.4.1. Спектральный метод интерполяции и экстраполяции.

Вычисление спектра, учитывая информационную равноценность динамического и спектрального представления сигналов, может производиться в дискретном варианте с использованием быстрого преобразования Фурье.

При нарушении корректности дискретизации данных погрешности интерполяции возрастают практически во всех методах интерполяции. Это можно видеть на рис. 14.4.2, который полностью повторяет рис. 14.4.1 с изменением значения только одного, пятого отсчета (уменьшение с 7.84 до 2), что вызывает подъем высоких частот в спектре данных.

Рис. 14.4.2.

Следует учитывать, что при интерполяции данных, представляющих собой вырезки из сигнальных функций с определенной постоянной составляющей (сигнал не выходит на нулевые значения на концевых участках интервала задания), а равно и любых данных со скачками функций, при спектральном преобразовании на интерполированном сигнале в окрестностях обрезания данных и скачков возникает явление Гиббса. Это можно видеть сравнением рисунков 14.4.1 и 14.4.3. Данные на рис. 14.4.1 в рисунке 14.4.3 подняты на 20 единиц постоянной составляющей.

Рис. 14.4.3.

Для исключения этого эффекта можно рекомендовать перед интерполяцией производить определение линейного тренда данных по концевым значениям отсчетов и вычитать его из данных, с последующим восстановлением после интерполяции.

Интерполяционный ряд Котельникова-Шеннона. Произведем обратное преобразование обеих частей равенства (14.4.5). Умножение непрерывного и бесконечного спектра на П-импульс в пределах главного диапазона отобразится в динамической области сверткой двух функций:

Fs(t) = Fs_(t) ③ sinc(Ft).

s(t) = sinc(Ft) ③_s(kt)(t-kt),

Отсюда, с учетом равенства (t-kt) ③ sinc(Ft) = sinc[F(t-kt)], получаем:

s(t) =_s(kt) sinc[F(t-kt)]. (14.4.6)

Эта формула носит название интерполяционного ряда Котельникова-Шеннона и, по существу, является разложением сигнала по системе ортогональных функций sinc(F(t-kt)) = sinc((t/t – k)). С другой стороны, эта формула представляет собой свертку дискретной функции данных s(kt) с непрерывной функцией интегрального синуса. Для больших массивов дискретных данных точность восстановления сигнала обычно ограничивается интервалом задания функции интегрального синуса, по которому устанавливается интервал суммирования.

Из совокупности приведенных формул следует, что если для частоты дискретизации сигнала справедливо неравенство F  2f_max, где f_max - наибольшая частота в спектре произвольной непрерывной функции s(t), то функция s(t) может представляться в виде числовой последовательности дискретных значений s(kt), k = 0,1,2,..., и однозначно по этой последовательности восстанавливаться, в пределе - без потери точности. В этом и состоит сущность теоремы отсчетов Котельникова-Шеннона.

На рис. 14.4.4 приведен пример интерполяции входных данных, повторяющих данные рис. 14.4.1. Результаты интерполяции, как и следовало ожидать, абсолютно идентичны. Аналогичным образом влияют на результаты усечение и скачки функций (явление Гиббса).

Рис. 14.4.4. Интерполяция по Котельникову-Шеннону.

Применительно к цифровым сигналам децимация – уменьшение частоты дискретизации данных с сохранением в новом сигнале всей полезной информации. Интерполяция обратна децимации – увеличение частоты дискретизации без изменения информации. Цифровая децимация и интерполяция широко используется в современных системах обработки данных для сжатия и восстановления данных, для уменьшения объемов памяти хранения данных, для увеличения скорости передачи данных, и т.п.

Простой, но мало производительный подход – восстановить сигнал в аналоговой форме (ЦАП) и заново оцифровать его (АЦП) с новой частотой дискретизации. Цифровые методы позволяют выполнить эту операцию в более эффективной форме.

Децимация с целым шагом. Кратная компрессия частоты дискретизации снижает частоту дискретизации входного сигнала x(k) с f_d до f_d/M путем отбрасывания М-1 отсчетов в каждой последовательной серии из М-отсчетов, т.е. из М-отсчетов оставляется только 1:

y(m) =_x(k) (k-mM), m = 0, 1, 2, … , K/M. (14.5.1)

Естественно, что частота Найквиста f_N входного сигнала x(k) компрессора для выходного сигнала y(k) также уменьшается в М раз и становится равной f_N' = f_N/M для выходного сигнала. Для полного сохранения после компрессии полезной информации, содержащейся в сигнале x(k), максимальная частота полезной информации во входном сигнале не должна превышать значения f_max  f_N/2M. В противном случае децимация будет некорректной и в новом главном частотном диапазоне выходного сигнала произойдет искажение спектра полезной информации за счет сложения со спектрами боковых диапазонов. Пример корректной децимации сигнала с М=2 и спектры входного и децимированного сигнала приведены на рис. 14.5.1.

Рис. 14.5.1.

Входные сигналы кроме полезной информации могут содержать статистические шумы и помехи, распределенные по всему частотному диапазону. При децимации шумы и помехи в частотном диапазоне от f_N/M до f_N входного сигнала зеркально отражаются от f_N' нового главного частотного диапазона и их суммирование со спектром нового главного диапазона и полезного сигнала может приводить к увеличению уровня шумов и искажению информации. Для исключения этого эффекта перед конверсией сигнала необходимо выполнять его низкочастотную фильтрацию со срезом на частоте f_N/2M.

Рис. 14.5.2.

На рис. 14.5.2 приведен спектр Z2_n сигнала z_k с рисунка 14.5.1 (спектр Z_n), в который для наглядности эффекта зеркального отражения условно введен только высокочастотный шум на интервале f_s - f_N, и соответствующий данному спектру сигнал z2_k. При децимации сигнала z2 с М=2 сначала была выполнена его низкочастотная фильтрация с частотой среза f_s, что полностью сняло модельный шум, и при восстановлении сигнала (интерполяции) получен сигнал y1_k, полностью соответствующий сигналу z_k. При выполнении децимации без предварительной фильтрации восстанавливается сигнал y2_k, который по своей форме отличается как от сигнала y1_k = z_k, так и от входного сигнала z2_k.

Интерполяция с целым шагом. Экспандер частоты дискретизации увеличивает частоту дискретизации входного сигнала x_k с f_d до Lf_d путем введения (L-1) нулевых отсчетов после каждого отсчета входного сигнала. При этом форма спектра выходного сигнала y_k остается без изменения, но частотная шкала спектра сжимается в L раз и в границы главного диапазона спектра входного сигнала ±f_N заходят боковые диапазоны спектра выходного сигнала (зеркальные частоты). Это наглядно можно видеть на рис. 14.5.3 сравнением спектров X_n для входного сигнала x_k, и Y_n для экспандированного сигнала x_k с L=2. Следовательно, фактическая частота Найквиста выходного сигнала становится равной f_N/L. Для исключения зеркальных частот и распределения энергии отсчетов x_k по L выходным интервалам экспандированный сигнал пропускается через фильтр нижних частот со срезом на частоте f_N/L и с коэффициентом L для компенсации распределения энергии отсчетов по интервалам L. Результат операции можно видеть на сигнале y_k по сравнению с исходным сигналом z_k (рис. 14.5.1), децимацией которого с М=2 был получен сигнал x_k.

Рис. 14.5.3.

При программной обработке больших пакетов данных децимация и интерполяция может выполняться в спектральной области с использованием БПФ.

Эмпирические данные, как правило, задаются числовыми рядами значений двух величин: независимой (х_k) и зависимой (у_k) , каждая из которых кроме определенной регулярной составляющей может содержать и случайные составляющие самой различной природы, обусловленные как статистической природой изучаемых процессов, так и внешними факторами процессов измерений и преобразования данных (шумы, помехи, ошибки измерений). Независимая переменная x_k обычно полагается детерминированной, а ее случайная составляющая "переносится" на зависимую переменную y_k. Полагается также, что значения случайной составляющей зависимой переменной распределены по некоторому вероятностному закону (например – нормальному).

При выполнении аппроксимации данных предполагается существование определенной детерминированной связи y(x) между регулярными составляющими этих двух числовых рядов на статистически значимом уровне, достаточном для ее выявления на уровне случайных составляющих. Задача выявления такой закономерности относится к числу неопределенных и неоднозначных, результат которой зависит от трех основных субъективных факторов:

• 
  выбора меры близости зависимой переменной к искомой функции и метода построения приближения (параметров математической модели);
  
• 
  выбора подходящего класса функции аппроксимации (степенной, тригонометрической и пр.), отвечающего физической природе моделируемого процесса;
  
• 
  метода оптимизации порядка модельной функции или числа членов ряда аппроксимирующего выражения.
  



где S > 0 - положительное число.

D = {_[y_k - (x_k)]²}/(k-m), (14.6.2)

где m – количество параметров в функции приближения, (k-m) – число степеней свободы. Однако эмпирические данные могут содержать выбросы и грубые ошибки, которые вызывают смещения вычисляемых параметров. Их влияние обычно исключается цензурированием данных: вычислением гистограммы разностей y_k-(x_k) после определения первого приближения функции аппроксимации и исключением "хвостовых" элементов гистограммы (до 2.5% от количества данных, или резко выделяющихся элементов данных на основании оценок вероятностей с использованием r- или t- распределений).

Мера наименьших модулей (метод Лагранжа) реализуется при S = 1 и применяется при распределениях случайных составляющих зависимой переменной по законам, близким к закону Лапласа (двустороннее экспоненциальное распределение). Такая мера соответствует площади между графиками эмпирических данных и функции аппроксимации, и, по сравнению с квадратической, является более устойчивой, в том числе при наличии случайных составляющих с большими амплитудами (длинные "хвосты" разностных гистограмм). Оценки по модулю получили название "робастных" (robust – устойчивый).

Свойства квадратичной меры и меры наименьших модулей в определенной степени сочетаются при S = 3/2.

При полном отсутствии априорной информации о распределении случайной составляющей данных, на начальном этапе обычно используется квадратичная мера приближения, при этом существенное значение имеет количество задаваемых параметров функции аппроксимации, особенно при малом количестве данных. Как следует из (14.6.2), при прочих равных условиях целесообразно использовать функции с минимальным количеством задаваемых параметров, что обеспечивает большее число степеней свободы и меньшие значения дисперсии остатков.

Наибольшее распространение в практике аппроксимации при отсутствии теоретических аспектов изучаемых явлений получили функциональные ряды, для которых определяющее значение имеет порядок аппроксимирующей функции (модели).

Порядок модели ограничивает число членов функционального ряда аппроксимирующей функции определенным оптимальным количеством членов ряда, которое обеспечивает обоснованное расхождение с фактическими данными и минимизирующее отклонение от искомой регулярной составляющей данных.

Очевидно, что для функциональных рядов порядок модели (степень ряда для степенных рядов) определяет значение меры приближения. При повышении порядка модели минимум функции (14.6.1) стремится к нулю. Однако это означает, что при повышении порядка модели в функцию аппроксимации входит не только регулярная составляющая данных, но все большая и большая доля случайных составляющих, в пределе до полного соответствия функции _k исходным данным y_k. Но повышение степени приближения к исходным данным при наличии в них случайных составляющих с какого-то определенного момента (порядка модели) не только не будет приближать функцию аппроксимации к регулярным составляющим данных, а наоборот – увеличивать расхождение. С этой точки зрения термин "меры приближения" (14.6.1) было бы целесообразнее заменить термином "мера аппроксимации" данных, а под мерой приближения понимать значение меры аппроксимации, при которой обеспечивается максимальная степень приближения функции аппроксимации к регулярной составляющей данных (минимум дисперсии разности функций аппроксимации и регулярной составляющей).

При разделении данных на значения регулярных составляющих s_k и случайных _k, для квадратичной меры можно записать:

_[y_k-(x_k)]² =_[s_k+_k-(x_k)]² =_[s_k-(x_k)]² +2_[s_k-(x_k)]_k +__k².

При нулевом значении математического ожидания случайных величин _k значение второй суммы стремится к нулю, при этом для оптимальной аппроксимирующей функции:







В пределе, при идеальной аппроксимации, выражение (14.6.3) стремится к нулю, а выражение (14.6.4) эквивалентно соотношению дисперсий:

{_[y_k - (x_k)]²}/(k-m) __k²/k. (14.6.5)

Отсюда следует, что при прочих равных условиях наилучшим является приближение, у которого мера приближения близка к дисперсии шума. Для "белых" шумов оценку их дисперсии в экспериментальных данных можно выполнять в спектральной области, если частота Найквиста данных минимум в 2 раза выше предельных частот регулярной составляющей.

При отсутствии информации о дисперсии шумов оптимальный порядок модели может определяться методом последовательных уточнений с последовательным нарастанием порядка модели и сравнением по критерию Фишера значимости различия дисперсии остатков каждого нового порядка с предыдущим. При увеличении порядка модели (начиная с 1-го) значимость различия дисперсий сначала является довольно высокой, постепенно уменьшается, и в области оптимальных порядков становится малозначимой. Это объясняется тем, что в этой области при небольших уменьшениях значения числителя выражения (14.6.2) одновременно, за счет увеличения порядка, сокращается число степеней свободы. После прохождения оптимальной зоны значения дисперсий остатков снова начинают увеличиваться с увеличением значимости различий.

Рис. 14.6.1.

Оптимальный порядок модели при нормальном распределении шума может устанавливаться и непосредственно по минимуму дисперсии остатков. Это можно наглядно видеть на примере, приведенном на рис. 14.6.1.

Одномерная полиномиальная аппроксимация данных в векторе Y полиномом с произвольной степенью n и с произвольными координатами отсчетов в векторе Х в Mathcad выполняется функциями:

• 
  regress(X,Y,n) – вычисляет вектор S для функции interp(…), в составе которого находятся коэффициенты c_i полинома n-й степени;
  
• 
  interp(S,X,Y,x) – возвращает значения функции аппроксимации по координатам х.
  

f(x) = c₀ + c₁·x¹ + c₂·x² + … + c_n·xⁿ ≡ _c_i·xⁱ.

Значения коэффициентов c_i могут быть извлечены из вектора S функцией

• 
  submatrix(S, 3, length(S), 0, 0).
  

Adjusted R² = D/D_y = 1 – D_o/D_y,

где: D - дисперсия функции приближения, D_y – дисперсия данных, D_o – дисперсия остатков. Чем выше качество аппроксимации, тем ближе к 1 значение коэффициента детерминации.
литература

16. Макс Ж. Методы и техника обработки сигналов при физических измерениях: В 2-х томах. - М.: Мир, 1983.

39. Дьяконов В.П. Вейвлеты. От теории к практике. – М.: СОЛОН-Р, 2002. – 448 с.

40. Корн Г., Корн Е. Справочник по математике для научных работников и инженеров. – М.: Наука, 1984.

41. Овечкина Е.В. (НТИ УГТУ-УПИ), Поршнев С.В. (УГТУ-УПИ). Разработка методов оптимальной аппроксимации эмпирических зависимостей. (Статья в электронном журнале).

43. Айфичер Э., Джервис Б. Цифровая обработка сигналов. Практический подход. / М., "Вильямс", 2004, 992 с.

55. Иванов Д.В. и др. Алгоритмические основы растровой графики. – Интернет университет информационных технологий. – http://www.intuit.ru/goto/course/rastrgraph

Cайт автора Лекции Практикум

О замеченных опечатках, ошибках и предложениях по дополнению: davpro@yandex.ru.