Предсказание дефолта облигаций, используя проспект эмиссии

1. 
   Алгоритм для расчета коэффициентов логита:
   

function beta = logit (X, y, lambda)

k = size (X, 2);

options = optimset ('GradObj', 'on', 'Display', 'off');

beta = fminunc (@(beta) costFunction (X, y, lambda, beta), zeros (k, 1), options);

end

EPS = 1e-60;

m = size(X, 1);

cost = (-y'*log(EPS + Sigmoid(X*beta)) - (ones(size(y))-y)'*log(ones(size(y))-Sigmoid(X*beta) + EPS) + lambda/2 * (beta'*beta - beta(1)*beta(1))) / m;

grad = (((Sigmoid(X*beta) - y)'*X)' + lambda*beta) / m;

grad(1) = ((Sigmoid(X*beta) - y)'*ones(size(y))) / m;

end

function s = Sigmoid (X)

end

2. 
   Алгоритм для расчета ожидаемого значения у при рассчитанных коэффициентах логита:
   

function [y_predicted] = logitPredict(X, beta)

y_predicted = Sigmoid (X * beta);

end

s = 1 ./ (1 + exp(-X));

end

3. 
   Алгоритм для применения метода скользящего контроля:
   

function [y_predicted] = leaveOneOut (X, y, lambda)

n = size(X, 1); % observations

m = size(X, 2); % variables

y_predicted = zeros(n, 1);

for obsNum = 1 : n

X_ = [X(1 : obsNum-1, :); X(obsNum+1 : n, :)];

y_ = [y(1 : obsNum-1); y(obsNum+1 : n)];

beta_ = logit (X_, y_, lambda);

y_hat = logitPredict (X, beta_);

y_predicted(obsNum) = y_hat(obsNum);

disp(sprintf('%d/%d observations evaluated...', obsNum, n));

end

end

4. 
   Алгоритм для построения кривой ошибок и вычисления площади под кривой ошибок:
   

function [AUC] = getROC(y_real, y_predicted)

[y_predicted, I] = sort (y_predicted);

y_real = y_real(I);

x = [0];

y = [0];

total_positives = sum(y_real);

total_negatives = n - total_positives;

truePositives = 0;

for i = n : -1 : 1

if y_real(i) == 1

truePositives = truePositives + 1;

end

TPR = truePositives / total_positives;

x = [x, FPR];

y = [y, TPR];

end

AUC = 0;

AUC = AUC + (y(i) + y(i-1)) / 2 * (x(i) - x(i-1));

end

x_ = [0, 1];

plot (x, y, x_, y_);

title(sprintf('AUC = %.3f', AUC));

xlabel('FPR');

ylabel('TPR');

legend ('Предсказание модели', 'Случайное предсказание', 'Location', 'SouthEast');

end

5. 
   Алгоритм для построения графика зависимости площади под кривой ошибок от параметра регуляризации:
   

function runLogit1(fileName, lambda)

% Format of the input file:

% N - number of variables in the first line

% Each of the next lines (to the end) contains

% observations - N dependent variables first and

% independent variable (y) then

fin = fopen (fileName, 'rt');

m = fscanf (fin, '%d', 1);

V = fscanf (fin, '%g');

D = reshape(V, m+1, length(V) / (m+1))';

n = size(D, 1);

X = [ones(n, 1), D(:, 1:m)];

y = D(:, m+1);

u = [0];

v = [0];

if y(i) ~= 0 & y(i) ~= 1

disp('y''s are not 0 or 1. Check the input file.');

exit(0);

end

for j = 1 : size(lambda, 2)

beta = logit (X, y, lambda(j));

y_pred = leaveOneOut (X, y, lambda(j));

disp (sprintf('AUC = %.3f', getROC1(y, y_pred)));

u = [u, lambda(j)];

v = [v, getROC1(y, y_pred)];

end

title(sprintf('Зависимость AUC от параметра регуляризации'));

xlabel('Параметр регуляризации');

ylabel('AUC');

end

6. 
   Алгоритм вывода кривой ошибок и площади под кривой ошибок, а также для расчета коэффициентов логита для заданного массива данных:
   

function runLogit(fileName, lambda)

% Format of the input file:

% N - number of variables in the first line

% Each of the next lines (to the end) contains

% observations - N dependent variables first and

% independent variable (y) then

fin = fopen (fileName, 'rt');

m = fscanf (fin, '%d', 1);

V = fscanf (fin, '%g');

D = reshape(V, m+1, length(V) / (m+1))';

n = size(D, 1);

X = [ones(n, 1), D(:, 1:m)];

y = D(:, m+1);

for i = 1 : length(y)

if y(i) ~= 0 & y(i) ~= 1

disp('y''s are not 0 or 1. Check the input file.');

exit(0);

end

disp('Running logit...');

beta = logit (X, y, lambda);

disp (sprintf('AUC = %.3f', getROC(y, logitPredict(X, beta))));

disp (beta);

key = input('Do you want to run cross-validation [y|n]? ', 's');

if key == 'y'

disp('Running cross-validation with leave-one-out approach...');

y_pred = leaveOneOut (X, y, lambda);

disp (sprintf('AUC = %.3f', getROC(y, y_pred)));

end

end