Отправляет email-рассылки с помощью сервиса Sendsay

Эконометрика

  Все выпуски  

Эконометрика - выпуск 885


"Эконометрика", 885 выпуск, 8 января 2018 года.

Здравствуйте, уважаемые подписчики!

*   *   *   *   *   *   *

Эконометрика как учебная дисциплина рассмотрена в развернутой статье А.И. Орлова.

Все вышедшие выпуски доступны в Архиве рассылки по адресу subscribe.ru/catalog/science.humanity.econometrika.

*   *   *   *   *   *   *

УДК 519.2:005.521:633.1:004.8

01.00.00 Физико-математические науки

Эконометрика как учебная дисциплина

Орлов Александр Иванович

д.э.н., д.т.н., к.ф.-м.н., профессор

РИНЦ SPIN-код: 4342-4994

Московский государственный технический университет им. Н.Э. Баумана, Россия, 105005, Москва, 2-я Бауманская ул., 5, prof-orlov@mail.ru

Статистические методы широко используются в отечественных технико-экономических исследованиях. Однако для большинства менеджеров, экономистов и инженеров они являются экзотикой. Это объясняется тем, что в вузах современным статистическим методам не учат. Обсудим сложившуюся ситуацию, уделив основное внимание статистическим методам в экономических и технико-экономических исследованиях, т.е. эконометрике. В мировой науке эконометрика занимает достойное место. Имеются научные журналы по эконометрике, нобелевские премии по экономике присуждены ряду эконометриков. Положение в области научных и практических работ и особенно преподавания эконометрики в России является неблагополучным. Зачастую за эконометрику выдают отдельные частные построения, например, относящиеся к регрессионному анализу. Статья посвящена эконометрике как учебной дисциплине. Начинается курс с обсуждения структуры современной эконометрики, соотношения прикладной статистики и эконометрических методов. Рассмотрены выборочные исследования (анализ результатов опросов), элементы эконометрики чисел, методы статистической проверки гипотез однородности. Даны понятия о регрессионном анализе, эконометрических методах классификации, современной теории измерений. Важное место занимает статистика нечисловых данных (включая нечеткие множества и их связь со случайными), статистика интервальных данных. Обсуждается проблема устойчивости статистических процедур по отношению к допустимым отклонениям исходных данных и предпосылок модели. Дано представление об эконометрических методах экспертных исследований и управления качеством, анализе и прогнозе временных рядов, эконометрике прогнозирования и риска.

Ключевые слова: статистические методы, эконометрика, управление, экономика, статистика нечисловых и интервальных данных, инфляция

Doi: 10.21515/1990-4665-128-050

UDC 519:2:005.521:633.1:004.8

Physics and mathematical sciences

Econometrics as an academic discipline

Orlov Alexander Ivanovich

Dr.Sci.Econ., Dr.Sci.Tech., Cand.Phys-Math.Sci., professor

Bauman Moscow State Technical University, Moscow, Russia

Statistical methods are widely used in domestic feasibility studies. However, for most managers, economists and engineers, they are exotic. This is due to the fact that modern statistical methods are not taught in the universities. We discuss the situation, focusing on the statistical methods for economic and feasibility studies, ie, econometrics. In the world of science, econometrics has a rightful place. There are scientific journals in econometrics, Nobel Prizes in Economics are given to series of researches in econometrics. The situation in the field of scientific and practical work and especially the teaching of econometrics in Russia is disadvantaged. Often, individual particular constructions replace econometrics in general, such as those related to regression analysis. The article is devoted to econometrics as an academic discipline. Our course begins with a discussion of the structure of modern econometrics, the connections between applied statistics and econometric methods. We consider sample researches (analysis of surveys results), the elements of econometrics numbers, and methods of testing of statistical hypothesis about homogeneity. We have given the concepts of regression analysis, econometric classification methods, modern measurement theory. The important places are occupied by the statistics of non-numerical data (including fuzzy sets and their links with random sets) and the statistics of interval data. The problem of the stability of statistical procedures with respect to the tolerances of input data and model prerequisites is discussed. The representations of the econometric methods of expert research and quality control, analysis and forecasting of time series, econometrics of forecasting and risks are given.

Keywords: statistical methods, econometrics, management, economics, statistics of non-numeric and interval data, inflation

1. Введение

Известно, что современные эконометрические методы - полезные интеллектуальные инструменты инженера, управленца и экономиста [1]. Эконометрика - самостоятельная научная, прикладная и учебная дисциплина. В настоящей статье рассмотрим примерное содержание эконометрики как учебного предмета в соответствии с подходом отечественной научной школы в области эконометрики [2]. Комментарии к разделам курса показывают их место в современной эконометрике и обосновывают необходимость включения соответствующего материала в учебную программу.

2. Вводный раздел: структура современной эконометрики

Структура современной статистики: математическая статистика, прикладная статистика, применения статистических методов в конкретных областях. Определение эконометрики как науки о применении статистических методов для анализа конкретных экономических данных, а эконометрических методов - как статистических методов анализа экономических данных. Разрыв между математической статистикой и Госкомстатом РФ. Всегда ли можно верить данным Госкомстата РФ? Пример с оцениванием вузовской науки по числу научных ставок в вузах. Особенности экономических данных и их учет при применении методов прикладной статистики. Понятие об эконометрических моделях (на примерах моделей управления качеством, анализа экспертных оценок и др.). Понятие о конкретных применениях эконометрики (на примере динамики цен и индекса инфляции).

Содержание этого вводного раздела достаточно полно раскрыто в статье [1]. Приведем содержание только одного из наиболее интересных для студентов раздела эконометрики, посвященного изучении динамики цен с помощью индексов инфляции.

Проблемы и методы анализа динамики цен. Инфляция как рост цен. Рост цен на отдельные товары и услуги и проблемы построения сводной характеристики. Различные варианты потребительских корзин. Определение и расчет индексов инфляции. Динамика инфляции в России. Теорема умножения (связь между значениями индексов инфляции для трех значений времени) и средний индекс (темп) инфляции как среднее геометрическое. Распространенные ошибки при агрегировании индексов инфляции. Принципиальная разница между малыми и большими значениями индексов инфляции. Связь годового индекса и помесячными и средним за год. Теорема сложения для индекса инфляции (правило объединения индексов инфляции для отдельных товарных групп).

Применения индекса инфляции в различных экономических расчетах. Приведение к сопоставимым ценам. Сравнения средней заработной платы, пенсий, стипендий в различные моменты времени. Реальные результаты индексирования заработной платы и пенсий. Расчет прожиточного минимума, его динамика. Учет индекса инфляции при расчете реального значения процента на вклад в банк, реального процента платы за кредит. Как процент платы за кредит может быть отрицательным? Оценка динамики курса доллара США в России с помощью потребительских паритетов, сравнение с Китаем. Применение индекса инфляции при оценке стоимости основных и оборотных фондов. Опыт прогнозирования индекса инфляции и стоимости потребительской корзины. Применение индекса инфляции при организации производства. Конверсия, индекс инфляции и сохранность технологических цепочек (на примере специальной техники). Динамика макроэкономических показателей России. Использование индекса инфляции при оценивание экономического положения предприятий, при финансовом анализе результатов их деятельности.

3. Прикладная статистика и эконометрические методы

Области современных статистических методов: статистика чисел (случайных величин), статистика векторов (многомерный статистический анализ), статистика функций (случайных процессов и временных рядов), статистика нечисловых данных. Современная прикладная статистика и эконометрика. Пять точек роста эконометрических методов: непараметрическая статистика, устойчивость статистических процедур, размножение выборок, статистика нечисловых данных, статистика интервальных данных.

Объем знаний, которым могут овладеть студенты в вузе, ограничен. Перед организаторами образования постоянно стоит проблема - что включать в учебную программу, а что не включать. Эта проблема решается проще, если известно будущее место работы студентов, т.е. подготовка идет для нужд конкретного предприятия. Представляется очевидным, что студент должен владеть современными методами своей специальности. Следовательно, постоянно должна вестись методическая работа по внедрению современных идей, концепций, подходов, методов, расчетных алгоритмов в учебный процесс (этот раздел методики преподавания называют онтодидактикой). Однако онтодидактические работы предполагают хорошее знакомство с современным уровнем знаний и практического применения, личную работу преподавателя на переднем крае науки и постоянное участие в прикладных исследованиях. Кроме того, приходится постоянно пересматривать само содержание преподавания, модернизировать методическое обеспечение - учебники, учебные пособия, задачники, методические разработки по отдельным темам, лабораторные работы, тематики курсовых и дипломных работ.

Это нелегко. Поэтому вполне естественно, что наблюдается тенденция к консервации. Она выгодна для преподавателя - однажды разработанный курс и его методическое обеспечение используется (с небольшими вариациями) десятилетиями. Она удобна для студентов - те пользуются учебниками, которые за несколько изданий доведены до возможного совершенства, обеспечены заблаговременно изданными задачниками, лабораторными работами и пр. Такая тенденция к консервации обычно наблюдается у курсов "Статистика" (она же "Общая теория статистики") и "Теория вероятностей и математическая статистика". Как следствие консервации, студенты получают знания на уровне 40-60-х годов ХХ в., т.е. с запозданием на 50-70 лет. Наивно думать, что им будет легко самостоятельно осознать и тем более овладеть тем, что возникло за последние полвека.

При ориентации на современные методы есть свои опасности. Можно неправильно оценить значимость тех или иных научных направлений, пропустить перспективные или, что еще хуже, посвятить много времени тем, чье время быстро пройдет. Однако предшествующие эконометрике курсы "Статистика" и "Теория вероятностей и математическая статистика", как правило, настолько далеки от современности, что за основу выбора можно взять развитие эконометрических идей в 70-90-х годах ХХ в.

И преподавателю, и студенту труднее при ориентации на курсы с современной тематикой, чем на консервативные. Однако труд студента оправдывается при выходе на самостоятельное поприще по окончании вуза. Автор настоящей статьи более 45 лет разрабатывал и применял эконометрические методы в различных отраслях народного хозяйства и областях науки и смеет надеяться, что опыт научно-прикладной деятельности позволил разработать и внедрить на кафедре "Экономика и организация производства" факультета "Инженерный бизнес и менеджмент" Московского государственного технического университета им. Н.Э. Баумана современный курс эконометрики (см. [2]).

Пользуясь тем, что студенты уже изучили курс "Теория вероятностей и математическая статистика", в разделе 3 даем представление о современной прикладной статистике согласно [3]. Первые три области современных статистических методов: - статистика чисел (случайных величин), статистика векторов (многомерный статистический анализ), статистика функций (случайных процессов и временных рядов) являются достаточно традиционными, хотя в предваряющих эконометрику курсах о них говорится явно недостаточно, а иногда не так и не то. Статистика нечисловых данных как самостоятельная область возникла в 1970-е годы и до сих пор продолжает активно развиваться, поэтому она выделена как одна из точек роста эконометрических методов.

В соответствии со сказанным выше о необходимости показа студентам современного фронта эконометрических исследований предлагается кратко охарактеризовать основные точки роста, т.е. направления, которые в настоящее время активно развиваются, полезны для практики, но недостаточно представлены в стандартных учебниках. Первой из таких точек указаны непараметрические методы. Хотя они имеют длинную историю, начинающуюся с коэффициентов ранговой корреляции Кендалла и Спирмена начала века и статистик Колмогорова, Смирнова, омега-квадрат тридцатых годов, в преподавании они оттеснены на задний план параметрической статистикой. Почему это произошло? Видимо, тем, что параметрическая статистика, изучающая выборки из семейств распределений, описываемых одним-двумя, максимум тремя числовыми параметрами, имеет дело со сравнительно простым с математической точки зрения объектом. Именно из-за его простоты удалось построить достаточно глубокую, но доступную студентам теорию. Вместе с тем хорошо известно, что распределения реальных данных почти никогда не удается адекватно описать с помощью какого-либо параметрического семейства. В частности, распределения погрешностей измерений, вопреки распространенному заблуждению, почти всегда отличны от нормальных [4]. Таким образом, анализ данных с помощью параметрических методов статистики напоминает поиск ключей под фонарем, где светлее, а не в кустах, где они потеряны.

В настоящее время непараметрическими методами можно решать тот же круг задач, что и параметрическими. При этом вместе неоправданных предположений о принадлежности функций распределения тому или иному параметрическому семейству делаются лишь общие предположения о непрерывности функций распределения. Из общих соображений можно ожидать, что такое расширение области применения может привести к снижению эффективности непараметрических эконометрических методов по сравнению с параметрическими. Однако во многих случаях непараметрические методы оказываются не хуже параметрических, особенно при больших объемах выборок. Иногда, тем не менее, параметрические методы представляются конкурентоспособными. Тогда необходимо изучить устойчивость эконометрических выводов по отношению к допустимым отклонениям исходных данных и предпосылок модели. Общая схема изучения устойчивости эконометрических и экономико-математических методов и моделей дана в [5]. Кроме термина "устойчивость", в данном контексте используются термины "робастность" (от robust - крепкий, грубый (англ.)), чувствительность. Можно выделить два этапа исследования - анализ устойчивости известных процедур, затем поиск новых наиболее устойчивых и вместе с тем достаточно точных. Иногда параметрические и непараметрические методы дают практически одни и те же алгоритмы, особенно при больших объемах выборок. Например, правила доверительного оценивания математического ожидания (при неизвестной дисперсии) в параметрическом случае нормального распределения и в непараметрическом случае произвольного распределения (правило строится на основе центральной предельной теоремы теории вероятностей и теорем о наследовании сходимости [6]) отличаются только тем, что в первом случае используются процентные точки распределения Стьюдента, а во втором - процентные точки стандартного распределения. Как известно, при росте объема выборки первые стремятся ко вторым. Однако иногда изучение устойчивости приводит к неожиданным выводам. Так, анализ проблемы обнаружения резко выделяющихся наблюдений (выбросов) привел к выводу о крайней неустойчивости классических методов: если зафиксировать процентную точку (т.е. правило принятия решений), то велик интервал изменения уровня значимости, если же, наоборот, исходить из заданного уровня значимости, то весьма велик интервал для границы, задающей правил отбраковки [4]. Следовательно, правила отбраковки не имеют научного обоснования, их следует рассматривать как эвристические.

Общеинженерным принципом является указание не только точечного значения измеряемой величины, но и погрешности этого измерения. В экономике и менеджменте, к сожалению, не всегда указывают величины возможных погрешностей измерения. Требование изучения устойчивости статистических процедур нацелено на внедрение указанного общеинженерного принципа в область экономики, инженерного бизнеса и менеджмента. Одним из подходов является статистика интервальных данных (СИД). В ней прослеживается, как погрешности исходных данных, влияют на погрешности выводов, а для этого и исходные данные, и выводы приходится описывать с помощью интервалов, а не чисел, как в классической статистике. СИД активно развивается с 1980-90-х гг., основные ее идеи доступны студентам, поэтому элементы СИД включены в программу по эконометрике.

Другой подход к изучению устойчивости статистических (эконометрических) выводов предполагает интенсивное использование современной вычислительной техники и основан на "размножении выборок". По выборке можно рассчитать одно число - точечную оценку характеристики или параметра, но этого мало - надо иметь доверительный интервал, т.е. нижнюю и верхнюю границы, между которыми с заданной вероятностью находится истинное значение. Параметрическая теория позволяет это сделать, но ее предпосылки неприемлемы. Поэтому вполне естественным является желание "размножить выборку" - вместо одной получить много похожих, по каждой из них рассчитать оценку, а по совокупности оценок построить распределение оценки, указать доверительный интервал. Метод размножения может быть очень простым: из одной выборки объема n можно получить n выборок объема (n-1), если исключать из исходной выборки последовательно по одному элементу (возвращая ранее исключенные обратно). Есть и много иных методов размножения выборок.

4. Выборочные исследования (анализ результатов опросов)

Польза и необходимость выборочных эконометрических исследований. Анкетное исследование (на примере маркетингового исследования потребителей растворимого кофе). Различные виды формулировок вопросов (открытый, закрытый, полузакрытый вопросы), их достоинства и недостатки. Техника интервью. Экономика опросов. Биномиальная и гипергеометрическая модели выборки, их близость в случае большого объема генеральной совокупности по сравнению с выборкой. Асимптотическое распределение выборочной доли (в случае ответов типа "да"-"нет"). Интервальное оценивание доли и метод проверки статистической гипотезы о равенстве долей (на основе теоремы Муавра-Лапласа и таблиц ВЦИОМ).

Изучение конкретных эконометрических методов естественно начать с методов выборочных опросов, практическая польза которых очевидна (разбираем маркетинговое исследование, выполненное по заказу конкретной фирмы), а математическая сложность невелика. Естественным образом возникает сюжет о проверке однородности (другими словами. обнаружении различий), который продолжается в следующей теме.

5. Элементы эконометрики чисел

Определения нормального и логарифмически нормального распределений и их плотностей. Центральная предельная теорема в аддитивном и мультипликативном случае. Методы оценивание параметров логарифмически нормального распределения. Логарифмически нормальное распределение доходов (заработной платы) и "данные" Госкомстата РФ. Непараметрическое оценивание характеристик распределений и доверительных границ для них. Непараметрические методы оценивания плотности.

Тема начинается с сопоставления нормального и логарифмически нормального распределений. Первое из них иногда допустимо использовать при решении технических задач. В эконометрике его использовать нельзя, поскольку плотность нормального распределения всюду положительна, т.е. вероятность отрицательных значений, а в эконометрике обычно рассматриваются неотрицательны величины. Основная причина популярности нормального распределения в эконометрике - центральная предельная теорема теории вероятностей, в которой речь идет о суммах большого числа независимых случайных величин. Если же вместо сумм имеем дело с произведениями, то вместо нормального распределения получаем логарифмически нормальное, сосредоточенное на положительной полуоси. Им можно приближать распределения различных экономических величин, например, доходов населения. В Росстате настолько верят в законность такого приближения, что вместо эмпирических величин публикуют лишь расчетные значения.

При рассмотрении распределения доходов выявляется целесообразность рассмотрения различных видов средних - математического ожидания, медианы, моды. Непараметрическую статистику начинаем с непараметрического точечного и доверительного оценивания таких характеристик распределения, как математическое ожидание, медиана, дисперсия, среднее квадратическое отклонение, коэффициент вариации. Термин "непараметрическое оценивание" означает, что предположения о принадлежности распределения выборки к какому-либо параметрическому семейству отсутствуют, но предполагается существование моментов нужного порядка. С практической точки зрения это всегда выполнено, поскольку реальные распределения всегда сосредоточены на каком-то отрезке (другими словами, финитны).

Завершается раздел рассмотрением непараметрических ядерных оценок плотности распределения, использование которых на базе современной вычислительной техники позволит существенно сузить область применения гистограмм - классического способа наглядного представления данных, обладающего неустранимым недостатками - отсутствием обоснования для выбора числа интервалов и потерей информации из-за группирования.

6. Методы статистической проверки гипотез однородности

Проблема проверки однородности двух выборок (независимых и связанных). Различные формулировки гипотезы однородности двух выборок. Критерий Крамера-Уэлча для проверки равенства математических ожиданий (на основе Центральной предельной теоремы и теоремы о наследовании сходимости).

Эмпирическая функция распределения и основанные на ней непараметрические одновыборочные статистические критерии А.Н.Колмогорова, Н.В.Смирнова, омега-квадрат (Крамера-Мизеса-Смирнова). Проверка гипотезы согласия с параметрическим семейством распределений и распространенная ошибка при использовании критериев Колмогорова и омега-квадрат.

Двухвыборочный критерий Вилкоксона (Манна-Уитни) и его асимптотическая нормальность. Достигаемый уровень значимости. Асимптотическое распределение критерия Вилкоксона при справедливости альтернативной гипотезы и его асимптотическая мощность. Какие выводы можно сделать на основе критерия Вилкоксона? Альтернатива сдвига. Двухвыборочные критерии Смирнова и типа омега-квадрат (Лемана-Розенблатта). Задача обнаружения различия в связанных выборках (письмо главного инженера Рошальского химического комбината). Критерий знаков. Проверка равенства 0 математического ожидания. Одновыборочный критерий Вилкоксона. Проверка симметрии функции распределения относительно 0 с помощью критерия типа омега-квадрат.

Эта тема - одна из примыкающих к классической тематике математической статистики. Однако различия видны с самого начала. Для проверки равенства математических ожиданий двух выборок используем критерий Крамера-Уэлча. Любопытно, что ни в одном "классическом" пособии по математической статистики нельзя найти доказательства асимптотической нормальности этого критерия. Для доказательства (которое в курсе опущено) приходится ссылаться на теорему о наследовании сходимости [6]. Необходимо обратить внимание на отличие критерия Крамера-Уэлча от критерия Стьюдента, который предпочитают рассматривать в курсах математической статистики. Критерий Стьюдента опирается на две предпосылки - нормальность распределения обеих выборок и равенства дисперсий у них. Ни одна из предпосылок обычно не выполняется, особенно для экономических данных.

Проверку согласия с параметрическим семейством с помощью критериев Колмогорова и омега-квадрат любят включать в учебники по "Общей теории статистики", причем обычно делают это с ошибками, о чем подробно написано в статье [7]. Поэтому уклониться от разбора этого вопроса нельзя. Много недоразумений связано и с двухвыборочным критерием Вилкоксона, самым популярным в переводной литературе (разбору неточных утверждений, связанных со свойствами этого критерия, посвящена статья [8]).

Необходимость решения вопроса об однородности в связанных выборках естественно начать с практической задачи, например, с письма главного инженера Рошальского химического комбината, в котором тот просит установить, есть ли различия в показаниях двух вискозиметров, используемых при производстве мастики. От решения этого вопроса зависит, включать ли в соответствующий нормативный документ указание на средство измерения вязкости или в этом нет необходимости.

7. Понятие о регрессионном анализе

Метод наименьших квадратов для линейной прогностической функции. Вид расчетной таблицы. Оценивание параметров. Критерий правильности расчетов. Точечный и интервальный прогноз. Изменение ширины доверительного интервала при увеличении горизонта прогнозирования. Метод наименьших квадратов в случае линейной функции двух переменных. Вид расчетной таблицы. Оценивание параметров. Критерий правильности расчетов. Более общие варианты метода наименьших квадратов. Модель, линейная по параметрам. Преобразования переменных. Оценивание многочлена. Оценка остаточной дисперсии как показатель качества модели. Оценивание размерности модели. Непараметрическая регрессия.

Регрессионный анализ - одна из наиболее разработанных частей эконометрики. Имеются толстые монографии, посвященные отдельным направлениям регрессионного анализа. На основе регрессионного анализа построена теория планирования эксперимента, дающая большой экономический эффект. Методы восстановления зависимостей на основе наименьших квадратов и наименьших модулей, модели линейной и нелинейной (по параметрам) регрессии, оценивание необходимой степени полинома, различные варианты непараметрической регрессии, дисперсионный анализ, многочисленные модели планирования эксперимента, в том числе экстремального - весь этот перечень тем заслуживает того, чтобы студенты их изучали. Для этого необходимо увеличение продолжительности преподавания эконометрики, переход от одного к системе курсов, как это сделано, например, в Высшей школе экономики - "Эконометрика-1", "Эконометрика-2", "Эконометрика-3" ...

Необходимо рассчитывать не только точечные оценки параметров, но и доверительные границы для прогностической функции. Подробно разбираются методы расчета для линейной регрессии с одной независимой переменной. В то же время вероятностной теории уделяется меньше внимания, хотя и дается общее понятие регрессии как условного математического ожидания, описывается ее непараметрическая оценка.

8. Эконометрические методы классификации

Классификация и прогнозирование. Триада: построение классификаций - анализ классификаций - использование классификаций. Лемма Неймана-Пирсона и непараметрический дискриминантный анализ на основе непараметрических оценок плотности в пространствах произвольной природы. Линейный дискриминантный анализ Р.Фишера. Многообразие параметрических и непараметрические методов классификации (распознавания образов). Группировки и кластер-анализ. Методы оценки качества алгоритмов классификации.

Хотя теория классификации несколько менее популярна среди научно-технических работников, количество посвященных ей работ измеряется десятками тысяч. Активно работавшая в 1980-е годы Комиссия ВСНТО по классификации охватывала около 1000 специалистов. Однако классификация как область эконометрики еще не достигла достаточной внутренней стройности. Слишком много отдельных подходов и методов, не связанных друг с другом. О том же свидетельствует и разнобой в терминологии. Построение классификаций называют также распознаванием образов без учителя, автоматической классификацией, кластерным анализом. Использование классификаций - дискриминантным анализом, диагностикой, распознаванием образов с учителем. Тем не менее представляется целесообразным познакомить студентов с основными идеями в области классификации, с алгоритмами кластер-анализа (прежде всего иерархическими агломеративными алгоритмами "ближнего соседа", средней связи, "дальнего соседа"), параметрическими (линейный дискриминантный анализ Р. Фишера) и непараметрическими (на основе непараметрических оценок плотностей, построенных по обучающим выборкам) алгоритмами использования классификаций. Используется также теория принятия статистических решений (при известной матрице потерь из-за ошибочной классификации). Анализ классификаций (разбиений) рассматривается позже, как одна из задач статистики объектов нечисловой природы. Важное место в теме занимают методы оценки качества алгоритмов классификации, в том числе метод пересчета на модель линейного дискриминантного анализа, позволяющий проверять обоснованность использования линейных прогностических индексов. Тема связана как с курсом "Теория вероятностей и математическая статистика" (лемма Неймана-Пирсона), так и с курсом "Статистика" (построение группировок).

Другие многомерные эконометрические методы (многомерное шкалирование, целенаправленное проецирование, метод главных компонент, факторный анализ, канонические корреляции, анализ структуры связей и др.) целесообразно рассмотреть при условии увеличения объема преподавания эконометрики.

9. Современная теория измерений

Шкалы наименований, порядка (ранговая), интервалов, отношений, абсолютная. Проблема адекватности эконометрического вывода. Средние величины, результат сравнения которых инвариантен относительно допустимых преобразований шкалы. Применения к расчету рейтингов.

Рассматриваются основы (репрезентативной) теории измерений: определения, примеры, группы допустимых преобразований для основных типов шкал (наименований, порядка, интервалов, отношений, абсолютной). В качестве основного для эконометрики выдвигается требование устойчивости статистических выводов относительно допустимых преобразований шкал. Сравниваются три вида средних (среднее арифметическое, мода, медиана) для зарплаты работников предприятия. Дается определение средних по Коши. Обсуждается "теорема о медиане" - описание средних, результат сравнения которых устойчив в порядковой шкале. Рассматриваются применения "теоремы о медиане" к рейтингам. Вводятся ассоциативные средние по Колмогорову и дается описание средних, результат сравнения которых устойчив в шкалах интервалов и отношений. Рассматриваются иные применения теории измерений к выбору адекватных методов анализа экономических данных.

10. Статистика нечисловых данных

Различные виды нечисловых данных, связи между ними. Люсианы. Нечеткие множества и их связь со случайными. Метрики (показатели различия), эмпирические и теоретические средние, медиана Кемени, асимптотическое поведение решений экстремальных статистических задач, законы больших чисел непараметрические оценки плотности в произвольных пространствах.

В 1970-х годах стала очевидной большая роль в эконометрике экономических и управленческих данных ранее слабо изучавшихся видов - нечисловых данных, или объектов нечисловой природы. В литературе имеется достаточно подробное описание различных пространств нечисловых данных, а также связей между ними [9]. К нечисловым данным относятся, как уже говорилось, результаты измерений по качественным шкалам (в шкалах наименований и порядка), бинарные отношения (ранжировки (упорядочения), разбиения (отношения эквивалентности), толерантности), последовательности из 0 и 1, множества, нечеткие множества и др. Основные связи между перечисленными видами нечисловых данных были установлены еще в 1970-е годы. Позже была развита, например, теория люсианов (конечных последовательностей испытаний Бернулли с, вообще говоря, различными вероятностями успеха, дающая вероятностную основу для анализа последовательностей из 0 и 1.

Рассматриваются основы теории нечеткости. Даются определения нечетких множеств и операций над ними. Разбираются примеры нечетких множеств, в частности, нечеткие ответы экспертов, и свойства операций над нечеткими множествами. Анализируется связь нечетких множеств со случайными, позволяющая свести теорию нечеткости к теории случайных множеств и тем самым к теории вероятностей.

Вводятся метрики (показатели различия) в пространствах произвольной природы - основа методов статистики нечисловых данных. Дан оптимизационный подход к определению эмпирических и теоретических средних в пространствах произвольной природы, проведено сравнение со свойствами среднего арифметического, математического ожидания, теоретической и выборочной медианы. Эмпирическое среднее предлагается рассматривать как агрегирование мнений экспертов. Обсуждается формулировка законов больших чисел в пространствах произвольной природы.

В качестве эконометрических данных рассматриваются бинарные отношения (ранжировки, разбиения, толерантности). Разбирается их связь с матрицами из 0 и 1 и введение расстояния Кемени между бинарными отношениями. Изучается медиана Кемени, ее асимптотика и свойства при малых объемах выборок и различных предположениях о распределении ранжировок. Вводятся изотропные распределения и устанавливается единственность среднего (медианы). Интерпретация законов больших чисел для нечисловых данных может быть дана в терминах теории экспертного опроса. Устанавливается связь метода средних рангов с коэффициентом ранговой корреляции Спирмена и линейная зависимость расстояния Кемени от коэффициента ранговой корреляции Кендалла. Разбирается метод "идеальной точки" с использованием средних рангов на примере сравнения математических моделей испарения жидкости.

Вводятся расстояния, теоретические и эмпирические средние в пространстве подмножеств конечного множества. Построение эмпирического среднего (итогового мнения комиссии экспертов) проводится по правилу большинства. Вводятся различные расстояния между нечеткими множествами и применяются для усреднение нечетких ответов экспертов.

Полученные результаты применяются для изучения асимптотического поведения решений экстремальных статистических задач. Предлагается использовать непараметрические оценки плотности в пространствах произвольной природы, в частности, для дискретных пространств. Обсуждается применение статистики объектов нечисловой природы при построения новой хронологии и значение полученных выводов для современных социально-экономических проблем.

11. Статистика интервальных данных

Погрешности измерения и интервальные данные. Нотна - максимально возможное отклонение, вызванное интервальностью статистических данных. Рациональный объем выборки. Их расчет для ряда задач оценивания, проверки гипотез, регрессионного, кластерного и дискриминантного анализов.

Необходимость учета в эконометрических методах погрешностей измерения, как уже обсуждалось выше, приводит к введению в теорию и практику статистического анализа интервальных данных. Определяются операции над интервальными числами и дается обоснование правил приближенных вычислений. Сравниваются по точности две формулы для выборочной дисперсии. Обсуждается основная модель интервальной статистики. Вводятся основополагающие понятия нотны - максимально возможного отклонения, вызванного интервальностью статистических данных, и асимптотической нотны (при малой абсолютной погрешности). Дается алгоритм расчета асимптотической нотны для квадратичных функций второго порядка. Изучение влияния интервальности дисконт-факторов на величину NPV (чистой приведенной стоимости, net present value) приводит к признанию интервальности самой величину NPV и необходимости использования экспертных оценок при оценке и сравнении инвестиционных проектов.

Разбираются основные результаты статистики интервальных данных, в том числе второе основополагающее понятие - рациональный объем выборки. Проводится расчет асимптотической нотны, рационального объема выборки и доверительных интервалов при оценивании математического ожидания и дисперсии, а также расчет основных показателей статистики интервальных данных для ряда задач оценивания, проверки гипотез, регрессионного, кластерного и дискриминантного анализов.

12. Проблема устойчивости статистических процедур по отношению к допустимым отклонениям исходных данных и предпосылок модели

Робастные методы статистики. Общая схема устойчивости. Метод складного ножа Кенуя. Бутстреп Эфрона и его критика.. Размножение выборок как эффективный способ интенсивного применения вычислительной техники в эконометрике.

Обсуждаются различные робастные методы и модели статистики и эконометрики, в том числе модель Тьюки-Хубера засорения экономических данных резко выделяющимися наблюдениями и модель Ю.Н. Благовещенского отклонений, имеющих быть на всей числовой оси. Согласно [5] дается формулировка общей схемы изучения устойчивости и разбираются примеры ее применения.

Рассматриваются методы размножения выборок (различные варианты бутстрепа): метод складного ножа Кенуя, бутстреп Эфрона [31] (и его критика). Размножение выборок выдвигается как эффективный способ интенсивного применения информационно-коммуникационных технологий в эконометрике. Даны различные варианты применения метода размножения выборок в эконометрических исследованиях.

13. Эконометрические методы экспертных исследований

Примеры и основные этапы применения методов экспертных оценок. Формирование экспертной комиссии. Метод "снежного кома". Различные виды экспертных процедур (с взаимодействием или без, одно- и многотуровые и др.). Метод средних рангов и метод медиан. Согласование кластеризованных ранжировок. Применение коэффициентов ранговой корреляции, теории люсианов, медианы Кемени и иных методов статистики нечисловых данных.

Обосновывается необходимость проведения экспертных исследований, особенно в ситуациях быстрого изменения, когда нет возможности опираться на длинные временные ряды статистических данных. Основными представлениями о теории и практике экспертного оценивания должен владеть каждый инженер, экономист, менеджер. Примерами процедур экспертных оценок являются методы оценки техники и артистичности фигуристов, успешности команд КВН, целесообразности финансирования научно-технических проектов, анализируемых в Республиканском исследовательском научно-консультативном центре экспертизы (РИНКЦЭ) на основе методических документов РИНКЦЭ. Они используются на соревнованиях, при выборе, распределении финансирования, при экологических экспертизах, в частности, согласно Закону РФ "Об экологических экспертизах". Другие методы экспертных исследований: метод Дельфи, мозговой штурм, метод средних рангов, метод медиан, метод сценариев.

Планирование и организация экспертного исследования как один из видов деятельности менеджера. Сравнение ролей лиц, принимающих решения (ЛПР), и специалистов (экспертов) в процедурах экспертиз и принятия решений. Зоны ответственности Рабочей Группы и Экспертной Комиссии. Основные этапы проведения экспертного исследования как основа деятельности менеджера, организующего экспертное исследование. Экономические вопросы проведения экспертного исследования - часть знаний менеджера.

Цели экспертного исследования можно поставить по-разному: сбор информации для ЛПР и/или подготовка проекта решения для ЛПР и др. Используется ряд методов формирования состава экспертной комиссии: методы списков (реестров),"снежного кома", самооценки, взаимооценки. Важна проблема априорных предпочтений экспертов. Достоинства и недостатки процедур, используемых при отборе экспертов, заслуживают подробного обсуждения, равно как и. различные варианты организации экспертного исследования, различающиеся по числу туров (один, несколько, не фиксировано), порядку вовлечения экспертов (одновременно, последовательно), способу учета мнений (с весами, без весов), организации общения экспертов (без общения, заочное, очное с ограничениями ("мозговой штурм") или без ограничений).

Методы анализа экспертных оценок основаны на статистике нечисловых данных, а также на применении непараметрической статистики (коэффициентов ранговой корреляции). Бинарные отношения на конечном множестве часто возникают как способы описания ответы экспертов. Бинарные отношения находятся во взаимно-однозначном соответствии с матрицами из 0 и 1. При анализе мнений экспертов важны такие свойства бинарных отношений, как рефлексивность, симметричность, транзитивность, и соответствующие им подпространства бинарных отношений - подпространства ранжировок (упорядочений), разбиений (отношений эквивалентности), толерантностей. Аксиоматическое введение расстояния Кемени между бинарными отношениями дает возможность применить методы статистики объектов нечисловой природы для анализа ответов экспертов. Применение теории люсианов, вычисление медианы Кемени и использование иных методов статистики нечисловых и интервальных данных - основа работы специалиста по анализу экспертных данных. Согласование кластеризованных ранжировок рассматриваем на примере сравнения 8 математических моделей испарения жидкости по экспериментальным данным (при создании банка математических моделей с целью оценки последствий аварий при экологическом страховании).

Обобщенный показатель (полезность) объекта экспертизы строится как функция частных показателей. Разработан ряд методов построения обобщенного показателя. В частности, есть два подхода к определению весовых коэффициентов линейной функции полезности. Один из них - линейная свертка с коэффициентами, которые оценивают эксперты. Критику такого подхода даем на основе анализа реальных предложений по процедуре выбора технологии уничтожения химического оружия. Недостатки экспертных методов непосредственного определения коэффициентов весомости имеют причиной то, что эксперту свойственно работать в порядковой шкале, а не в количественных шкалах. Рассматривается экспертно-статистический метод и его реализация с помощью метода наименьших квадратов.

14. Эконометрические методы управления качеством

Статистический приемочный контроль по альтернативному признаку. Планы контроля. Оперативная характеристика. Приемочный и браковочный уровни дефектности. Предел среднего выходного уровня дефектности. Применение Центральной предельной теоремы теории вероятностей. Статистический приемочный контроль по количественному признаку. Применение статистики люсианов. Всегда ли нужен выходной контроль? Контрольные карты Шухарта и кумулятивных сумм.

В договорах купли-продажи, создания научно-технической продукции и иных договорах между предприятиями практически всегда имеется раздел "Правила приемки и методы контроля". Эти разделы, как и правила сертификации, часто основаны на статистическом приемочном контроле. Под ним понимают выборочный контроль, основанный на эконометрической теории. Его необходимость связана с применением разрушающих методов контроля и с экономической эффективностью, основанной на сокращении затрат на контроль (в машиностроении они составляют в среднем 10% от стоимости продукции).

Планы контроля по альтернативному признаку разнообразны. Наиболее простым является одноступенчатый контроль. Основной инструмент анализа и синтеза планов контроля - это оперативная характеристика, т.е.функция, определяющая вероятность приемки партии в зависимости от входного уровня дефектности. С помощью оперативной характеристики определяются приемочный и браковочный уровни дефектности. соответствующие заданным рискам поставщика и потребителя. Расчеты наиболее просты для плана (n,0).

Если применяется контроль с разбраковкой, то находят средний выходной уровень дефектности и его предел (ПСВУД), т.е. максимально возможное значение. Нетрудно рассчитать ПСВУД для плана (n,0). Выбор плана контроля на основе ПСВУД целесообразен в ситуации, когда потребитель должен быть защищен от проникновения в поставляемую ему партию продукции доли брака, превышающей заданную.

Если поставщик и потребитель по-разному оценивают качества продукции в партии, поступившей от поставщика к потребителю, то возникает арбитражная ситуация. Арбитражная характеристика задает вероятность возникновения арбитражной ситуации. Для уменьшения числа споров применяют принцип распределения приоритетов. Расчет планов контроля поставщика и потребителя на основе принципа распределения приоритетов отличается тем, что приемлемый уровень качества выступает для поставщика в качестве браковочного, а для потребителя - в качестве приемочного.

При достаточно большом объеме выборки (несколько десятков единиц продукции) расчет приемочного и браковочного уровней дефектности для одноступенчатого плана с помощью теоремы Муавра-Лапласа теории вероятностей. Выбор одноступенчатого плана контроля по заданным приемочным и браковочным уровням дефектности также может быть проведен на основе асимптотических соотношений, вытекающих из теоремы Муавра-Лапласа.

Ограниченность возможности использования экономических показателей при статистическом контроле основана на том, что последствия отказов изделий типа гибели людей нельзя по этическим соображениям описывать в экономических терминах. Поэтому математические модели типа модели Хальда, учитывающие все виды затрат - затраты на контроль, убытки от излишнего забракования и потери от пропуска брака, - остаются теоретическими.

Основной парадокс теории статистического контроля состоит в том, что чем лучше качество и меньше дефектность, тем больший объем контроля требуется. Поэтому естественно поставить вопрос: всегда ли нужен выходной контроль? Сравнение экономической эффективности сплошного контроля и увеличения объема партии; сплошного контроля и замены дефектных единиц продукции в системе гарантийного обслуживания приводит к выводу о целесообразности во многих случаях отказаться от выходного контроля.

Обычно выделяют следующие виды статистических методов управления качеством (обеспечения, повышения качества): статистический анализ точности и стабильности технологических процессов (методами прикладной статистики), статистический приемочный контроль по альтернативному и количественному признаку., статистическое регулирование технологических процессов (контрольные карты Шухарта и кумулятивных сумм), планирование экспериментов (в том числе экстремальное, с целью добиться максимального выхода полезного продукта), надежность и испытания. При контроле по нескольким альтернативным признакам полезно применение статистики люсианов - одного из разделов статистики объектов нечисловой природы. Используют наглядные диаграммы Парето и диаграммы причин и результатов (известные также как диаграммы Исикавы или "рыбий скелет").

Проблемы управления качеством рассматриваются не только на уровне предприятия, но и на отраслевом, государственном и межгосударственном уровнях. Можно указать на проблемы сертификации производства (отдельной партии продукции, конкретного технологического процесса, всего производства в целом) согласно международным стандартам серии ИСО 9000. На всех одиннадцати этапах жизненного цикла продукции (по международному стандарту ИСО 9004-87). необходимо использование эконометрических методов. В настоящее время переходим от систем контроля качества, основанных на допусках (системы Тейлора), к основанным на функциях потерь (системы Тагути).

Организационные вопросы управления качеством делятся на вопросы, решаемые государством (стандартизация, аттестация, сертификация), и вопросы, решаемые общественностью (кружки качества, защита прав потребителей). Развиваются комплексные системы управления качеством продукции, используется серия международных стандартов ИСО серии 9000 и лозунг тотального (всеобщего) управление качеством, система "Шесть сигм". Статистические методы управления качеством могут использоваться также при решении экологических задач мониторинга, контроля, управления, других экологических проблем на предприятиях и в регионах, при аудите (контроле массива документов), мониторинге социально-экономического положения и в других областях.

15. Анализ и прогноз временных рядов

Методы выделения трендов. Спектральный анализ. Оценивание периода. Модели авторегрессии. Системы эконометрических уравнений.

Применяют методы восстановления временных зависимостей на основе наименьших квадратов и наименьших модулей. Среди них важное место занимают модели линейной (по параметрам) регрессии. Большое значение приобретает задача оценивание необходимой степени полинома. Полезны модели авторегрессии, в том числе простейшая эмпирическая модель экспоненциального сглаживания. Оценка длины периода может быть сделана на основе методов статистики объектов нечисловой природы путем минимизации в функциональном пространстве. Выделение циклов во временных рядах имеет давнюю историю.. Рассматриваются системы эконометрических моделей и примеры их практического применения.

16. Эконометрика прогнозирования и риска

Статистические и экспертные прогнозы. Неопределенности и риски, их моделирование в эконометрике. Диверсификация и страхование. Принятие решений в условиях неопределенности. Применение экспертных оценок при оценке и сравнении инвестиционных проектов.

Среди пяти основных функцией менеджмента первая - прогнозирование и планирование. Необходимость для менеджера владеть различными методиками прогнозирования не вызывает сомнения. Из различных видов прогнозов выделим статистические и экспертные, качественные и количественные. К частным видам прогнозирования относятся прогнозы невозможности, самоосуществляющиеся прогнозы. Прогнозирование является основой планирования.

Вопрос о целях предприятия непрост. Неопределенность выражения "максимизация прибыли" без указания интервала времени показывает это. Полезно прогнозирование экономической (и не только!) ситуации методом сценариев. Выделены этапы процесса планирования работы отрасли и предприятия, практически на всех нужны те или иные прогнозы.. Часто используется иерархия: миссия и ценности - стратегические цели - задачи - конкретные задания, что соответствует этапам планирования, основанного на прогнозировании: разработка стратегии, бизнес планирование и оперативное планирование.

Неопределенности и риски сопровождают менеджера постоянно. Различные виды рисков в работе предприятия перечислить трудно, но необходимо. Разработаны методы декомпозиции риска, в частности, используются деревья причин и результатов (диаграммы типа "рыбий скелет" - см. выше).

Разработаны различные методы описания неопределенностей, прежде всего вероятностно-статистические (наиболее распространенные), основанные на теории нечетких множеств и на статистике интервальных данных. Вероятностно-статистические методы описания риска широко используются, тесно связаны с теорией надежности, с вероятностным анализом безопасности( в атомной энергетике). Выделяют риск события (когда риск состоит в осуществлении нежелательного события) и риск ущерба (количественный). Есть ряд вариантов количественной оценки риска: по среднему ущербу (математическому ожиданию), по медиане ущерба, по квантилю, близкому к 1, по линейной комбинации среднего ущерба и среднего квадратического отклонения, по функции потерь и даже по дисперсии. Плата за риск может быть выявлена при наблюдении за поведением людей, которые обычно стремятся уменьшить риск, например, путем страхования. Плату за риск можно оценить, вычитая среднюю цену акций и цены гарантированных государством облигаций (в США). Один из приемов уменьшения риска - диверсификация деятельности, в том числе диверсификация при управлении пакетом ценных бумаг в условиях риска. Дается понятие о вероятностных моделях страхования, в том числе экологического.

Имеются различные подходы к принятию решений в условиях неопределенности: подход пессимиста, основанный на максимизации выигрыша в наихудшей ситуации (это - подход теории антагонистических игр), подход оптимиста (максимизация выигрыша в наилучших условиях), подход на основе среднего выигрыша (возможно, дополненный оценкой доверительного интервала), подход, основанный на минимизации упущенной выгоды, и др. При несовпадении рекомендаций, даваемых различными подходами, необходимо применение оценок экспертов. В частности, имеются различные подходы к оценке эффективности и выбору инвестиционных проектов. С чисто финансовой точки зрения сравнение инвестиционных проектов сводится к сравнению потоков платежей. Очевидна необходимость изучения устойчивости (чувствительности) выводов по отношению к отклонениям коэффициентов дисконтирования и величин платежей. Столь же очевидна необходимость использования метода экспертных оценок в случае получения противоречивых рекомендаций после проведения анализа чувствительности, например, когда интервалы для используемых характеристик потоков платежей перекрываются.

17. Заключение

Подведем итоги. В настоящей статье продемонстрирована необходимость обучения будущих менеджеров, экономистов, инженеров эконометрическим методам. Рассмотрено место курса эконометрики в системе высшего технического образования: опираясь на курсы "Теория вероятностей и математическая статистика" и "Статистика", он призван довести знания студентов до уровня современности. Указаны связи курса эконометрики со многими иными учебными предметами - менеджментом, маркетингом, экологией, стандартизацией, метрологией и управлением качеством, инвестиционной, инновационной, контрольной и контроллинговой деятельностью, оценкой финансового состояния предприятия, прогнозированием и технико-экономическим планированием, экономико-математическим моделированием производственных систем и др.

Разработано содержание основного курса эконометрики, который реализован в нескольких конкретных вариантах (многочисленные учебники представлены в [2]). Есть перспективы для его развертывания при увеличении количества часов. о чем подробнее сказано выше. Особенно важным представляется развертывание наиболее современных разделов эконометрики - статистики нечисловых и интервальных данных.

Наряду с очевидными преимуществами ориентация курса эконометрики на последние научные достижения имеет свои отрицательные стороны, в частности, слабым является методическое обеспечение.

Литература

1. Орлов А.И. Современные эконометрические методы - интеллектуальные инструменты инженера, управленца и экономиста // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. 2016. No. 116. С. 484 - 514.

2. Орлов А.И. Отечественная научная школа в области эконометрики / А.И. Орлов // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета (Научный журнал КубГАУ) [Электронный ресурс]. - Краснодар: КубГАУ, 2016. - No.07(121). С. 235 - 261. - IDA [article ID]: 1211607006. - Режим доступа: http://ej.kubagro.ru/2016/07/pdf/06.pdf

3. Орлов А.И. Прикладная статистика - состояние и перспективы // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. 2016. No. 119. С. 44-74.

4. Орлов А.И. Распределения реальных статистических данных не являются нормальными // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. 2016. No. 117. С. 71-90.

5. Орлов А.И. Новый подход к изучению устойчивости выводов в математических моделях // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. 2014. No. 100. С. 146-176.

6. Орлов А.И. Теоретические инструменты статистических методов // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. 2014. No. 101. С. 253-274.

7. Орлов А.И. Непараметрические критерии согласия Колмогорова, Смирнова, омега-квадрат и ошибки при их применении // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. 2014. No. 97. С. 32-45.

8. Орлов А.И. Двухвыборочный критерий Вилкоксона - анализ двух мифов // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. 2014. No. 104. С. 91 - 111.

9. Орлов А.И. О развитии статистики объектов нечисловой природы // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета. 2013. No. 93. С. 41-50.

Публикация:

Орлов А.И. Эконометрика как учебная дисциплина / А.И. Орлов // Политематический сетевой электронный научный журнал Кубанского государственного аграрного университета (Научный журнал КубГАУ) [Электронный ресурс]. - Краснодар: КубГАУ, 2017. - No.04(128). С. 679 - 709. - IDA [article ID]: 1281704050. - Режим доступа: http://ej.kubagro.ru, 1,938 у.п.л.

*   *   *   *   *   *   *

На сайте "Высокие статистические технологии", расположенном по адресу http://orlovs.pp.ru, представлены:

На сайте есть форум, в котором вы можете задать вопросы профессору А.И.Орлову и получить на них ответ.

*   *   *   *   *   *   *

Удачи вам и счастья!


В избранное