Управление и искусственный интеллект

Преподаватели: 
Макаренко А. В. (ИПУ РАН)
Программа курса: 

№

Разделы и темы лекционных занятий

Содержание

1

Цели и задачи курса, основные разделы

Вводное занятие, определение механики курса, его наполнения и акцентов.

2

Язык программирования Python, основные библиотеки и инструменты

Основы языка Python 3.5. Дистрибутив Anaconda. Notebook Jupyter. IDE Spyder. Библиотеки Numpy, Matplotlib, Scipy, Pandas, Scikit-learn. Базовые датасеты.

3

Линейная алгебра, теория вероятностей и мат. статистика, случайные процессы, численные методы оптимизации

Базовые векторно-матричные операции: сложение и умножение. Собственные числа и вектора матриц, нормы. SVD разложение. Дескриптивная статистика, стат. гипотезы и критерии. Корреляционный и спектральный анализ. Разведочный анализ данных. Элементы языка R. IDE RStudio.

4

 Искусственный интеллект, интеллектуальные задачи и системы

Определение, и проблематика ИИ, основные подходы к решению задач. Классификация интеллектуальных задач. Типы и виды интеллектуальных систем.

5

Нелинейная динамика, хаос, дискретные отображения

Нелинейные динамические системы, их классификация. Аттракторы. Хаос и его критерии. Синхронизация. Анализ дискретных динамических систем в форме отображений. Прикладные аспекты задач анализа хаоса.

6

Кибернетика, задачи управления, наблюдаемость, идентифицируемость, управляемость, адаптивность.

Кибернетика в широком смысле. Классификация задач и систем управления. Понятия внешней среды и помех. Основные этапы анализа и синтеза систем управления.

7

Машинное обучение, Deep Learning, глубокие нейронные сети, фреймворк Keras

Основные задачи и методы машинного обучения. Режимы обучения. Функции потерь. Измерение качества моделей. Основная парадигма и мейнстрим глубокого обучения. Основные типы глубоких нейронных сетей: MLP, CNN, RNN (LSTM). Комбинация типов нейросетей и мультимодальные задачи. Возможности и ограничения глубоких нейронных сетей, проблематика их синтеза, обучения и встраивания в реальные бизнес-процессы. Работа с фреймворком Keras.
8 Signal Processing, задачи и классические методы обработки временных рядов Основные подходы и методы обработки сигналов: свёртка, фильтрация, Фурье-анализ, вейвлет-анализ. Статистические методы: обнаружение, различение, оценивание, прогнозирование сигналов.
9 Решение задач обработки временных рядов методами Deep Learning Распознавание, оценивание, предсказание многомерных динамических процессов посредством глубоких свёрточных и рекуррентных (LSTM) нейронных сетей. Особенности формирования наборов исходных признаков, структуры входных данных и архитектуры сетей. Анализ предобученных моделей.

Перечень контрольных вопросов:

 

 

  1. История создания автоматических средств механической и другой природы в древности и эпохи промышленных революций. История теории управления. История исследований проблемы создания искусственного интеллекта и место когнитивистики.
  2. Общая теория управления; математическая теория управления; теория автоматизированного управления; теория автоматического управления (дать определения). Основные принципы управления и их потенциальные возможности (программное и позиционное управление, робастное и адаптивное управление, интеллектное и интеллектуальное управление). Задачи управления (перечислить и раскрыть).
  3. Основные тенденции развития теории управления и расширение типа объектов и систем управления; децентрализация и интеллектуализация управления, миниатюризация систем управления, мультиагентные и сетецентрические системы; взаимопроникновение управления, вычислений и связи; проблема ускорения создания ИУС и удешевления систем управления в их жизненном цикле.
  4. Понятие агента (рефлексного агента, софтбота, робота). Что такое рациональные агенты? Виды агентов, варианты проблемных сред и их характеристик.
  5. Обзор основных средств ИИ. Онтологии, семантические сети и экспертные системы. Особенности дедукции, абдукции, индукции и аргументации как методов обработки информации (планирования действий) в агентах, основанных на знаниях. Что такое нечеткие логики, нейроуправление, генетические алгоритмы?
  6. Специфика конструктивных логик, используемых в задачах автоматизации планирования действий, и приложения в задачах интеллектуального управления и программирования. Рассуждения по умолчанию и техническая диагностика.
  7. Синтаксис пропозиционального и первопорядкового языков (определение правильно построенных выражений (ППВ)), семантика (интерпретация выражений). Выполнимость, общезначимость, противоречивость логических формул (определить и указать их связь). Аксиоматические теории, выводимость. Связь понятий выводимости и общезначимости.
  8. Алгоритм Дэвиса-Патнема стандартизации формул. Метод резолюций: алгоритм унификации ППВ; операция склейки и правило резольвирования дизъюнктов, теоремы о сохранении истинностных значений множества дизъюнктов при этих преобразованиях; теорема о корректности и полноте метода резолюций. Алгоритмическая проверка заданной формулы на общезначимость, противоречивость, выполнимость методом резолюций. Примеры применения в классической и конструктивной семантике.
  9. Язык позитивно-образованных формул (ПОФ): типовые кванторы (ТК), степень, главные подформулы. Примеры формализации динамических свойств (стабилизируемость до асимптотической устойчивости, инвариантность, диссипативность, управляемость, оптимальность по быстродействию и др.). Доказательство леммы о подстановочности импликации (ПИ-леммы) и других лемм о свойствах ПОФ.
  10. Язык позитивных формул (ПФ) с классической семантикой как подмножество языка ПОФ: синтаксис; семантика ПФ. Необходимый критерий противоречивости. Примеры представления знаний.
  11. Вывод в исчислении ПФ. Примеры. Теорема о корректности и полноте исчисления ПФ. Стратегия автоматического поиска логических выводов (АПЛВ). Примеры АПЛВ. Достоинства и ограничения исчисления ПФ. Сравнение с методом резолюций.
  12. Конструктивный фрагмент языка ПФ и его применение в планировании действий, в т.ч. для автоматизации программирования, автоматизации исследований и проектирования, для поддержки интерактивного обучения, для интеллектного управления динамическими системами, автоматической реконфигурации систем управления в условиях отказов или целенаправленной их перестройки.
  13. Логические уравнения в языке ПФ для дооснащения дескриптивными или конструктивными средствами в условиях неполноты этих средств для разрешимости задачи. Алгоритм построения условий выводимости заданной невыводимой и его обоснование.  Приложения к планированию действий в условиях неполноты априорной информации о среде функционирования системы или неполноты средств системы.
  14. Логические уравнения метода редукций в языке ПОФ с применениями в нелинейном анализе динамических свойств систем управления (стабилизируемость, диссипативность, инвариантность, управляемость, оптимальность по быстродействию и др.).
  15. Метод редукций в анализе корректности модельных преобразований (обеспечения модельных аналогий) и переносимости модельных свойств в требуемую сторону. Алгоритм вывода теорем редукции на базе лемм о свойствах ПОФ. Примеры его применения в терминах функций типа векторных функций Ляпунова и морфизмов для систем управления, описываемых дифференциальными, конечно-разностными и другими уравнениями динамики, логико-динамическими моделями и в форме систем процессов.
  16. Метод построения агентом моделей предпочтения других агентов для адаптации агента в колонии других путем формирования с использованием этих моделей гипотез о поведении других агентов на основе наблюдений рассматриваемым агентом их актов выбора альтернативных решений.
  17. Актуальные проблемы и перспективы: обеспечения физико-логического интерфейса с внешним миром; учета релевантности знаний; эффективного взаимодействия когнитивных механизмов обработки символьной информации и образов; рационализации многоуровневой архитектуры агента с исполнительным, тактическим и стратегическим уровнями управления; самоорганизации колоний агентов; автоматизации целеполагания агента и автоматической смены им своих критериев качества управления; безопасности использования агентов и их колоний. 
Список литературы: 
              Основная
1. Винер Н. Кибернетика, или Управление и связь в животном и машине. 2-е изд. М.: Советское радио, 1968.
2. НОВИКОВ Д.А. Кибернетика: Навигатор. История кибернетики, современное состояние, перспективы развития. М.: ЛЕНАНД, 2016.
3. Табор М. Хаос и интегрируемость в нелинейной динамике. М.: Едиториал УРСС, 2001.
4. Кострикин А.И. Введение в алгебру. Часть 2. Линейная алгебра. МЦНМО, 2009.
5. Измайлов А., Солодов М. Численные методы оптимизации. М.: Физматлит, 2008.
6. Гнеденко Б.В. Хинчин А.Я. Элементарное введение в теорию вероятностей. М.: Наука, 1970.
7. Ивченко Г.И., Медведев Ю.И. Введение в математическую статистику. М.: ЛКИ, 2010.
8. Шипунов А.Б. и др. Наглядная статистика. Используем R! ДМК Пресс, 2012.
9. Рашка С. Python и машинное обучение. ДМК Пресс, 2017.
10. Гудфеллоу Я., Бенджио И., Курвилль А. Глубокое обучение. ДМК Пресс, 2017.
11. Оппенгейм А., Шафер Р. Цифровая обработка сигналов. Изд. 2-е, испр. М.: Техносфера, 2007.
12. Бендат Дж., Пирсол А. Прикладной анализ случайных данных. М.: Мир, 1989.
13. Короновский А.А., Храмов А.Е. Непрерывный вейвлетный анализ и его приложения. М.: Физматлит, 2003.
 
                 Дополнительная
1. Красовский А.А. (ред.). Справочник по теории автоматического управления. М.: Наука, 1987.
2. Калман Р., Фалб П., Арбиб М. Очерки по математической теории систем. М.: Едиториал УРСС, 2004.
3. Гукенхеймер Дж. Нелинейные колебания, динамические системы и бифуркации векторных полей. М.: ИКИ, 2002.
4. Кузнецов А.П., Савин А.В., Тюрюкина Л.В. Введение в физику нелинейных отображений. Саратов: Научная книга, 2010.
5. Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006.
6. Богданович В. А., Вострецов А. Г. Теория устойчивого обнаружения, различения и оценивания сигналов. 2-е изд., испр. М.: Физматлит, 2004.
7. Гилл Ф., Мюррэй У. Численные методы условной оптимизации. М.: Мир, 1977.
8. Кобзарь А.И. Прикладная математическая статистика. М.: Физматлит, 2006.