Машинное обучение — это легко
Для кого эта статья?
Каждый, кому будет интересно затем покопаться в истории за поиском новых фактов, или каждый, кто хотя бы раз задавался вопросом «как же все таки это, машинное обучение, работает», найдёт здесь ответ на интересующий его вопрос. Вероятнее всего, опытный читатель не найдёт здесь для себя ничего интересного, так как программная часть оставляет желать лучшего несколько упрощена для освоения начинающими, однако осведомиться о происхождении машинного обучения и его развитии в целом не помешает никому.
В цифрах
С каждым годом растёт потребность в изучении больших данных как для компаний, так и для активных энтузиастов. В таких крупных компаниях, как Яндекс или Google, всё чаще используются такие инструменты для изучения данных, как язык программирования R, или библиотеки для Python (в этой статье я привожу примеры, написанные под Python 3). Согласно Закону Мура (а на картинке — и он сам), количество транзисторов на интегральной схеме удваивается каждые 24 месяца. Это значит, что с каждым годом производительность наших компьютеров растёт, а значит и ранее недоступные границы познания снова «смещаются вправо» — открывается простор для изучения больших данных, с чем и связано в первую очередь создание «науки о больших данных», изучение которого в основном стало возможным благодаря применению ранее описанных алгоритмов машинного обучения, проверить которые стало возможным лишь спустя полвека. Кто знает, может быть уже через несколько лет мы сможем в абсолютной точности описывать различные формы движения жидкости, например.
Анализ данных — это просто?
Да. А так же интересно. Наряду с особенной важностью для всего человечества изучать большие данные стоит относительная простота в самостоятельном их изучении и применении полученного «ответа» (от энтузиаста к энтузиастам). Для решения задачи классификации сегодня имеется огромное количество ресурсов; опуская большинство из них, можно воспользоваться средствами библиотеки Scikit-learn (SKlearn). Создаём свою первую обучаемую машину:
Вот мы и создали простейшую машину, способную предсказывать (или классифицировать) значения аргументов по их признакам.
— Если все так просто, почему до сих пор не каждый предсказывает, например, цены на валюту?
С этими словами можно было бы закончить статью, однако делать я этого, конечно же, не буду (буду конечно, но позже) существуют определенные нюансы выполнения корректности прогнозов для поставленных задач. Далеко не каждая задача решается вот так легко (о чем подробнее можно прочитать здесь)
Ближе к делу
— Получается, зарабатывать на этом деле я не сразу смогу?
Итак, сегодня нам потребуются:
Дальнейшее использование требует от читателя некоторых знаний о синтаксисе Python и его возможностях (в конце статьи будут представлены ссылки на полезные ресурсы, среди них и «основы Python 3»).
Как обычно, импортируем необходимые для работы библиотеки:
— Ладно, с Numpy всё понятно. Но зачем нам Pandas, да и еще read_csv?
Иногда бывает удобно «визуализировать» имеющиеся данные, тогда с ними становится проще работать. Тем более, большинство датасетов с популярного сервиса Kaggle собрано пользователями в формате CSV.
— Помнится, ты использовал слово «датасет». Так что же это такое?
Датасет — выборка данных, обычно в формате «множество из множеств признаков» → «некоторые значения» (которыми могут быть, например, цены на жильё, или порядковый номер множества некоторых классов), где X — множество признаков, а y — те самые некоторые значения. Определять, например, правильные индексы для множества классов — задача классификации, а искать целевые значения (такие как цена, или расстояния до объектов) — задача ранжирования. Подробнее о видах машинного обучения можно прочесть в статьях и публикациях, ссылки на которые, как и обещал, будут в конце статьи.
Знакомимся с данными
Предложенный датасет можно скачать здесь. Ссылка на исходные данные и описание признаков будет в конце статьи. По представленным параметрам нам предлагается определять, к какому сорту относится то или иное вино. Теперь мы можем разобраться, что же там происходит:
Работая в Jupyter notebook, получаем такой ответ:
Это значит, что теперь нам доступны данные для анализа. В первом столбце значения Grade показывают, к какому сорту относится вино, а остальные столбцы — признаки, по которым их можно различать. Попробуйте ввести вместо data.head() просто data — теперь для просмотра вам доступна не только «верхняя часть» датасета.
Простая реализация задачи на классификацию
Переходим к основной части статьи — решаем задачу классификации. Всё по порядку:
Создаем массивы, где X — признаки (с 1 по 13 колонки), y — классы (0ая колонка). Затем, чтобы собрать тестовую и обучающую выборку из исходных данных, воспользуемся удобной функцией кросс-валидации train_test_split, реализованной в scikit-learn. С готовыми выборками работаем дальше — импортируем RandomForestClassifier из ensemble в sklearn. Этот класс содержит в себе все необходимые для обучения и тестирования машины методы и функции. Присваиваем переменной clf (classifier) класс RandomForestClassifier, затем вызовом функции fit() обучаем машину из класса clf, где X_train — признаки категорий y_train. Теперь можно использовать встроенную в класс метрику score, чтобы определить точность предсказанных для X_test категорий по истинным значениям этих категорий y_test. При использовании данной метрики выводится значение точности от 0 до 1, где 1 100% Готово!
— Неплохая точность. Всегда ли так получается?
Для решения задач на классификацию важным фактором является выбор наилучших параметров для обучающей выборки категорий. Чем больше, тем лучше. Но не всегда (об этом также можно прочитать подробнее в интернете, однако, скорее всего, я напишу об этом ещё одну статью, рассчитанную на начинающих).
— Слишком легко. Больше мяса!
Для наглядного просмотра результата обучения на данном датасете можно привести такой пример: оставив только два параметра, чтобы задать их в двумерном пространстве, построим график обученной выборки (получится примерно такой график, он зависит от обучения):
Да, с уменьшением количества признаков, падает и точность распознавания. И график получился не особенно-то красивым, но это и не решающее в простом анализе: вполне наглядно видно, как машина выделила обучающую выборку (точки) и сравнила её с предсказанными (заливка) значениями.
Предлагаю читателю самостоятельно узнать почему и как он работает.
Последнее слово
Надеюсь, данная статья помогла хоть чуть-чуть освоиться Вам в разработке простого машинного обучения на Python. Этих знаний будет достаточно, чтобы продолжить интенсивный курс по дальнейшему изучению BigData+Machine Learning. Главное, переходить от простого к углубленному постепенно. А вот полезные ресурсы и статьи, как и обещал:
Материалы, вдохновившие автора на создание данной статьи
Более углубленное изучение использования машинного обучения с Python стало возможным, и более простым благодаря преподавателям с Яндекса — этот курс обладает всеми необходимыми средствами объяснения, как же работает вся система, рассказывается подробнее о видах машинного обучения итд.
Файл сегодняшнего датасета был взят отсюда и несколько модифицирован.
Где брать данные, или «хранилище датасетов» — здесь собрано огромное количество данных от самых разных источников. Очень полезно тренироваться на реальных данных.
Буду признателен за поддержку по улучшению данной статьи, а так же готов к любому виду конструктивной критики.
Как проходит обучение в автошколе
Мы уже рассказывали, как выбрать автошколу. В этой статье поговорим о том, как проходит обучение в автошколе. Ответим на популярные вопросы, а также расскажем, какие документы автошкола выдает после окончания учебы.
Как начать учиться на права
Чтобы начать обучение, выберите автошколу, подготовьте пакет документов, принесите все бумаги в школу, напишите заявление и подпишите договор. Вам предложат график работы преподавателей и расписание групп. Выберите самое удобное время и вуаля! Теперь вы ученик автошколы.
Кто и чему учит в автошколе
В автошколе работают педагоги, имеющие опыт вождения. Минимальный водительский стаж педагога – 5 лет. Чтобы рассказывать теоретический курс, педагог должен обладать опытом преподавания или работы в ГИБДД. На занятия также могут приглашать сотрудников дорожной инспекции для разъяснения каких-то моментов, проверки знаний, но не на постоянную работу.
Занятия в автошколе делятся на 2 курса: теоретический и практический. Теория предполагает, что вместе с педагогами автошколы вы изучите:
После изучения теоретической части вы приступите к практическим занятиям. Сначала это будет автодром. Там вам предстоит научиться чувствовать габариты автомобиля, реакцию руля, педалей газа, тормоза, а также получить первые водительские навыки. Там вы научитесь трогаться с места, поворачивать, парковаться и останавливаться на подъеме.
После автодрома обучение продолжится на городских дорогах с реальными машинами, светофорами, пробками и т. д. На этом этапе вы научитесь анализировать дорожные ситуации и делать прогнозы. Также научитесь чувствовать дорогу и сцепление с ней при разных температурах и видах осадков.
Важно! Не советуем обучаться азам вождения с помощью друзей, знакомых, даже если они опытные водители. Тому есть несколько причин:
Потому даже не стоит выбирать между автошколой и «доброжелателями».
Каким бывает график занятий
Обучение составляет в среднем 120-140 часов. 100 из них обычно уходит на теорию. График можно подобрать под свои потребности: учиться утром, днем или вечером в будни, а также в выходные.
Перед тем как начать обучение, здраво оцените наличие свободного времени и денег. Учеба в автошколе и подготовка к сдаче экзаменов отнимут прилично. Так, если будете посещать занятия в автошколе 2 раза в неделю, то обучение займет около полугода. Если 3 раза или чаще – 3-4 месяца.
Как проходят занятия по теории
Теоретические занятия проходят в группах по 10-20 человек. Преподаватель рассказывает о ПДД, просит купить актуальное издание. Также педагог рассказывает о штрафах, которые грозят за те или иные нарушения. На занятиях разбираются конкретные ситуации. Педагог рисует их на доске или просит приобрести книгу с билетами.
Во время теоретических занятий ваша задача – не хвататься сразу за все. Конспектируйте речь преподавателя кратко, но понятно. Выделяйте маркером то, на чем педагог акцентирует внимание. Купите сборник билетов и решайте их дома, закрепляйте уроки в автошколе. Не стоит заучивать ответы – вы должны понимать, из чего состоит машина и как себя вести на дороге.
Длится занятие по теории 1,5-3 часа. Часто теоретический экскурс заканчивается внутришкольным экзаменом: ученики решают 2 билета или проходят виртуальный тест.
Как проходят занятия по практике
Через 3-4 недели после начала теории начинаются практические занятия. Длятся они по 1,5 часа. Нередко инструктор соглашается провести 2 занятия за 1 раз. Сразу отметим, что лучше обучаться практике зимой-осенью, а не летом, чтобы после получения водительских прав первый снег не закончился для вас аварией.
Инструктора выбирает ученик или же педагогам назначаются группы по 5-10 человек, чьи фамилии идут друг за другом по алфавиту. Если инструктор не устраивает по объективным причинам, его можно поменять.
К практическим занятиям приступают во время теоретических, когда базовые знания уже есть и остается отточить навыки. Эксперты не рекомендуют делать перерывов между теорией и практикой, чтобы:
Сделать полугодичный перерыв между «теорией» и «практикой» вы можете, но получите от этого только неудобства, включая оплату дополнительных занятий по теоретической части.
Автодром
Во время занятий на автодроме инструктор сначала сам проедет по площадке, покажет, как выполнять маневры. Он научит:
Дальше вы просто повторяете действия и оттачиваете навыки, а инструктор сидит рядом. Маневры помогают отточить движения рук, ног и своевременно реагировать на дорожные препятствия, правильно парковать автомобиль, а также 100% контролировать машину и не бояться ее. Часто автодромом служит заброшенная площадка или поляна, а вместо конусов стоят обычные палки. В таких условиях научиться нелегко, но внимательность и координация движений прокачиваются на 100%.
Город
Когда инструктор поймет, что автодром вы щелкаете как семечки, поведет вас в город. Обычно это происходит через месяц.
Занятие также длится 1,5 часа. Ученик садится в машину, пристегивается, включает ближний свет, передачу и трогается. Инструктор сидит рядом и дает команды — ученик выполняет.
Перво-наперво избавляются от привычки бросать педали, а значит, и глохнуть. Также отрабатываются ПДД в духе «кто справа, тот главный», знаки, значения разметки. Часто педагог намеренно дает непростую задачу, чтобы ученик думал или показывал, чему научился на автодроме. Например, просит развернуться в узком пространстве или с заездом во двор, который ниже уровня дороги.
Обычно вождение в городских условиях предполагает 10-15 занятий. Хотя Минобрнауки предусмотрело 56 часов вождения: 28 занятий по 2 часа. Автошколы сокращают количество часов из-за конкуренции, а также рекламных обещаний: чем ниже цена, тем меньше часов.
Практические занятия также обычно заканчиваются внутренним экзаменом на автодроме, а после — в городе. Слушайтесь инструктора: он знает, что делать. Даже если кажется, что придется поступить нелогично или неудобно. Водите спокойно, не совершайте резких маневров и запоминайте ошибки. Будьте осторожны и не теряйте бдительность, когда обретете уверенность в действиях. Самоуверенность «новичков» до добра еще не доводила.
Во многих автошколах практические занятия проходят на определенных автодромах, а также по утвержденным маршрутам. Это делается для того, чтобы ученик хорошо ориентировался и чувствовал себя уверенно во время сдачи экзамена сотруднику ГИБДД.
Можно ли пропускать занятия
Можно. Но то, что пропустите, скорее всего, сгорит, и деньги вам не вернут. Ученики набираются в группы. В договоре четко прописывается, что ученик должен следовать графику. Правда, некоторые автошколы придумывают собственную систему посещения занятий: например, группы выходного дня, которые посещают ученики, пропустившие занятия на неделе.
Помните: пропуская занятия, вы рискуете упустить важную информацию, а также лишиться часов для тренировки водительских навыков.
Какие документы выдают по окончании учебы
После окончания учебы в автошколе при успешной сдаче экзаменов вы получаете свидетельство, подтверждающее ваше обучение. В нем ставится печать организации и подпись руководителя, а также МРЭО. Форму школа придумывает сама или покупает готовые бланки. Кроме свидетельства, автошкола возвращает водительскую карточку и медицинскую справку.
Чтобы закончить автошколу, нужно пройти медосмотр и сдать внутренние экзамены: теорию, автодром и город.
Если по каким-то причинам вы решаете бросить автошколу, прочитайте, что прописано на этот счет в договоре. Автошкола не выдает свидетельства, если экзамены вы не сдавали, и деньги за обучение не возвращает. Но если у вас случился форс-мажор, обучение можно приостановить. Проследите, чтобы условия были также прописаны в договоре.
Так, чтобы медсправка не потеряла своей актуальности, можно приостановить обучение на полгода или чуть больше. Если пропустите больше года, врачей придется проходить заново и брать практические уроки (теорию можете подтянуть самостоятельно). Главное — договоритесь с автошколой, чтобы не потерять деньги и время впустую.
Часто свидетельство об окончании школы выдают после сдачи экзаменов в ГИБДД. То есть школу ученик оканчивает с момента сдачи внутренних экзаменов, а вот бумагу получает только после демонстрации знаний и умений дорожному инспектору. Многие автошколы отдают документ позже, потому что некоторым ученикам требуются дополнительные уроки. Даже после того, как сдан внутренний школьный экзамен.
В ГИБДД, как и в автошколе, сдают теоретическую и практическую части: пишут тесты, выполняют маневры на автодроме и ездят по городским улицам. Часто само присутствие дорожного инспектора в машине заставляет нервничать. Но если вы знаете ПДД и с автомобилем на «ты», точно сдадите экзамен и получите права, пусть не с первого раза.
Как выбрать первый автомобиль после окончания автошколы
Обычно после окончания автошколы новоиспеченные водители приобретают себе б/у автомобиль, чтобы оттачивать на нем все приобретенные навыки. При этом новички часто забывают, что покупка подержанной машины может нести в себе массу опасностей: скрученный пробег, ограничения ГИБДД, залоги, ремонтные работы и другие проблемы.
Также мы подготовили целый раздел статей, в которых подробно рассказываем, как купить первый автомобиль и чего стоит опасаться при выборе б/у машины. Обзоры на подержанные модели автомобилей разных годов читайте в нашем блоге. Также мы ведем Youtube-канал, на котором вы найдете много полезных выпусков, и предоставляем услуги выездной диагностики.
Успехов в обучении и удачи в поисках первого автомобиля!
Как научиться водить машину с нуля
В этой статье поговорим о том, как научиться управлять автомобилем с нуля: что для этого нужно делать, чего делать не следует и какими навыками нужно обладать.
Содержание
Как быстро научиться водить машину
Главное в процессе обучения – не бояться автомобиля, вникнуть в основные принципы вождения, почувствовать габариты и мощность движущей силы.
Начинать всегда стоит с малого – не торопитесь брать высокую планку. Попробуйте выполнить указанные ниже упражнения при выключенном двигателе. Это поможет совершать действия при вождении, не глядя себе под ноги и не отвлекаясь от процесса управления автомобилем:
Потренируйтесь на этих упражнениях пару дней, и вы будете подготовлены к езде за рулем. Даже если будете волноваться, ваши руки и ноги будут действовать на автомате. Вы почувствуете контроль над ситуацией.
Уверенность, что вы контролируете автомобиль, — самое важное в осваивании навыков вождения.
Как научиться водить машину на механике
Большинство водителей проходят обучение на автомобилях с МКПП. Это, что называется, классика жанра, поскольку:
Лучший способ научиться водить автомобиль — довериться опытному инструктору. Внимательно слушайте и старайтесь как можно точнее выполнять рекомендации специалиста.
Что важно понимать, когда садишься за руль авто на механике
Самая основная педаль — сцепление. Используя ее, можно привести автомобиль в движение. Для этого нужно:
Автомобиль покатится. Для того, чтобы продолжить движение, необходимо:
После пары-тройки попыток эти действия вы будете выполнять автоматически. Сначала будет получаться неидеально. Возможно, вы будете глохнуть. Не паникуйте, просто пробуйте еще.
Как переключать передачи на механике
Чтобы ехать быстрее, нужно постепенно добавлять обороты, переключая передачи.
Чтобы придать автомобилю ускорение, нужно нажать на педаль сцепления и плавно отпустить газ. В этот же момент включить следующую передачу и прибавить газ.
Когда пора переключить скорость:
Никита Орлов, автоэксперт:
«Обучаться вождению лучше на старом и, как это ни странно, неисправном автомобиле. Когда я обучался вождению, в автошколах были исключительно автомобили марки «Жигули» разной степени исправности, без гидроусилителя, кондиционера и прочих радостей современной техники.
Научившись ездить на плохом автомобиле, вы с уверенностью будете себя чувствовать за рулем практически любого авто. Научитесь ездить на механике и, пересаживаясь на машину с АКПП, вы почувствуете и уверенность в собственных силах, и дополнительный комфорт.
Если вы уже знаете, какую марку и модель автомобиля приобретете после получения водительского удостоверения, имеет смысл поискать инструктора именно на таком авто. Тогда, пересев за руль собственного автомобиля, вы практически не почувствуете разницы. В любом случае только упорство и ежедневная практика сделают из вас настоящего водителя».
Как научиться водить машину на автомате
С коробкой-автомат вождение становится «на автомате». Преимуществ множество:
Все, что требуется от водителя, управляющего машиной с автоматической коробкой передач, — знание правил ПДД.
На автомате переключатель скоростей выглядит несколько по-другому, нежели на механической коробке. Есть три программы:
Научиться водить автомобиль с автоматической коробкой передач в разы проще, чем с механической. Но если будете учиться вождению на машине с автоматической коробкой передач, ездить на механике не сможете.
Это связано с тем, что автомобиль слишком много делает за вас. Особенно это заметно у автомобилей новых поколений с различными системами круиз-контроля, когда на педаль газа нажимать не нужно.
Садитесь в автомобиль, выжимаете педаль тормоза, отпускаете ее — двигатель заведен. И вот автомобиль уже плавно начинает движение без лишних вибраций и пробуксовок. Сели и поехали.
Коробка-автомат призвана облегчить жизнь автомобилисту. Например, она очень удобна в городском движении, когда приходится много перестраиваться из ряда в ряд, еще и переключая скорости. Или, напротив, стоять в пробке, периодически подкатываясь на 3-4 метра.
Но если вы хотите стать универсальным водителем, стоит начинать обучение все же с механической коробки. И вот когда на ней вы будете ездить как «на автомате», тогда уже можно пересесть на автомат.
Как научиться чувствовать габариты автомобиля
Новичкам, в отличие от водителей со стажем, всегда сложно ориентироваться в пространстве и чувствовать, где заканчивается автомобиль. Для этого и нужны занятия на автодроме.
Чем больше опыта, тем лучше вы будете чувствовать габариты. Но для начала дадим советы для того, чтобы процесс пошел быстрее:
Не бойтесь практиковаться. Ставьте сложные задачи и выполняйте их. Они получатся не сразу. Но когда вы выполните упражнение несколько раз подряд, вы сами почувствуете, что в этом нет ничего трудного и управлять автомобилем сможет каждый.
А если вы соберетесь покупать свой первый автомобиль, воспользуйтесь рекомендациями, которые мы для вас подготовили. На сайте представлен целый раздел статей, в которых мы подробно рассказываем, как приобретать б/у машину и чего стоит опасаться при выборе. Обзоры на подержанные модели разных годов выпуска читайте в нашем блоге. Также мы ведем Youtube-канал, где вы найдете много полезных и интересных выпусков.
Введение в машинное обучение
1.1 Введение
Благодаря машинному обучению программист не обязан писать инструкции, учитывающие все возможные проблемы и содержащие все решения. Вместо этого в компьютер (или отдельную программу) закладывают алгоритм самостоятельного нахождения решений путём комплексного использования статистических данных, из которых выводятся закономерности и на основе которых делаются прогнозы.
Технология машинного обучения на основе анализа данных берёт начало в 1950 году, когда начали разрабатывать первые программы для игры в шашки. За прошедшие десятилетий общий принцип не изменился. Зато благодаря взрывному росту вычислительных мощностей компьютеров многократно усложнились закономерности и прогнозы, создаваемые ими, и расширился круг проблем и задач, решаемых с использованием машинного обучения.
Чтобы запустить процесс машинного обучение, для начала необходимо загрузить в компьютер Датасет(некоторое количество исходных данных), на которых алгоритм будет учиться обрабатывать запросы. Например, могут быть фотографии собак и котов, на которых уже есть метки, обозначающие к кому они относятся. После процесса обучения, программа уже сама сможет распознавать собак и котов на новых изображениях без содержания меток. Процесс обучения продолжается и после выданных прогнозов, чем больше данных мы проанализировали программой, тем более точно она распознает нужные изображения.
Благодаря машинному обучению компьютеры учатся распознавать на фотографиях и рисунках не только лица, но и пейзажи, предметы, текст и цифры. Что касается текста, то и здесь не обойтись без машинного обучения: функция проверки грамматики сейчас присутствует в любом текстовом редакторе и даже в телефонах. Причем учитывается не только написание слов, но и контекст, оттенки смысла и другие тонкие лингвистические аспекты. Более того, уже существует программное обеспечение, способное без участия человека писать новостные статьи (на тему экономики и, к примеру, спорта).
1.2 Типы задач машинного обучения
Все задачи, решаемые с помощью ML, относятся к одной из следующих категорий.
1)Задача регрессии – прогноз на основе выборки объектов с различными признаками. На выходе должно получиться вещественное число (2, 35, 76.454 и др.), к примеру цена квартиры, стоимость ценной бумаги по прошествии полугода, ожидаемый доход магазина на следующий месяц, качество вина при слепом тестировании.
2)Задача классификации – получение категориального ответа на основе набора признаков. Имеет конечное количество ответов (как правило, в формате «да» или «нет»): есть ли на фотографии кот, является ли изображение человеческим лицом, болен ли пациент раком.
3)Задача кластеризации – распределение данных на группы: разделение всех клиентов мобильного оператора по уровню платёжеспособности, отнесение космических объектов к той или иной категории (планета, звёзда, чёрная дыра и т. п.).
4)Задача уменьшения размерности – сведение большого числа признаков к меньшему (обычно 2–3) для удобства их последующей визуализации (например, сжатие данных).
5)Задача выявления аномалий – отделение аномалий от стандартных случаев. На первый взгляд она совпадает с задачей классификации, но есть одно существенное отличие: аномалии – явление редкое, и обучающих примеров, на которых можно натаскать машинно обучающуюся модель на выявление таких объектов, либо исчезающе мало, либо просто нет, поэтому методы классификации здесь не работают. На практике такой задачей является, например, выявление мошеннических действий с банковскими картами.
1.3 Основные виды машинного обучения
Основная масса задач, решаемых при помощи методов машинного обучения, относится к двум разным видам: обучение с учителем (supervised learning) либо без него (unsupervised learning). Однако этим учителем вовсе не обязательно является сам программист, который стоит над компьютером и контролирует каждое действие в программе. «Учитель» в терминах машинного обучения – это само вмешательство человека в процесс обработки информации. В обоих видах обучения машине предоставляются исходные данные, которые ей предстоит проанализировать и найти закономерности. Различие лишь в том, что при обучении с учителем есть ряд гипотез, которые необходимо опровергнуть или подтвердить. Эту разницу легко понять на примерах.
Машинное обучение с учителем
Предположим, в нашем распоряжении оказались сведения о десяти тысячах московских квартир: площадь, этаж, район, наличие или отсутствие парковки у дома, расстояние от метро, цена квартиры и т. п. Нам необходимо создать модель, предсказывающую рыночную стоимость квартиры по её параметрам. Это идеальный пример машинного обучения с учителем: у нас есть исходные данные (количество квартир и их свойства, которые называются признаками) и готовый ответ по каждой из квартир – её стоимость. Программе предстоит решить задачу регрессии.
Ещё пример из практики: подтвердить или опровергнуть наличие рака у пациента, зная все его медицинские показатели. Выяснить, является ли входящее письмо спамом, проанализировав его текст. Это всё задачи на классификацию.
Машинное обучение без учителя
В случае обучения без учителя, когда готовых «правильных ответов» системе не предоставлено, всё обстоит ещё интереснее. Например, у нас есть информация о весе и росте какого-то количества людей, и эти данные нужно распределить по трём группам, для каждой из которых предстоит пошить рубашки подходящих размеров. Это задача кластеризации. В этом случае предстоит разделить все данные на 3 кластера (но, как правило, такого строгого и единственно возможного деления нет).
Если взять другую ситуацию, когда каждый из объектов в выборке обладает сотней различных признаков, то основной трудностью будет графическое отображение такой выборки. Поэтому количество признаков уменьшают до двух или трёх, и становится возможным визуализировать их на плоскости или в 3D. Это – задача уменьшения размерности.
1.4 Основные алгоритмы моделей машинного обучения
1. Дерево принятия решений
Это метод поддержки принятия решений, основанный на использовании древовидного графа: модели принятия решений, которая учитывает их потенциальные последствия (с расчётом вероятности наступления того или иного события), эффективность, ресурсозатратность.
Для бизнес-процессов это дерево складывается из минимального числа вопросов, предполагающих однозначный ответ — «да» или «нет». Последовательно дав ответы на все эти вопросы, мы приходим к правильному выбору. Методологические преимущества дерева принятия решений – в том, что оно структурирует и систематизирует проблему, а итоговое решение принимается на основе логических выводов.
2. Наивная байесовская классификация
Наивные байесовские классификаторы относятся к семейству простых вероятностных классификаторов и берут начало из теоремы Байеса, которая применительно к данному случаю рассматривает функции как независимые (это называется строгим, или наивным, предположением). На практике используется в следующих областях машинного обучения:
Всем, кто хоть немного изучал статистику, знакомо понятие линейной регрессии. К вариантам её реализации относятся и наименьшие квадраты. Обычно с помощью линейной регрессии решают задачи по подгонке прямой, которая проходит через множество точек. Вот как это делается с помощью метода наименьших квадратов: провести прямую, измерить расстояние от неё до каждой из точек (точки и линию соединяют вертикальными отрезками), получившуюся сумму перенести наверх. В результате та кривая, в которой сумма расстояний будет наименьшей, и есть искомая (эта линия пройдёт через точки с нормально распределённым отклонением от истинного значения).
Линейная функция обычно используется при подборе данных для машинного обучения, а метод наименьших квадратов – для сведения к минимуму погрешностей путем создания метрики ошибок.
4. Логистическая регрессия
Логистическая регрессия – это способ определения зависимости между переменными, одна из которых категориально зависима, а другие независимы. Для этого применяется логистическая функция (аккумулятивное логистическое распределение). Практическое значение логистической регрессии заключается в том, что она является мощным статистическим методом предсказания событий, который включает в себя одну или несколько независимых переменных. Это востребовано в следующих ситуациях:
Это целый набор алгоритмов, необходимых для решения задач на классификацию и регрессионный анализ. Исходя из того что объект, находящийся в N-мерном пространстве, относится к одному из двух классов, метод опорных векторов строит гиперплоскость с мерностью (N – 1), чтобы все объекты оказались в одной из двух групп. На бумаге это можно изобразить так: есть точки двух разных видов, и их можно линейно разделить. Кроме сепарации точек, данный метод генерирует гиперплоскость таким образом, чтобы она была максимально удалена от самой близкой точки каждой группы.
SVM и его модификации помогают решать такие сложные задачи машинного обучения, как сплайсинг ДНК, определение пола человека по фотографии, вывод рекламных баннеров на сайты.
Он базируется на алгоритмах машинного обучения, генерирующих множество классификаторов и разделяющих все объекты из вновь поступающих данных на основе их усреднения или итогов голосования. Изначально метод ансамблей был частным случаем байесовского усреднения, но затем усложнился и оброс дополнительными алгоритмами:
Кластеризация заключается в распределении множества объектов по категориям так, чтобы в каждой категории – кластере – оказались наиболее схожие между собой элементы.
Кластеризировать объекты можно по разным алгоритмам. Чаще всего используют следующие:
8. Метод главных компонент (PCA)
Метод главных компонент, или PCA, представляет собой статистическую операцию по ортогональному преобразованию, которая имеет своей целью перевод наблюдений за переменными, которые могут быть как-то взаимосвязаны между собой, в набор главных компонент – значений, которые линейно не коррелированы.
Практические задачи, в которых применяется PCA, – визуализация и большинство процедур сжатия, упрощения, минимизации данных для того, чтобы облегчить процесс обучения. Однако метод главных компонент не годится для ситуаций, когда исходные данные слабо упорядочены (то есть все компоненты метода характеризуются высокой дисперсией). Так что его применимость определяется тем, насколько хорошо изучена и описана предметная область.
9. Сингулярное разложение
В линейной алгебре сингулярное разложение, или SVD, определяется как разложение прямоугольной матрицы, состоящей из комплексных или вещественных чисел. Так, матрицу M размерностью [m*n] можно разложить таким образом, что M = UΣV, где U и V будут унитарными матрицами, а Σ – диагональной.
Одним из частных случаев сингулярного разложения является метод главных компонент. Самые первые технологии компьютерного зрения разрабатывались на основе SVD и PCA и работали следующим образом: вначале лица (или другие паттерны, которые предстояло найти) представляли в виде суммы базисных компонент, затем уменьшали их размерность, после чего производили их сопоставление с изображениями из выборки. Современные алгоритмы сингулярного разложения в машинном обучении, конечно, значительно сложнее и изощрённее, чем их предшественники, но суть их в целом нем изменилась.
10. Анализ независимых компонент (ICA)
Это один из статистических методов, который выявляет скрытые факторы, оказывающие влияние на случайные величины, сигналы и пр. ICA формирует порождающую модель для баз многофакторных данных. Переменные в модели содержат некоторые скрытые переменные, причем нет никакой информации о правилах их смешивания. Эти скрытые переменные являются независимыми компонентами выборки и считаются негауссовскими сигналами.
В отличие от анализа главных компонент, который связан с данным методом, анализ независимых компонент более эффективен, особенно в тех случаях, когда классические подходы оказываются бессильны. Он обнаруживает скрытые причины явлений и благодаря этому нашёл широкое применение в самых различных областях – от астрономии и медицины до распознавания речи, автоматического тестирования и анализа динамики финансовых показателей.
1.5 Примеры применения в реальной жизни
Пример 1. Диагностика заболеваний
Пациенты в данном случае являются объектами, а признаками – все наблюдающиеся у них симптомы, анамнез, результаты анализов, уже предпринятые лечебные меры (фактически вся история болезни, формализованная и разбитая на отдельные критерии). Некоторые признаки – пол, наличие или отсутствие головной боли, кашля, сыпи и иные – рассматриваются как бинарные. Оценка тяжести состояния (крайне тяжёлое, средней тяжести и др.) является порядковым признаком, а многие другие – количественными: объём лекарственного препарата, уровень гемоглобина в крови, показатели артериального давления и пульса, возраст, вес. Собрав информацию о состоянии пациента, содержащую много таких признаков, можно загрузить её в компьютер и с помощью программы, способной к машинному обучению, решить следующие задачи:
Пример 2. Поиск мест залегания полезных ископаемых
В роли признаков здесь выступают сведения, добытые при помощи геологической разведки: наличие на территории местности каких-либо пород (и это будет признаком бинарного типа), их физические и химические свойства (которые раскладываются на ряд количественных и качественных признаков).
Для обучающей выборки берутся 2 вида прецедентов: районы, где точно присутствуют месторождения полезных ископаемых, и районы с похожими характеристиками, где эти ископаемые не были обнаружены. Но добыча редких полезных ископаемых имеет свою специфику: во многих случаях количество признаков значительно превышает число объектов, и методы традиционной статистики плохо подходят для таких ситуаций. Поэтому при машинном обучении акцент делается на обнаружение закономерностей в уже собранном массиве данных. Для этого определяются небольшие и наиболее информативные совокупности признаков, которые максимально показательны для ответа на вопрос исследования – есть в указанной местности то или иное ископаемое или нет. Можно провести аналогию с медициной: у месторождений тоже можно выявить свои синдромы. Ценность применения машинного обучения в этой области заключается в том, что полученные результаты не только носят практический характер, но и представляют серьёзный научный интерес для геологов и геофизиков.
Пример 3. Оценка надёжности и платёжеспособности кандидатов на получение кредитов
С этой задачей ежедневно сталкиваются все банки, занимающиеся выдачей кредитов. Необходимость в автоматизации этого процесса назрела давно, ещё в 1960–1970-е годы, когда в США и других странах начался бум кредитных карт.
Лица, запрашивающие у банка заём, – это объекты, а вот признаки будут отличаться в зависимости от того, физическое это лицо или юридическое. Признаковое описание частного лица, претендующего на кредит, формируется на основе данных анкеты, которую оно заполняет. Затем анкета дополняется некоторыми другими сведениями о потенциальном клиенте, которые банк получает по своим каналам. Часть из них относятся к бинарным признакам (пол, наличие телефонного номера), другие — к порядковым (образование, должность), большинство же являются количественными (величина займа, общая сумма задолженностей по другим банкам, возраст, количество членов семьи, доход, трудовой стаж) или номинальными (имя, название фирмы-работодателя, профессия, адрес).
Для машинного обучения составляется выборка, в которую входят кредитополучатели, чья кредитная история известна. Все заёмщики делятся на классы, в простейшем случае их 2 – «хорошие» заёмщики и «плохие», и положительное решение о выдаче кредита принимается только в пользу «хороших».
Более сложный алгоритм машинного обучения, называемый кредитным скорингом, предусматривает начисление каждому заёмщику условных баллов за каждый признак, и решение о предоставлении кредита будет зависеть от суммы набранных баллов. Во время машинного обучения системы кредитного скоринга вначале назначают некоторое количество баллов каждому признаку, а затем определяют условия выдачи займа (срок, процентную ставку и остальные параметры, которые отражаются в кредитном договоре). Но существует также и другой алгоритм обучения системы – на основе прецедентов.
