Некоторые аспекты качества обучающих последовательностей
На Хабре появился ряд статей о качестве образования и как процесса и как результата (уровень выпускников). Тема заинтересовала и руки зачесались проверить, а как это устроено у пчелок роботов искусственного интеллекта, влияет ли качество обучающей последовательности на результат. Была выбрана простая сеть из примеров keras в которую добавил одну строку. Нас интересует насколько упорядоченность входной обучающей последовательности mnist влияет на результат обучения MLP. Результат получился неожиданным и странным, пришлось перепроверять многократно, но перейдем к делу и конкретике. Идея эксперимента проста и обычна — обучаем MLP из keras на общедоступном mnist и получаем ориентир, после обучаем на последовательностях 01234567890123..7890123. Как студентов учат — немного бейсик, немного ассемблер, немного fortran, и т.д. и сравним с исходным обучением. Результат вполне ожидаем, исходная последовательность учит лучше, но порядок такой же. Вот график 64 испыта...