Zametki na polyah (akor168) wrote,
Zametki na polyah
akor168

Category:

решающие деревья и линейные классификаторы

Продолжая тему методов машинного обучения, пара наблюдений.

1) Касательно решающих деревьев (decision trees). Мне что то неясно, почему во всех изложениях отсечения производится плоскостями параллельной одной из координатных, то есть X_i > A (разбиение по одному признаку). А что мешает использовать произвольную плоскость, если основная идея это разбить выборку на две части. И вообще произвольный бинарный классификатор(слабый, то есть не претендующий на решение исходной задачи, но улучшающий подвыборки). Никак не могу нарыть даже упоминание о подобном.

2) Имеет ли смысл сеть, состоящая из нескольких линейных слоев без нелинейностей. То есть она реализует линейную функцию(гиперплоскость), но строит ее не за раз, а последовательно. Мне почему-то кажется, что там должны быть свои преимущества с точки зрения скорости и точности. То есть представление линейной же функции в виде суперпозиции линейных же.
Tags: deep learning
Subscribe

  • 3-0 vs 42-0

    To put the magnitude of the U.S. defeat in context, losing 3-0 in soccer is the equivalent of losing 42-0 in football. Реально улыбнуло, поскольку…

  • Анекдоты: полная потеря смысла при пересказе

    Знаете, когда обсуждается сложность перевода с одного языка на другой, обычно рассказывается пример с круглым столом где каждый знает языки двух…

  • полезность регулярных проф-заметок

    Терри Тао пишет аж в 2013 году(в комментах) про полезность ведения ЖЖ собственного блога, в котором можно записывать прочитанные результаты,…

  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 50 comments

  • 3-0 vs 42-0

    To put the magnitude of the U.S. defeat in context, losing 3-0 in soccer is the equivalent of losing 42-0 in football. Реально улыбнуло, поскольку…

  • Анекдоты: полная потеря смысла при пересказе

    Знаете, когда обсуждается сложность перевода с одного языка на другой, обычно рассказывается пример с круглым столом где каждый знает языки двух…

  • полезность регулярных проф-заметок

    Терри Тао пишет аж в 2013 году(в комментах) про полезность ведения ЖЖ собственного блога, в котором можно записывать прочитанные результаты,…