A
в моем понимании вклады моделей - это вектор а, где
z (точки на графике) = a1 * y1 + ... + an * yn
z (точки на графике) = a1 * y1 + ... + an * yn
надо узнать у того кто задачу ставит тогда, что он имеет ввиду
Size: a a a
2017 October 07
KP
вы используете лайклихуд как обычную метрику качества (которая не факт, что в данной задаче лучшая), а насколько я понял автора - ему интересна именно смесь моделей. Ждем уточнений
A
у какой модели "вклад" больше - у "качественной" или "не качественной"?
A
нужно внести ясность в оба этих понятния и вообще в формулировку задачи
A
.. судя по картинке, автор спрашивает - как для каждого наблюдения на графике посчитать какая из перечисленных моделей лучше описывает это наблюдение (?)
A
Тогда всё просто - для каждой модели из списка можно посчитать выбранную метрику "качества/вклада" для этих наблюдений на графиках. Если likelihood не нравится, то можно на то что нравится.
KP
у какой модели "вклад" больше - у "качественной" или "не качественной"?
если речь идёт о смеси - то это очевидно не так
A
что не так?
KP
предположим, у нас один предикат x, пусть 1:10
y - отклик, 81:90
две модели:
y1 = 80 + 0 * x
y2 = 0 + x
Видно, что llh у них разные, но лучшая смесь из них будет только при рав-ве весов: y = y1 + y2
y - отклик, 81:90
две модели:
y1 = 80 + 0 * x
y2 = 0 + x
Видно, что llh у них разные, но лучшая смесь из них будет только при рав-ве весов: y = y1 + y2
A
ясное дело
A
как теперь посчитать "вклад" каждой модели?
A
И к тому же взгляните на картинку, что автор вопроса запостил - там лучше всего будет иметь несколько моделей - каждая для своего subset от всего data set. Смесь даст какую-то одну линию, которая будет одинакова плоха для большинства наблюдений.
A
... ну по крайне мере для того случая что слева
A
> Видно, что llh у них разные, но лучшая смесь из них будет только при рав-ве весов: y = y1 + y2
Да, и llh для неё (смеси) будет больше. Короче нужно определение того, что такое "вклад". Это может быть например explained variance, или ещё что-то.
Да, и llh для неё (смеси) будет больше. Короче нужно определение того, что такое "вклад". Это может быть например explained variance, или ещё что-то.
KP
перечитал вопрос - думаю, я его не совсем верно понял
в общем случае, это действительно похоже на поиск смеси распределений, только не в том понятии, в котором мы о нем говорили, а в правильном
в теории плаваю, но я бы предложил почитать следующее:
https://en.wikipedia.org/wiki/Mixture_distribution
https://en.wikipedia.org/wiki/Expectation%E2%80%93maximization_algorithm
по сути решается задача кластеризации, где на выходе для каждого объекта будет принадлежность тому или иному классу (в данной задаче модели)
в общем случае, это действительно похоже на поиск смеси распределений, только не в том понятии, в котором мы о нем говорили, а в правильном
в теории плаваю, но я бы предложил почитать следующее:
https://en.wikipedia.org/wiki/Mixture_distribution
https://en.wikipedia.org/wiki/Expectation%E2%80%93maximization_algorithm
по сути решается задача кластеризации, где на выходе для каждого объекта будет принадлежность тому или иному классу (в данной задаче модели)
Ю
ЭА
перечитал вопрос - думаю, я его не совсем верно понял
в общем случае, это действительно похоже на поиск смеси распределений, только не в том понятии, в котором мы о нем говорили, а в правильном
в теории плаваю, но я бы предложил почитать следующее:
https://en.wikipedia.org/wiki/Mixture_distribution
https://en.wikipedia.org/wiki/Expectation%E2%80%93maximization_algorithm
по сути решается задача кластеризации, где на выходе для каждого объекта будет принадлежность тому или иному классу (в данной задаче модели)
в общем случае, это действительно похоже на поиск смеси распределений, только не в том понятии, в котором мы о нем говорили, а в правильном
в теории плаваю, но я бы предложил почитать следующее:
https://en.wikipedia.org/wiki/Mixture_distribution
https://en.wikipedia.org/wiki/Expectation%E2%80%93maximization_algorithm
по сути решается задача кластеризации, где на выходе для каждого объекта будет принадлежность тому или иному классу (в данной задаче модели)
Если вопрос действительно в разделении смеси распределений, то можно попробовать пакет 'mclust'. Я им пользовался для разделения смеси (нахождения количества типов и пропорции распределения каждого типа в общей смеси) гранулометрического состава в предположении, что в смеси только нормальные распределения (лабораторный метод измерения грансостава опирается на решение обратной задачи с таким же допущением, потому меня это устраивало).
2017 October 08
AC
Спасибо большое за ответы, сорри, что я медленно реагирую. Речь идёт о том, что предположительно каждая из моделей лучше всего предсказывает какую-то долю наблюдений. Например, модели y=0 и y=180 очевидно хорошо объясняют часть наблюдений на первом графике и гораздо хуже на втором. Смесь (mixture) выглядит движением в правильном направлении. Я пробовал flexmix , но там кластеры наблюдений задаются под общую модель, а не под набор отдельных моделей .
A
Спасибо большое за ответы, сорри, что я медленно реагирую. Речь идёт о том, что предположительно каждая из моделей лучше всего предсказывает какую-то долю наблюдений. Например, модели y=0 и y=180 очевидно хорошо объясняют часть наблюдений на первом графике и гораздо хуже на втором. Смесь (mixture) выглядит движением в правильном направлении. Я пробовал flexmix , но там кластеры наблюдений задаются под общую модель, а не под набор отдельных моделей .
По мне так это больше похоже на hierarchical model, чем на mixture model.
AC
Иерархия предполагает общую модель, а не взаимоисключающие вроде бы. Ну или как бы вы это в рамках иерархии сформулировали бы?