AB
Доброе утро, подскажите, нормально, что обученный catboost clf на 3к деревьев занимает 12gb памяти??
max_ctr_complexity=2 у меня уменьшило модель с 13G до 1. Спасибо за подсказку @annaveronika
Size: a a a
2019 April 07
NK
what loss functoins may be used for binary classificaton? There are only 2 of them in link but mentioned many, the rest will be implemented later? https://catboost.ai/docs/concepts/loss-functions-classification.html
ИБ
ID:611170311
what loss functoins may be used for binary classificaton? There are only 2 of them in link but mentioned many, the rest will be implemented later? https://catboost.ai/docs/concepts/loss-functions-classification.html
остальные недиффиринцируемые, их не получится оптимизировать пока не появится какая то новая математика
2019 April 08
AK
Попробую еще раз:
Alexander Khovanskiy, [3 Apr 2019 at 16:19:15]:
Добрый день, а может кто прислать пример по работе с текстом в catboost, у меня 66к строк в таблице с колонками: 1 название организации(текст), 2 региональная принадлежность (фед/рег/мун), хотелось бы подсунуть это модели в train_data и train_labels но у меня возникает ошибка, не может перевести строку в float, оно и понятно... Видео которые я смотрел, было сказано, что catboost работает с сырыми данными и его можно использовать как черную магию. Я новичек совсем в этой сфере. подскажите как это сделать.
Буду очень благодарен, спасибо
Alexander Khovanskiy, [3 Apr 2019 at 16:19:15]:
Добрый день, а может кто прислать пример по работе с текстом в catboost, у меня 66к строк в таблице с колонками: 1 название организации(текст), 2 региональная принадлежность (фед/рег/мун), хотелось бы подсунуть это модели в train_data и train_labels но у меня возникает ошибка, не может перевести строку в float, оно и понятно... Видео которые я смотрел, было сказано, что catboost работает с сырыми данными и его можно использовать как черную магию. Я новичек совсем в этой сфере. подскажите как это сделать.
Буду очень благодарен, спасибо
А
Попробую еще раз:
Alexander Khovanskiy, [3 Apr 2019 at 16:19:15]:
Добрый день, а может кто прислать пример по работе с текстом в catboost, у меня 66к строк в таблице с колонками: 1 название организации(текст), 2 региональная принадлежность (фед/рег/мун), хотелось бы подсунуть это модели в train_data и train_labels но у меня возникает ошибка, не может перевести строку в float, оно и понятно... Видео которые я смотрел, было сказано, что catboost работает с сырыми данными и его можно использовать как черную магию. Я новичек совсем в этой сфере. подскажите как это сделать.
Буду очень благодарен, спасибо
Alexander Khovanskiy, [3 Apr 2019 at 16:19:15]:
Добрый день, а может кто прислать пример по работе с текстом в catboost, у меня 66к строк в таблице с колонками: 1 название организации(текст), 2 региональная принадлежность (фед/рег/мун), хотелось бы подсунуть это модели в train_data и train_labels но у меня возникает ошибка, не может перевести строку в float, оно и понятно... Видео которые я смотрел, было сказано, что catboost работает с сырыми данными и его можно использовать как черную магию. Я новичек совсем в этой сфере. подскажите как это сделать.
Буду очень благодарен, спасибо
все колонки, содержащие не числовые данные нужно передать в cat_features
А
Но если есть колонка, данные из которой нельзя одназначно «занумеровать» - например, отзыв или описание, то cat_features не поможет.
AK
все колонки, содержащие не числовые данные нужно передать в cat_features
Спасибо большое, буду пробывать!
PC
Почему
Pool.get_labels() возвращает список строк? Почему не ndarray из np.int или np.float32? Супер удивительное поведение.VE
Почему
Pool.get_labels() возвращает список строк? Почему не ndarray из np.int или np.float32? Супер удивительное поведение.ну вообще лейблы могуть быть строками в случае мульти-классификации
PC
ну вообще лейблы могуть быть строками в случае мульти-классификации
Кстати, как они кодируются? Из доки не понятно, и примеров нет.
AD
Вообще я не уверена, что возвращать строки в этой ситуации - самое правильное решение. Сделай, пожалуйста, issue на гитхабе, там разберемся.
P🐈
Привет, я тут titanic решаю, у меня в train pool такие строчки
Survived,Pclass,Name,Sex,Age,SibSp,Parch,Ticket,Fare,Cabin,EmbarkedПравильно ли я понимаю, что column description для них - такой?
1,3,"Thomas, Master. Assad Alexander",male,0.42,0,1,2625,8.5167,,C
0 Label Survived?
1 Categ Pclass
2 Categ Name
3 Categ Sex
4 Num Age
5 Categ SibSp
6 Categ Parch
7 Categ Ticket
8 Num Fare
9 Categ Cabin
10 Categ Embarked
NK
per https://github.com/catboost/catboost/issues/279 how to find code example for custom lossfunction with assigning weights of the classes to each object of this class
NK
still it is not clear how to use catboost for inbalanced data : https://stackoverflow.com/questions/54437646/catboost-precision-imbalanced-classes (CatBoost precision imbalanced classes) hhow to find a clear code example,
for example from this video data is inbalanced but model trained as for balanced data https://www.youtube.com/watch?v=xl1fwCza9C8&t=44s code https://github.com/catboost/tutorials/blob/master/events/pydata_moscow_oct_13_2018.ipynb
for example from this video data is inbalanced but model trained as for balanced data https://www.youtube.com/watch?v=xl1fwCza9C8&t=44s code https://github.com/catboost/tutorials/blob/master/events/pydata_moscow_oct_13_2018.ipynb
NK
can be documentation found in one fiel pdf format, especialy parameters table found in pdf format https://catboost.ai/docs/concepts/python-reference_parameters-list.html#python-reference_parameters-list
NK
if it possible use many trees at each iteratoins per https://habr.com/en/company/mailru/blog/438562/
NK
pls help to understand if cv function trains model on all folders and then average trees or calcualte model on one folder but calulates performance on all folders or calculate model on all train data but calculate performance on each fodler separetely per video https://youtu.be/xl1fwCza9C8?t=1853 at 30:53 and code https://github.com/catboost/tutorials/blob/master/events/pydata_moscow_oct_13_2018.ipynb for from catboost import cv
params = {}
params['loss_function'] = 'Logloss'
params['iterations'] = 80
params['custom_loss'] = 'AUC'
params['random_seed'] = 63
params['learning_rate'] = 0.5
cv_data = cv(
params = params,
pool = Pool(X, label=y, cat_features=cat_features),
fold_count=5,
shuffle=True,
partition_random_seed=0,
plot=True,
stratified=False,
verbose=False
)
params = {}
params['loss_function'] = 'Logloss'
params['iterations'] = 80
params['custom_loss'] = 'AUC'
params['random_seed'] = 63
params['learning_rate'] = 0.5
cv_data = cv(
params = params,
pool = Pool(X, label=y, cat_features=cat_features),
fold_count=5,
shuffle=True,
partition_random_seed=0,
plot=True,
stratified=False,
verbose=False
)
NK
what loss functoins may be used for binary classificaton? There are only 2 of them in link
https://catboost.ai/docs/concepts/loss-functions-classification.html
I think about minimum probability to mistake for not balanced data,
for example probaility of 1s is 0.05 and probability of 0s is 0.95, so we need F1 metric as loss function?
https://scikit-learn.org/stable/modules/generated/sklearn.metrics.f1_score.html with 'weighted' and maybe micro
loss function should be the same as metric? why to optimise for one function and measure performance by anothe function
as he mentioned logloss is useless https://youtu.be/xl1fwCza9C8?t=1383
https://catboost.ai/docs/concepts/loss-functions-classification.html
I think about minimum probability to mistake for not balanced data,
for example probaility of 1s is 0.05 and probability of 0s is 0.95, so we need F1 metric as loss function?
https://scikit-learn.org/stable/modules/generated/sklearn.metrics.f1_score.html with 'weighted' and maybe micro
loss function should be the same as metric? why to optimise for one function and measure performance by anothe function
as he mentioned logloss is useless https://youtu.be/xl1fwCza9C8?t=1383
2019 April 09
AD
Привет, я тут titanic решаю, у меня в train pool такие строчки
Survived,Pclass,Name,Sex,Age,SibSp,Parch,Ticket,Fare,Cabin,EmbarkedПравильно ли я понимаю, что column description для них - такой?
1,3,"Thomas, Master. Assad Alexander",male,0.42,0,1,2625,8.5167,,C
0 Label Survived?
1 Categ Pclass
2 Categ Name
3 Categ Sex
4 Num Age
5 Categ SibSp
6 Categ Parch
7 Categ Ticket
8 Num Fare
9 Categ Cabin
10 Categ Embarked
Вроде да. У нас есть еще туториал на титанике, можно туда заглянуть. Но там вроде не из файла чтение.