Size: a a a

AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2

2021 January 06

L

Leonid in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
ну т.е. уже очевидно, что конкат создает копию и куда-то ее пишет.. без конката память освобождается..
теперь вопрос понять как избежать последствий конката
источник

SL

Sergey L in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
попробовать удалить вручную через os и потом вручную del
источник

L

Leonid in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Sergey L
попробовать удалить вручную через os и потом вручную del
а подробней можно?
источник

SL

Sergey L in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Как пример, можно посмотреть, как удалить импортированную библиотеку, таким же способом в списке питон загруженных обьектов вручную вврезать результат конката.
источник

SL

Sergey L in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Так на вскидку не помню, но финт тот же
источник

SL

Sergey L in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
зачем вам пустой ретерн?
возможно ваш метод живет со всеми данными, потому что сам метод импортирован и существует в памяти, но тема все-равно странная. Если не поможет удаление вручную, попробуйте после того, как метод отработает его вручную удалить с помощью то ли sys, то ли os. И потом сделать del
источник

SL

Sergey L in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
full вы нигде не вызываете во вне метода внутри скрипта?
источник

ЕТ

Евгений Томилов... in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Sergey L
Он несовсем так делает. Большинство функции, как и конкат резервируют новую память и в нее копируют данные
А, ну, вот. Спасибо, что уточнили, я просто больше по R.
источник

VC

Vadim Chashechnikov in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Xplwfcwef041
Доброе утро народ.
Простите, я полный новичок в нейросетях,возможно задаю глупый вопрос.
Писал свою библиотеку простой нейросети, и допустим нейронка выдала 0.6 а ожидаемый ответ 0.1 и чтоб найти ошибку я делаю 0.1-0.6
И вся сейросеть превращается в кашу с отрицательными весами.
Подскажите пожалуйста,что я упустил
Модуль надо взять
источник

VC

Vadim Chashechnikov in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Вы уменьшаете не ошибку, а 1-6
источник

МС

Миркамал Самиев... in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
такое решение не подходит ?
источник

S

Ssv in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Xplwfcwef041
Доброе утро народ.
Простите, я полный новичок в нейросетях,возможно задаю глупый вопрос.
Писал свою библиотеку простой нейросети, и допустим нейронка выдала 0.6 а ожидаемый ответ 0.1 и чтоб найти ошибку я делаю 0.1-0.6
И вся сейросеть превращается в кашу с отрицательными весами.
Подскажите пожалуйста,что я упустил
смотря какой лосс, скорее всего надо взять квадрат разности, и потом распространять градиент от него
источник

X

Xplwfcwef041 in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Ssv
смотря какой лосс, скорее всего надо взять квадрат разности, и потом распространять градиент от него
Да не, все, нейронка хорошо работает с отрицательными весами...
источник

X

Xplwfcwef041 in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Но вот, вчера столкнулся со очередной проблемой
Когда входных данных много, то сигмоида(функция активации) возвращает 1.0000.т.е 1
Так как, если в функцию активации передать значение больше 14ти
То возвращает 1
источник

X

Xplwfcwef041 in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Я об этом
function sig(x){
return 1/(1+exp(-x))
}
источник

S

Ssv in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
всегда возвращает? на всех данных?
источник

X

Xplwfcwef041 in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Ssv
всегда возвращает? на всех данных?
да
источник

X

Xplwfcwef041 in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Думаю, нужно изначально генерировать веса от 0 до 0.1
источник

X

Xplwfcwef041 in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
У меня на вход подается 5000 данных, и когда эти данные умножаются на веса и суммируются  определенно суммируется большое число, вот и сигмоида возвращает 1
источник

S

Ssv in AI / Big Data / Machine Learning 👮‍♂️ Protected by R2D2
Xplwfcwef041
У меня на вход подается 5000 данных, и когда эти данные умножаются на веса и суммируются  определенно суммируется большое число, вот и сигмоида возвращает 1
прости, а данные ты нормализовал?
источник