Популярные вопросы по тегу PYTORCH
PyTorch градиентный спуск
... t some noisy observations y_obs = y + 2*torch.randn(N,1) Затем я создаю свою 9 функцию прогнозирования (y_pred), как показано 8 ниже. w = torch.randn(1, requires_grad=True) b = torch.randn(1, requires_grad=True) y_pred = w*x+b mse = torch.mean((y_pred-y_obs)**2) , который использует MSE для определения 7 весов w,b. Я использую блок ниже, чтобы обновить 6 значения в соответствии с градиентом. gamma = 1e-2 for i in ...
Факел: Как перетасовать тензор по строкам?
... },{}}] print(sids[{{1}, {}}]) print(X:size()) print(y:size()) print(sids:size()) os.exit(69) end Это распечатывается Size of X and y before 99 1000 128 [torch.LongStorage of size 3] 99 1 [torch.LongStorage of size 2] 99 1 [torch.LongStorage of size 2] Perm size is: 99 [torch.LongStorage of size 1] 5 [torch.LongStorage of size 1x1] 5 [torch.LongStorage of size 1x1] 99 1000 128 [torch.LongStorage of size 3] 99 1 ...
Почему GPU может выполнять матричное умножение быстрее, чем CPU?
... Почему GPU 5 может выполнять матричное умножение намного 4 быстрее, чем CPU? Это из-за параллельной 3 обработки? Но я не писал никакого кода параллельной 2 обработки. ...
Ошибка времени выполнения CUDA (59): сработало утверждение на стороне устройства
... MathPointwise.cu line=265 error=59 : device-side assert triggered Traceback (most recent call last): File "main.py", line 109, in <module> train(loader_train, model, criterion, optimizer) File "main.py", line 54, in train optimizer.step() File "/usr/local/anaconda35/lib/python3.6/site-packages/torch/optim/sgd.py", line 93, in step d_p.add_(weight_decay, p.da ...
Какой обходной путь для «рваных / зазубренных тензоров» в PyTorch?
... ия чего-то подобного в PyTorch? import numpy as np x = np.array([[0], [0, 1]]) print(x) # [list([0]) list([0, 1])] import tensorflow as tf x = tf.ragg ...
pytorch RuntimeError: ожидаемый объект скалярного типа Double, но получил скалярный тип Float
... set = torch.Tensor(dataset,dtype=torch.double) #second place #net.float() #thrid place net.forward(dataset[0]) #fourth place В файле data1.txt находится 14 текстовый файл в формате csv, содержащий 13 определенные числа, и каждый dataset[i] имеет размер 12 100 на 1 объект torch.Tensor dtype torch.float64. Сообщение об ошибке 11 выглядит следующим об ...
Почему модель PyTorch принимает изображение нескольких размеров внутри модели?
... age.cuda() Он печатает наши изображения переменного 10 размера, такие как torch.Size([1, 3, 384, 320]) torch.Size([1, 3, 704, 1024]) torch.Size([1, 3, 1280, 1280]) Итак, когда я использую 9 пакетный вывод с использованием DataLoader, применяя 8 то же преобразование, код не выполняется. Однако, когда 7 я изменяю размер всех изображений на 600,600, пакетная 6 обработка выполняется успешно. У меня два 5 сомнения, Во-первых, почему P ...
Что такое loss_cls и loss_bbox и почему они всегда равны нулю при обучении
... используя реализацию Pytorch 13 для Detectron here. Я внес изменения в набор 12 данных и конфигурацию в соответствии с рекомендациями 11 репозитория. Процесс обучения выполнен успешно, но 10 значения loss_cls и loss_bbox с самого начала равны 0, и 9 даже несмотря на то, что обучение завершено, конечный 8 результат не может использоваться для оценки 7 или вывода. Я хотел бы знать, что эти два 6 зн ...
pytorch grad - Нет после .backward()
... 2, requires_grad=True) y = x + 2 z = y * y * 3 out = z.mean() out.backward() print(out.grad) печатает None, что не 1 соответствует ожиданиям. В че ...
В чем разница между функциями torch.stack() и torch.cat()?
... = torch.stack(policy_losses).sum() + torch.stack(value_losses).sum() Один использует torch.cat, другой - torch.stack. Наскол ...
Как преобразовать список или массив numpy в 1d-тензор факела?
... ения значений. Но 5 я хочу знать, могу ли я создать тензор факела 4 с начальными значениями из списка или массива? Также 3 предложите мне, есть ли какой-нибудь питонический 2 способ добит ...
Pytorch: Почему память, занятая переменной `tensor`, такая мала?
... нит столько данных. Вот код. a = np.random.randn(1, 1, 128, 256) b = torch.tensor(a, devic ...
Добавление регуляризации L1 / L2 в PyTorch?
... тери, просто добавив 3 data_loss с reg_loss, но есть ли какой-либо явный способ, какая-либо 2 поддержка со стороны библиотеки PyTorch, чтобы 1 сделать это проще, не делая это вруч ...
Понимание формы ввода в PyTorch LSTM
... ля LSTMs, его входными размерами являются 7 (seq_len, batch, input_size), что я понимаю следующим образом. seq_len - количество 6 временных шагов в каждом входном потоке 5 (длина вектора признаков). batch - размер каждого 4 пакета входных последовательностей. input_size - размер 3 для каждого входного токена или временного 2 шага. lstm = nn.LSTM(input_size=?, hidden_size=?, batch_first=True) Какими должны быть здесь точные значения 1 ...
Рассчитайте точность для каждой эпохи в PyTorch
... 7/100, Loss: 0.429, Accuracy: 0.034 Epoch 8/100, Loss: 0.408, Accuracy: 0.035 Epoch 9/100, Loss: 0.316, Accuracy: 0.035 Epoch 10/100, Loss: 0.436, Accuracy: 0.035 Epoch 11/100, Loss: 0.365, Accuracy: 0.034 Epoch 12/100, Loss: 0.485, Accuracy: 0.031 Epoch 13/100, Loss: 0.392, Accuracy: 0.033 Epoch 14/100, Loss: 0.494, Accuracy: 0.030 Epoch 15/100, Loss: 0.369, Acc ...
Как освободить всю память pytorch взят из памяти gpu
... COLUMN].values.reshape(-1)): meta_train_split, meta_valid_split = meta_train.iloc[train_idx], meta_train.iloc[valid_idx] pipeline_network = unet(config=CONFIG, suffix = 'fold' + str(fold), train_mode=True) Но затем я перехожу 6 ко второму разу, все выхо ...
Когда мне следует использовать nn.ModuleList, а когда - nn.Sequential?
... понимаю, как 2 используются nn.ModuleList и nn.Sequential. Могу ли я узнать, когда 1 ...
Невозможно импортировать Pytorch [WinError 126] Указанный модуль не может быть найден
... Затем я открываю командную строку 12 Python в виртуальной среде и набираю: import torch Распечатывается 11 следующая ошибка: Отслеживание (последний 10 звонок последним): Файл "", строка 1, в Файл 9 "C: \ Users \ njord \ anaconda3 \ envs \ photo 8 \ lib \ site-packages \ torch__init __. Py", строка 7 81, в ctypes.CDLL (dll) Файл "C: \ Users 6 \ nj ...
dropout(): аргумент input (позиция 1) должен быть Tensor, а не str при использовании Bert с Huggingface
... аргумент 4 'input' (позиция 1) должен быть Tensor, а 3 не str Был бы признателен, если бы вам была 2 предоставлена помощь. Может быть проблема 1 с загрузчик ...
Несоответствие формы вывода и трансляции в MNIST, torchvision
... 28] Вот мой код: import torch from torchvision import datasets, transforms transform = transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5)), ...
Torch JIT Trace = TracerWarning: преобразование тензора в логическое значение Python может привести к неправильной трассировке
... /huggingface.co/transformers/torchscript.html чтобы создать 9 трассировку моей пользовательской модели 8 BERT, однако при запуске того же dummy_input я получаю 7 сообщение об ошибке: TracerWarning: Converting a tensor to a Python boolean might cause the trace to be incorrect. We cant record the data flow of Python values, so this value will be treated as a constant in the future. После загрузки в мою 6 модель и токенизатор код для соз ...
Для стабильной диффузии командной строки не хватает памяти графического процессора, а для версии с графическим интерфейсом — нет.
... сию Stable Diffusion с графическим 17 интерфейсом here. С его помощью я смог сделать 16 изображения размером 512 на 512 пикселей, используя 15 свой графический процессор GeForce RTX 3070 14 с 8 ГБ памяти: Однако, когда я пытаюсь сделать 13 то же самое с интерфейсом командной строки, у 12 меня заканчивается память: Вход: >> C:\SD\stable-diffusion-main>python scripts/txt2img.py --prompt "a close-up portrait of a cat by pablo picas ...
PyTorch torch.no_grad() по сравнению с requires_grad = False
... бинации и обнаружил: with torch.no_grad requires_grad = False Parameters Ran ------------------ --------------------- ---------- --- a. Yes Yes 3M Successfully b. Yes No 112M Successfully c. No Yes ...
AttributeError: объект 'collections.OrderedDict' не имеет атрибута 'eval'
... (0 ,0 ,0 ,.,.) = -1.5073e-01 6.4760e-02 1.9156e-01 1.2175e-01 3.5886e-02 1.3992e-01 -1.5903e-01 8.2055e-02 1.7820e-01 (0 ,0 ,1 ,.,.) = 1.0604e-01 -1.3653e-01 1.4803e-01 6.0276e-02 -1.4674e-02 2.3059e-06 -6.2192e-02 -5.1061e-03 -7.4145e-03 (0 ,0 ,2 ...
Что делает log_prob?
... машинного 6 обучения) мы можем найти функцию log_prob. Что он 5 делает и чем отличается от обычного log? Например, какова 4 цель этого кода: dist = Normal(mean, std) sample = dist.sample() logprob = dist.log_ ...
Заказ устройств CUDA
... ревшее 12 устройство, которое никогда не использовалось). Когда 11 я запускаю deviceQuery, я получаю Device 0: "Tesla K40m" ... Device PCI Domain ID / Bus ID / location ID: 0 / 4 / 0 Device 1: "NVS 315" ... Device PCI Domain ID / Bus ID / location ID: 0 / 3 / 0 С другой стороны, nvidia-smi производит 10 ...
Как использовать несколько графических процессоров в pytorch?
... спользования 3 графического процессора. device = torch.device("**cuda:0**" if torch.cuda.is_available() else "cpu") Но я хочу использовать 2 два графических процессора в jupyter, например: device = torch.device("**cuda:0,1**" if torch.cuda.is_avail ...
В чем разница между расширениями .pt, .pth и .pwf в PyTorch?
... wf в качестве формата сохранения 7 файла модели. Но в документации PyTorch 6 рекомендуются .pt и .pth. Я использовал 5 .pwf и отлично работал для небольших сверточных 4 сетей 1-> 16-> 16. ...
Оптимизация гиперпараметров для модели Pytorch
... птимизацию гиперпараметров 3 для модели Pytorch? Реализовать, например, Самостоятельный 2 поиск? Использовать ...
Как добавить новый дим в тензор pytorch?
... .zeros((4, 5, 6)) a = a[:, :, np.newaxis, :] assert a.shape == (4, 5, 1, 6) ...
Проблемы с обучением нейронной сети. Убыток не уменьшается
... rect/totalcount)) return {'train_loss': loss.data[0], 'train_acc' : correct/totalcount} Обучающий вызов в цикле эпох lr_scheduler.step() train_metrics = train(train_dataloader, model, criterion, optimizer, lr_scheduler, epoch) Некоторые 11 результаты итерации эпох #### Эпоха 0/19 ---------- обучение: 100% | ...
Как изменить размер изображения в PyTorch
... уя 6 набор данных FER2013 для модели PyTorch, и 5 у меня следующая ошибка: Traceback (most recent call last): File "VGG.py", line 112, in <module> transfer.keras_to_pytorch(keras_network, pytorch_network) File "/home/eorg/NeuralNetworks/user/Project/model/nntransfer.py", line 121, in keras_to_pytorch pytorch_model.load_state_dict(state_dict) File "/ho ...
PyTorch: как использовать DataLoaders для пользовательских наборов данных
... ый DataLoaders, который они используют в TorchVisionDatasets, для 1 использования в любом набор ...
PyTorch: Dataloader для задачи временных рядов
... ющий пример пакета должен 16 иметь форму (q, k) с q, относящуюся к количеству 15 строк из исходного фрейма данных (например, 0: 128). Следующим 14 примером должен быть (128:256, k) и так далее. Итак, в 13 конечном итоге одна партия должна иметь 12 форму (32, q, k), где 32 должны соответствовать размеру 11 партии. Поскольку TensorDataset из data_utils здесь не работает, мне 10 интересно, что было бы лучше всего. Я попытался 9 использовать np. ...
Как загрузить модель, обученную графическому процессору, в процессор?
... to unpack the data. --> 193 param.data = fn(param.data) 194 if param._grad is not None: 195 param._grad.data = fn(param._grad.data) C:\Users\psl\Anaconda3\lib\site-packages\torch\nn\modules\module.py in <lambda>(t) 258 Module: self 259 """ --> 260 return self._apply(lambda t: t.cuda(device)) 261 262 def cp ...
Сумма Pytorch по списку тензоров вдоль оси
... и. Выполняет ли torch.cumsum эту операцию при затемнении? Если 2 да, то требуется, чтобы список был преобразован 1 в ...
Ошибка модуля Pytorch в Jupyter Notebook
... олняемой в 2 Chrome) sys.path равен ['', '/home/usrname/anaconda3/lib/python36.zip', '/home/usrname/anaconda3/lib/python3.6', '/home/usrname/anaconda3/lib/python3.6/lib-dynload', '/home/usrname/anaconda3/lib/python3.6/site-packages', '/home/usrname/anaconda3/lib/python3.6/site-packages/IPython/extensions', '/home/usrname/.ipython'] и я в ...
Разница между BatchNormalization Keras и BatchNorm2d PyTorch?
... овпадают. Вот реализация 9 CNN в Керасе: inputs = Input(shape = (64, 64, 1)). # Channel Last: (NHWC) model = Conv2D(filters=32, kernel_size=(3, 3), padding='SAME', activation='relu', input_shape=(IMG_SIZE, IMG_SIZE, 1))(inputs) model = BatchNormalization(momentum=0.15, axis=-1)(model) model = Flatten()(model) dense = Dense(100, activation = "relu")(model) head_root = ...
Как изменить путь загрузки моделей Torch Hub
... ез Torch Hub, они 1 автоматически загружаются в /home/me/ ...
Как очистить память GPU после обучения модели PyTorch без перезапуска ядра
... нении итераций обучения 13 используется 12 ГБ памяти графического процессора. Я 12 заканчиваю обучение, сохраняя контрольную 11 точку модели, но хочу продолжить использование 10 записной книжки для дальнейшего анализа 9 (анализа промежуточных результатов и т. Д.). Однако 8 эти 12 ГБ продолжают использоваться (как 7 видно из ...
RuntimeError: попытка десериализации объекта на устройстве CUDA 2, но torch.cuda.device_count() равен 1
... return _load(f, map_location, pickle_module) File "/home/ahrzb/.pyenv/versions/2.7.15/envs/mzh2.7/lib/python2.7/site-packages/torch/serialization.py", line 542, in _load result = unpickler.load() File "/home/ahrzb/.pyenv/versions/2.7.15/envs/mzh2.7/lib/python2.7/site-packages/torch/serialization.py", line 50 ...
Как рассчитываются размеры питателя для линейных слоев?
... 5), stride=(1, 1)) (conv2): Conv2d(6, 16, kernel_size=(5, 5), stride=(1, 1)) (fc1): Linear(in_features=400, out_features=120, bias=True) (fc2): Linear(in_features=120, out_features=84, bias=True) (fc3): Linear(in_features=84, out_features=10, bias=True) ) И используется для обработки 14 изображений с размерами 1x32x32. Они отмечают, что 13 сеть не может использоваться с изображениями 12 другого размера. Два сверточных слоя, ...
pytorch как установить .requires_grad ложь
... torch.no_grad(): linear = nn.Linear(1, 1) linear.eval() print(linear.weight.requires_grad) Но 2 он печатает T ...
Где я могу получить версию PyTorch только для ЦП?
... РЕДАКТИРОВАТЬ: Чтобы 12 быть более конкретным в отношении моей проблемы, я 11 попытался установить torch (насколько я 10 понимаю), включая файл requirements.txt, в 9 котором torch указан как зависимость. Тока 8 у меня: torch == 0.4.1. Однако это не работает 7 с размером bc. У меня вопрос: знаете ли вы, что 6 я мог бы написать в файле ...
Как я могу сгенерировать и отобразить сетку изображений в PyTorch с помощью plt.imshow и torchvision.utils.make_grid?
... e, filternorm, filterrad, imlim, resample, url, **kwargs) 5485 resample=resample, **kwargs) 5486 -> 5487 im.set_data(X) 5488 im.set_alpha(alpha) 5489 if im.get_clip_path() is None: /anaconda3/lib/python3.6/site-packages/matplotlib/image.py in set_data( ...
IndexError при повторении моего набора данных с помощью Dataloader в PyTorch
... азом: dataloader = torch.utils.data.DataLoader(...) data_iter = iter(dataloader) data = data_iter.next() но возникла 6 ошибка IndexError. Traceback (most recent call last): File "main.py", line 193, in <module> data_target = data_target_iter.next() File "/usr/local/lib/python3.5/dist-packages/torch/utils/data/dataloader.py", line 201, in __next__ return self._process_next_batch(batch) File "/usr/local/lib/python3.5/dist-p ...
Какая связь между PyTorch и Torch?
... и lua и является оболочкой, но 3 второй не делает никаких ссылок на проект 2 Tor ...
Что такое изменчивая переменная в Pytorch
... кода для определения 1 переменной в PyTorch. d ...
Выбор скорости обучения с помощью метода learn.lr_find() fastai
... ь от скорости обучения 6 дает следующий рисунок: Кажется, что потери 5 достигают минимума для 1e-1, но на следующем 4 этапе автор передает 1e-2 как max_lr в fit_one_cycle, чтобы 3 обучить свою модель: learn.fit_one_cycle(6,1e-2) Почему в этом примере 2 нужно использовать 1e-2 вместо 1e-1? Разве 1 это не только ...
Heroku: размер слага слишком велик после установки Pytorch
... азмера вызвано запуском pipenv install torch, поскольку 5 размер слага был 89,1 МБ до установки torch и 4 798,8 МБ после. В моем Pipfile в настоящее 3 время установлены следующие пакеты: [packages] flask = "*" flask-sqlalchemy = "*" psycopg2 = "*" psycopg2-binary = "*" requests = "*" numpy = "*" gunicorn = &q ...
