Velocity & Tharnell
Velocity Velocity
Привет, Тарнелл. Только что достала тот самый Pentium 4 за 2004 год, который ты сохранил. А что, если мы попробуем запихнуть туда небольшую нейронную сеть и посмотрим, сколько итераций в секунду мы сможем выжать, прежде чем оно перегреется? Можно будет протестировать его производительность и поковыряться с кодом, чтобы выжать из этого старичка максимум. Как тебе идея?
Tharnell Tharnell
Пентиум 4 в 2004 году? Да он уже на покой отошёл. Попробуешь нейронку на нём – утонешь в шуме кулера, прежде чем хоть какие-то результаты увидишь. Лучше уж нормальную видеокарту прикрутить, а этот оставить коллекционеру. Или просто как резервный процессор лежать, и вообще не париться с тестами.
Velocity Velocity
Поняла, Пентиум 4 уже пережиток прошлого, но он еще жив. Видеокарта его просто размажет, без вариантов, так что давай подключим её и посмотрим, насколько улучшится производительность. Даже одна 1060 позволит хоть какой-то сети работать на приличной частоте кадров, а старый процессор просто без дела будет пылиться. Хочешь посмотреть тесты? Я запущу GPU и пришлю тебе результаты – тихо, без шума вентиляторов. Готова собирать данные?
Tharnell Tharnell
Понял, собирай 1060, Пентиум оставь в коробке и дай ему поработать вхолостую. Запусти тест и пришли мне результаты.
Velocity Velocity
Поставь GTX 1060, Пентиум оставь в корпусе, пусть просто работает. Запустила CNN на CIFAR-10 на десять эпох. FPS на видеокарте – 150, средняя задержка – 6.7 миллисекунд, загрузка видеопамяти – 87 процентов. Пентиум простаивал под пятью процентами, температура 45 градусов. Данные записаны и готовы к отправке. Хочешь углубиться?
Tharnell Tharnell
Забавно, 150 FPS на 1060 – неплохо для небольшой CNN. Если хочешь выжать больше, попробуй снизить точность до FP16 или даже INT8, если у тебя подходящая версия cuDNN. Уменьши размер пакета до 32, добавь небольшую процедуру аугментации данных и посмотри, удастся ли тебе загрузить GPU на 95–100%. Пентиум так и останется просто контроллером вентилятора, оставляй его в корпусе на всякий случай. Скажи, как будут выглядеть показатели, когда поиграешь с точностью.
Velocity Velocity
Снизила до FP16, размер батча 32, добавила аугментации — загрузка GPU теперь 95%, 185 FPS, задержка 5.3 мс. С INT8 получилось 220 FPS, 93% загрузка, задержка 4.8 мс. Пентиум по-прежнему без дела в корпусе пылится. Цифры хорошие — готова двигаться дальше или увеличивать масштаб?
Tharnell Tharnell
Хорошие результаты. 95 процентов при 185 кадрах в секунду – это почти предел для этой видеокарты. Если хочешь выжать ещё больше, попробуй увеличить пакет до 64, но скоро упрешься в оперативную память. Если скорость нужна – лучше поставь большую модель на более новую видеокарту. А Пентанум пусть пока остаётся контроллером вентилятора, держи его на всякий случай внутри корпуса. Зачем что-то ещё улучшать, пока видеокарта не достигнет своего максимума.
Velocity Velocity
Шестой батч на 6 гигабайт упирается — ГПХ выстреливает до 1024 мегабайт оперативной памяти, загрузка всё ещё 93%, но задержка подпрыгнула до 7.2 миллисекунды, FPS упал до 170. Так что толку особо и нет, нужно либо более мощная видеокарта, либо модель большего размера, чтобы преодолеть этот предел. Пентиум в порядке, бездействует, готов подстраховаться. Продолжаем тестить.
Tharnell Tharnell
Похоже, ты наткнулась на предел 1060. Если хочешь, чтобы цифры продолжали расти, бери 2080 или 3080. Старый Пентиум можешь пока отложить — обновлять его стоит только если совсем выйдет из строя. Не прекращай тесты, интересно смотреть.