Domanda:
GPU per il deep learning
Franck Dernoncourt
2015-12-21 05:23:15 UTC
view on stackexchange narkive permalink

Ho un budget di ~ 10 kUSD per acquistare GPU per applicazioni di rete neurale, principalmente utilizzando Theano, Torch, TensorFlow e Caffe. La maggior parte dei programmi che intendo eseguire sono per l'elaborazione del linguaggio naturale. I calcoli sono in float 32 e in CUDA. Vivo negli Stati Uniti e non pago le bollette dell'elettricità. Le GPU verranno montate su alcuni computer con Ubuntu 14.04.3 LTS x64.

Quali sono le schede grafiche con il più alto rapporto potenza / prezzo di calcolo, date le condizioni sopra menzionate?

Non li ho usati, ma hai controllato la GPU di [Nvidia] (http://www.nvidia.com/object/machine-learning.html)?
Avrai sicuramente voglia di esaminare le schede della workstation di Nvidia e non le schede desktop per questo genere di cose poiché ti stai concentrando su attività molto specifiche e ingombranti.
Non ho una risposta completa ma le Tesla M40 sono le migliori per questo tipo di lavoro, anche se con il tuo budget sarai limitato a 2 carte.
Tre risposte:
#1
+19
Piotr Falkowski
2015-12-22 01:30:41 UTC
view on stackexchange narkive permalink

Non ho usato personalmente CUDA per questo, anche se ho intenzione di farlo. Dalla mia ricerca ho concluso che di sicuro vuoi avere "Capacità di calcolo" almeno pari a 3.5, poiché alcune biblioteche lo richiedono già. L'elenco (difficile da trovare) delle capacità di elaborazione si trova sotto questo link. Da questo elenco si può concludere che avere GTX 980 o Titan (entrambi con punteggio 5.2) è il massimo che puoi ottenere, ma nota che se stai acquistando una scheda grafica solo per questo, Nvidia ha una risposta per uso professionale e accademico chiamata Tesla: è solo una scatola di elaborazione, lontana dalla scheda grafica (non ha nemmeno porte di visualizzazione!), costa da 3k $ per K20, a 5k $ per il modello K80, ed è un colosso:

Un rapido confronto (CC sta per Compute Capability):

e schede grafiche di qualità cliente, più popolari e nuove:

Vedi anche confronto su wccftech.

Per concludere: la GPU di livello commerciale sembra essere più efficiente in termini di costi, ma solo quando confrontiamo le specifiche. Ci possono essere altri compromessi, di cui non sono a conoscenza. Quindi, non posso dire con sicurezza "vai con il voto del cliente", ma posso dirti cosa farei (farò) - comprerò GTX 960 o 970, perché ho intenzione di giocare e sono abbastanza limitato, e queste carte andrà benissimo per l'apprendimento CUDA. Se acquisti per un'istituzione, non pianifichi il gioco, i calcoli andranno 24 ore su 24, 7 giorni su 7, considera il grado accademico Tesla.

Inoltre, se sei interessato a potenziare la tua potenza di elaborazione basata su interi "convenzionali" su un server di calcolo di fascia alta, potresti voler cercare Xeon phi.

[MODIFICA] Tieni presente che il passaggio dall'aritmetica in virgola mobile basata sulla CPU all'incremento della GPU è un cambiamento di qualità, quasi un ordine di grandezza , e sarà molto pronunciato e evidente, ma passando da ex. Tesla K20 a Tesla K40 sarà solo un cambiamento nella quantità (K80 è solo due K40 in bundle), quindi se scegli il rapporto velocità / prezzo, scegli l'accelerazione GPU più economica, funzionerà per te.

Come nota, Facebook utilizza [Nvidia Tesla M40] (http://arstechnica.com/information-technology/2015/12/facebooks-open-sourcing-of-ai-hardware-is-the-start-of-the -deep-learning-revolution /) nel loro hardware AI open source.
#2
+10
Franck Dernoncourt
2016-05-08 08:45:51 UTC
view on stackexchange narkive permalink

Nvidia ha appena annunciato la Nvidia GTX 1080, che è ~ 25% più veloce della Titan X e notevolmente più economica (600 USD contro 1000 USD).

Da http: // www. anandtech.com/show/10304/nvidia-announces-the-geforce-gtx-1080-1070/2:

enter image description here

Da http://wccftech.com/nvidia-geforce-gtx-1080-launch/:

enter image description here

È difficile trovare tabelle di confronto delle specifiche esaustive tra la GTX 1080 e la Titan X (immagino che dovrebbero apparire presto). Qualche altro confronto tra GTX 1080 e Titan X:

  • 9 Tflops vs 6.1 Tflops

Da alcune presentazioni ufficiali Nvidia:

enter image description here

enter image description here

È stata annunciata anche la Nvidia GTX 1070:

enter image description here

Da cnn-benchmarks:

GTX 1080> Titan X: su tutti i modelli, la GTX 1080 è da 1,10x a 1,15x più veloce della Titan X.

#3
  0
Franck Dernoncourt
2016-07-23 02:42:57 UTC
view on stackexchange narkive permalink

Nvidia ha annunciato il 21/07/2016 la nuova GTX Titan X:

  • Meno di 1200 USD
  • "Potenzialmente il 24% più veloce di GTX 1080; 60% più veloce della vecchia Titan X. "
  • 11 teraflop di prestazioni FP32
  • 12 GB di memoria GDDR5X funzionante a 10 GHz effettivi e collegata a un ampio bus a 382 bit , risultando in una larghezza di banda di memoria di 480 GB / s

Un primo benchmark (purtroppo non hanno mantenuto lo stesso CuDNN ...):

enter image description here



Questa domanda e risposta è stata tradotta automaticamente dalla lingua inglese. Il contenuto originale è disponibile su stackexchange, che ringraziamo per la licenza cc by-sa 3.0 con cui è distribuito.
Loading...