Tensorkernen zijn gespecialiseerde hardware blokken van een GPU. Ze werden voor het eerst geïntroduceerd door NVIDIA in de Volta-architectuur. Door de hoge prestaties en procesversnelling zijn tensorkernen een belangrijk onderdeel geworden van verschillende vormen van gegevensverwerking en machine learning-algoritmen.
De mechanica van tensorkernen
Kernels voeren vermenigvuldiging en accumulatie van matrices van gemengde precisie uit. Simpel gezegd betekent dit het uitvoeren van meerdere berekeningen tegelijkertijd. Deze mogelijkheid is een voordeel voor kunstmatige intelligentie (AI), deep learning en neurale netwerktraining, waarbij snelle en efficiënte gegevensverwerking van het grootste belang is.
Vergelijking van tensor en traditionele kernels
- Parallelle verwerking. In tegenstelling tot traditionele kernels die één bewerking tegelijk uitvoeren, kunnen tensorkernen honderden bewerkingen tegelijkertijd uitvoeren.
- Berekeningen met gemengde nauwkeurigheid. Tensorkernen kunnen werken met berekeningen van gemengde precisie. Deze mogelijkheid is niet beschikbaar in traditionele kernen.
- Geoptimaliseerd voor AI. Tensor cores zijn speciaal ontworpen om AI en deep learning taken te versnellen, in tegenstelling tot traditionele cores.
Toepassing van tensor cores
Het versnellen van het leren en verwerken van complexe neurale netwerken door het versnellen van matrixoperaties heeft bijgedragen aan vooruitgang op verschillende gebieden van kunstmatige intelligentie, waaronder natuurlijke taalverwerking, beeldherkenning en autonome voertuigen.