Фирма Google в первый раз раскрыла определенные технические характеристики Tensor Processing Unit (TPU) — интегральных схем (ASIC) её собственной разработки, которые оптимизированы для решения задач, связанных с глубокими нейронными сетями. Как говорится в отчете поисковика, на тестах " нейрочипы" показали себя лучше процессоров Intel и NVIDIA Как по общему уровню производительности, так и потреблению энергии.
Google занялась разработкой TPU в 2013 году, а в первый раз этот проект был показан в мае прошедшего года. Как утверждал глава организации Сундар Пичаи, " доморощенные" ASIC TPU лучше подходят для задач интернет-поисковика: в дата-центрах они помещаются в тот же отсек стойки, что и жесткий диск, и " обеспечивают намного лучшую производительность на ватт для машинного обучения", чем стороннее " железо". например, TPU требуется меньше транзисторов на одну операцию в секунду.
Нейронные сети — ключевой компонент во многих онлайн-сервисах Google. Именно они отвечают за идентификацию объектов и лиц на фотографиях, распознавание голоса на Android-смартфонах, а также перевод текста с одного языка на другой. За нейросетями иных крупных IT-компаний, подобных как Фейсбук или твиттер, стоят традиционные графические процессоры, часто производства NVIDIA.
На текущей неделе инженер Google Норма Жуппи сказал, что TPU работают быстрее и энергоэффективнее аналогов, сочетая в себе лучшие качества центрального (CPU) и графического (GPU) процессоров." TPU являются программируемыми, как CPU или GPU, — заявил он, — Они созданы не для какой-то одной модели нейросети; Они выполняют CISC-инструкции на множестве сетей (сверточных, на LSTM и крупных, полностью подключенных моделях)".
На замерах ускорители Google, к примеру, превзошли архитектуру Haswell и графику NVIDIA K80." Нейрочипы" выполнили 92 теоретические операций за секунду (TOPS) с тепловым пакетом 384 Вт, а в это же время решение Intel показало результат в 2, 6 TOPS и выделило больше тепла (455 Вт).