Что такое тензор?

[Андрей]

Объекты, равенство которых в одной системе координат верно и относительно всех остальных систем координат, то есть остающиеся инвариантными относительно преобразования координат и называют тензорами.

Классное определение. Теперь я лучше понимаю, что такое "тензорная логика" со Спин-клуба.

[BDK]

Я не особо вникал в математику но насколько понял поверхностно - тензоры как-то связаны с обычными матрицами которые мы проходили на первых курсах в институте.

[Андрей]

BDK, да связаны. Насколько я понял, тензор - это матрица с определёнными свойствами её коэффициентов. Каждый тензор второго ранга - матрица, но не каждая двумерная матрица - тензор. Что касается свойств её коэффициентов, это мне ещё не понятно до конца.

[BDK]

Тензор это таблица. Всё. Вот как в Excel например. Или как таблица умножения.


Единственный нюанс - не только 2-х мерная таблица как в приведенных примерах, а таблица любой размерности.

Вот это и есть тензор.
=====
Ну а то что таблица обладает свойствами - это другой вопрос. Собственно раздел математики посвященный тензорам и изучает их свойства.
======

Применительно к нейросетям там вообще всё просто как палка - это буквально и есть таблицы с данными размещенные в памяти. Тензорные ядра в высокопроизводительных GPU предназначенных для работы с нейросетями - это ещё проще. Это суть ядра которые параллельно обрабатывают ячейки этой таблицы, что и даёт максимальную производительность.