Векторно-скалярным (или смешанным) произведением трех векторов , и называется число, равное векторному произведению , умноженному скалярно на вектор , т. е. .
Векторно-скалярное произведение обозначается так:
.
Векторно-скалярное произведение имеет простой геометрический смысл; оно есть число, выражающее объем параллелепипеда, построенного на векторах , и , взятого со знаком плюс, если тройка , и правая, и со знаком минус, если эта тройка левая (рис.1).
Векторы , и образуют правую тройку, если они расположены, как указано на рисунке 2, и левую тройку, если они расположены, как указано на рисунке 3. Круговая перестановка трех множителей векторно-скалярного произведения не меняет его величины.
Перестановка двух соседних множителей меняет знак произведения:
Векторно-скалярное произведение равно нулю, если векторы компланарны.
Следовательно, равенство есть условие компланарности трех векторов. Если векторы , и заданы своими проекциями:
то векторно-скалярное произведение равно:
Отсюда, объем V параллелепипеда, построенного на векторах , и , вычисляется по формуле:
Условие, необходимое и достаточное для компланарности векторов, записывается так:
Объем треугольной пирамиды равен абсолютной величины векторно-скалярного произведения, составленного из трех векторов - ребер, выходящих из одной вершины, т. е: