Quaisquer vetores $u$ e $v$ determinam um ângulo $\theta$ entre $0$ e $\pi$.
O ângulo entre $u$ e $v$ é obtido de modo que $$\cos\theta=\frac{u\cdot v}{\Vert u\Vert\Vert v\Vert}.$$ Observe que a fórmula nos permite calcular o cosseno do ângulo entres dois vetores.
Exemplo: O ângulo $\theta$ entre os vetores $u=(3,2)$ e $v=(1,1)$ é tal $$\cos\theta=\frac{5}{\sqrt{26}}.$$ O ângulo entre $u$ e $v$ é $$\theta=\arccos \frac{5}{\sqrt{26}}$$
Para demonstração para ângulo entre dois vetores podemos utilizar a lei dos cossenos.
Observe na figura que utilizando a lei dos cossenos temos que $$\Vert u -v\Vert^2=\Vert u\Vert^2+\Vert v\Vert^2-2\Vert u\Vert\Vert v\Vert \cos\theta \quad (1) $$
Por outro lado, utilizando as propriedades de produto escalar, mostradas na proposição anterior, temos também $$\Vert u -v\Vert^2=\Vert u\Vert^2 -2 u\cdot v + \Vert v\Vert^2\quad (2) $$
Comparando as expressões (1) e (2) concluímos que $$\cos\theta=\frac{u\cdot v}{\Vert u\Vert\Vert v\Vert}.$$
A demonstração para a fórmula do ângulo entre dois vetores pode ser feita de outra forma utilizando apenas o conceito de produto escalar sem utilizar a lei dos cossenos.
Considere os vetores $u, v$ no plano e considere $\theta$ o ângulo entre esses vetores. A intersecão da reta perpendicular ao vetor $v$ que contem a extremidade de $u$ com a reta paralela ao vetor $v$ define o vetor $\lambda v.$ Suponhamos que $0<\theta<\frac{\pi}{2}$ e então temos que $\lambda>0.$
Observe que $$\cos\theta=\frac{|\lambda|\| v\|}{\|u\|}=\lambda\frac{\|v\|}{\|u\|}\qquad\qquad\ (1)$$ Seja $w=u-\lambda v$ e assim obtemos $$\sin\theta=\frac{\|u-\lambda v\|}{\|u\|}.$$
Utilizando a relação fundamental tem-se $$\lambda^2\|v\|^2+\|u-\lambda v\|^2=\|u\|^2. \qquad \qquad (2)$$
Por outro lado, $$\|u-\lambda v\|^2=\|u\|^2-2\lambda(u\cdot v)+\lambda^2\|v\|^2$$ e substituindo em $(2)$ obtemos $$\label{lambda}\lambda=\frac{u\cdot v}{\|v\|^2}. \qquad \qquad (3)$$ Segue que $$\cos\theta=\frac{u\cdot v}{\|u\|\|v\|}. \qquad\qquad (4)$$
Se dois vetores $u$ e $v$ são perpendiculares então temos que $$\cos90º=\frac{u\cdot v}{\Vert u\Vert\Vert v\Vert}.$$ Como $\cos 90º=0$, então $$0=\frac{u\cdot v}{\Vert u\Vert\Vert v\Vert},$$ e portanto $$u\cdot v=0.$$
Observe que a recíproca também é válida, ou seja, o produto esclar entre $u$ e $v$ é zero então podemos concluir que são perpendiculares. Este raciocínio nos leva à seguinte definição.
Definição: Dizemos que dois vetores $u$ e $v$ são perpendiculares se, e somente se, o produto escalar entre eles é igual a zero.