Răspuns:
Sunt mai multe lucruri care trebuie verificate:
1. Daca [tex]A, A'\in G[/tex], atunci [tex]A\cdot A'\in G[/tex].
Fie [tex]A,A'\in G[/tex]. Atunci: (la numere pui caciulita ^ deasupra)
[tex]A\cdot A'=\begin{pmatrix}1 & a & b \\ 0 & 1 & c \\ 0 & 0 & 1\end{pmatrix}\cdot \begin{pmatrix}1 & a' & b' \\ 0 & 1 & c' \\ 0 & 0 & 1\end{pmatrix} = \begin{pmatrix}1 & a+a' & b+b'+ac' \\ 0 & 1 & c+c' \\ 0 & 0 & 1\end{pmatrix}\in G [/tex]
2. Asociativitatea: Rezulta din faptul ca inmultirea matricilor este asociativa.
3. Elementul neutru: Elementul neutru la inmultirea matricilor este [tex]I_3[/tex], care este un element din G (pentru a=b=c=0).
4. Orice matrice A din G este inversabila si inversa e tot in G.
Fie [tex]A\in G[/tex]. Atunci [tex]det(A)=\hat 1 \neq \hat 0[/tex], deci este inversabila. Cautam [tex]A'\in G[/tex] astfel incat
[tex]A\cdot A' = A'\cdot A = I_3[/tex].
Din [tex]A\cdot A' = \begin{pmatrix}1 & a+a' & b+b'+ac' \\ 0 & 1 & c+c' \\ 0 & 0 & 1\end{pmatrix} =\begin{pmatrix}1 & 0 &0 \\ 0 & 1 & 0 \\ 0 & 0 & 1\end{pmatrix} [/tex], rezulta ca:
a+a'=0, c+c'=0, b+b'+ac'=0. Deci a'=-a, c'=-c si b'=-b-ac'=-b+ac.
De unde rezulta ca [tex]A'= \begin{pmatrix}1 & -a & ac-b \\ 0 & 1 & -c \\ 0 & 0 & 1\end{pmatrix}.[/tex]
Pe de alta parte [tex]A'\cdot A = I_3[/tex]. (verifica!)
Din cele de mai sus, rezulta ca [tex]A^{-1}=A'\in G[/tex].
Din 1,2,3,4 rezulta ca G este grup, impreuna cu inmultirea matricilor.
