Teorija algoritama se svakako ne svodi na crtanje onih pravouganika i kruzica, vec je mnogo slozenija matematicka disciplina. Stoga je normalno da je ono sto si nasao "kompleksno" jer to i jeste kompleksno ukoliko zaista zelis da razumijes neki algoritam, odredis slozenost i slicno.
Ne znam za literaturu, ali postoje knjige/skripte na svakom faklultetu koji to izucava (za Matematicki u Bgd trazi Teorija algoritama, jezika i automata)
U svakom slucaju, kreni da programiras, nema potrebe da teoriju algoritama izucavas "na suvo"