[srdjan]

A ovo?

SELECT
  id, id_autora, id_knjige, cena
FROM
  knjige a
WHERE
  knjiga_id = (SELECT b.id_knjige FROM knjige b
               WHERE a.id_autora = b.id_autora 
               ORDER BY b.cena DESC LIMIT 1)
GROUP BY
  id_autora