Bonjour,
Oubliez les isolants minces vendus pour isoler les portes de garage etc.
Si votre but est d'isoler le mieux possible (avec la plus grande résistance thermique possible), alors il faut chercher le matériaux avec le plus petit Lambda.
De mémoire ISOVER descend à 0,032 W/(m.K) sur ses laines de verre.
Le polyuréthane extrudé descend à 0,024, c'est ce qui se fait de mieux actuellement il me semble.
Après, d'autres facteurs peuvent rentrer en compte. Par exemple si c'est un mur exposé sud, on va peut-être vouloir aussi chercher le déphasage thermique pour amoindrir la chaleur en été en journée. Là c'est la densité du matériaux qui entre en compte, et pour le coup le polyuréthane est un mauvais prétendant par exemple pour les toitures.
Mais pour vos 5 cm vous n'aurez aucun déphasage digne de ce nom possible, donc je pencherai pour le meilleur isolant pur : le polyuréthane extrudé.
Cela étant dit, sur cette surface vous ne verrez aucune différence entre un R de 3,0 ou 3,5 ou même 4. Donc à votre place je continuerai avec de la laine de verre ou de roche.