devi lavorare dalla pagina chiamante, non da quella contenuta nell'iframe
di certo deviusare javascript ed il dom, ma dato che l'iframe è un elemento poco supportato, non ti assicuro che lo script sia cross-browser
non puoi usare un div e ci metti le barre di scorrimento?
in ogni caso, div o iframe che sia, assegnagli un id (ad esempio PIPPO) e lavoraci come ti spiego
<script>
var id_elemento = document.getElementById("PIPPO");
if (window.screen.height == 600)
{
id_elemento.style.height = "100";
}
else if (window.screen.height == 768)
{
id_elemento.style.height = "200";
}
else
{
id_elemento.style.height = "300";
}
</script>
chiaro il concetto?