как ограничить размер аватарок по длине, а не ширине?

max-height: бла-бла ?

подробней. В админке можно ограничить размер только по ширине, а не по длине аватарки

На самом деле это логично. Иначе деформаций не избежать...

пусть будут деформации, но как ограничить, когда пользователь может поставить себе аватарку которая будет в пол страницы ни есть хорошо

В ipb_styles.css попробуйте добавить (в конец)

.ipsUserPhoto_large {
max-height: 90px;
}

В 3.3 везде переделали настройки максимальных размеров изображений на "Max Width (px): ___ x Max Height (px): ___".