此山原无正名，后因靠近鱼山路而获"小鱼山"之称。山虽不高却能远眺，登山俯瞰，栈桥、小青岛、鲁迅公园、海水浴场、八大关等景观尽收眼底；山虽不大却因地处市区而颇显突出，为游人视线所瞩。

　　小鱼山主建筑为"览潮阁"，三层八角高18米，阁内有螺旋式的楼梯，外设护栏平台，人们可沿平台绕阁一周，饱览"蓝天、碧海、青山、绿树、红瓦、黄墙"这一青岛的独特风貌。山之西坡有一挑檐式六角亭，因站在亭内可一览碧波荡漾的汇泉湾，故取名"碧波亭";。东面是四角的"拥翠亭"，其风格与"碧波亭"相似。上述三处的匾额皆由著名艺术大师吴作人先生题字。

　　览潮阁和拥翠亭连接处的曲廊正面，有一直径两米的白色雪花石浮雕山标。山标周围是黑色大理石象形文字和壁画。北廊壁上镶嵌着瓷板釉上彩壁画《八仙过海》，东廊壁上镶嵌着大型瓷板釉上彩壁画《蒲松龄宇宙》。

　　整个小鱼山公园的建筑设计围绕"海"之主题进行，突出"鱼"的图案造型，把自然美、建筑美和艺术美融为一体，在建筑风格上颇具特点。

　　小鱼山公园的树木以五角枫为主，配合园林建筑新植黑松、银杏、樱花、千首兰等各种常绿树和花灌木。