Volume prisma seccionado de base octagonal

Um porta-canetas tem o formato de um prisma reto de base octogonal, seccionado transversalmente por um plano, conforme indica a Figura 1. A altura maior é 5/4 da altura menor h e a base possui lado medindo a, com altura sendo o dobro do tamanho do lado, conforme a Figura 2. 

https://imgur.com/IiockqI

Daí ele pede pra calcular o volume da figura, que segundo o gabarito é 4a²h

Só o prisma que terminaria ali na altura menor deu o dobro disso segundo meus cálculos. Não sei como calcular o volume total e muito menos como ele poderia ser 4a²h

Tens razão, o gabarito está errado.

Para facilitar o cálculo, provoquei que o prisma ficasse todo ele com a mesma altura. Considerei o prisma até a altura do lado mais baixo (h), asim sobrou uma espécie de cunha pra cima. Na parte que sobrou pra cima, dividi por um plano paralelo à base (plano M) e passando bem no meio da altura que sobrou no lado alto; desta forma, o volume (v1) que foi "roubado" na parte alta fica acrescido na parte baixa (v2). É como se acrescentássemos um prisma baixinho sobre o anterior. Todo esse "novo" prisma fica com uma altura (H) homogênea e o cálculo do volume fica fácil.

Note que, pelos dados do desenho fornecido, a base NÃO É um octógono regular, logo os ângulos centrais são diferentes. Por isso dividi a base em dois trapézios e um retângulo, para calcular sua área de forma fácil.