Wenn es akustische Drumsets gäbe, die relevant leiser wären als andere, würden vermutlich viele Mitmusiker fortan jeden Abend Gott loben, ihre Gebete erhört zu haben 
Was einen solchen Raum laut erscheinen lässt, sind in der Regel nicht ungezügelte Tiefbässe, sondern Dröhnen im Tiefmittenbereich. Eine 18"-Bassdrum hat typischerweise nicht so viel Low End wie eine größere Bassdrum, das stimmt, aber Tiefmitten wirst du damit nicht wirklich los. Natürlich steigt die Gesamtlautstärke mit dem Durchmesser an, wenn ich aber mein Bop-Kit mit größeren Konfigurationen vergleiche, unterscheidet es sich bei ähnlicher Stimmung lautstärkemäßig nicht sonderlich.
Ein anderes Set in einen "lauten" Raum zu stellen, wird dich glaube ich der Lösung deines Problems nicht näher bringen. Selbst Hersteller, die sich wie Adoro in Hamburg auf die Herstellung "leiser" Sets spezialisiert haben (was ich btw bezweifle), meinen damit nur, dass die Sets auch leise angespielt noch vollen Sound liefern, was z.B. in Gottesdiensten in halligen Kirchen helfen soll. Haut man laut drauf, klingen sie laut, denn Schalldämpfer für Drums hat bis heute niemand erfunden.
Neben den raumakustischen Maßnahmen, die vielleicht doch noch nicht optimal umgesetzt sind und neben Bassfallen auch noch zusätzliche Breitbandabsorber vertragen könnten (?), würde ich eher über die Wahl der Felle nachdenken. Die viel gescholtenen Evans Hydraulic klingen nicht nur weniger lebendig als dünndere/ungedämpfte Felle, sie sind auch hörbar leiser. Für einen Bandproberaum oder als Liveset würde ich solche Felle niemals einsetzen, aber im Studio oder eben für dein Problem können solche Ansätze sinnvoll sein.
Wenn du dann noch die Stimmung anpasst, indem du problematische Frequenzen rausstimmst (vielleicht alles etwas höher als bisher?), solltest du deinem Ziel näher kommen als mit jedem anderen Drumset.
Ein quadratischer Raum ist immer schwierig (Stichwort Raummoden), aber falls möglich, solltest du auch mit der Position im Raum experimentieren. Einfach mal mit nem Tom in der Hand durch den Raum gehen und hören, wo die Anschläge am unangenehmsten dröhnen und wo sie halbwegs ok klingen. Entsprechend dort dann das Set aufbauen und überprüfen, ob sich was verbessert. Manchmal reichen schon wenige Zentimeter für einen besseren Höreindruck.
Zeig uns doch mal Fotos deines Raumes, vielleicht lassen sich daran Verbesserungspotenziale erkennen.