録音をすることができるのであれば録音をするべきです。
録音をするのは違法ではありませんので録音をすることに躊躇する必要はありません。

但し、録音をするのが目的になっては本末転倒です。
録音をしても、しなくても、いつ、どこで、どんな音を、だれが、どれだけの時間何秒間だけしたのか。その同じ音が何回目であったのかを記録して、20回くらいたまったら上階の住人にその記録を見せて相談をしてみる方法があります。

マンションの上階の住人が、階下の住人に対して騒音の迷惑をかけているとしても、この騒音での迷惑を防ぐ根拠となる法律を、今は国や代議士が立法化してくれていませんので、
法律の網の目からこぼれているのがマンション騒音や、近隣住宅騒音の問題なのです。

法律で禁止できない騒音が住宅関連騒音なのですから、音の大きさを音量として捉えて、騒音レベルや音圧レベルとして、いくら測定して記録しても、最終的にはこの数値自体は騒音発生問題の責任者に対して、苦情申し入れの根拠にはなりにくいと考えた方が現実的です。

それでは、全く騒音レベルや音圧レベルが住宅関連騒音の問題解消の役に立たないかと言うと、そうでもありません。それは、騒音の分布状態を示す必要が発生した場合に、客観的に示すことができるからで、上階の住人が騒音の被害を説明を聞いてくれる場合に限り、役立つことになるので、騒音レベルや音圧レベルの測定が全く役に立たない訳ではないのです。

さて、騒音の録音ですが、どのみち録音をするのであれば、できるだけ原音に忠実な録音をする方が手戻りが少なくなる方法を最初から採用すべきです。素人でしたらPCM録音ができるICレコーダーを使用して、過大音量が入力してきた場合のリミッターを解除して、手動で録音レベルを調整しながら、なるべく最大の音量から3から5dB程度低い音圧レベルになるようにして録音するのです。玄人でしたら騒音計を使用してPCM録音をするなどの方法を採用します。ここで玄人が使用するのが騒音計ですが、この騒音計は、マイクロホンの周波数特性が平坦なので、高性能マイクを使用した録音をする為に騒音計を使用することを、素人のみなさんも知っておくと役に立ちます。この騒音計は特に125Hzよりも低周波の音を録音する場合に忠実に録音できる便利さがあるのです。

正確に録音をしながら、その音について13項目くらいの項目「(1)整理番号、(2)開始日及び曜日並びに時刻、(3)終了日時及び曜日並びに時刻、(4)測定場所、(5)発生場所、(6)発生内容（推定騒音源）、(7)対象音の騒音レベル[dB(A)]、(8) 対象音のオクターブバンド別音圧レベル[dB]を63Hzから8kHzまでの8オクターブバンド分、(9)継続時間[分間]、(10)暗騒音の騒音レベル[dB(A)]、(11) 対象音のオクターブバンド別音圧レベル[dB]を63Hzから8kHzまでの8オクターブバンド分、(12) 騒音の印象、(13)備考」について、できる限り詳細に騒音の記録の整理をしておく必要があります。もっとも、7項目目から11項目目までは玄人でなければ記録できないかもしれませんので、素人は無視して良い項目ですし、低周波騒音などの特殊事情があれば、例えば12.5Hzの周波数の音圧レベルを測定する項目を設けるなどの調整が必要となります。

ｍａｍｉ様が、「寝たいのに眠れない音が神経に障る」のはお気の毒ですし、上階の住人が発生させる騒音について、上階の住人に被害を訴え、相談し、交渉をするに当たり、騒音の録音をどのようにするのか、そして、それ以前に、はたして騒音の録音をするべきなのかについてｍａｍｉ様が疑問を持っていて、これに回答ができる知識と経験を持っていた私がいたので、参考までに情報提供をしました。