Оба файла являются открытыми и должны быть помещены в authorized_keys.

Хранить id_rsa в секрете на клиенте, а id_rsa.pub поместить в список разрешённых ключей учётной записи на сервере.

Оба файла принадлежат только SSH-серверу и не связаны с клиентом.

Хранить id_rsa.pub в секрете и скопировать id_rsa на каждый сервер.